2. О чем пойдет речь?
1. Задачи лингвистики в e-commerce: пример Wikimart
2. Сложности с коммерческими текстами
3. Лексикостатистические метрики в оценке качества текста и
уровня спама
4. Извлечение пользовательских предпочтений для
улучшения качества текста
3. Лингвистика в e-commerce
Wikimart в Рунете
Онлайн торговый центр
1752 магазина
собственный ритейл
6000+ заказов в сутки
Активность за 14.02.2012:
652,154 просмотров
160,027 уникальных посетителей
4. Лингвистика в e-commerce
Wikimart для лингвиста
Данные:
Большой объем текстовых данных (7 миллионов страниц
моделей и предложений)
Корпуса коммерческих тематических текстов:
торговые описания
информация о производителе
пользовательский контент
поисковые запросы
отзывы
5. Лингвистика в e-commerce
Wikimart для лингвиста
Задачи:
1. Оценка качества текста
2. Анализ поисковых запросов
2.1 Определение тематики поискового запроса
2.2 Оценка коммерческих тенденций в поисковых запросах
3. Извлечение пользовательских предпочтений из отзывов
6. Коммерческие тексты: где зарыта собака?
Текст низкого качества:
тематически нерелевантный
стиль
грамматика
орфография
оформление
7. Пример
Вступление к описанию модели антирадара
Какой же человек не любит быстрой езды... Но законы
российской Федерации этого не позволяют. Да лихачество
приветствовать не стоит, но бывают моменты, когда человек
опаздывает и может совсем незначительно превысить скорость.
Ну и последствия всем прекрасно известны, штраф, а может
дойти и до лишения прав. Но благодаря разработкам ученых,
всего этого можно избежать.
8. Коммерческие тексты: где зарыта собака?
Спамосодержащий (спамный) текст:
написан исключительно для задач поискового
продвижения, а не для читателя
перенасыщен
поисковыми запросами по теме
общечастотными словами из коммерческих запросов
(купить, москва, отзывы, интернет, магазин и др.)
9. Пример
Вступление к описанию категории wi-fi роутеров
Wireless считается одним из лучших точек доступа.
Беспроводной роутер, он же wifi предназначен для
подключения к сети или Интернету. Часто можно встретить
объявления роутер купить или куплю роутер, потому что этот
вид точек доступа очень популярен. К тому же, wimax в москве
давно не редкость. К особенно надежным точкам доступа
относят: 3g wifi роутер, adsl роутер, wifi ap solo, wifi роутер с
usb. В комплект поставки кроме wifi устройства может входить
usb 2.0 wlan, usb wifi фдаптер с антенной, wifi антенна, wifi
антенна направленная внешняя и wifi контроллер. В условиях
постоянного развитяи технического прогресса wifi устройство
приобретают все большую популярность. В комплекте с wireless
150 входит wireless lan 802.11 b g, wireless usb адаптер и wireless
usb hub. Многие потребители часто задаютсмя вопросами
какой роутер выбрать, какой роутер купить, какой роутер
лучше.
10. Что и как оценивать?
Формат: длина текста, абзаца, предложения, плотность
знаков пунктуации
Тематика: доля слов из семантического ядра категории,
среднее гармоническое между повторами
Лексика: уникальные и повторяющиеся уни-, би- и
триграммы, расстояние между повторами,
соотношение с общечастотной лексикой в корпусе
Стиль: разнообразие частей речи, вводные слова,
уникальные стоп-слова
38 метрик
Корпусы: Википедия, категории Викимарта, корпус
тематических текстов очень низкого качества
(spam_rev)
11. Пример spam_rev
Действие данного обогревателя была возможность ощутить в
подруги. Была зима, и она включила данный обогреватель.
Практически за несколько минут мы почувствовали должный
эффект от него. Он очень полезен в те моменты, когда еще не
включили отопление, но в квартире уже довольно холодно.
Неоспоримым плюсом данной модели является то, что она не
издает практически никакого шума. Я задумалась о
приобретении именно этой модели. Также очень удобным
является и то, что в обогревателе есть специальный термостат,
который помогает следить за уровнем температуры и при
необходимости дает возможность отрегулировать её.
12. Результаты
Число слов без стоп-слов
Wikipedia
ave 775.36
st.dev. 23.79
Wikimart
ave 818.38
st.dev. 55.94
Spam reviews
ave 642.67
st.dev. 36.67
13. Результаты
Число предложений
Wikipedia
ave 76.06
st.dev. 11.76
Wikimart
ave 86.19
st.dev. 19.04
Spam reviews
ave 67
st.dev. 6
14. Результаты
Число слов с заглавной буквы
Wikipedia
ave 167.88
st.dev. 36.03
Wikimart
ave 168.18
st.dev. 47.11
Spam reviews
ave 61
st.dev. 5
15. Результаты
Число слов на латинице
Wikipedia
ave 39.6
st.dev. 29.52
Wikimart
ave 93.38
st.dev. 73.13
Spam reviews
ave 4.83
st.dev. 3.44
16. Результаты
Число слов в предложении
Wikipedia
ave 13.83
st.dev. 2.13
Wikimart
ave 13.6
st.dev. 3.6
Spam reviews
ave 14.62
st.dev. 1.26
17. Результаты
TTR: число уникальных слов к общему числу словоупотреблений
Wikipedia
ave 0.41
st.dev. 0.04
Wikimart
ave 0.3
st.dev. 0.1
Spam reviews
ave 0.28
st.dev.0.02
18. Результаты
Доля слов из топ-200 самых частотных слов всего корпуса
Wikipedia
ave 0.53
st.dev. 0.05
Wikimart
ave 0.38
st.dev. 0.07
Spam reviews
ave 0.74
st.dev. 0.03
19. Результаты
Среднее расстояние между повторяющимися словами
Wikipedia
ave 113.12
st.dev. 19.39
Wikimart
ave 164.91
st.dev. 29.68
Spam reviews
ave 134.41
st.dev. 20.33
20. Результаты
Число словоупотреблений на часть речи
Wikipedia
ave 48.41
st.dev. 5.84
Wikimart
ave 39.87
st.dev. 11.31
Spam reviews
ave 35.73
st.dev. 2.84
22. Спам-санкции!
Ручная оценка текстов
Поиск максимально эффективных метрик
Формат:
длина текста (более 500 слов)
название брендов и слов из коммерческих запросов в теге
strong
плотность брендов
корпус названий брендов и производителей
синонимы
пословное совпадение (36 000 единиц)
плотность неуникальных биграмм и триграмм в тексте
23. Превышение порога плотности биграмм в тексте
Плотность неуникальных биграмм - 0,282
Козье молоко — бесценный косметический продукт, полностью
восстанавливающий здоровье и функциональную активность
клеток кожи. Еще в древние времена люди знали целебную
силу козьего молока и его омолаживающие свойства. В
настоящее время ученые полностью подтверждают
уникальность состава козьего молока: это ценные
аминокислоты <...> Температура плавления козьего масла
ниже 37 С, поэтому биостимуляторы и питательные вещества
легко проникают в глубокие слои кожи, насыщая ее
натуральными контролерами увлажненности (пантенол,
мочевина, рибофлавин). Отсюда уникальная результативность
козьего молока: устранение раздражения, отечности, купероза,
отбеливание, увлажнение, питание кожи. Лактоантиоксиданты
козьего молока делают кожу нежной и эластичной,
предотвращая ее старение.
Серия «Козье молоко» изготовлена на основе цельного козьего
молока.
24. Превышение порога плотности брендов в тексте
Плотность названий брендов - 0, 058
Впервые Por Larranaga Panetelas была выпущена в 1834 году на
фабрике La Corona, это одна из старейших марок сигар. В
разное время производилась на разных фабриках. Табак для
неё выращивают в провинции Pinar del Rio на знаменитых на
весь мир плантациях Vuelta Abajo. Своё имя сигары Larranaga
Por Panetelas получили от основателя бренда испанца Ignacio
Larranaga (Игнасио Лараньяга), и носят его до сих пор. С
самых первых дней своего существования, благодаря высокому
качеству и красоте, эти сигары приобрели широчайшую
известность. А из-за своей более чем доступной и
демократичной цены — ещё и огромную популярность.
Panetelas Por Larranaga относятся к классу Mild-medium, то есть
мягко-средней крепости. В незажженном состоянии у
PanetelasLarranaga Por достаточно интенсивный аромат, в
котором на первый план выходят пряные и животные
составляющие.
25. Эффективность в подсчете метрик
Скорость:
0, 01-0,15 с/текст (500-1000 символов)
30% времени - фильтр стоп-слов
17% описаний
Точность по выборке - 92%
Полнота (?) - автоматическая оценка поисковой машины =
выход из-под санкций
26. Улучшение качества текстов: коллокации
Синтактические единицы, представляющие собой
семантическое целое
Би- и триграммы
PMI
Корпус отзывов (категорийный)
27. Извлечение пользовательских предпочтений
Основные типы
Функциональность: регулятор крепости кофе, долго держит
заряд, лоток для овощей
Сочетаемость: есть все разъемы, со всеми
форматами, со старыми играми
«Коммуникабельность»: инструкция для сборки,
на русском языке, интуитивно
понятный интерфейс
Условия использования: на мокром льду, за МКАДом, при
недостаточном освещении
Опыт использования: лежит в руке, приятный на ощупь,
совсем не шумный, крепится к стеклу
Личное: это мой первый, по сравнению с, до этого был, на
мой взгляд
Экономическое: за эти деньги, соотношение цена-качество
Эмоциональное: я очень доволен, танцы с бубном, довольна
как слон
28. Использование в задачах e-commerce
Определение специфики категории и покупателя
Рекомендации к использованию в описаниях модели или
категории
SEM / SMM
Теги в категориях
29. Заключение и перспективы
Эффект лексической статистики в оценке качества текста:
спамный текст = плохо написанный текст
Интеграция данных в систему модерации на сайте (фидбек
службе управления контентом)
Интеграция метрик в ML
Расширение корпусов коммерческих текстов
(Wikimart) Mechanical Turk
