Анализ тональности упоминаний

Какой метод использует BrandSled

BrandSled использует языковую модель, которая читает упоминание целиком и понимает контекст: кто о ком пишет, есть ли ирония, о каком бренде речь. Словарный метод работает как запасной.

Задачи анализа тональности

Анализ тональности относится к задачам обработки естественного языка (NLP). Обычно выделяют несколько уровней:

• Документ целиком. Общее настроение отзыва или статьи: положительное, отрицательное, нейтральное.
• Предложение. В одном тексте могут быть и похвала, и жалоба, поэтому оценка по предложениям точнее.
• Объект и аспект. Отношение автора к конкретному объекту: бренду, продукту, сотруднику, цене. В сравнении двух компаний тональность для каждой своя.

Для мониторинга бренда важен именно уровень объекта: текст может быть негативным в целом, но позитивным по отношению к вашей компании.

Подходы и алгоритмы

Правила и словари

Классификатор на правилах использует словарь эмоционально окрашенных слов и набор правил: отрицание меняет знак, усилители увеличивают вес. Подход простой, прозрачный и не требует обучающих данных, но плохо переносится на новую тематику и не понимает иронию.

Классическое машинное обучение

Текст превращается в набор признаков, например частоты слов и словосочетаний, а модель (логистическая регрессия, метод опорных векторов, наивный Байес) учится по размеченным примерам. Качество зависит от объема и тематики обучающей выборки: модель, обученная на отзывах о фильмах, хуже работает с отзывами о банках.

Нейросети и языковые модели

Нейросетевые модели учитывают порядок слов и контекст всего предложения. Большие языковые модели можно использовать без дообучения: им дают текст и инструкцию, и они возвращают оценку с объяснением. Такой подход лучше справляется с сарказмом, сравнением и сложными конструкциями, но требует больше вычислительных ресурсов.

Задачи анализа текста и место тональности

Анализ тональности это одна из задач анализа текста вместе с классификацией по темам, извлечением объектов и анализом мнений. Для обучения моделей анализа тональности нужны данные: тексты с разметкой. Качество обучения зависит от того, насколько данные похожи на реальные тексты задачи. Анализ отзывов о ресторанах и анализ новостей о банках требуют разных данных для обучения, и модель, обученная на одной задаче, хуже работает на другой. Поэтому анализ тональности текста всегда начинают с вопроса, какие тексты и для какой задачи нужно анализировать.

Этапы анализа тональности текста

1. Сбор данных. Тексты берут из источника: соцсетей, СМИ, отзывов, обращений клиентов. Для анализа важно, чтобы в выборку попали документы разных типов.
2. Предобработка. Текст очищают от разметки, ссылок и служебных символов, делят на предложения и слова, приводят слова к начальной форме.
3. Представление текста. Для классических методов документ превращают в набор признаков: частоты слов, словосочетаний, эмоционально окрашенных терминов. Языковые модели работают с текстом напрямую.
4. Классификация. Метод определяет класс: положительный, отрицательный или нейтральный, иногда с оценкой силы.
5. Проверка результата. Часть оценок сверяют с разметкой людей, ошибки используют для настройки.

Машинное обучение для анализа мнений

Для обучения модели нужны данные: тысячи текстов, в которых люди отметили тональность. Качество разметки определяет качество модели. Если в обучающей выборке мало сарказма или сравнений, модель будет ошибаться именно на них. Поэтому для анализа мнений о конкретном бренде полезна ручная правка: исправленные оценки показывают, где метод работает хуже.

На основе анализа тональности строят и более сложные метрики: индекс настроения аудитории, долю негатива по источникам, динамику мнений после события. Но основа у всех одна: надежная оценка каждого отдельного текста.

Где применяется анализ тональности

Анализ тональности используют и за пределами мониторинга бренда. Его применяют для обработки обращений в службу поддержки, для оценки мнений о продукте в отзывах, для анализа реакции на события в новостях и социальных сетях, для исследований рынка. В каждой задаче своя категория текстов и свое представление о том, что считать позитивом: для сайта отзывов о фильмах и для банка значение одних и тех же слов может различаться.

Обычно система работает в несколько этапов. Сначала из источника собирают тексты, затем очищают их от лишнего, потом классификатор определяет тональность и, при необходимости, объект, к которому она относится. Результат сохраняют вместе с текстом и источником, чтобы со временем считать количество позитивных и негативных сообщений и находить изменения настроения аудитории.

Документ, предложение, мнение

В задачах анализа тональности документом называют единицу текста, которую оценивают целиком: отзыв, пост, статью, комментарий. Один документ может содержать несколько мнений: мнение о цене, мнение о сервисе, мнение о доставке. Поэтому точная оценка часто требует разбить документ на предложения и найти, к какому объекту относится каждое мнение. Для обучения таких моделей нужна подробная разметка: оценка документа целиком и оценки мнений внутри него. Чем ближе обучение к реальным документам, тем лучше модель находит мнения в новых текстах.

Области применения

Основные области применения анализа тональности: мониторинг бренда, анализ обращений клиентов, исследования рынка, анализ мнений в соцсетях, финансовая аналитика по новостям. Процесс везде похожий, различаются данные и требования к точности. Модели на основе машинного обучения (machine learning) помогают обработать большой объем документов, а проблема везде одна: не ошибиться на самых важных для бизнеса текстах.

Как оценивают точность

Точность классификации проверяют на наборе текстов, размеченных людьми. Даже люди расходятся в оценке части текстов, особенно нейтральных и смешанных, поэтому идеальной точности не бывает. На практике важнее не общий процент, а ошибки в опасных случаях: пропущенный негатив хуже, чем лишний.

Почему одной тональности мало для бренда

Негативных упоминаний у заметного бренда всегда много. Жалоба на очередь в кафе и новость о проверке прокуратуры обе негативные, но требуют разной реакции. Поэтому кроме тональности сервис оценивает риск от 0 до 3 и присылает тревогу только о тех упоминаниях, риск которых выше выбранного порога.

Где применять анализ тональности отзывов и упоминаний

• Отзывы. Доля негативных отзывов по филиалам и площадкам. Подробнее на странице мониторинга отзывов.
• Соцсети и Telegram. Реакция аудитории на инфоповод. Подробнее на странице мониторинга соцсетей.
• Выдача. Сколько негативных ссылок в ТОП-10 по брендовым запросам.
• PR-отчеты. Доля позитива, нейтрала и негатива за месяц.

Чего сервис не делает

BrandSled не продает анализ тональности как отдельный API и не размечает произвольные тексты. Тональность работает внутри мониторинга: для упоминаний, отзывов и ссылок, которые сервис собрал по вашему бренду.

По теме: тональность текста, social listening.