Галлюцинация (Hallucination)
Галлюцинация — это утверждение, которое ИИ-модель подаёт как факт, хотя оно ложно или ничем не подтверждено: например, неверная дата основания, продукт, которого компания не продаёт, или выдуманная цитата.
Почему это важно
Пользователи склонны принимать ответы ИИ без проверки. Неверная цена, снятый с продажи продукт, представленный как актуальный, или путаница с другой компанией доходят до покупателей как правда, а бренд обычно об этом даже не узнаёт.
Почему это происходит
- У модели мало надёжной информации о бренде, и она заполняет пробел сама.
- Источники противоречат друг другу, и модель выбирает один из них или смешивает их.
- Такое же название носит другая сущность.
- Сведения были верны на момент обучения модели, но с тех пор изменились.
Как её обнаружить и снизить риск
Задайте каждой модели фактические вопросы о бренде и сравните ответы с действительностью. В GEO Score от XOOER за это отвечает измерение «Точность».
- Опубликуйте ясную и актуальную страницу с фактами: чем занимается компания, когда она основана, где работает, что продаёт.
- Исправьте противоречивые сведения в сторонних профилях и каталогах.
- Разметьте ключевые факты структурированными данными.
- После изменений повторите проверку; быстрее всего исправляются модели, которые получают страницы в реальном времени.
Пример: если три модели из пяти называют не тот город штаб-квартиры, поищите старый адрес, который до сих пор опубликован в каталоге или пресс-релизе.
Галлюцинация и смежные понятия
- Устаревшая информация когда-то была верной. Галлюцинация не была верной никогда.
- Фактологическая привязка (grounding) — приём, при котором ответ опирается на найденные источники; он снижает число галлюцинаций.
- Негативная тональность — неблагоприятное, но, возможно, точное описание. Её измеряют отдельно.
Часто задаваемые вопросы
- Может ли бренд попросить поставщика ИИ исправить неверный ответ?
- У некоторых поставщиков есть каналы обратной связи, но надёжной процедуры исправления нет. Верный путь — исправлять источники, которые читают модели: собственный сайт и сторонние страницы, где описана ваша компания.
Узнайте, как ИИ-движки описывают ваш бренд
Пройдите бесплатный аудит по основным ИИ-моделям и получите свой GEO Score.
Получить бесплатный отчёт