ハルシネーション(Hallucination)
ハルシネーションとは、AIモデルが事実として提示しているものの、誤っているか裏付けのない記述のことです。誤った設立年、会社が販売していない製品、作り出された引用文などがこれにあたります。
なぜ重要なのか
ユーザーは、AIの回答を確かめずに受け入れる傾向があります。誤った価格、現行品として紹介された販売終了製品、他社との混同は、事実であるかのように購入検討者に届きます。しかも、ブランド側はそれが起きていることにたいてい気付きません。
なぜ起きるのか
- モデルがそのブランドについて信頼できる情報をほとんど持っておらず、空白を埋めてしまう。
- 情報源同士が矛盾しており、モデルがどれかを選んだり混ぜ合わせたりする。
- 名前が別のエンティティと重なっている。
- モデルの学習時点では正しかった情報が、その後変わっている。
見つけ方と減らし方
ブランドに関する事実を各モデルに質問し、回答を実際の情報と照らし合わせます。XOOERのGEO Scoreでは、これがコンテンツ精度の評価軸にあたります。
- 事業内容、設立時期、事業展開地域、販売している製品などをまとめた、明確で最新の事実ページを公開する。
- 第三者のプロフィールやディレクトリにある、食い違った情報を修正する。
- 重要な事実を構造化データでマークアップする。
- 変更後に再テストする。ページをその場で取得するモデルほど、早く修正が反映されます。
例:5つのモデルのうち3つが本社所在地の都市を間違える場合は、ディレクトリやプレスリリースに古い住所が残っていないかを探します。
ハルシネーションと関連する概念の違い
- 古い情報は、かつては正しかったものです。ハルシネーションは、一度も正しかったことがありません。
- グラウンディングは、回答を取得した情報源に結び付ける手法で、ハルシネーションを減らします。
- 否定的な感情傾向は、好ましくはないものの正確である可能性のある説明です。これは別に計測します。
よくある質問
- 誤った回答の訂正をAI事業者に依頼できますか?
- フィードバックの窓口を設けている事業者もありますが、確実に訂正される手続きはありません。頼りになるのは、モデルが読む情報源、つまり自社サイトと、自社について説明している第三者のページを直すことです。