Hallucination
En hallucination är ett påstående som en AI-modell genererar och presenterar som fakta men som är felaktigt eller saknar stöd, till exempel ett felaktigt grundandeår, en produkt som företaget inte säljer eller ett påhittat citat.
Varför det spelar roll
Användare tenderar att godta AI-svar utan att kontrollera dem. Ett felaktigt pris, en utgången produkt som presenteras som aktuell eller en förväxling med ett annat företag når köparna som om det vore sant, och varumärket får oftast aldrig veta att det hänt.
Varför det händer
- Modellen har lite tillförlitlig information om varumärket och fyller i luckan.
- Källorna motsäger varandra, och modellen väljer en av dem eller blandar ihop dem.
- Namnet delas med en annan entitet.
- Informationen stämde när modellen tränades men har ändrats sedan dess.
Så upptäcker och minskar du det
Ställ faktafrågor om varumärket till varje modell och jämför svaren med hur det faktiskt förhåller sig. I XOOER:s GEO Score är detta dimensionen Korrekthet.
- Publicera en tydlig och aktuell faktasida: vad företaget gör, när det grundades, var det är verksamt och vad det säljer.
- Rätta inkonsekvent information i tredjepartsprofiler och kataloger.
- Märk upp viktiga fakta med strukturerad data.
- Testa igen efter ändringar; modeller som hämtar sidor i realtid rättar sig snabbast.
Exempel: om tre av fem modeller anger fel ort för huvudkontoret, leta efter en gammal adress som fortfarande ligger kvar i en katalog eller ett pressmeddelande.
Hallucination jämfört med närliggande begrepp
- Inaktuell information har en gång varit sann. En hallucination har aldrig varit sann.
- Grounding är tekniken att förankra ett svar i hämtade källor, vilket minskar hallucinationer.
- Negativt sentiment är en ofördelaktig men möjligen korrekt beskrivning. Det mäts separat.
Vanliga frågor
- Kan ett varumärke be en AI-leverantör att rätta ett felaktigt svar?
- Vissa leverantörer har kanaler för återkoppling, men det finns ingen tillförlitlig rättelseprocess. Den säkra vägen är att rätta de källor som modellerna läser: din egen webbplats och de tredjepartssidor som beskriver dig.
Se hur AI-motorer beskriver ditt varumärke
Gör en kostnadsfri granskning i de stora AI-modellerna och få din GEO Score.
Hämta min kostnadsfria rapport