Alucinação (Hallucination)
Uma alucinação é uma afirmação gerada por um modelo de IA que é apresentada como facto mas é falsa ou não tem fundamento, como uma data de fundação errada, um produto que a empresa não vende ou uma citação inventada.
Porque é importante
Os utilizadores tendem a aceitar as respostas de IA sem as verificar. Um preço errado, um produto descontinuado apresentado como atual ou uma confusão com outra empresa chegam aos compradores como se fossem verdade, e normalmente a marca nem chega a saber que isso aconteceu.
Porque acontece
- O modelo tem pouca informação fiável sobre a marca e preenche a lacuna.
- As fontes contradizem-se e o modelo escolhe uma delas ou mistura-as.
- O nome é partilhado com outra entidade.
- A informação estava correta quando o modelo foi treinado e mudou entretanto.
Como a detetar e reduzir
Faça a cada modelo perguntas factuais sobre a marca e compare as respostas com a realidade. No GEO Score da XOOER, esta é a dimensão Precisão.
- Publique uma página de factos clara e atualizada: o que a empresa faz, quando foi fundada, onde opera, o que vende.
- Corrija a informação inconsistente nos perfis e diretórios de terceiros.
- Marque os factos principais com dados estruturados.
- Volte a testar depois das alterações; os modelos que recolhem páginas em tempo real são os que corrigem mais depressa.
Exemplo: se três de cinco modelos indicarem a cidade errada para a sede, procure uma morada antiga ainda publicada num diretório ou num comunicado de imprensa.
Alucinação vs. conceitos relacionados
- A informação desatualizada já foi verdadeira. Uma alucinação nunca foi.
- O grounding é a técnica de fundamentar uma resposta em fontes recolhidas, o que reduz as alucinações.
- O sentimento negativo é uma descrição desfavorável mas possivelmente exata. Mede-se em separado.
Perguntas frequentes
- Uma marca pode pedir a um fornecedor de IA que corrija uma resposta errada?
- Alguns fornecedores disponibilizam canais de feedback, mas não existe um processo de correção fiável. O caminho seguro é corrigir as fontes que os modelos leem: o seu próprio site e as páginas de terceiros que descrevem a sua marca.
Veja como os motores de IA descrevem a sua marca
Faça uma auditoria gratuita nos principais modelos de IA e obtenha o seu GEO Score.
Obter o meu relatório gratuito