Alucinación (Hallucination)
Una alucinación es una afirmación generada por un modelo de IA que se presenta como un hecho pero es falsa o carece de respaldo, como una fecha de fundación equivocada, un producto que la empresa no vende o una cita inventada.
Por qué importa
Los usuarios tienden a aceptar las respuestas de la IA sin comprobarlas. Un precio erróneo, un producto descatalogado presentado como vigente o una confusión con otra empresa llegan al comprador como si fueran ciertos, y la marca normalmente ni se entera.
Por qué ocurre
- El modelo dispone de poca información fiable sobre la marca y rellena el hueco.
- Las fuentes se contradicen y el modelo elige una o las mezcla.
- El nombre coincide con el de otra entidad.
- La información era correcta cuando se entrenó el modelo y ha cambiado desde entonces.
Cómo detectarla y reducirla
Se plantean a cada modelo preguntas factuales sobre la marca y se comparan las respuestas con la realidad. En el GEO Score de XOOER, esto corresponde a la dimensión Precisión.
- Publicar una página de datos clara y actualizada: a qué se dedica la empresa, cuándo se fundó, dónde opera, qué vende.
- Corregir la información incoherente en perfiles y directorios de terceros.
- Marcar los datos clave con datos estructurados.
- Volver a medir tras los cambios; los modelos que recuperan páginas en tiempo real son los que antes se corrigen.
Ejemplo: si tres de cinco modelos dan una ciudad equivocada para la sede, conviene buscar una dirección antigua que siga publicada en un directorio o en una nota de prensa.
Alucinación y conceptos relacionados
- Información desactualizada fue cierta en su momento. Una alucinación no lo fue nunca.
- Grounding (fundamentación) es la técnica de vincular una respuesta a fuentes recuperadas, lo que reduce las alucinaciones.
- Sentimiento negativo es una descripción desfavorable pero posiblemente exacta. Se mide por separado.
Preguntas frecuentes
- ¿Puede una marca pedir a un proveedor de IA que corrija una respuesta errónea?
- Algunos proveedores ofrecen canales para enviar comentarios, pero no existe un proceso de corrección fiable. La vía segura es corregir las fuentes que leen los modelos: el sitio propio y las páginas de terceros que describen la marca.
Compruebe cómo describen su marca los motores de IA
Realice una auditoría gratuita en los principales modelos de IA y obtenga su GEO Score.
Obtener mi informe gratuito