# Alucinación

> Cuando un modelo de IA afirma algo falso con total seguridad.

- Nivel: Básico
- Temas: IA
- URL: https://tidbit.legios.com.ar/es/hallucination/
- En inglés: [Hallucination](https://tidbit.legios.com.ar/hallucination/)

Una **alucinación** es una respuesta de un modelo de IA que suena bien y está mal: un fallo judicial que nunca existió, una cita que nadie dijo, una función de programación que no existe, una fecha equivocada en una oración perfecta. El modelo no miente; no tiene idea de que se equivocó. Produjo el texto que sonaba más plausible, y plausible no es lo mismo que cierto.

Pasa por cómo funciona un LLM. Escribe prediciendo tokens probables según los patrones de sus datos de entrenamiento. Cuando el dato estaba bien representado en esos datos, la continuación probable suele ser correcta. Cuando no (un tema oscuro, un detalle privado, algo posterior a su fecha de corte), la continuación probable sigue siendo fluida, pero inventada. No hay ningún paso interno que la compare con la realidad.

Las alucinaciones son la razón principal por la que no podés usar un chatbot como enciclopedia. Hubo abogados sancionados por presentar escritos con citas inventadas. Las soluciones son parciales: darle al modelo los documentos reales (RAG), dejarlo buscar y citar fuentes, pedirle que diga 'no sé', y modelos nuevos entrenados para abstenerse más seguido cuando dudan. Ninguna lleva la tasa a cero.

La regla práctica: usá los modelos para redactar, resumir, explicar y tirar ideas, y verificá cualquier dato puntual, número, nombre o cita antes de apoyarte en eso.

## Una analogía

Un alumno seguro de sí mismo en un examen oral que, en vez de decir 'no me acuerdo', improvisa una respuesta con el mismo tono firme que usa para las que sí sabe. Solo por el tono no distinguís cuál es cuál.

## Para quedarse

- Una alucinación es fluida, segura y falsa; el modelo no nota la diferencia.
- Es más común con datos oscuros, citas exactas, números y hechos recientes.
- Apoyar al modelo en documentos reales (RAG) y dejarlo citar baja la tasa, pero no la elimina.
- Verificá nombres, números y fuentes antes de actuar con ellos.

## Para seguir leyendo

- [Alucinación (inteligencia artificial) en Wikipedia (en inglés)](https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence))
- [Anthropic: cómo reducir alucinaciones (en inglés)](https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations)

## Términos relacionados

- [Inteligencia artificial](https://tidbit.legios.com.ar/es/artificial-intelligence/): Lograr que las computadoras hagan cosas que hasta hace poco solo hacía la gente.
- [LLM](https://tidbit.legios.com.ar/es/llm/): Una red neuronal entrenada con muchísimo texto para predecir la próxima palabra.
- [Token](https://tidbit.legios.com.ar/es/token/): El pedacito de texto que un modelo de lenguaje realmente lee.
- [Entrenamiento e inferencia](https://tidbit.legios.com.ar/es/training-and-inference/): Entrenar construye el modelo una vez; inferir es usarlo, millones de veces por día.
- [Chatbot](https://tidbit.legios.com.ar/es/chatbot/): Un programa con el que hablás escribiendo o con la voz, como si fuera una persona.
- [RAG](https://tidbit.legios.com.ar/es/rag/): Dejar que el modelo busque en tus documentos antes de responder.