Comportamiento y riesgos
Alucinación
Cuando un modelo de IA afirma algo falso o inventado con la misma confianza que una respuesta correcta.
Los modelos de lenguaje generan texto prediciendo lo que es estadísticamente plausible, no consultando una base de datos de hechos — así que una frase fluida y segura puede ser idéntica, vista desde fuera, a una inventada. Las alucinaciones van desde citas inventadas hasta fechas erróneas o eventos y personas completamente ficticios.
Técnicas como RAG y el uso de herramientas — dejar que el modelo llame a un buscador o una calculadora en vez de adivinar — reducen la tasa de alucinaciones, pero ningún modelo publicado la ha eliminado, por lo que verificar la salida de la IA contra fuentes primarias sigue siendo importante.