Alucinación en inteligencia artificial
Qué es
Una alucinación es una respuesta generada por una inteligencia artificial que presenta información falsa, inventada o no respaldada como si fuera correcta. Puede ser una fecha, una cifra, una cita, una referencia legal, el contenido de un documento o una explicación completa. La respuesta suele sonar fluida y segura, por lo que el error no siempre resulta evidente.
No significa que el sistema «vea» o «imagine» como una persona. Es una forma de describir un fallo: el modelo genera una continuación plausible, pero la plausibilidad lingüística no equivale a verdad. Ocurre con más frecuencia cuando faltan datos, la pregunta exige información muy específica o se pide al sistema que responda aunque no tenga una fuente fiable.
Un ejemplo en el trabajo
Una persona pregunta por una ayuda pública para pequeñas empresas y solicita el plazo exacto. La herramienta responde con una fecha y añade una supuesta página oficial. Si nadie comprueba la convocatoria vigente, la empresa puede entregar la solicitud fuera de plazo. Para reducir el riesgo, habría que aportar la fuente oficial, pedir que cite el apartado utilizado y verificar después la fecha directamente.
¿Por qué importa?
Porque una respuesta convincente puede entrar en un informe, un presupuesto o un mensaje a un cliente sin pasar por controles. Cuanto mayor sea el impacto de un error, mayor debe ser la revisión. Datos legales, financieros, médicos, contractuales o reputacionales nunca deberían aceptarse solo porque están bien redactados.
Se puede reducir el problema, aunque no eliminarlo por completo. Ayuda limitar la respuesta a documentos aportados, pedir citas verificables, usar recuperación de información actual, separar hechos de propuestas y permitir que el sistema diga «no lo sé». También conviene asignar una persona responsable de revisar el resultado. La inteligencia artificial puede acelerar la preparación; la validación sigue siendo una tarea profesional.
Las definiciones del glosario son orientativas y describen el funcionamiento general de estas herramientas. Comprueba siempre las condiciones de la herramienta que utilices.