¿Por qué AI alucina? Una mirada al funcionamiento de los modelos de lenguaje

La inteligencia artificial hoy en día logra cosas que hace poco parecían pura ciencia ficción. Escribe textos, sugiere código de programación y nos asesora con una gran cantidad de tareas complejas. Cuanto más fluidas y convincentes suenan sus respuestas, más fácil es olvidar un gran riesgo: la AI puede crear una respuesta completamente ficticia que parece 100% creíble a primera vista.

Este fenómeno se ha denominado "alucinación de AI". No se trata de un error de software aleatorio o una función deliberadamente olvidada que los desarrolladores simplemente no desactivaron. Es una consecuencia natural y profundamente arraigada de cómo se diseñan y entrenan los grandes modelos de lenguaje (LLM) de hoy en día. Echemos un vistazo al funcionamiento de estos sistemas para comprender por qué "mienten" con tanta confianza.

¿Qué son las alucinaciones de AI?

En la inteligencia artificial generativa, el término alucinación se refiere a una situación en la que el modelo genera una respuesta que, aunque gramatical y estilísticamente parece perfecta y creíble, no tiene ninguna base en el mundo real.

Los modelos pueden alucinar de formas realmente sorprendentes. Pueden inventar párrafos inexistentes de leyes, cometer errores en cálculos matemáticos o generarte estudios científicos que suenan realistas, incluidos nombres de autores y direcciones web que nunca han existido. Lo curioso es que esto sucede incluso con enlaces completamente triviales, como cuando se quiere verificar la fecha de nacimiento de una personalidad o buscar cifras históricas oficiales sobre población en un archivo.

¿Qué sucede dentro de un modelo de lenguaje?

Para entender de dónde provienen estos errores, debemos aclarar una cosa: los grandes chatbots como ChatGPT o Gemini no funcionan como motores de búsqueda de internet, ni son enormes bases de datos de hechos. No tienen conocimiento real de nuestro mundo y no tienen idea de lo que es verdad o mentira.

Un modelo de lenguaje es esencialmente una enorme red neuronal, que es en realidad un conjunto complicado de "instintos entrenados". Estos instintos se adquirieron analizando billones de palabras de internet, libros y discusiones. El objetivo de todo este costoso y tecnológicamente intensivo entrenamiento no es enseñar a la máquina a comprender el significado del texto, sino simplemente a enseñarle a imitar de manera excelente y fluida el lenguaje humano.

Cómo trabaja AI con tokens

Cuando escribes tu pregunta en un chatbot, la red neuronal no trabaja directamente con tus palabras. Primero transforma el texto en lo que se llama tokens. Los tokens son palabras predefinidas o sus partes, que corresponden a números específicos. La red matemática dentro de la computadora solo puede manejar números.

El modelo toma estos números (tu consulta junto con todo el contexto anterior de la conversación) y los procesa a través de sus capas. Sin embargo, el resultado no es que busque en un cajón una "respuesta correcta". La salida es una pura predicción matemática: el modelo calcula qué token debe seguir con mayor probabilidad al texto ya escrito.

Por qué el modelo predice en lugar de verificar

El principio sobre el cual opera la inteligencia artificial se basa en la estimación de probabilidades, no en la verificación de la verdad. El modelo ensambla el texto palabra por palabra (token a token). Cada palabra recién generada se agrega inmediatamente al conjunto de entrada y, sobre esta base, se calcula la probabilidad para la siguiente palabra.

Para evitar que las salidas sean completamente monótonas y secas, se utiliza un parámetro oculto durante la generación, llamado "temperatura". Cuando la temperatura está en cero, el modelo siempre elige el token más predecible, lo que lleva a respuestas insípidas y siempre iguales. Una temperatura más alta permite que el modelo elija también palabras menos probables. Esto desbloquea la creatividad y la capacidad de escribir historias interesantes, pero al mismo tiempo, aumenta drásticamente la posibilidad de que el modelo llegue a puras invenciones.

Cómo se genera una respuesta paso a paso

El proceso completo desde el ingreso de la consulta hasta la alucinación final ocurre así en la práctica:

1. Análisis de la entrada: Tu consulta se convierte en números (tokens).
2. Cálculo de probabilidades: El modelo evalúa el contexto y, de entre cientos de posibles candidatos, elige las palabras que estadísticamente encajan mejor.
3. Composición del relleno: Si el modelo se encuentra con un tema donde le faltan datos sólidos, no intenta admitir que no sabe. Usa un lenguaje fluido y comienza a ensamblar texto que suena completamente lógico, pero los detalles simplemente se los inventa estadísticamente.
4. Contexto en bucle: Una vez que el modelo genera un detalle incorrecto (como un año equivocado o un nombre inventado) a mitad de una frase, este detalle se convierte en parte fija del contexto. En pasos posteriores, el modelo se basa en su propia mentira y le agrega más justificaciones aparentemente plausibles.

Algunas preguntas conducen más frecuentemente a alucinaciones

Durante el entrenamiento (denominado preentrenamiento) el modelo solo ve textos correctos y fluidos. Sin embargo, existen diferentes tipos de información en los datos. Las reglas ortográficas o el cierre correcto de paréntesis se repiten constantemente en los textos, por lo que la AI las aprende perfectamente.

El problema surge con los datos específicos que rara vez aparecen en los datos y no siguen ningún patrón repetible. Un ejemplo típico son los números precisos, años, fechas de nacimiento o eventos históricos poco conocidos. Debido a que estos datos actúan esencialmente al azar en los datos, el modelo no puede deducirlos de forma fiable. Por lo tanto, si le preguntas a la inteligencia artificial una cifra concreta o detalles que una persona debe memorizar específicamente de un archivo, el riesgo de alucinación aumenta drásticamente.

¿Cómo trabajan los modelos de AI para limitar las alucinaciones?

Actualmente, los desarrolladores utilizan varias estrategias principales para limitar la imaginación salvaje de los modelos:

• Herramientas externas y búsqueda. Al igual que los modelos tienen calculadoras para cálculos matemáticos, hoy en día pueden buscar en la web antes de responder. Leen páginas relevantes y luego las citan. Esto reduce significativamente la posibilidad de que se inventen una respuesta, aunque las alucinaciones aún pueden surgir incluso con citas.
• Modelos de razonamiento. Sistemas avanzados (como la serie o3 u o5 de OpenAI) llevan a cabo un monólogo interno antes de generar una respuesta. Primero piensan en un plan, verifican las fuentes y solo entonces lanzan el texto al usuario. Hay sustancialmente menos alucinaciones aquí, pero si aparecen, son aún más sutiles y difíciles de detectar.
• Arquitectura RAG (Generación Aumentada por Recuperación). Se utiliza principalmente en empresas. El modelo se aparta de las conjeturas libres y se obliga a trabajar exclusivamente con la base de datos proporcionada de documentos internos. Así, la probabilidad de error se reduce al mínimo.

El problema principal está en cómo se evalúan los modelos en las pruebas. La mayoría de las clasificaciones miden el éxito puro (precisión) en una escala de 1 (correcto) o 0 (incorrecto). Admitir cuidadosamente "no sé" siempre termina con un cero, mientras que arriesgar una conjetura puede valer un punto para el modelo. Así, el sistema literalmente motiva a la inteligencia artificial a adivinar con confianza en lugar de admitir duda. OpenAI aboga en su investigación por ajustar la metodología de evaluación para penalizar a los modelos por inventar información y, en cambio, recompensarlos por admitir sus dudas.

¿Cómo conseguir respuestas más confiables de AI?

Hasta que se cambien los sistemas de evaluación, como usuarios debemos abordar críticamente las salidas de los chatbots. Aquí hay algunos consejos para minimizar los riesgos:

• Proporcione datos directamente en la consulta. Si desea que la AI analice un texto o una ley, insértelo directamente en la consulta y prohíba explícitamente agregar algo que no esté en el texto. Esto reduce al mínimo la posibilidad de invenciones.
• Cambie el tono de la pregunta. No acorrale al modelo con preguntas sobre cosas que no puede deducir lógicamente (cifras estadísticas exactas, detalles de biografías).
• Verifique todo lo importante. Especialmente en áreas sensibles como derecho, medicina o finanzas, considere las salidas de AI solo como un borrador que debe ser verificado en fuentes independientes y verificables.

Preguntas frecuentes

¿Por qué a veces AI promete enviarme un correo electrónico o completar una tarea más tarde, aunque no pueda?

El modelo no tiene ningún conocimiento de sus capacidades técnicas reales ni del tiempo actual. Solo completa texto basado en la probabilidad estadística. Cuando le escribes una tarea, evalúa la confirmación cortés de que ya está trabajando en ello como la continuación más natural de la frase, aunque no se ejecuta ningún proceso en segundo plano.

¿Puede un chatbot inventar completamente un libro o artículo científico que parezca real?

Sí, sucede muy a menudo. La AI ha aprendido la estructura de las citas académicas a partir de textos, por lo que puede generar nombres que suenan muy reales y académicos. Sin embargo, la información en tal cita puede ser completamente inventada y la única forma de descubrirlo es intentar encontrar esa obra de forma independiente.

¿Ayuda contra las alucinaciones si hago la misma pregunta nuevamente en un nuevo chat?

Sí, abrir un nuevo chat es una ayuda muy efectiva. Eliminando todo el contexto anterior de la conversación. Si la AI cometió un error en frases anteriores, continuaría basándose en él debido a su naturaleza, mientras que en una ventana limpia comienza a calcular las probabilidades desde cero.

Si activo la búsqueda en internet, ¿tengo garantía de que la respuesta estará libre de errores?

Desafortunadamente, no tienes garantía. El buscador proporciona al modelo datos correctos, pero la AI todavía arma el texto estimando la siguiente palabra. Las pruebas muestran que incluso los chatbots con acceso a la web pueden comprender mal la información, confundir contextos y crear errores, que además complementan con enlaces reales.

¿Tiene sentido usar inteligencia artificial sabiendo que suele cometer errores?

Definitivamente sí, solo necesitas ajustar tus expectativas. Para la lluvia de ideas, redacción de correos electrónicos, creación de conceptos creativos o búsqueda de conexiones no convencionales, esta flexibilidad del modelo es una gran ventaja. Pero necesitas actuar como editor, dejar que AI escriba y siempre verificar los detalles fácticos por ti mismo.