Por qué la IA se inventa cosas: explícalo a tu hijo

Tu hijo te enseña una fecha, un dato o una fórmula que le ha dado un chatbot, con toda la seguridad del mundo, y resulta que es falso. No es que "la IA mienta": un modelo de lenguaje genera la palabra más probable a partir de patrones del texto con el que se entrenó, no consulta una base de datos de hechos verificados antes de responder. Cuando no tiene la información, no dice "no lo sé": construye una respuesta con la misma confianza que si la tuviera. A eso se le llama alucinación, y explicárselo bien a un adolescente cambia cómo usa la herramienta el resto del curso.

Por qué la IA "se inventa cosas" sin darse cuenta

Un modelo de lenguaje no funciona como un buscador que localiza la respuesta correcta en una página existente. Funciona prediciendo, palabra a palabra, cuál es la continuación más plausible de un texto, según lo que ha visto durante su entrenamiento. Cuando la pregunta tiene una respuesta muy documentada y repetida en sus datos de entrenamiento, esa predicción suele coincidir con la realidad. Cuando la pregunta es muy específica, muy reciente, o simplemente rara, el modelo sigue haciendo lo mismo —predecir la continuación más plausible— pero ya no tiene tanto material fiable del que tirar, y el resultado puede sonar igual de convincente sin serlo.

Esto explica un fenómeno que desconcierta a cualquier adulto la primera vez que lo ve: el chatbot no "duda" ni "avisa" cuando no está seguro. No tiene, de fábrica, un mecanismo interno que le permita distinguir entre "esto lo sé bien" y "esto me lo estoy inventando con la misma fluidez". Por eso una fecha inventada suena exactamente igual de segura que una fecha real.

El guion para explicárselo a un adolescente (sin tecnicismos)

Puedes usar esta comparación como punto de partida de la conversación:

"Imagina que te piden que completes una frase sin pensarlo, solo con la
primera palabra que te suene bien después de la anterior, muy rápido,
sin pararte a comprobar si es verdad. Eso es más o menos lo que hace un
chatbot: no busca la respuesta correcta en un archivo, genera la palabra
que más encaja según lo que ha leído antes. Casi siempre acierta, porque
ha leído muchísimo. Pero cuando no lo sabe, no te lo dice: sigue
completando la frase igual de seguro. Por eso hay que comprobar lo
importante, aunque suene convincente."

Esta explicación no necesita hablar de "modelos de lenguaje", "tokens" ni "probabilidad estadística" para que un adolescente entienda la idea central: la seguridad con la que responde no es una garantía de que sea verdad.

El método de verificación de 3 pasos

Dale a tu hijo o hija un procedimiento concreto, no solo la advertencia de "no te fíes". Un método de tres pasos que puede aplicar a cualquier dato que le dé un chatbot antes de usarlo en un trabajo:

1. Pregunta por la fuente. Pídele directamente al chatbot que le indique de dónde saca esa información o que te dé fuentes que se puedan verificar por separado. Si no puede dar ninguna referencia comprobable, es una señal de alerta.
2. Contrasta en un segundo sitio. Busca el mismo dato en un buscador convencional o en el libro de texto. Si dos fuentes independientes coinciden, la confianza sube; si no coinciden, hay un problema que resolver antes de usarlo.
3. Aplica el sentido común de la asignatura. ¿Esa fecha, esa cifra, esa fórmula encaja con lo que ya sabe de la materia? Un dato que contradice algo ya aprendido en clase merece más sospecha que uno que simplemente amplía lo conocido.

Prompt para pedir fuentes y contrastar (cópialo)

Este prompt sirve para que el propio chatbot ayude en el paso 1 del método, en vez de limitarse a repetir la afirmación con más detalle:

Antes de darme la respuesta final, dime: ¿qué tan seguro estás de este
dato? Indícame si es un hecho ampliamente documentado o si podría haber
variaciones según la fuente. Si puedes, dame 1-2 formas concretas de
verificarlo por mi cuenta (qué buscar, en qué tipo de fuente).

Este tipo de instrucción no elimina el riesgo de alucinación —el modelo puede seguir dando una respuesta segura y equivocada—, pero suele mejorar la calidad de la respuesta y, sobre todo, entrena al alumno a pedir siempre ese contraste como parte del hábito de estudio.

Qué tipo de preguntas tienen más riesgo de alucinación

No todas las preguntas tienen el mismo riesgo. Es útil que tu hijo aprenda a distinguir en qué terreno pisa cuando pregunta algo:

Tipo de pregunta	Riesgo de invención	Ejemplo
Conceptos muy establecidos y documentados	Bajo	"¿Qué es la fotosíntesis?"
Cifras exactas, fechas concretas, citas literales	Alto	"¿En qué página aparece esta cita?"
Temas muy recientes o muy locales	Alto	Datos de actualidad posteriores a su entrenamiento
Cálculos matemáticos paso a paso	Medio	Puede fallar en pasos intermedios sin que se note a simple vista
Opiniones o interpretaciones (literatura, historia)	No aplica igual	No hay "invención" en el mismo sentido, pero sí sesgo o simplificación

Por qué esto no es un motivo para dejar de usar la IA

Explicar las alucinaciones a un adolescente no tiene que sonar a advertencia de "no te fíes de nada de esto". El objetivo es lo contrario: que entienda cómo funciona la herramienta para sacarle más partido con menos riesgo, igual que se le enseña a citar una fuente de Wikipedia con cautela sin dejar de usar Wikipedia. Un asistente que, en lugar de darle la respuesta hecha, le hace preguntas para que llegue él mismo a la solución —como describimos en el tutor de IA que no da las respuestas— reduce además el margen de daño de una alucinación, porque el alumno participa en el razonamiento en vez de copiar un dato a ciegas.

Cómo se conecta esto con hacer los deberes bien hechos

El método de verificación de 3 pasos tiene más sentido si se integra en una rutina de estudio, no como un trámite aislado. Puedes ver cómo encaja en el conjunto de hábitos de estudio con IA en deberes con IA en casa: guía para familias y en cómo estudiar con IA: técnicas que funcionan.

Preguntas frecuentes sobre las alucinaciones de la IA

¿Por qué la IA no dice simplemente "no lo sé" cuando no tiene la respuesta? Porque no tiene, de fábrica, un mecanismo fiable para distinguir entre lo que sabe con certeza y lo que está generando por probabilidad. Genera la continuación más plausible del texto tanto si el dato es sólido como si no lo es, y ambas pueden sonar igual de convincentes.

¿Todos los chatbots de IA se equivocan igual de veces? El riesgo varía según el modelo, el tipo de pregunta y si la herramienta tiene o no acceso a búsqueda o fuentes externas en el momento de responder. Ninguno elimina el riesgo por completo, por lo que el método de verificación aplica siempre, sea cual sea el asistente.

¿Cómo sé si una respuesta es una alucinación sin ser un experto en el tema? Aplicando el método de 3 pasos: pide la fuente, contrasta en un segundo sitio independiente, y comprueba si encaja con lo que ya sabes de la asignatura. Ningún paso por sí solo es infalible, pero los tres juntos reducen mucho el riesgo de dar por bueno un dato falso.

¿Debo prohibir que mi hijo use la IA para los deberes por este motivo? No es necesario ni realista. Lo útil es enseñarle a verificar, no a evitar la herramienta; un adolescente que sabe contrastar una fuente está mejor preparado que uno que no ha usado nunca IA y se la encuentra sin ningún criterio el primer día de instituto o de universidad.

¿Las alucinaciones desaparecerán con el tiempo? No hay forma de afirmarlo con seguridad; es un área activa de mejora en el desarrollo de estos modelos, pero a fecha de publicación sigue siendo un fenómeno presente en todos los asistentes de IA generativa disponibles. El método de verificación sigue siendo la herramienta más fiable mientras tanto.

---

ZOE, el asistente de IA pensado para el alumnado, está diseñado como tutor socrático que empuja a verificar y razonar en lugar de dar la respuesta directa. Si quieres conocerlo, entra en /#contacto.