Por qué la IA inventa y cómo detectarlo
Mariana, asistente de dirección en una constructora de Querétaro, le pidió a un asistente de IA "tres estudios recientes sobre productividad en el trabajo híbrido en México" para una presentación. Recibió tres títulos con autores, año y universidad. Se veían perfectos. Cuando su jefe quiso leer uno, no apareció en ningún lado. Dos de los tres no existían.
A esto se le suele llamar "alucinación": la IA produce información falsa con el mismo tono seguro que usa para la información correcta. No es un error raro ni exclusivo de una marca. Les pasa a todos los asistentes, en mayor o menor medida, y la buena noticia es que se puede anticipar.
Al terminar esta lección podrás:
- explicar por qué ocurren los datos inventados;
- reconocer los tipos de pregunta donde el riesgo sube;
- usar cinco preguntas de control para destapar respuestas dudosas.
Por qué pasa
Recuerda la imagen de la lección anterior: el modelo construye texto que encaja con lo que viene antes. Cuando le pides tres estudios con autor y año, la forma de la respuesta está clarísima: nombre de estudio, investigadora, universidad, año. El modelo sabe muy bien cómo luce esa respuesta. Lo que no siempre tiene es el contenido exacto.
Si el dato aparecía muchas veces en lo que leyó durante su entrenamiento (la capital de un país, la fórmula del IVA en México), lo más probable es que lo dé bien. Si el dato es raro, muy específico o reciente, el modelo puede completar el hueco con algo que tiene la forma correcta pero no es real.
Hay tres agravantes:
- El tono no cambia. Una respuesta inventada no viene con letras rojas. Suena igual de segura que una correcta.
- Tiende a complacer. Si pides tres estudios, hará lo posible por darte tres, aunque honestamente solo pudiera respaldar uno. Las versiones recientes de los asistentes reconocen mejor cuando no saben, pero no lo hacen siempre.
- Los detalles dan credibilidad. Un número de página, un nombre completo o una cifra con decimales hacen que bajemos la guardia. Paradójicamente, son los detalles más fáciles de inventar.
Dónde sube el riesgo
No todas las preguntas tienen el mismo riesgo. Aprende a ubicar las zonas peligrosas:
| Riesgo alto | Riesgo bajo |
|---|---|
| Citas textuales, referencias, estudios, libros | Reescribir un texto que tú le diste |
| Artículos de ley, números de norma, fechas de decretos | Resumir un documento que adjuntaste |
| Cifras de empresas medianas o pequeñas | Proponer ideas para un evento |
| Hechos ocurridos hace poco | Explicar un concepto general muy conocido |
| Datos de personas concretas | Dar formato de tabla a tus propios datos |
| Enlaces a páginas web escritos de memoria | Corregir ortografía y estilo |
La regla general: el riesgo sube cuando la IA tiene que sacar un dato concreto de su memoria y baja cuando trabaja con información que tú le pusiste enfrente.
Ojo, riesgo bajo no es riesgo cero. Incluso al resumir un documento puede mezclar dos cifras o atribuir una frase a la persona equivocada. Por eso la revisión nunca desaparece; solo cambia de intensidad.
Cinco señales de alerta
Cuando leas una respuesta, busca estas señales:
- Precisión sospechosa. "Según un estudio de 2023 de la Universidad de Guadalajara, el 47.3 % de los empleados..." Mientras más específico sea un dato que no pediste con fuente, más ganas de verificar.
- Referencias que no puedes abrir. Si menciona un documento, un artículo o un enlace, búscalo. Si no aparece en dos minutos, trátalo como inventado.
- Respuestas redondas a preguntas difíciles. Si preguntaste algo que en tu experiencia es polémico o depende del caso, y la respuesta no tiene matices, desconfía.
- Cambios entre intentos. Si preguntas de nuevo y el dato cambia, ninguna de las dos versiones es confiable sin verificar.
- Mezcla de países. En temas laborales y fiscales es común que mezcle reglas de distintos países de habla hispana. Lo que aplica en España o en Colombia no necesariamente aplica en México, y viceversa.
Cinco preguntas de control
Cuando algo te huela raro, no empieces de cero. Haz preguntas de control en la misma conversación:
- "¿Qué tan seguro estás de este dato, del 1 al 10, y por qué?" No es una medición exacta, pero a menudo la respuesta revela dudas que el primer texto escondía.
- "¿Cuáles de estas afirmaciones podrías estar inventando o recordando mal?" Pedirle que revise su propia respuesta con ojo crítico suele sacar a la luz los puntos débiles.
- "Dame solo lo que puedas respaldar con una fuente que yo pueda consultar." Si tiene búsqueda web activada, pide enlaces y ábrelos tú.
- "Si no estás seguro, dilo. Prefiero un 'no sé' a un dato incorrecto." Mejor aún, incluye esta frase desde el primer mensaje.
- "¿Esto aplica en México (o en tu país) o es una regla general?" Obliga a precisar el alcance.
Ninguna de estas preguntas garantiza la verdad. Son filtros que reducen el riesgo y te indican dónde poner tu atención. La verificación final siempre es fuera de la conversación: el portal oficial, el documento original, la persona que sabe.
Prevenir es más barato que corregir
La mejor defensa es pedir de forma que el invento sea menos probable:
- Dale la información en lugar de pedírsela. Si quieres un resumen de la reforma, pega el texto oficial y pide el resumen. No le pidas que lo recuerde.
- Activa la búsqueda cuando el tema es actual, si tu asistente la tiene, y pide que cite.
- Autoriza el "no sé". "Si algún dato no lo sabes con certeza, escribe [verificar] en su lugar."
- Separa redacción de datos. Primero tú reúnes los datos; luego la IA redacta con ellos.
Veamos cómo habría quedado el caso de Mariana con este enfoque:
Estoy preparando una presentación sobre trabajo híbrido para la dirección
de una constructora en México. No necesito que me des estudios de memoria.
1. Sugiere qué tipo de fuentes debería buscar (organismos, encuestas,
universidades) y qué palabras de búsqueda usar.
2. Propón una estructura de 6 diapositivas.
3. Donde vaya un dato, deja un espacio que diga [dato por confirmar].
Así la IA hace lo que hace bien (estructurar, sugerir rutas de búsqueda) y Mariana busca los estudios reales con la ayuda de su buscador o de la búsqueda web del asistente, abriendo cada fuente.
Práctica
Dedica 20 minutos.
- Pide a tu asistente, sin búsqueda web: "Dame tres libros publicados sobre liderazgo en empresas familiares latinoamericanas, con autor y año". Busca cada uno. Anota cuántos existen y si los datos coinciden.
- En la misma conversación, haz dos preguntas de control de la lista anterior. Observa si la respuesta cambia o si reconoce dudas.
- Repite el pedido inicial agregando: "Si no estás seguro de que un libro existe, no lo incluyas y dímelo". Compara los resultados.
- Elige una tarea real de tu semana que tenga riesgo alto según la tabla. Reescribe tu pedido para que la IA trabaje con información que tú le das, no con su memoria.
Resumen
- Los asistentes de IA a veces inventan datos con el mismo tono seguro que usan para los correctos.
- Pasa porque generan texto con la forma adecuada aunque no tengan el dato exacto.
- El riesgo es alto en citas, leyes, cifras específicas, hechos recientes y datos de personas; es menor cuando trabajan con texto que tú les das.
- Las preguntas de control ayudan a encontrar puntos débiles, pero la verificación final es en la fuente original.
- Previene: dale los datos, autoriza el "no sé" y separa la redacción de la búsqueda de datos.