Comprobar las respuestas de la IA: cómo detectar y evitar alucinaciones

¿Qué es una alucinación de la IA y por qué se produce?

Se habla de alucinación cuando una IA afirma algo falso con total convicción. Puede ser un año equivocado, una cita inventada o un libro que nunca se publicó. La IA no miente a propósito. Simplemente no se da cuenta de que se equivoca.

La razón está en su funcionamiento. Un gran modelo de lenguaje ha aprendido, a partir de enormes cantidades de texto, qué palabra es muy probable que venga a continuación. No consulta una base de datos de hechos. Los patrones recurrentes, como la gramática, los aprende de forma fiable; los datos aislados y poco frecuentes, como el cumpleaños de una persona poco conocida, en cambio, no. Entonces rellena el hueco con algo que suena plausible.

A esto se suma que, según un estudio de OpenAI, los procedimientos habituales de entrenamiento y evaluación premian más el hecho de adivinar que un sincero «No lo sé». Es como en un examen tipo test, en el que una respuesta adivinada puede sumar puntos y una en blanco nunca. Además, los modelos sin búsqueda web solo conocen el estado de sus datos de entrenamiento, así que les faltan los acontecimientos recientes.

¿Cómo reconoces que una respuesta de la IA podría ser falsa?

A primera vista, las alucinaciones parecen una respuesta como cualquier otra. Pero estas señales de alarma deberían hacerte sospechar:

• Cifras, porcentajes o fechas muy precisos sin indicar la fuente.
• Citas textuales, sobre todo de personas conocidas.
• Fuentes, estudios, enlaces o sentencias judiciales que no encuentras con un buscador.
• La respuesta cambia cuando vuelves a hacer la misma pregunta.
• Contradicciones dentro de la respuesta o con lo que sabes con seguridad.
• Preguntas sobre acontecimientos muy recientes, temas de nicho o personas y empresas poco conocidas.

Lo grave que puede llegar a ser lo muestra un caso de Estados Unidos: allí, unos abogados tuvieron que pagar una multa porque habían citado ante el tribunal sentencias que ChatGPT se había inventado por completo. Un tono seguro, por tanto, no demuestra que algo sea correcto.

¿Cómo compruebas una respuesta de la IA paso a paso?

No todas las respuestas necesitan una verificación. Una lluvia de ideas puedes tomártela con calma. Pero en cuanto vayas a compartir o publicar algo, o a tomar una decisión basada en ello, merece la pena seguir esta rutina:

1. Marcar las afirmaciones clave: ¿qué datos, cifras o nombres resultarían vergonzosos o caros si fueran falsos?
2. Pedir la fuente: pregunta de dónde procede la información, a ser posible con enlace.
3. Abrir tú la fuente: comprueba si la página existe y si de verdad dice lo que afirma la IA.
4. Contrastar: busca una segunda fuente independiente, por ejemplo la web oficial de un organismo público o de un fabricante, o un portal especializado.
5. Recalcular las cifras y fijarse en la actualidad: ¿cuadran las sumas y los porcentajes, y de cuándo son los datos?

¿Qué herramientas ayudan a respaldar las respuestas de la IA con fuentes?

Lo más fácil es comprobar las respuestas cuando la IA entrega las fuentes directamente. En nuestras herramientas de investigación encontrarás ayudantes adecuados para ello, muchos de ellos gratuitos:

• Perplexity: un buscador con IA que respalda sus respuestas con fuentes. Gratis con 3 búsquedas Pro al día.
• ChatGPT Search: búsqueda web con fuentes directamente en el chat, gratis con límites.
• Google Gemini (Deep Research): elabora informes de varias páginas con fuentes, también sin suscripción, con límites. Nuestro glosario explica cómo funciona Deep Research.
• Gemini Notebook: subes tus propios documentos y haces preguntas sobre ellos. Las respuestas se basan en tus fuentes en lugar de en el conocimiento general del modelo.
• Elicit y Consensus: especializados en estudios científicos, cada uno con una versión gratuita limitada.

Si lo necesitas con regularidad, puedes automatizarlo: el agente de investigación te entrega un briefing con fuentes sobre un tema, y una base de conocimiento para tus propios documentos responde preguntas a partir de tus archivos indicando la fuente. Importante: también las referencias a fuentes pueden fallar. A veces la IA resume mal una fuente real; por eso el tercer paso de la rutina se aplica siempre.

¿Con qué prompts evitas las alucinaciones?

No puedes evitar los errores por completo, pero con instrucciones claras los haces menos frecuentes y más fáciles de detectar. Estas formulaciones han demostrado su eficacia:

• «Si no sabes algo con seguridad, dilo expresamente en lugar de adivinar.»
• «Indica la fuente con enlace para cada cifra y cada dato.»
• «Responde solo a partir del siguiente texto. Si la respuesta no está en él, escribe: El texto no dice nada al respecto.»
• «En tu respuesta, separa los hechos comprobados de las valoraciones y suposiciones.»
• «¿Qué partes de tu respuesta debería comprobar yo sin falta?»

Especialmente útil es el tercer prompt: si le das a la IA el propio texto, por ejemplo un artículo o un PDF, no tiene que completar nada de memoria. Encontrarás más fundamentos en el artículo Escribir prompts para principiantes.

¿En qué temas hace falta una precaución especial?

En algunos temas, un error puede causar daños reales. Aquí usa la IA solo como preparación, nunca como última instancia:

• Salud: consulta siempre los síntomas, medicamentos y dosis con tu médico o en la farmacia.
• Derecho: las leyes varían según el país y cambian. En contratos, plazos y conflictos te ayuda un despacho de abogados o un servicio de asesoramiento.
• Finanzas e impuestos: los mínimos exentos, las normas fiscales y las condiciones cambian a menudo. Compruébalos en organismos oficiales o con un asesor fiscal.
• Cifras y estadísticas: la IA se equivoca en los cálculos y a veces usa datos desactualizados. Obtén las estadísticas de la fuente original, por ejemplo de un instituto oficial de estadística.
• Citas: las citas textuales son una fuente típica de errores. Utiliza solo lo que hayas encontrado en la fuente original.

Aun así, la IA puede ser de gran ayuda: explica los tecnicismos de forma comprensible y te ayuda a preparar buenas preguntas para la cita médica o la asesoría. Fíjate, eso sí, en qué datos personales introduces. Encontrarás consejos al respecto en Protección de datos en herramientas de IA.