En 2023, un abogado en Estados Unidos usó ChatGPT para preparar un escrito legal. El problema: el modelo inventó seis casos judiciales que nunca existieron, con nombres de jueces, fechas y números de expediente completamente falsos. El abogado los citó en su demanda. El juez los buscó y no encontró ninguno. La consecuencia fue una multa de 5,000 dólares y una vergüenza pública considerable.

Ese es el ejemplo más conocido de lo que se llama una alucinación de la IA. Y no es un caso aislado ni un error que los fabricantes van a corregir del todo pronto. Es una característica estructural de cómo funcionan estos modelos.

Por qué los modelos de IA inventan cosas

Un modelo de lenguaje no busca información ni consulta fuentes. Lo que hace es predecir cuál es el siguiente texto más probable dado lo que ya dijo. Fue entrenado con enormes cantidades de texto humano, aprendió patrones, y cuando genera una respuesta, elige palabras que estadísticamente tienen sentido juntas en ese contexto.

El problema es que «sonar convincente» y «ser verdad» no son lo mismo. Cuando el modelo no tiene información sobre algo, en vez de decir «no sé», a veces genera una respuesta que suena plausible pero es fabricada. El modelo no sabe que está mintiendo: simplemente está completando el patrón de texto más coherente según lo que aprendió.

Es como si le preguntaras a alguien que leyó miles de libros de medicina pero nunca estudió: puede sonar muy seguro y usar los términos correctos, pero perfectamente puede mezclar datos, inventar nombres de medicamentos o confundir síntomas.

Tipos de alucinaciones más comunes

No todas las alucinaciones son iguales. Las más peligrosas son las que resultan más difíciles de detectar:

• Hechos falsos con confianza: el modelo afirma algo incorrecto como si fuera verdad conocida. «La fundación de Lima fue en 1635» (fue en 1535).
• Referencias inventadas: cita estudios, libros, artículos o leyes que no existen, o que existen pero no dicen lo que el modelo dice.
• Datos numéricos incorrectos: estadísticas, fechas, porcentajes o precios que simplemente el modelo calculó mal o inventó.
• Confusión de personas o entidades: mezcla atributos de dos personas distintas, asigna citas a quien no las dijo, confunde empresas similares.

Cuándo son más frecuentes

Los modelos alucinan más en ciertos contextos. Cuando les preguntas sobre temas muy específicos o poco documentados en internet, tienen menos base para responder y más riesgo de inventar. Lo mismo pasa con eventos recientes (después de su fecha de corte de entrenamiento) o con información muy local.

Preguntarle a ChatGPT sobre la historia de una empresa pequeña de Arequipa, sobre una norma tributaria de Sunat de este año, o sobre el ganador de un campeonato regional de fútbol, son casos con alto riesgo de alucinación. El modelo va a responder con seguridad, pero eso no significa que sea correcto.

Ironicamente, los modelos más capaces alucinan de forma más elaborada. Un modelo pequeño puede decir «no tengo información suficiente». Uno grande y poderoso puede construir una respuesta muy detallada y coherente que es completamente falsa.

Cómo detectar una alucinación

No siempre es fácil, pero hay señales de alerta. Si la respuesta incluye citas específicas (libros, estudios, leyes), búscalas tú mismo antes de usarlas. Si menciona datos numéricos exactos sobre un tema que tú conoces, verifica contra fuentes primarias. Si suena demasiado bien y demasiado completo para un tema poco documentado, desconfía.

Una técnica útil es preguntarle al mismo modelo: «¿Puedes confirmar esa información y decirme de dónde viene?» o «¿Qué tan seguro estás de este dato?». No elimina el problema, pero a veces el modelo admite incertidumbre cuando se le presiona directamente. A veces no. No confíes ciegamente en esa autocorrección.

El problema de la confianza implícita

Las alucinaciones son especialmente peligrosas porque el texto generado suena igual de seguro y fluido que las respuestas correctas. No hay diferencia de tono entre «Lima fue fundada en 1535» y «Lima fue fundada en 1635». Ambas salen con el mismo estilo, la misma estructura de oración, el mismo nivel aparente de certeza.

Eso hace que sea tentador copiar y pegar respuestas de IA directamente en documentos, correos o publicaciones sin verificar. Para contenido de entretenimiento o redacción general, el riesgo es manejable. Para temas legales, médicos, financieros o técnicos, puede ser un problema serio.

Cómo reducir el riesgo en tu empresa

Hay formas prácticas de trabajar con IA sin que las alucinaciones te quemen:

• Usa RAG (recuperación aumentada) cuando necesites que el modelo responda sobre información específica de tu empresa. El modelo consulta tus documentos reales en vez de inventar.
• Pide al modelo que cite sus fuentes o explique su razonamiento. No garantiza exactitud, pero hace que los errores sean más visibles.
• Establece un proceso de revisión humana para cualquier contenido que tenga consecuencias reales: contratos, comunicaciones oficiales, información de producto.
• Educa a tu equipo: la IA es una herramienta de asistencia, no una enciclopedia infalible. Quien firma un documento es responsable de su contenido, aunque lo haya generado una IA.

En freelo.pe trabajamos con empresas que quieren implementar IA de forma responsable. Parte de ese trabajo es diseñar sistemas que reduzcan la exposición a alucinaciones, no solo esperar que no ocurran.

Las alucinaciones van a seguir existiendo

Los modelos mejoran con el tiempo, y las tasas de alucinación bajan. Pero no van a llegar a cero. La naturaleza probabilística de cómo funcionan estos sistemas hace que siempre exista algún riesgo. Lo que cambia es la frecuencia y la gravedad.

La solución no es evitar la IA sino usarla con criterio. Aprovecha lo que hace bien: redactar, resumir, generar ideas, escribir código. Y verifica lo que importa verificar, igual que lo harías con cualquier otra fuente de información.

Qué hacer cuando la IA te da información que no puedes verificar

Hay casos donde no tienes forma inmediata de comprobar si una respuesta es correcta. Quizás es un tema técnico fuera de tu área, o una referencia legal de otro país. En esos casos, la regla es simple: no uses esa información para decisiones importantes sin una segunda fuente. Trata la respuesta de la IA como un punto de partida para investigar, no como un dato confirmado.

Una práctica útil es pedirle al modelo que te dé pistas para verificar: «¿Dónde podría confirmar este dato?» o «¿Qué fuente oficial publicaría esta información?». El modelo puede orientarte hacia las fuentes correctas aunque no pueda garantizar que su dato sea exacto. Eso ya es útil.

El impacto de las alucinaciones en la reputación de una empresa

Si tu empresa usa IA en comunicaciones públicas, ya sea en tu web, en respuestas automáticas a clientes o en publicaciones de redes sociales, una alucinación publicada puede dañar tu credibilidad. Un chatbot que le dice a un cliente en Miraflores que su pedido salió ayer cuando en realidad nunca se procesó no solo genera un reclamo: genera desconfianza.

Por eso muchas empresas implementan una capa de revisión humana para cualquier contenido generado por IA antes de que llegue al cliente. No es necesariamente revisar cada mensaje, pero sí los de alto impacto: confirmaciones de pedidos, respuestas sobre garantías, comunicados oficiales. El costo de esa revisión es menor que el costo de gestionar una crisis de reputación por un error de IA.

La madurez en el uso de IA no se mide por cuántas herramientas adoptas, sino por qué tan bien entiendes sus límites y diseñas procesos que los compensan. Las alucinaciones son uno de esos límites. Conocerlos te permite trabajar con IA de forma productiva sin llevarte sorpresas desagradables.

Preguntas frecuentes

¿Las alucinaciones de la IA se pueden eliminar completamente?

No con los modelos actuales. Son una consecuencia de cómo funcionan los modelos de lenguaje: predicen texto probable, no verifican hechos. Los nuevos modelos alucinan menos, pero no a cero. Por eso siempre se recomienda verificar información crítica antes de usarla en contextos profesionales o legales.

¿Qué modelos alucinan menos?

Los modelos más grandes y recientes de OpenAI, Anthropic y Google tienen tasas de alucinación menores que versiones anteriores. Claude y GPT-4 tienden a admitir incertidumbre con más frecuencia. Sin embargo, ningún modelo es inmune. Para tareas críticas, lo más confiable es combinar el modelo con RAG y fuentes verificadas.

¿La IA puede mentir a propósito?

No. Los modelos de lenguaje no tienen intención ni conciencia. Cuando dan información falsa, no es un acto deliberado: es el resultado de predecir texto plausible sin tener los datos correctos. La diferencia importa porque la solución no es desconfiar de la IA, sino entender sus limitaciones y diseñar procesos de verificación adecuados.

¿Cómo sé si una respuesta de IA sobre leyes peruanas es confiable?

No la uses sin verificar. Las normas tributarias, laborales o contractuales en Perú cambian con frecuencia y los modelos pueden tener información desactualizada o incorrecta. Contrasta siempre con el portal de Sunat, El Peruano, o consulta directamente con un profesional. La IA puede ayudarte a entender conceptos, pero no reemplaza el criterio legal.

¿Puedo usar IA para redactar contratos sin riesgo de alucinaciones?

Puedes usar IA como apoyo para redactar borradores, pero siempre con revisión humana. Los contratos tienen términos técnicos y consecuencias reales. Un modelo puede inventar cláusulas estándar que no existen o mezclar legislaciones distintas. Usa la IA para ahorrar tiempo en el borrador inicial, pero asegúrate de que un profesional valide el contenido final.