Alucinaciones de la IA: por qué se inventa datos y cómo evitarlo en marketing

Una alucinación de la IA es una respuesta que suena segura y está bien redactada, pero es falsa: un dato, una cita o una cifra que el modelo se ha inventado. Ocurre porque los modelos de lenguaje generan el texto más probable, no el verdadero, y porque durante su entrenamiento se les premia más por contestar que por reconocer que no saben. En marketing se evita con tres hábitos: que la IA trabaje solo con datos de la fuente oficial, que diga de dónde sale cada cifra y que escriba «N/D» cuando un dato falta, en lugar de rellenarlo.

Qué es una alucinación de la IA, explicado sin jerga

Piensa en el autocompletado del móvil llevado al extremo. Un modelo de lenguaje no consulta una base de datos cada vez que le preguntas algo: calcula qué palabras encajan mejor a continuación de las anteriores. Cuando el tema está bien representado en lo que aprendió, el resultado suele ser correcto. Cuando no lo está, el modelo no se detiene: sigue escribiendo algo que suena bien.

Por eso una alucinación no parece un error. No llega con faltas de ortografía ni con dudas. Llega con el mismo tono seguro que una respuesta correcta, y ese es el problema.

Investigadores de OpenAI lo explican con una imagen muy clara en su artículo Why Language Models Hallucinate: igual que un estudiante ante una pregunta difícil de examen, los grandes modelos de lenguaje a veces adivinan cuando no están seguros y producen afirmaciones plausibles pero incorrectas en lugar de admitir la incertidumbre. Su tesis es que el entrenamiento y la forma de evaluar a los modelos premian adivinar por encima de reconocer que no se sabe algo.

Por qué ocurre: las causas que importan en la práctica

• Genera lo probable, no lo comprobado. El modelo produce la continuación más verosímil. Verosímil y cierto no son lo mismo.
• Se le ha enseñado a responder siempre. En un examen tipo test sin penalización por fallo, contestar al azar puntúa más que dejar la pregunta en blanco. Con los modelos pasa algo parecido.
• No tiene tus datos. El modelo no sabe cuánto vendiste ayer ni cuánto gastaste en Meta la semana pasada. Si se lo preguntas sin dárselo, rellenará el hueco con algo razonable.
• Los números son su punto débil. Sumar, calcular un porcentaje o comparar periodos parece fácil, pero un modelo que «escribe» el resultado en vez de calcularlo puede equivocarse sin avisar.

Tres casos reales de alucinaciones documentados

No son hipótesis. Hay casos públicos, con consecuencias económicas y legales.

El anuncio de Bard y el telescopio James Webb

En el vídeo promocional de Bard, el chatbot de Google, el modelo afirmó que el telescopio espacial James Webb se había usado para tomar las primeras fotografías de un planeta fuera del sistema solar. Era falso: esas primeras imágenes las tomó el Very Large Telescope del Observatorio Europeo Austral en 2004, según confirmó la NASA. Según Reuters, las acciones de Alphabet llegaron a caer hasta un 9 % durante la sesión y la compañía perdió 100.000 millones de dólares de valor de mercado.

Los abogados de Mata contra Avianca

En un pleito contra la aerolínea Avianca en un tribunal federal de Nueva York, los abogados del demandante usaron ChatGPT para preparar un escrito que citaba precedentes judiciales que no existían, con citas y referencias inventadas. El juez les impuso en junio de 2023 una sanción de 5.000 dólares. Además, el tribunal consideró que habían actuado de mala fe al fiarse de que ChatGPT les aseguró que los casos existían y estaban en bases de datos jurídicas.

El chatbot de Air Canada

Un cliente preguntó al chatbot de la web de Air Canada por la tarifa por fallecimiento de un familiar. El chatbot le dijo que podía pedir el descuento después de viajar, dentro de los 90 días siguientes a la emisión del billete. La política real de la aerolínea no lo permitía. En el caso Moffatt contra Air Canada (2024 BCCRT 149), el tribunal canadiense rechazó el argumento de la aerolínea de que el chatbot era «una entidad legal separada responsable de sus propios actos» y la condenó a pagar 812,02 dólares canadienses entre daños, intereses y tasas.

La lección para cualquier negocio: lo que dice tu IA lo dices tú. Ni el mercado, ni un juez ni tu cliente van a aceptar «lo dijo la máquina» como excusa.

Por qué las alucinaciones de la IA son especialmente peligrosas en marketing

En marketing, muchas respuestas de la IA acaban convertidas en una decisión de presupuesto. Una cifra inventada no se queda en un informe: mueve dinero.

• Decisiones de inversión con datos falsos. En una tienda de ejemplo, si un asistente afirma que una campaña tiene un ROAS de 4 cuando el real es 1,8, lo lógico es subirle el presupuesto. Estarías escalando pérdidas. Si necesitas repasar cómo se calcula, lo explicamos en qué es el ROAS.
• Parecen correctas. Una cifra de marketing plausible (por ejemplo, un CTR del 1,5 % o un coste por compra de 20 €) no levanta sospechas. Nadie la contrasta porque encaja con lo esperado.
• Se encadenan. Un dato inventado alimenta la siguiente conclusión: «este país rinde mejor», «este creativo está agotado», «reparte el presupuesto así». Cuando el error sale a la luz, ya ha arrastrado varias decisiones.
• Pueden acabar en un anuncio. Un texto generado que promete un envío gratuito que no ofreces o un material que el producto no tiene es publicidad engañosa, y el caso de Air Canada muestra quién responde.

Cómo evitar las alucinaciones de la IA en marketing

No existe un interruptor que las elimine. La propia documentación de Anthropic sobre cómo reducirlas en Claude lo dice claro: estas técnicas las reducen mucho, pero no las eliminan del todo, y la información crítica hay que validarla siempre, sobre todo en decisiones importantes. Lo que sí puedes hacer es diseñar el proceso para que una alucinación no llegue a convertirse en una decisión.

1. Datos de la API oficial, nunca de la memoria del modelo

Las cifras deben salir de la fuente: la API de Meta Ads, la de Google Ads, la de Shopify, la de GA4. El modelo recibe esos datos y razona sobre ellos; no los recuerda ni los supone. Si le pides «¿cómo va mi campaña?» sin darle los datos, te va a contestar igual, y esa respuesta no vale nada.

2. Citar la fuente de cada cifra

Cada número que aparezca en un informe o una recomendación debe poder rastrearse: de qué plataforma sale, de qué periodo y con qué filtro. Anthropic recomienda pedir al modelo que respalde cada afirmación con una cita del material que se le ha dado y que retire la afirmación si no la encuentra. En marketing, eso se traduce en una regla sencilla: cifra sin origen, cifra que no se usa.

3. Reglas deterministas que validan

Hay cosas que no debe hacer un modelo de lenguaje: sumar gastos, calcular un ROAS, comparar dos periodos o decidir si un valor está por encima de un umbral. Eso lo hace código normal, que siempre da el mismo resultado. La IA explica y prioriza, pero las cuentas y las comprobaciones (¿cuadra el gasto con la plataforma?, ¿el periodo es el que se pidió?, ¿la cifra está en un rango posible?) las hacen reglas fijas.

4. Marcar N/D cuando falta un dato

La técnica más simple y la que más se olvida. Anthropic la pone la primera de su lista: dar permiso explícito al modelo para decir «no lo sé». Si una integración ha fallado o una métrica no está disponible, el informe debe decir «N/D» y explicar por qué. Un hueco honesto es mucho menos peligroso que un número bonito inventado.

5. Revisión humana antes de ejecutar

Ninguna recomendación que mueva dinero o cambie un anuncio debería ejecutarse sola. Incluso Google, en su ayuda sobre la generación de recursos con IA en Performance Max, pide revisar todo lo generado para comprobar que es exacto, no engañoso y cumple sus políticas, y avisa de que la IA generativa puede mostrar contenido inexacto u ofensivo.

6. Comprobar después si funcionó

La última defensa es mirar el resultado. Si la IA recomendó subir el presupuesto de una campaña, pasado un tiempo razonable hay que comprobar con las ventas reales si la decisión funcionó. Así una alucinación que se haya colado se detecta por sus efectos, y el sistema aprende qué tipo de recomendaciones acierta y cuáles no.

Cómo aplicarlo en tu tienda online

Si ya usas herramientas con IA para tus campañas, hazles estas cinco preguntas antes de fiarte de sus cifras:

1. ¿De dónde saca cada dato? Si la respuesta no es «de la API de la plataforma», desconfía.
2. ¿Qué hace cuando falta un dato? Si nunca ves un «no disponible», probablemente lo esté rellenando.
3. ¿Puedo comprobar la cifra en la fuente? Abre el Administrador de anuncios o Shopify y compara. Si no cuadra, para.
4. ¿Quién aprueba antes de ejecutar? Si la respuesta es «nadie», el riesgo lo asumes tú.
5. ¿Se mide después el resultado? Una recomendación que nadie revisa no mejora nunca.

Y un consejo práctico: cruza siempre lo que dicen las plataformas de anuncios con las ventas reales de la tienda. Meta y Google cuentan conversiones con sus propios criterios; tus pedidos en Shopify son la referencia final. Una IA que solo lee las plataformas puede dar cifras reales y aun así sacar conclusiones equivocadas. Si quieres profundizar en este cruce para Meta, lo tratamos en Meta Ads para ecommerce.

Agentes de IA coordinados, con una persona que aprueba

Un agente de IA no es inmune a las alucinaciones: es un modelo de lenguaje con herramientas. La diferencia está en cómo se diseña el sistema que lo rodea. Cuando varios agentes trabajan juntos, en lo que se conoce como sistemas multiagente, cada uno puede especializarse en un área y leer solo los datos de su fuente oficial.

En Growth AI lo aplicamos así: siete agentes especialistas (Meta Ads, Google Ads, TikTok Ads, Email y CRM, Producto y Stock, Creativos y Finanzas) analizan cada uno su área con los datos de su plataforma. Un CMO de IA junta lo que dicen, lo cruza con las ventas reales de la tienda y propone cada 15 días un plan priorizado por impacto en euros. Nada se ejecuta sin aprobación humana, y a los 15 días se comprueba si cada decisión funcionó. Si falta un dato, aparece como N/D con el motivo: nunca se inventa una cifra.

Si quieres ver cómo se reparten el trabajo, en la oficina hay una simulación visual de los agentes colaborando (con datos ficticios).

En resumen

La IA se inventa datos porque está hecha para responder, no para saber. No puedes cambiar eso, pero sí puedes decidir con qué datos trabaja, qué hace cuando le falta uno, quién revisa antes de actuar y cómo se comprueba después. En marketing, donde cada cifra mueve presupuesto, esa disciplina vale más que cualquier modelo nuevo.