Crisis algorítmica: qué hacer cuando un modelo de IA difunde información errónea sobre tu organización

Crisis algorítmica: qué hacer cuando un modelo de IA difunde información errónea sobre tu organización

Una crisis algorítmica ocurre cuando un modelo de IA genera sistemáticamente información incorrecta o tendenciosa sobre una organización. No hay un redactor al que contactar ni un artículo que rectificar. El protocolo de respuesta tiene tres fases: diagnóstico del alcance real, corrección de fuentes raíz y seguimiento. Saltarse el diagnóstico es el error que más prolonga la crisis.

Me llegan dos tipos de mensajes cuando algo ha ido mal en la reputación algorítmica de una organización. El primero: «Acabo de descubrir que ChatGPT dice que somos [afirmación incorrecta]. ¿Qué hacemos?» El segundo: «Llevamos semanas viendo que los modelos nos describen de una forma que no tiene nada que ver con lo que somos. Ya no sabemos si es urgente o no.»

Los dos son urgentes. Pero no del mismo modo. Y la respuesta adecuada para uno no es la adecuada para el otro.

Lo primero que hay que entender sobre una crisis algorítmica es que no funciona como una crisis de prensa. No hay una fuente única que haya publicado algo incorrecto. No hay una noticia que se pueda monitorizar ni un periodista con quien hablar. El modelo está generando una respuesta cada vez que alguien hace una pregunta, y esa respuesta no tiene dirección IP, no tiene fecha de publicación visible y no se puede eliminar con una llamada.

Qué tipos de problemas entran en esta categoría

Una crisis algorítmica puede manifestarse de distintas formas. Las más habituales que veo en diagnósticos de emergencia:

  • Afirmaciones incorrectas como hechos. El modelo afirma que la organización hace algo que no hace, que tiene una posición que nunca ha tenido, o que pertenece a una categoría sectorial equivocada.
  • Atribuciones erróneas. El modelo cita a la organización como fuente de una declaración o posición que nunca emitió, o atribuye a personas de la organización palabras que no dijeron.
  • Confusión con otra entidad. El modelo mezcla la información de dos organizaciones con nombre similar o área de actividad coincidente.
  • Datos obsoletos presentados como actuales. La organización cambió de dirección, de oferta, de propiedad o atravesó una crisis anterior ya resuelta, pero el modelo sigue describiendo la situación pasada.
  • Posicionamiento competitivo sesgado. En comparativas o listados, el modelo posiciona sistemáticamente a la organización por debajo de competidores, con atributos que no se corresponden con la realidad verificable.

La distinción importa porque cada tipo tiene un origen diferente en la cadena de fuentes, y por tanto un protocolo de corrección diferente.

El error de respuesta más frecuente: actuar sin diagnóstico

Cuando un equipo de comunicación descubre que un modelo está generando información incorrecta, la reacción más habitual es publicar rápido: un comunicado, un artículo de blog, una nota de prensa. La lógica es que si hay más contenido correcto disponible, el modelo acabará aprendiendo.

El problema con esa lógica es que ignora cómo funciona el entrenamiento de estos modelos. Publicar contenido nuevo no actualiza el modelo que ya está activo. Ese modelo no va a aprender lo que publiques hoy hasta su próxima fase de reentrenamiento, que puede ocurrir en semanas, meses o nunca (si el modelo llega al fin de su ciclo de vida sin una nueva versión). Y si el contenido nuevo no está en las fuentes que el modelo consulta o en los registros que pondera como señales de autoridad, no cambia nada.

Antes de cualquier acción de respuesta, hay que saber tres cosas: qué dice exactamente el modelo (y cuáles, porque la afirmación puede variar entre ChatGPT, Claude y Gemini), de dónde viene esa afirmación en la cadena de fuentes rastreables, y cuál es el alcance real del problema —cuántos modelos lo replican, con qué frecuencia aparece y en qué tipos de consultas.

Sin esas tres respuestas, cualquier acción de respuesta va a ciegas.

El protocolo de respuesta en tres fases

Fase 1: Diagnóstico del alcance real

El primer paso no es comunicar. Es medir. ¿Qué dicen exactamente los principales modelos sobre la organización? ¿La afirmación incorrecta aparece en todos o solo en alguno? ¿Con qué nivel de confianza la presenta el modelo? ¿En qué tipo de preguntas aparece —consultas directas sobre la organización, consultas sectoriales, comparativas con competidores?

El ACA-Score de emergencia que realizamos en estos casos mide exactamente eso: el estado actual de la representación en los modelos más relevantes para el sector de la organización, con el foco puesto en las afirmaciones incorrectas específicas que se han identificado.

Este diagnóstico también incluye el mapa de fuentes: rastrear qué registros externos alimentan la afirmación incorrecta. A veces es un artículo antiguo que el modelo sigue citando. A veces es una confusión con otra empresa que comparte nombre o área. A veces no hay una fuente identificable, lo que indica que el modelo está generando la afirmación por inferencia a partir de patrones más generales —lo que hace que la corrección sea más compleja.

Fase 2: Corrección de fuentes raíz

Una vez identificadas las fuentes que alimentan el problema, la corrección empieza por ahí. Si el origen es un artículo con información incorrecta, el primer paso es contactar a la publicación para solicitar una rectificación —no siempre es posible, pero siempre es la primera palanca. Si es una entrada en un directorio con datos obsoletos, se actualiza en esa fuente. Si es una confusión con otra entidad, la solución pasa por crear diferenciación verificable en registros que el modelo pueda leer.

Paralelamente, se construye el registro correcto: contenido propio con las afirmaciones verificables que el modelo debería estar haciendo, publicado en plataformas con señales de autoridad para ese sector. No es publicar por publicar. Es construir el contrapeso concreto a lo que el modelo está diciendo, en los formatos y fuentes que los modelos ponderan.

Fase 3: Seguimiento y verificación post-crisis

La corrección no es un evento puntual. Los modelos se actualizan de forma discontinua y opaca. Una afirmación incorrecta puede persistir en un modelo incluso después de que la fuente que la originó haya sido corregida, porque el modelo ya la tiene integrada en sus patrones de respuesta. Por eso, la fase 3 es el seguimiento: medición periódica del ACA-Score durante los 60–90 días posteriores a la intervención, con documentación del estado en cada modelo y comparativa contra el punto de partida.

La crisis no está cerrada hasta que el score de credibilidad en los modelos afectados vuelva a niveles aceptables y las afirmaciones incorrectas específicas hayan desaparecido de las respuestas. No antes.

Lo que distingue una crisis gestionable de una crisis compleja

Las crisis más sencillas de resolver son las que tienen una fuente raíz identificable y corregible: un artículo incorrecto, un directorio desactualizado, una confusión puntual. En esos casos, la corrección de la fuente, combinada con la construcción del registro correcto, produce resultados en el ciclo de actualización siguiente del modelo.

Las crisis más complejas son las que no tienen una fuente raíz identificable, o las que vienen de la acumulación de pequeños registros negativos o ambiguos a lo largo del tiempo. Ahí el proceso es más largo y requiere una estrategia de construcción sostenida, no una respuesta puntual.

En ambos casos, el factor que más determina la velocidad de resolución es el tiempo que transcurre entre que se detecta el problema y se hace el diagnóstico. Cada semana adicional sin diagnóstico es una semana más en la que el modelo sigue respondiendo con la versión incorrecta a usuarios que no saben que lo que leen es incorrecto.

Autora: Sonia Yánez Blum, investigadora en reputación algorítmica y relaciones públicas. ORCID 0000-0002-6695-8129

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio