Cuando los equipos de comunicación me llaman para hablar de contenido generado con IA, la conversación empieza casi siempre en el mismo lugar: las alucinaciones. El modelo inventó un dato. El modelo puso una cita que nadie dijo. El modelo mezcló dos eventos distintos.

Esos errores ocurren. Pero no son el problema principal. Son el síntoma visible de algo más profundo.

Por qué el riesgo no es técnico

Las alucinaciones de los modelos de lenguaje son predecibles en términos estadísticos: ocurren con más frecuencia en temas con poco corpus de referencia, en datos numéricos precisos, en nombres propios de personas y organizaciones con baja presencia en el entrenamiento. Eso se puede mitigar con instrucciones, con verificación de fuentes, con restricción de dominio.

Lo que no se mitiga con instrucciones es la ausencia de criterio humano sobre qué revisar, por qué y con qué estándar.

En los diagnósticos que realizamos, el patrón que aparece con más frecuencia no es que el contenido de IA sea técnicamente malo. Es que nadie en el equipo sabe responder estas tres preguntas: ¿quién revisa el contenido antes de publicarlo? ¿Qué está buscando cuando lo revisa? ¿Qué hace si encuentra un problema?

Cuando esas preguntas no tienen respuesta documentada, el flujo de trabajo no es ágil. Es opaco.

Lo que pasa cuando falta el criterio editorial

La primera consecuencia visible es el deslizamiento de voz. El modelo produce texto que suena «bien» en términos gramaticales pero que no habla como la organización. El estilo se vuelve genérico. Las palabras clave del posicionamiento desaparecen. El tono varía entre piezas.

La segunda consecuencia es más silenciosa: los errores factuales que pasan el control de calidad porque quien revisa no sabe qué verificar. No porque sea descuidado, sino porque «revisar» no tenía un protocolo. Se revisaba para ver si sonaba bien, no para verificar si era correcto.

La tercera consecuencia es estructural. Cuando una organización publica contenido producido con IA sin poder explicar qué proceso de supervisión siguió, no puede responder ante un error. No porque no haya habido revisión —puede haberla habido— sino porque no hay registro de que ocurrió, de quién la hizo y con qué criterio.

Eso es exactamente el tipo de situación que el EU AI Act y las conversaciones regulatorias en torno a sistemas GPAI están comenzando a documentar como riesgo.

Por qué nadie documenta el flujo de supervisión

La respuesta que escucho siempre es la misma: la velocidad. El contenido de IA es útil precisamente porque acelera la producción. Agregar documentación parece contradecir la lógica de la herramienta.

Hay también una segunda razón que se dice menos: «suena bien» como criterio implícito. El revisor lee el texto, no encuentra errores evidentes, lo aprueba. Eso no es un criterio. Es la ausencia de uno.

Un criterio editorial para contenido de IA no tiene que ser una checklist de cincuenta puntos. Tiene que responder cuatro preguntas: ¿qué afirmaciones de este texto requieren verificación independiente? ¿Qué elementos de la voz de la organización tiene que preservar? ¿Qué información no puede estar presente bajo ninguna circunstancia? ¿Quién aprueba la publicación final?

Cuatro preguntas. Cuando las respuestas están escritas y las conoce el equipo, hay un criterio. Cuando no están escritas, hay buenas intenciones.

Qué documenta un flujo de trabajo supervisado

Un flujo de trabajo supervisado para contenido de IA no necesita ser complejo. Necesita ser explícito.

Lo que documenta: quién tiene autorización para generar contenido con IA en la organización. Qué tipo de contenido puede producirse con IA y cuál requiere redacción humana. Qué revisa el supervisor antes de publicar —no en general: qué busca específicamente. Qué ocurre cuando algo no pasa la revisión: quién decide, qué se modifica, quién aprueba el cambio.

Lo que registra: la versión del prompt o instrucción usada, la fecha de generación, el nombre de quien revisó y la fecha de revisión. No para crear burocracia. Para poder responder, si en seis meses alguien pregunta cómo se produjo ese contenido.

Cuando trabajo con equipos en la implementación de este tipo de flujos, el tiempo de adopción es menor de lo que esperan. Lo que tarda es la decisión de hacerlo —que implica aceptar que el flujo anterior no era un flujo, era una práctica sin documentar.

El EU AI Act y el contenido de comunicación

El Reglamento europeo de IA obliga a los proveedores de sistemas GPAI —los modelos de lenguaje de uso general— a marcar el contenido sintético. Esa obligación está en el lado del proveedor, no del usuario. Pero tiene una implicación directa para los equipos de comunicación que publican contenido producido con esas herramientas.

Si el contenido lleva una marca de origen sintético —visible o en metadatos— y alguien pregunta cómo fue revisado antes de publicarlo, la organización tiene que poder responder. No en términos legales abstractos: en términos concretos. Quién lo revisó. Con qué criterio. Cómo se conserva ese registro.

Las organizaciones que no tienen un flujo documentado van a encontrar esa pregunta cada vez más frecuente: de reguladores, de clientes, de periodistas, de empleados. El AI Act no inventa el problema. Lo hace visible y, en algunos casos, lo convierte en obligación.

La preparación más inteligente no es esperar a que haya una obligación formal. Es construir el flujo ahora, cuando todavía hay margen para hacerlo sin presión.

Lo que hace la diferencia entre usar IA y usarla bien

La distinción no está en la herramienta. Está en si la organización puede explicar por qué el contenido que publica es correcto y apropiado.

«El modelo lo generó y sonaba bien» no es una explicación. «Lo revisó esta persona, con este criterio, en esta fecha, y aprobó la publicación» sí lo es.

Esa explicación no se construye después de que ocurre un error. Se construye antes, cuando se decide cómo trabajar con la herramienta. La diferencia entre una organización que usa IA de forma responsable y una que la usa de forma descuidada no es el modelo que usan. Es si tienen o no tienen esa explicación disponible.

Lo que encuentro en los diagnósticos es que las organizaciones que ya tienen ese proceso —aunque sea incipiente, aunque sea imperfecto— están en una posición cualitativamente distinta. No solo frente a riesgos regulatorios. Frente a su propio equipo, frente a sus clientes y frente a los modelos de IA que, eventualmente, van a indexar lo que publican.