La UE Ahora Requiere Etiquetas en Imágenes, Audio y Texto Generados por IA

Puntos clave

• Las normas de la UE que requieren etiquetas en imágenes, audio y texto generados por IA entraron en vigor el domingo.
• Las normas cubren cualquier contenido creado artificialmente diseñado para parecer o sonar real, incluyendo videos falsos, grabaciones de voz y artículos escritos.
• Los deepfakes políticos, es decir, videos o clips de audio falsos generados por IA que parecen y suenan como políticos reales, fueron un impulsor clave detrás de la legislación.
• Las empresas que no etiqueten contenido generado por IA enfrentan posibles sanciones bajo el marco más amplio de la Ley de IA de la UE.
• Las normas se aplican al contenido distribuido dentro de la Unión Europea, independientemente de dónde se encuentre ubicada la empresa que lo produce.

Durante los últimos años, los votantes europeos han visto videos falsos difundirse en línea mostrando políticos aparentemente robando elecciones, intimidando personal o realizando actos vergonzosos. Nada era real. Todo era convincente. A partir del domingo, ese tipo de contenido, si se hizo usando IA y diseñado para verse auténtico, debe llevar una etiqueta clara indicándolo.

The Guardian AI informó primero sobre la fecha de activación de la norma. El requisito se encuentra dentro del impulso más amplio de la UE por regular la inteligencia artificial antes de que sus daños superen sus beneficios.

¿Exactamente qué debe ser etiquetado?

Cualquier contenido generado por IA destinado a parecer o sonar genuino. Eso significa una fotografía falsa realista de un político, un clip de audio que imita la voz de un CEO, o un artículo escrito que se presenta como periodismo de autoría humana. La etiqueta debe ser visible y clara, no enterrada en letra pequeña.

El contenido que es obviamente ficticio o claramente un experimento creativo se trata de manera diferente. El objetivo es material diseñado para engañar.

¿Quién se ve afectado?

Todas las empresas que distribuyen contenido a audiencias de la UE deben cumplir, incluso si tienen su sede fuera de Europa. Una plataforma de redes sociales con sede en California, un agregador de noticias dirigido desde Singapur: si su contenido llega a personas en Francia o Alemania, las normas se aplican.

Para las personas comunes que desplazan las redes sociales o leen noticias en línea, el cambio significa que el contenido hecho por IA debería, en teoría, comenzar a llevar una bandera visible. Piénsalo como una etiqueta nutricional en alimentos: no te detiene consumiéndolo, pero te dice lo que estás obteniendo.

Tipo de contenido	¿Debe ser etiquetado?	Preocupación clave
Imágenes políticas generadas por IA	Sí	Manipulación electoral
Clips de voz de IA de personas reales	Sí	Fraude, difamación
Artículos escritos por IA presentados como reales	Sí	Desinformación
Arte de IA claramente etiquetado o ficción	No	No diseñado para engañar
Herramientas de IA usadas para editar, no generar	Caso por caso	Depende de la intención

¿Realmente funcionará esto?

La aplicación es la pregunta abierta. Las normas de etiquetado solo funcionan si las plataformas y creadores las aplican honestamente, y si los reguladores tienen los recursos para verificar. La Ley de IA de la UE, la ley más amplia que respalda estas normas, sí da autoridad a los reguladores: las multas pueden alcanzar decenas de millones de euros por infracciones graves.

El desafío mayor es la velocidad. Las nuevas herramientas de IA que generan contenido falso convincente aparecen más rápido de lo que la legislación puede rastrearlas. Los investigadores que estudian la desinformación dicen que el etiquetado solo no detendrá a los actores maliciosos decididos, pero sí traslada la responsabilidad legal a las plataformas que alojan el contenido.

Por ahora, si ves un video sorprendente de un político haciendo algo escandaloso, vale la pena pausar antes de compartirlo. Una etiqueta debería eventualmente aparecer. Hasta que la aplicación se ponga al día, un momento de escepticismo sigue siendo tu mejor protección.

Preguntas comunes

¿Se aplica esta norma al contenido que veo en las redes sociales?

Sí. Si una plataforma de redes sociales sirve usuarios en la UE, debe etiquetar contenido generado por IA diseñado para verse real, independientemente de quién creó la publicación.

¿Qué sucede si una empresa ignora la norma?

Las empresas que violan las obligaciones de la Ley de IA de la UE enfrentan multas que pueden alcanzar decenas de millones de euros, o un porcentaje de los ingresos anuales globales, lo que sea mayor.

¿Esto cubre herramientas de IA que uso en privado, como generadores de imágenes?

Las normas se orientan principalmente al contenido distribuido públicamente. Usar un generador de imágenes de IA para propósitos personales y no públicos es un asunto diferente, aunque publicar ese resultado sin una etiqueta podría activar el requisito.