Mientras tanto, la Unión Europea ha activado el artículo 50 del Reglamento de Inteligencia Artificial, que obliga a etiquetar los contenidos generados por máquinas. El objetivo es que los ciudadanos puedan distinguir lo real de lo sintético, aunque los expertos ya avisan de que las soluciones técnicas actuales tienen serias limitaciones. La pregunta ya no es si la IA puede crear imágenes indistinguibles de la realidad, sino quién y cómo va a controlar que eso no se convierta en un problema de seguridad pública.
El fiasco de Nano Banana 2 en Google Earth
Google lanzó el pasado 30 de julio la herramienta Nano Banana 2, basada en el modelo Gemini 3.1 Flash Image, integrada en Google Earth. La promesa era sugerente: los usuarios podían hacer zoom sobre cualquier lugar del planeta, escribir un texto y la IA transformaría la imagen satelital en una escena completamente nueva. La idea era creativa, pero la realidad se torció muy rápido. En cuestión de horas, la herramienta se llenó de contenido perturbador: simulaciones de atentados, tanques en ciudades europeas, la Torre Eiffel en ruinas o cráteres junto a las pirámides de Egipto. El investigador Henk van Ess demostró que la herramienta no rechazaba ninguna petición, ni siquiera las más sensibles, y que la marca de agua SynthID que Google había incorporado era fácilmente burlable.
La BBC verificó que era posible engañar al sistema para que identificara las imágenes generadas como reales, y que una pequeña variación en el texto del prompt servía para saltarse las barreras de protección. Ante la avalancha de críticas, Google desactivó la función el 31 de julio, apenas un día después de su estreno. La compañía aseguró que necesitaba implementar barreras de seguridad más sólidas, pero el daño reputacional ya estaba hecho. El episodio ha puesto de manifiesto que ni siquiera las grandes tecnológicas con sistemas de etiquetado sofisticados pueden frenar la desinformación visual cuando la herramienta es de acceso universal.
La detección visual ya no es fiable
El caso de Google Earth no es un incidente aislado. La capacidad de los generadores de imágenes actuales para producir resultados fotorrealistas ha superado la capacidad humana de distinguir lo real de lo artificial. Daniel Púa, jefe de seguridad en Magnific (antes Freepik), una de las herramientas de IA generativa más populares, lo reconoce sin rodeos: prácticamente ninguna persona a primera vista podría estar 100% segura de si una imagen es IA o no. El nivel de detalle ha llegado a un punto en el que la vista ya no es una herramienta fiable.
En el vídeo todavía quedan pistas, como errores en la física o inconsistencias en la secuencia, pero ese margen se está cerrando rápidamente. Según Púa, los últimos modelos de vídeo ya trabajan superbien y lo único que queda es pulir detalles. Su estimación es que en poco más de un año el vídeo también será indistinguible. Ante este panorama, las marcas de agua como SynthID de Google o el estándar C2PA, que guarda en los metadatos el historial completo de la imagen, se presentan como soluciones, pero ambas tienen el mismo talón de Aquiles: si se borran los metadatos, se hace una captura de pantalla o se comparte la imagen por WhatsApp, la firma se pierde. Los expertos recomiendan desconfiar de cualquier imagen que no tenga metadatos, porque hasta una foto hecha con el móvil los lleva.
La UE pone orden con el artículo 50
En este contexto de desconfianza generalizada, la Unión Europea ha dado un paso al frente. El artículo 50 del Reglamento europeo de Inteligencia Artificial comenzó a aplicarse el 2 de agosto de 2026. Desde esa fecha, los proveedores y responsables del despliegue de sistemas de IA deben cumplir con las obligaciones de transparencia. Los sistemas que ya estaban en el mercado antes de esa fecha tienen hasta el 2 de diciembre de 2026 para adaptarse a la obligación técnica de marcado y detección de contenidos generados por IA.
La norma establece que los usuarios deben ser informados cuando interactúan con una máquina, salvo que resulte evidente. También obliga a que las imágenes, audios y vídeos generados por IA incorporen mecanismos que permitan identificar su origen artificial. Los deepfakes, es decir, los contenidos que representan de manera falsa a personas o acontecimientos reales, deberán llevar una advertencia clara y distinguible. No bastará con esconderla en las condiciones generales. La norma contempla una excepción para las obras artísticas, satíricas o creativas, pero incluso en esos casos deberá informarse de la existencia de contenido generado con IA, aunque sea de una forma adaptada que no perjudique la obra.
Uno de los puntos que más dudas genera es el etiquetado de textos. La obligación de identificar los textos generados por IA no se aplicará cuando el contenido haya pasado por un verdadero proceso de revisión humana y una persona o entidad asuma la responsabilidad editorial. Esto significa que no será necesario colocar una advertencia automática en cualquier artículo para cuya elaboración se haya utilizado una herramienta de IA, siempre que haya habido una supervisión real. La valoración dependerá del grado de intervención de la tecnología y de quién asuma la responsabilidad sobre el resultado final.
La industria audiovisual abraza la IA
Mientras los reguladores intentan poner puertas al campo, la industria audiovisual ha pasado del miedo inicial a la adopción entusiasta. Martin Scorsese ha sorprendido a propios y extraños al respaldar públicamente a Black Forest Labs, una startup especializada en IA generativa de imágenes. El director asegura que la herramienta le permite transformar lo que imagina en referencias visuales concretas para su equipo de producción, sin que nadie tenga que interpretar sus directrices. Scorsese no es el primero, pero su peso en Hollywood supone una poderosa señal de validación.
Netflix ha creado INKubator, un estudio para desarrollar cortos y especiales con un modelo de producción híbrido con IA en el que artistas y especialistas en IA trabajan conjuntamente. Amazon, por su parte, ha lanzado Project Nara, una plataforma de producción basada en IA, y el GenAI Creators’ Fund, un programa que financia a creadores a través de la IA generativa para crear contenidos. A24, el prestigioso estudio de cine independiente, ha cerrado un acuerdo estratégico con Google DeepMind, que se convierte en accionista de la compañía con una inversión estimada de 75 millones de dólares. El acuerdo ha generado polémica entre los cinéfilos, pero A24 sostiene que la IA no sustituirá talento, sino que ampliará las posibilidades creativas de directores y guionistas.
La transformación va más allá de los grandes estudios. Películas como Hell Grind, presentada en el Marché du Film de Cannes, demuestran hasta qué punto la IA puede alterar la economía de una producción. Este largometraje de ciencia ficción, de 95 minutos, se hizo en apenas dos semanas con un equipo de quince personas. Para generar los primeros 25 minutos de metraje se realizaron más de 16.000 generaciones de vídeo, de las cuales solo se seleccionaron 253 planos. Otras producciones, como Killing Satoshi, dirigida por Doug Liman, utilizan la IA para sustituir localizaciones reales por escenarios generados digitalmente en postproducción, lo que permite concentrar el rodaje en un único estudio.
El debate sobre los sesgos también sigue muy presente. Diversos estudios han demostrado que los generadores de imágenes tienden a perpetuar estereotipos de género, raza y edad. Herramientas como Stable Diffusion o DALL-E han producido imágenes de profesiones como juez o CEO mostrando mayoritariamente a hombres blancos, y han hipersexualizado a mujeres asiáticas. La Ley de IA de la UE exige a los proveedores de sistemas de alto riesgo incorporar medidas de mitigación de sesgos, pero los expertos reconocen que la IA nunca será completamente imparcial, ya que depende de datos creados por humanos, que son inherentemente sesgados.
El episodio de Google Earth y la entrada en vigor del artículo 50 del Reglamento europeo marcan un punto de inflexión en la relación entre la IA generativa y la sociedad. La tecnología avanza más rápido que la capacidad de los reguladores y de los sistemas de verificación para controlarla. Las marcas de agua digitales, los estándares abiertos como C2PA y las nuevas obligaciones legales son pasos en la dirección correcta, pero ninguno de ellos es infalible. La desinformación visual ya es un problema real, y la confianza en los contenidos digitales se ha convertido en un bien escaso. La solución no vendrá solo de la tecnología, sino de una combinación de regulación, educación y responsabilidad compartida entre plataformas, creadores y usuarios.
