La inteligencia artificial ha dejado de ser una promesa para convertirse en una realidad que transforma sectores enteros, desde la defensa hasta el empleo. En España, la administración pública ya prueba soluciones basadas en IA para mejorar la atención ciudadana y la gestión de servicios, pero al mismo tiempo surge la pregunta de cómo gobernar esta tecnología para que no se convierta en un problema. La preocupación no es solo técnica, sino también ética y estratégica.
Recientemente, la Secretaría de Estado de Defensa celebró en Soria la II Jornada de Inteligencia Artificial Responsable en el Ámbito Militar, donde la secretaria de Estado, María Amparo Valcarce, insistió en que el verdadero reto no es solo incorporar IA, sino hacerlo con garantías y visión estratégica. Esta idea resuena con las advertencias de líderes internacionales, que piden mantener el control humano sobre sistemas cada vez más autónomos.
El control humano, un requisito incuestionable
La necesidad de que la IA permanezca bajo supervisión humana es un punto en el que coinciden tanto gobiernos como expertos. En China, el presidente Xi Jinping ha subrayado que la tecnología debe estar siempre bajo control humano, una postura que encuentra eco en las declaraciones de la propia Valcarce, quien enfatizó la importancia de que el ser humano mantenga la última palabra en decisiones críticas. Esta coincidencia entre potencias no es baladí, pues refleja un consenso en que el avance de la IA no puede ir acompañado de una pérdida de supervisión.
Sin embargo, lograr ese control no es tarea fácil. Especialistas en seguridad técnica señalan que la idea de un «interruptor de apagado» global resulta una simplificación peligrosa. Dario Amodei, director ejecutivo de Anthropic, ha afirmado que no existe un botón que detenga un sistema de IA una vez desplegado, especialmente cuando se trata de modelos de pesos abiertos que pueden copiarse y ejecutarse en cualquier infraestructura. A esto se suma la dificultad de rastrear todas las copias y usos de un modelo, como se evidenció en incidentes que han encendido las alarmas regulatorias.
Rivalidad geopolítica y desconfianza en la cooperación
El escenario de la gobernanza de la IA se complica aún más por la rivalidad entre las dos principales potencias en este campo: China y Estados Unidos. Mientras Washington ve el desarrollo de la IA como una carrera de seguridad nacional, Pekín lo interpreta como un terreno de competencia estratégica. Esta desconfianza mutua ha llevado a que los llamados a ralentizar el desarrollo, como los lanzados por Altman o Musk, encuentren rechazo en los medios estatales chinos, que los ven como una estrategia para frenar su avance.
La investigadora Ilaria Carrozza, del Instituto de Investigación para la Paz de Oslo, señala que es poco probable que ambas potencias acuerden límites a la velocidad de desarrollo, dado que cada una teme ceder ventaja. A lo máximo que se podría aspirar, dice, es a acuerdos en áreas donde no se requiera verificación ni revelación de secretos comerciales, como la gestión de ciberataques o el uso indebido de la IA. Esta tensión geopolítica lastra cualquier intento de regulación global.
La IA también redefine el empleo y las empresas
La irrupción de la IA en el ámbito laboral está generando un debate sobre si destruirá o transformará los puestos de trabajo. Investigaciones recientes, como las de la Organización Internacional del Trabajo, concluyen que «exposición no equivale a sustitución»: la IA modifica el contenido de muchas tareas, pero no siempre las elimina. En la práctica, un profesional puede pasar menos tiempo en tareas rutinarias y más en labores que exigen juicio crítico o creatividad, algo que las empresas ya empiezan a notar.
A nivel corporativo, un informe de SAP y Oxford Economics revela que el uso no autorizado de herramientas de IA, conocido como Shadow AI, se ha convertido en un riesgo creciente. Las compañías se enfrentan a fugas de datos y a resultados inconsistentes cuando sus empleados emplean soluciones sin control. Esto subraya la urgencia de establecer marcos de gobernanza interna y estrategias para el escalado de agentes de IA en la empresa, ya que la tecnología avanza más rápido que la capacidad de las organizaciones para gestionarla de forma segura.
Europa busca su propio rumbo
Frente a este panorama, Europa intenta marcar su propio camino con un enfoque de IA responsable. Iniciativas locales, como la puesta en marcha de agentes conversacionales en el transporte público de Granada o los simuladores de entrevistas en las oficinas de empleo de Galicia, muestran que la administración española apuesta por soluciones que mejoren la vida de los ciudadanos sin dejar de lado la supervisión humana. Estos proyectos, que combinan eficiencia y accesibilidad, son un ejemplo de cómo la IA puede integrarse en lo público con criterios de transparencia y responsabilidad.
Expertos coinciden en que la clave está en no ver la inteligencia artificial como una caja negra, sino como una herramienta que requiere gobernanza, formación y auditoría constantes. La falta de capacidades internas en las empresas, unida a la velocidad con que se implementan estas tecnologías, hace que muchos responsables se sientan desbordados. Por eso, la inversión en reciclaje profesional y en sistemas de control ético se vuelve tan importante como el desarrollo tecnológico en sí.
Así las cosas, el debate sobre la IA ha trascendido lo puramente técnico para instalarse en el terreno político y social. España y Europa tienen la oportunidad de liderar un modelo de desarrollo que ponga a las personas en el centro, pero necesitan hacerlo con rapidez y con una visión de cooperación que evite caer en la trampa de la desconfianza. Solo así se podrá aprovechar todo el potencial de esta revolución sin renunciar al control humano que todos piden.
