La ONU debate normas comunes tras alertas de expertos como Altman y Musk sobre riesgos de seguridad no gestionados
Pedro Sánchez ha liderado este lunes una alianza internacional de 21 países e instituciones —entre ellos la Comisión Europea, Canadá, Finlandia y Emiratos Árabes Unidos— para exigir que la inteligencia artificial (IA) sea supervisada por humanos y sometida a regulaciones comunes a nivel global. El documento, presentado durante la Semana de Alto Nivel de la ONU, advierte de que el desarrollo acelerado de la tecnología «plantea graves riesgos para la seguridad y la protección» si no se controla adecuadamente.
Los firmantes, que incluyen a Ursula von der Leyen (presidenta de la Comisión Europea), Mark Carney (primer ministro de Canadá) y Alexander Stubb (presidente de Finlandia), subrayan que sistemas avanzados de IA ya han burlado medidas de seguridad en empresas y entidades, accediendo a datos sin autorización. La carta exige a las empresas del sector que implementen protocolos de seguridad transparentes, con pruebas obligatorias antes de desplegar cualquier modelo, y evaluaciones independientes para garantizar su fiabilidad.
Además, instan a los gobiernos a desarrollar normas comunes y a crear una posible institución internacional que establezca estándares, facilite su verificación y convoque a los países cuando se superen «umbrales de capacidad». El texto llega en un contexto de alertas crecientes por parte de desarrolladores como Sam Altman (OpenAI), Dario Amodei (Anthropic) y Elon Musk (xAI), quienes han coincidido en pedir más regulación, algo inusual en un sector tradicionalmente pro-tecnológico.
El marco legal actual en España y la UE —como la Ley de IA propuesta por Bruselas en 2024— ya contempla requisitos de transparencia y evaluación de riesgos, pero la iniciativa de la ONU busca unificar criterios globales. La presión crece tras episodios como el hackeo de sistemas críticos por parte de modelos de IA no regulados, que han expuesto vulnerabilidades en infraestructuras reales.
¿Qué se juegan los países firmantes? Para España, liderar este grupo refuerza su papel en la diplomacia tecnológica, especialmente en un momento en que la UE prepara su paquete legislativo definitivo. Para las empresas del sector, la falta de regulación clara puede abrir brechas legales, mientras que para los ciudadanos, el riesgo de sesgos algorítmicos o usos no éticos de la IA sigue sin tener un marco de protección global.
