El secretario general de la ONU advierte de los riesgos de una inteligencia artificial ‘desbocada’ y reclama salvaguardias internacionales antes de la Asamblea General del 22 de septiembre
António Guterres pidió este miércoles a los gobiernos que asuman una estrategia global y coordinada para regular la inteligencia artificial (IA), tras las advertencias de líderes tecnológicos como Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk sobre los riesgos de perder el control de sistemas cada vez más potentes. El secretario general de la ONU calificó de insuficientes las «pausas voluntarias» aplicadas de forma desigual por empresas, y advirtió: «La IA no se detiene en las fronteras, ni sus riesgos».
Guterres, que reconoció el «enorme potencial» de la tecnología, exigió salvaguardias para garantizar que la IA sea «segura, transparente y responsable». Su llamado llega en un contexto de división geopolítica: aunque algunos países compiten por liderar el desarrollo, el diplomático portugués advirtió que «el mundo no puede permitirse sacrificar la seguridad por ventaja». La IA será uno de los ejes centrales de sus conversaciones con líderes internacionales durante la Asamblea General de la ONU (22-28 de septiembre), donde se debatirá cómo identificar riesgos y aplicar medidas más firmes.
La ONU ya creó en 2023 su primer organismo científico dedicado a la IA para guiar políticas con evidencia. Sin embargo, Guterres subrayó que los gobiernos deben asumir su responsabilidad directa: «Proteger a los ciudadanos no será suficiente si no hay una estrategia mundial». Entre los riesgos que mencionó, destacó la «IA desbocada» junto a la crisis climática y el aumento de desigualdades como las principales amenazas actuales.
Las advertencias de los líderes tecnológicos —como la de Amodei, que pidió regulación para evitar «perder el control»— coinciden con el tono de urgencia de Guterres. Mientras, empresas como OpenAI y Anthropic han propuesto pausas en el desarrollo de modelos avanzados, aunque sin consenso global. La ONU ahora busca un entendimiento compartido para evitar que la carrera tecnológica priorice la innovación sobre la seguridad.
Guterres enfatizó que «necesitamos un entendimiento compartido sobre cómo avanzar en un desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir salvaguardias más firmes o medidas adicionales para gestionar los riesgos potenciales». Este llamado se enmarca en la agenda de la Asamblea General, donde los líderes mundiales discutirán la necesidad de una regulación internacional que garantice la protección de los ciudadanos frente a los avances de la IA.
