OpenAI publicó en su blog una propuesta que plantea a Estados Unidos como líder en la creación de normas técnicas globales para la IA, con el fin de establecer métricas comunes, protocolos de reporte de incidentes y una respuesta coordinada ante los riesgos de los sistemas avanzados.
La iniciativa surge mientras los líderes mundiales se reúnen en la Asamblea General de la ONU, donde la inteligencia artificial ocupa un lugar central en los debates sobre seguridad internacional.
Propuesta de normas técnicas comunes
OpenAI propone que EE.UU. asuma un papel de liderazgo en la elaboración de estándares internacionales que permitan medir de forma homogénea las capacidades de los sistemas de IA. Entre los elementos planteados se incluyen métricas para evaluar el rendimiento de los modelos y protocolos obligatorios para informar incidentes, con el objetivo de facilitar el intercambio de información entre países y coordinar respuestas ante posibles amenazas.
Evitar la fragmentación regulatoria
Según la empresa, una regulación fragmentada entre distintas jurisdicciones dificultaría la gestión de riesgos y la cooperación internacional. La falta de coordinación podría generar normas dispares que obstaculicen una respuesta conjunta frente a problemas derivados del desarrollo acelerado de la IA.
Riesgo de “automejora recursiva”
OpenAI destaca la “automejora recursiva”, la capacidad de un sistema de IA para mejorar sus propias funciones de manera autónoma, como un factor que complica la supervisión y el control de los modelos más avanzados. Por ello, la compañía insiste en la necesidad de métricas y protocolos compartidos que permitan detectar y mitigar este tipo de riesgos en una etapa temprana.
Contexto en la ONU y próximos pasos
La propuesta fue publicada en el blog institucional de OpenAI mientras se celebra la Asamblea General. Además, el director ejecutivo de la empresa, Sam Altman, tiene previsto presentar un informe a los 15 miembros del Consejo de Seguridad de la ONU sobre la relación entre IA y seguridad internacional. La reunión, convocada por Francia, que preside el Consejo en septiembre, será dirigida por el ministro francés de Europa y Relaciones Exteriores, Jean‑Noël Barrot.
En 2023, el Consejo de Seguridad ya había abordado los peligros de la IA, con China advirtiendo que la tecnología no debía convertirse en un “caballo desbocado” y EE.UU. señalando su posible uso para censura o represión. La actual iniciativa de OpenAI busca reforzar la cooperación entre EE.UU. y sus aliados, considerando la creciente relevancia económica, tecnológica y de seguridad de la inteligencia artificial.
OpenAI no propone fijar una velocidad específica para el desarrollo de la IA; su objetivo es que la investigación orientada a garantizar que los sistemas actúen conforme a valores y objetivos humanos avance al menos al mismo ritmo que las capacidades técnicas de los modelos.
Con la propuesta en marcha, la comunidad internacional observará si la visión de OpenAI logra consolidar un marco regulatorio global que evite la dispersión normativa y mejore la capacidad de respuesta frente a los desafíos que plantea la inteligencia artificial.