El presidente francés planteó que determinadas aplicaciones de inteligencia artificial deben ser prohibidas si representan un peligro para el bienestar psicológico y el desarrollo de los menores. La iniciativa contempla controles independientes, auditorías previas y mayores exigencias para las empresas tecnológicas.
El presidente de Francia, Emmanuel Macron, abrió un nuevo debate internacional sobre los límites de la inteligencia artificial (IA) y su utilización por parte de niños y adolescentes. El mandatario sostuvo que aquellos usos de esta tecnología que representen un riesgo para la salud mental de los menores deben ser prohibidos.
“Si existe un riesgo para los niños con determinados usos de la IA, entonces debe prohibirse”, afirmó Macron durante una entrevista con el diario francés Les Echos.
El planteo forma parte de una iniciativa más amplia para establecer controles sobre los sistemas de inteligencia artificial generativa y evitar que su desarrollo avance sin mecanismos adecuados de protección. El presidente francés también impulsa restricciones al acceso de menores de 15 años a determinadas redes sociales.
Controles antes de que la IA llegue a los menores
Las declaraciones se conocieron en el marco del Foro de París por la Paz, donde se impulsa una carta internacional destinada a reforzar la seguridad y la protección de los usuarios frente a los riesgos de la inteligencia artificial.
Entre las principales propuestas se encuentra la realización de evaluaciones independientes de los sistemas de IA generativa, además de auditorías y procesos de precertificación antes de que determinadas herramientas puedan ponerse a disposición de los niños.
La iniciativa también contempla facilitar el acceso a los datos de los modelos para permitir un mayor control sobre su funcionamiento.
Según informó la oficina de Macron, empresas tecnológicas como OpenAI y Anthropic participarán de este compromiso, que busca aportar elementos para futuros debates legislativos en Francia y la Unión Europea.
Una regulación que trascienda las fronteras europeas
Macron considera que los controles sobre la inteligencia artificial no deben limitarse al territorio europeo. Por ese motivo, planteó la necesidad de avanzar en una regulación internacional e instó a Estados Unidos, Canadá y otros países a adoptar medidas similares.
El mandatario identificó tres grandes áreas de preocupación: la protección de los niños, la seguridad democrática y los riesgos vinculados con la seguridad nacional.
“Justamente porque se trata de inteligencia artificial no significa que deba convertirse en un territorio sin reglas”, expresó al referirse a la necesidad de establecer límites para esta tecnología.
Un debate internacional sobre el futuro de la inteligencia artificial
En paralelo, Macron reunió mediante una videoconferencia a alrededor de 50 jefes de Estado y de Gobierno, representantes de organismos internacionales, investigadores y directivos de empresas tecnológicas para analizar los desafíos que plantea la inteligencia artificial.
Entre los participantes estuvieron representantes de Reino Unido, Canadá, Noruega, Países Bajos y Japón, además de directivos de OpenAI, Anthropic, Mistral y Microsoft.
La discusión se desarrolla en un contexto de diferencias entre Estados Unidos, China y la Unión Europea sobre cómo regular el desarrollo y la utilización de estas herramientas.
En Europa, uno de los principales instrumentos regulatorios es la Ley de Inteligencia Artificial (AI Act), cuyo alcance y aplicación también forman parte del debate sobre cómo impulsar la innovación sin descuidar la protección de la sociedad.
La iniciativa francesa vuelve a poner sobre la mesa una cuestión cada vez más relevante: cómo aprovechar las posibilidades de la inteligencia artificial sin exponer a los niños y adolescentes a herramientas cuyos riesgos todavía están siendo estudiados.