El presidente francés, Emmanuel Macron, convocó este lunes a representantes de ocho países, organismos internacionales, empresas tecnológicas e investigadores para establecer medidas que fortalezcan la seguridad de los modelos avanzados de inteligencia artificial (IA), ante los riesgos que presenta el rápido desarrollo de esta tecnología.
Macron destacó en un mensaje en redes sociales que es necesario actuar de manera conjunta ante los «riesgos reales para nuestra seguridad colectiva» que implica el avance de la IA. El encuentro, según un comunicado del Elíseo, reunió a jefes de Estado y de Gobierno de Baréin, Canadá, Finlandia, Japón, Noruega, Países Bajos, Reino Unido y Sierra Leona, así como al secretario del Tesoro de Estados Unidos y representantes de Naciones Unidas y la OCDE.
También participaron directivos de siete empresas del sector, incluyendo a Sam Altman de OpenAI, Dario Amodei de Anthropic y Arthur Mensch de Mistral AI, así como investigadores como Yoshua Bengio y representantes de la sociedad civil. Este encuentro continuó los diálogos iniciados durante la cumbre del G7 en Évian el pasado 17 de junio.
Los asistentes coincidieron en la necesidad de crear un marco internacional de gobernanza para abordar los riesgos de seguridad asociados a la IA, estableciendo tres prioridades: mejorar las evaluaciones independientes de los modelos, armonizar los estándares para la evaluación y comunicación de incidentes graves, y definir las responsabilidades de los diferentes actores involucrados.
El evento culminó con la firma del ‘Llamamiento de París por la seguridad de la inteligencia artificial’, una declaración que reúne compromisos de empresas del sector para promover una respuesta coordinada ante los riesgos de los modelos avanzados, según la Presidencia francesa.
En cuanto a las evaluaciones, los gobiernos, desarrolladores e investigadores se comprometieron a establecer un marco común para gestionar los riesgos de estos sistemas, aprovechando los mecanismos existentes y el trabajo de la Red Internacional para la Medición, Evaluación y Ciencia de la IA Avanzada (NAAIMES).
Las evaluaciones se centrarán en los posibles usos maliciosos de la tecnología, especialmente en ciberseguridad y en los riesgos nucleares, radiológicos, biológicos y químicos (NRBQ), así como en escenarios de pérdida de control sobre los sistemas de IA.
Los firmantes también acordaron publicar los resultados no sensibles de las evaluaciones en formatos estandarizados y reunirlos en un repositorio común accesible al público. Además, se comprometieron a reforzar los mecanismos de alerta temprana y notificación de incidentes graves, incluidos aquellos relacionados con la ciberseguridad.
La declaración también establece que cada actor del ecosistema debe asumir responsabilidades de acuerdo a su papel, comprometiéndose los desarrolladores a informar sobre las capacidades y riesgos de sus sistemas, facilitar su evaluación por expertos y establecer mecanismos para interrumpir su funcionamiento.
Los responsables políticos se comprometieron a clarificar las responsabilidades en caso de daños a gran escala, buscando proteger a los afectados y brindar seguridad jurídica a las empresas. El ‘Llamamiento de París por la seguridad de la inteligencia artificial’ estará abierto a la adhesión de nuevos firmantes.
