Los 28 países reunidos en la cumbre de seguridad global el inteligencia artificial (IA) en Bletchley Park (Inglaterra) han acordado crear un panel internacional para monitorear los avances en este campo, así como mecanismos para probar la nuevos modelos inteligentes antes de que estén disponibles al público.
Estados Unidos, China y la Unión Europea (UE), los principales bloques con influencia en el desarrollo de la IA, se han alineado para crear un panel de expertos inspirado en el Panel Intergubernamental sobre Cambio Climático (IPCC) que evaluará el estado de la avances en este campo.
En el encuentro impulsado por Reino Unido también se ha ultimado un plan, que ha contado con el apoyo de las principales empresas del sector, que permitirá a las autoridades evaluar si los algoritmos de IA pueden ser peligroso para la "seguridad nacional" o causar "daños sociales".
"Hasta ahora, las únicas personas que probaban la seguridad de los nuevos modelos de IA eran las empresas que los desarrollaban ellas mismas. Eso debe cambiar", afirmó Sunak al presentar las conclusiones de la cumbre.
Advertencia sobre peligros
Los acuerdos de hoy se suman a la declaración conjunta que los países firmaron el primer día de la reunión, que alerta sobre posibles "consecuencias catastróficas de la IA y apuesta por la cooperación internacional como mejor forma de afrontarlos.
Entre los líderes que asistieron a la cumbre, la presidenta de la Comisión Europea, Ursula von der Leyen, expresó hoy su apoyo a inspirarse en el desarrollo de la energía nuclear en el siglo XX para gestionar la riesgos y beneficios asociados a esta nueva tecnología.
También abogó por crear un sistema de normas similar a las vigentes en el sector de la aviación para intentar minimizar los peligros de los futuros sistemas inteligentes.
El secretario general de la ONU, António Guterres, coincidió en el peligro de que la tecnología avance en "direcciones imprevistas" y la posibilidad de "perder el control" de los sistemas, y pidió mantener los principios de la Carta de Naciones Unidas y la Declaración Universal de Derechos Humanos para regular la IA.
En la cumbre también participó la vicepresidenta de Estados Unidos, Kamala Haris, así como directivos de las principales empresas del sector, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft.
Debates a puerta cerrada
Durante la sesión de hoy se han celebrado dos sesiones plenarias a puerta cerrada. En el primero de ellos, los países del G7, la Unión Europea, Singapur, Australia y la ONU abordaron la prioridades políticas en torno a la seguridad de la IA dentro de cinco años.
Uno de los propósitos esenciales de la cumbre ha sido coordinar las distintas regulaciones que están en marcha para regular la IA, una tecnología que tendrá un impacto global.
El Reino Unido, en ese sentido, se ha convertido en una excepción en el ámbito internacional. Si bien la UE y los Estados Unidos han comenzado a promover su regulacionesLondres prefiere observar el desarrollo de la tecnología antes de diseñar una ley específica.
China, potencia rival del bloque occidental y uno de los principales actores en la desarrollo de AI, no fue invitado al segundo día de la cumbre, pero participó constructivamente en los debates del primer día, según describen varias fuentes que estuvieron presentes en las conversaciones.
La segunda sesión plenaria de hoy, a la que asistieron directivos de empresas tecnológicas, expertos y académicos, además de políticos, se centró en medidas concretas de aquí a un año, centradas en las salvaguardas y pruebas que deben incorporar los nuevos modelos de IA antes de ponerse a disposición del público.
Uno de los temas que generó división entre los participantes en la cumbre es el desarrollo de modelos de IA de código abierto, para algunos una forma de impulsar la innovación y para otros una puerta abierta a grietas de seguridad.
Francia es uno de los impulsores del código abierto, junto con otros países europeos y del Sur global, mientras que Estados Unidos y Reino Unido, que acogen a las principales firmas tecnológicas del sector, apuestan por el software propietario.
