Líderes Globales Exigen un Acuerdo Internacional para Regular los Riesgos de la Inteligencia Artificial
En vísperas de la Asamblea General de la ONU en Nueva York, más de 200 personalidades y 70 organizaciones, incluidos premios Nobel y expertos en inteligencia artificial (IA), han hecho un llamado urgente para establecer un acuerdo internacional que regule los riesgos asociados con esta tecnología. La iniciativa busca definir “líneas rojas” que la IA nunca debería cruzar, con el fin de prevenir daños irreversibles a gran escala.
La Propuesta: Un Marco Global para la Seguridad de la IA
La propuesta fue presentada por Maria Ressa, premio Nobel de la Paz, durante una reunión conmemorativa del 80º aniversario de la ONU. Charbel Segerie, director ejecutivo del Centro Francés para la Seguridad de la IA, explicó que el objetivo es establecer un acuerdo vinculante que obligue a los desarrolladores a demostrar la seguridad de sus sistemas antes de su lanzamiento. Este enfoque, similar al utilizado en industrias como la farmacéutica o la energía nuclear, busca prevenir desastres antes de que ocurran, en lugar de castigar infracciones después.
Los Riesgos de la Superinteligencia
Grandes empresas tecnológicas como Meta, Google y OpenAI están invirtiendo enormes recursos en el desarrollo de la llamada superinteligencia o inteligencia artificial general (IAG), un sistema hipotético capaz de superar las capacidades del cerebro humano. Aunque esta tecnología aún pertenece al ámbito de la ciencia ficción, algunos expertos advierten que podría convertirse en una realidad en la próxima década, lo que plantea riesgos considerables.
Stuart Russell, profesor de la Universidad de Berkeley, señaló que la IA está diseñada para imitar el comportamiento humano, lo que la hace intrínsecamente insegura. “Los desarrolladores reconocen no tener un plan para controlar estos sistemas, y los gobiernos tampoco han establecido mecanismos de regulación efectivos”, afirmó.
Posibles Escenarios Catastróficos
Russell advirtió que existe una probabilidad “significativa” de que la IA provoque una catástrofe de la magnitud de Chernóbil, con potenciales sabotajes coordinados en sistemas financieros, de comunicaciones o redes eléctricas. Además, citó testimonios de líderes del sector que estiman que la probabilidad de extinción humana debido a la IA podría ser del 60%.
Hacia una Regulación Global
Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, destacó avances como el código de prácticas de la Unión Europea, pero insistió en que se necesitan regulaciones “globales y aplicables”. “Probablemente sea necesario crear una nueva institución internacional que defina los límites de la IA, supervise su cumplimiento e intervenga cuando se crucen esos límites”, concluyó.
En resumen, este llamado urgente subraya la necesidad de actuar ahora para garantizar que la inteligencia artificial se desarrolle de manera segura y en beneficio de la humanidad, antes de que sea demasiado tarde.
