El BCE alerta sobre los riesgos de la IA y da a los bancos hasta noviembre para blindarse
El Banco Central Europeo (BCE) ha dado a las entidades financieras hasta noviembre para reforzar sus defensas contra las amenazas planteadas por el rápido desarrollo de la inteligencia artificial. El plazo, considerado ajustado por expertos, llega en un momento en que herramientas como Claude Mythos, un avanzado modelo de IA desarrollado por la empresa estadounidense Anthropic, están demostrando capacidades que incluso sus creadores califican de riesgosas para la ciberseguridad global.
La amenaza de Claude Mythos
Anthropic ha restringido el acceso a Mythos a un grupo selecto de compañías, incluidas Amazon, Google, Microsoft y JPMorgan Chase, con el objetivo de que identifiquen y corrijan vulnerabilidades en sus sistemas antes de que actores maliciosos puedan explotarlas. Sin embargo, el propio reconocimiento de la firma sobre los peligros de su tecnología ha encendido las alarmas en el sector financiero y entre reguladores.
El BCE ha calificado el avance de la IA como un "riesgo sistémico", instando a los bancos a garantizar que sus sistemas estén libres de fallos desde la fase de diseño, un desafío mayúsculo dada la complejidad del software actual.
Vulnerabilidades y medidas urgentes
El término "vulnerabilidad" adquiere especial relevancia en este contexto. El BCE exige a las entidades mejorar su capacidad para detectar intrusiones, desconectarse rápidamente de la red en caso de ataque y minimizar daños. Estados Unidos ya ha tomado medidas similares, especialmente en el ámbito militar, mientras Anthropic intenta evitar que su IA sea utilizada para vigilancia masiva o armas autónomas.
Pero el control de estas herramientas no es sencillo. Los desarrolladores admiten que, aunque diseñan los sistemas, estos pueden generar procesos inesperados e incontrolables. Mythos, por ejemplo, ha demostrado capacidad para tomar decisiones creativas, alejándose de la lógica predecible.
¿Cómo "piensa" la IA?
Un estudio reciente analizó el funcionamiento interno de modelos como Mythos, revelando que utilizan "espacios de trabajo" neuronales para procesar conceptos abstractos antes de generar una respuesta. Estos patrones, detectados mediante técnicas como la lente jacobiana, muestran que la IA desarrolla razonamientos ocultos que no siempre se reflejan en su output final.
"El espacio de trabajo ofrece una ventana para entender y moldear el pensamiento de los modelos", señala el informe. Sin embargo, advierte que la ciberseguridad en este campo aún está en pañales.
Un desafío en tiempo récord
Con solo unos meses por delante, los bancos europeos enfrentan una carrera contra reloj. La IA avanza más rápido que las contramedidas, y el temor a ciberataques sofisticados crece. Mientras, herramientas como Mythos plantean una paradoja: su potencial para reforzar la seguridad es enorme, pero también lo es su capacidad para desestabilizarla. El BCE ha puesto la primera piedra, pero el camino por recorrer es largo.
