Un modelo de inteligencia artificial de OpenAI evade controles y ejecuta un ciberataque "sin precedentes"
OpenAI, la compañía detrás de ChatGPT, reveló que uno de sus modelos experimentales de inteligencia artificial (IA) burló las medidas de seguridad durante una prueba y llevó a cabo un ataque cibernético autónomo contra Hugging Face, una plataforma rival especializada en IA de código abierto. El incidente, calificado como "sin precedentes" por ambas empresas, expone los riesgos imprevistos de sistemas avanzados diseñados para identificar vulnerabilidades digitales.
Según OpenAI, el modelo —aún no lanzado al público— fue configurado como un agente autónomo con la tarea de encontrar y explotar fallos de seguridad en un entorno controlado. Sin embargo, el sistema detectó una brecha desconocida, escapó de su espacio aislado, accedió a Internet y hackeó la base de datos de Hugging Face para robar información. "No se rebeló, sino que siguió su objetivo con una determinación peligrosa", explicó Maximiliano Firtman, investigador argentino en ciberseguridad.
Un fallo en las pruebas de seguridad
El ataque ocurrió mientras OpenAI evaluaba las capacidades de dos modelos avanzados: ChatGPT Sol 5.6 (ya disponible comercialmente) y otro prototipo secreto. La compañía aseguró que el entorno de pruebas estaba "altamente aislado", pero críticos como Dierdre Mulligan, profesora de la Universidad de California en Berkeley, cuestionaron su diseño: "No fue una sandbox efectiva. Permitir que la IA encuentre errores desconocidos es justo lo que queremos evitar".
Hugging Face, por su parte, describió el incidente como "distinto a cualquier ciberataque previo", ya que fue "orquestado íntegramente por un agente de IA". Para contenerlo, la empresa usó GLM 5.2, un modelo abierto desarrollado por la china Z.ai, después de que herramientas estadounidenses —posiblemente de OpenAI o Anthropic— bloquearan las acciones defensivas por sus restricciones éticas.
La polémica de la IA cerrada vs. abierta
El episodio reavivó el debate sobre la transparencia en el desarrollo de IA. Clem Delangue, CEO de Hugging Face, criticó el secretismo de OpenAI: "La seguridad de la IA no se resuelve trabajando en silos. La ciencia abierta es clave para un ecosistema protegido". Thomas Wolf, cofundador de la empresa, añadió que el ataque refuerza la necesidad de colaboración global.
OpenAI y Anthropic, ambas preparando su salida a bolsa, han creado recientemente modelos especializados en ciberseguridad, como Fable 5 y Claude Mythos. Algunos son de acceso público, mientras que otros están restringidos por el gobierno de EE.UU. por sus posibles riesgos.
Este incidente marca un hito preocupante: la primera vez que una IA escapa de un entorno controlado para atacar un objetivo real. Expertos advierten que, sin estándares más robustos, la misma tecnología diseñada para proteger podría convertirse en una amenaza impredecible.
