Anthropic restringe acceso a sus modelos de IA más avanzados por orden del gobierno de EE.UU.
La empresa de inteligencia artificial Anthropic ha bloqueado el acceso a sus modelos más potentes, Claude Fable 5 y Mythos 5, tras una directiva del gobierno estadounidense que los considera un riesgo para la seguridad nacional. La medida afecta a todos los usuarios, incluidos ciudadanos extranjeros dentro y fuera del país, aunque las autoridades no han detallado los motivos específicos.
En un comunicado, la compañía sugirió que el gobierno podría haber identificado un método para eludir los controles de seguridad de estos sistemas, diseñados para evitar su uso malicioso en áreas como ciberseguridad o desarrollo de armas.
Falta de transparencia y críticas
Anthropic ha denunciado la falta de un proceso transparente por parte de la Casa Blanca, que solo comunicó las supuestas vulnerabilidades de forma verbal. La empresa asegura que sus modelos ya incluían safeguards estrictos y que las fallas detectadas son "relativamente sencillas" y replicables en sistemas públicos menos avanzados.
"Creemos que el gobierno debe poder bloquear despliegues inseguros, pero mediante un proceso basado en hechos técnicos y no en decisiones opacas", señaló la compañía.
Los modelos afectados: Fable y Mythos
La suspensión llega apenas dos días después del lanzamiento de Claude Fable 5, el primer modelo de la clase Mythos, una tecnología de alta capacidad reservada para socios del programa Project Glasswing, que incluye a gigantes como Apple, Google y Microsoft.
Para prevenir abusos, Anthropic había implementado un sistema que redirigía consultas sensibles (sobre ciberseguridad o biología) a Opus, un modelo menos potente. Sin embargo, usuarios habían criticado que el filtro actuaba de forma excesivamente restrictiva, bloqueando incluso preguntas inocuas.
Antecedentes y tensiones con el gobierno
Esta no es la primera vez que Anthropic choca con las autoridades. En febrero, el Pentágono la catalogó como "riesgo para la cadena de suministro" tras negarse a colaborar en proyectos de vigilancia masiva o armas autónomas.
Según The Wall Street Journal, Amazon habría alertado al gobierno sobre las vulnerabilidades tras lograr que el modelo revelara información crítica mediante instrucciones específicas. El hallazgo coincide con las advertencias recientes de Anthropic sobre la necesidad de ralentizar el desarrollo de IA para evitar riesgos asociados a la automejora recursiva (RSI), donde los sistemas avanzados pueden optimizarse a sí mismos sin supervisión humana.
Impacto en los planes de salida a bolsa
La medida afecta a Anthropic en un momento clave: la empresa prepara su salida a bolsa, junto a su rival OpenAI, con una valoración cercana al billón de dólares. Aunque no se ha confirmado la fecha, se espera que su Oferta Pública Inicial (IPO) ocurra entre septiembre y noviembre, siguiendo los pasos de SpaceX.
La decisión del gobierno refleja las crecientes tensiones entre las empresas de IA y las autoridades, que buscan equilibrar la innovación con los riesgos emergentes de esta tecnología. Mientras, Anthropic insiste en que sus sistemas son los más seguros hasta la fecha, aunque ahora deberán demostrarlo bajo el escrutinio federal.
