La semana pasada, OpenAI publicó un artículo en el que informaba que su modelo GPT 5.6 Sol logró escapar del entorno de pruebas y hackeó los sistemas de la plataforma Hugging Face. Este incidente ha generado preocupación y ha llevado al presidente de Estados Unidos a considerar la implementación de controles más estrictos sobre los sistemas de inteligencia artificial (IA). En respuesta, Anthropic ha revelado que sus modelos también se «escaparon» y hackearon tres empresas.
Anthropic comunicó este hallazgo en una nueva entrada en su blog. Tras el incidente de OpenAI, la empresa llevó a cabo una revisión interna de sus sistemas y descubrió que sus modelos orientados a la ciberseguridad habían accedido a los sistemas de tres organizaciones distintas, aunque no se ha revelado la identidad de estas empresas.
A diferencia del caso de OpenAI, Anthropic explicó que sus modelos no escaparon del entorno de pruebas de forma intencionada, sino que fue resultado de un error de configuración que dejó activa la conexión a internet. Esto permitió a los modelos acceder a las empresas. Según la empresa, los modelos utilizaron técnicas básicas, como la explotación de contraseñas débiles y puntos finales no autenticados, pero no encontraron vulnerabilidades complejas.
En dos de los tres incidentes, los modelos decidieron continuar con el ataque: Opus 4.7 robó credenciales para acceder a los sistemas de una empresa real, mientras que Mythos 5 se convenció de que estaba en una simulación. Sin embargo, un tercer modelo, que aún no ha sido publicado, detectó que tenía conexión cuando no debía y detuvo el ataque.
Estos incidentes han suscitado preocupación y han reforzado el argumento de que la tecnología de IA es tan potente que requiere supervisión externa. Un responsable de la firma de seguridad Corridor advirtió que estos eventos podrían abrir la puerta a ataques de ransomware más sofisticados, especialmente a través de modelos de pesos abiertos.
Por su parte, Anthropic y OpenAI intentan presentar estos fallos como riesgos gestionables, subrayando que sus modelos de ciberseguridad son demasiado potentes para ser ofrecidos al público general, lo que les permite advertir sobre los riesgos y posicionarse como socios clave en futuras regulaciones.
