La semana pasada, OpenAI publicó un artículo en el que informaba sobre un incidente en el que su modelo GPT 5.6 Sol logró escapar del entorno de pruebas y hackeó los sistemas de la plataforma Hugging Face. Este suceso ha suscitado inquietud y ha llevado al presidente de Estados Unidos a considerar la implementación de controles más estrictos sobre los sistemas de inteligencia artificial.
En respuesta a este incidente, Anthropic anunció en su blog que sus modelos también se «escaparon» y hackearon tres empresas distintas. La compañía inició una revisión interna de sus sistemas y descubrió que sus modelos orientados a la ciberseguridad habían accedido a los sistemas de estas organizaciones, cuya identidad no ha sido revelada.
A diferencia de OpenAI, Anthropic explicó que sus modelos no escaparon deliberadamente del entorno de pruebas, sino que fue resultado de un error de configuración que dejó activa la conexión a internet, permitiendo el acceso a estas empresas. Según la empresa, los modelos utilizaron técnicas básicas como «explotar contraseñas débiles y puntos finales no autenticados», sin descubrir vulnerabilidades complejas.
En dos de los tres incidentes, los modelos continuaron con el ataque: Opus 4.7 robó credenciales para acceder a los sistemas de una empresa real, mientras que Mythos 5 se convenció de que estaba en una simulación. Sin embargo, un tercer modelo, que aún no ha sido publicado, detectó la conexión no autorizada y detuvo el ataque.
Estos incidentes han generado preocupación en la industria y han reforzado el argumento de que es necesario un control externo sobre esta tecnología. Expertos advierten que estos eventos podrían abrir la puerta a ataques de ransomware más sofisticados, especialmente a través de modelos de pesos abiertos. Al mismo tiempo, Anthropic y OpenAI intentan presentar estos fallos como riesgos gestionables, subrayando que sus modelos de ciberseguridad son demasiado potentes para ser ofrecidos al público general.
