MADRID, 14 Nov. (CIBERPRO) –
Anthropic ha detectado y detenido una campaña de espionaje «extremadamente sofisticada» donde actores maliciosos apoyados por el Estado chino utilizaron el modelo de inteligencia artificial (IA) Claude para automatizar aproximadamente 30 ataques informáticos contra empresas y Gobiernos, con mínima intervención humana.
Estos ataques, que ocurrieron en septiembre de este año, son notables porque entre el 80 y el 90 por ciento de la operación fue automatizada con IA, lo que resalta cómo esta tecnología avanzada está facilitando y potenciando las actividades de los ciberdelincuentes, haciéndolas más eficaces.
La empresa ya había advertido en anteriores ocasiones sobre ciberataques reales donde la IA actuaba como asesor, pero ahora ha subrayado su uso para ejecutar los ataques de manera directa, enfatizando «la velocidad con la que se realizaron a gran escala».
En esta última campaña de espionaje interrumpida, Anthropic ha indicado que se identificaron alrededor de 30 ataques dirigidos a diversas organizaciones, incluyendo grandes empresas tecnológicas y agencias gubernamentales. Además, se ha señalado «una alta probabilidad» de que los ‘hackers’ que llevaron a cabo estas amenazas contaran con el respaldo del Estado chino.
Como se detalla en un comunicado en su sitio web y en el informe de investigación, el grupo atacante (denominado GTG-1002) manipuló la herramienta Claude Code para llevar a cabo sus actividades maliciosas, transformándolo en un «ciberataque masivo ejecutado sin una intervención humana significativa».
En concreto, los ataques se realizaron con «un solo clic», con mínima intervención humana, según ha explicado el jefe de inteligencia de amenazas de Anthropic, Jacob Klein, en declaraciones a The Wall Street Journal, citadas por The Verge.
Klein explicó que la participación de los actores maliciosos para llevar a cabo el ataque se limitó a «unos pocos puntos críticos», donde decidían si la IA debía seguir actuando o no, o si detectaban algún error. Ejemplificó que las indicaciones incluían: «Sí, sigue» y «Oh, esto no parece correcto, Claude, ¿estás seguro?».
Esta automatización ha sido posible gracias a que los modelos actuales poseen capacidades más avanzadas de inteligencia para seguir instrucciones complejas y entender el contexto. Asimismo, pueden actuar como agentes, ejecutando acciones autónomas, y tienen acceso a una amplia variedad de herramientas de software.
Es decir, cuentan con capacidades avanzadas que anteriormente no tenían, permitiendo que Claude se convierta en un arma de ciberataques prácticamente independiente. «Grupos con menos experiencia y recursos pueden ahora potencialmente llevar a cabo ataques a gran escala de esta índole,» advirtió la compañía.
CUATRO OBJETIVOS AFECTADOS
A pesar de que tras detectar la actividad sospechosa Anthropic suspendió las cuentas implicadas y notificó a las entidades afectadas, los actores maliciosos lograron robar datos confidenciales de cuatro de los objetivos atacados. Sin embargo, no se han especificado cuáles fueron las organizaciones o Gobiernos perjudicados, aunque se ha aclarado que el Gobierno estadounidense no estuvo entre ellos.
«Esta campaña tiene repercusiones significativas para la ciberseguridad en la era de los agentes de IA», ha señalado la empresa, reflexionando que «los agentes son útiles para el trabajo diario y la productividad, pero en manos equivocadas pueden aumentar considerablemente la viabilidad de ciberataques a gran escala.»
Por lo tanto, para enfrentar esta amenaza, Anthropic ha indicado que ha mejorado sus capacidades de detección y ha desarrollado mejores clasificadores para identificar actividad maliciosa.
Otras empresas del sector, como Google, también han advertido recientemente sobre el uso de la IA como una tecnología que los ciberdelincuentes han integrado en sus operaciones para ser más efectivos.
Según los expertos del Google Threat Intelligence Group (GTIG), la IA no solo se utiliza para aumentar la productividad de los ataques, sino que también se aplica en sus operaciones creando nuevo ‘malware’ con IA integrada, capaz de modificar su comportamiento de manera dinámica durante su ejecución.
