Archivo – La IA de Google Gemini.- GOOGLE – Archivo
MADRID, 7 Ago. (CIBERPRO) –
Un simple enlace es suficiente para que los ciberdelincuentes controlen Gemini y alteren los dispositivos conectados en una red doméstica, en un ataque conocido como ‘promptware’.
El ‘promptware’ se aprovecha de la integración de los modelos de lenguaje (LLM, por su sigla en inglés) en las aplicaciones, permitiendo la inserción de instrucciones maliciosas que pueden poner en riesgo los asistentes de inteligencia artificial.
La amenaza para los usuarios es real, como han demostrado tres investigadores de la Universidad de Tel Aviv (Israel), Ben Nassi, Stav Cohen y Or Yair. En su estudio, han llevado a cabo ataques de ‘promptware’ contra el asistente Gemini de Google para acceder a su arquitectura en Workspace, manipulando dispositivos inteligentes del hogar y extrayendo información de correos electrónicos.
La variante de ‘promptware’ utilizada permite la introducción de instrucciones (‘prompts’) indirectas y maliciosas a través de correos electrónicos, invitaciones de calendario o documentos compartidos.
Por ejemplo, los ciberdelincuentes envían una invitación a la víctima a su correo de Gmail o Calendario, y cuando esta consulta a Gemini sobre ese ‘email’, se activa la instrucción maliciosa y compromete al asistente.
De esta manera, se facilita la manipulación de los servicios y dispositivos utilizados por la víctima a través de Gemini, permitiendo el control del termostato, la iluminación del hogar o el acceso al correo electrónico.
Gracias a esto, los atacantes pueden apagar las luces, encender la calefacción, realizar transmisiones de vídeo sin que la víctima se percate, eliminar eventos de calendario, extraer datos del correo, geolocalizar a la víctima e incluso abrir ventanas.
Este tipo de ataque afecta a Gemini tanto en la versión móvil como en la web y en el Asistente de Google. Según los investigadores, el 73% de las amenazas analizadas en su estudio presentan un riesgo alto o crítico.
Como indican, alertaron a Google sobre esta amenaza en febrero, y desde entonces, la empresa ha implementado «defensas de múltiples capas» para mitigar los problemas de seguridad detectados.
