La Inteligencia Artificial tiene un impacto significativo en la actualidad en Internet. Una de las plataformas más reconocidas es ChatGPT. Sin embargo, los ciberdelincuentes también intentan aprovecharse de su popularidad, como se discutirá en este artículo. Examinaremos una vulnerabilidad que afecta a este servicio y que permite a los atacantes robar datos de Gmail sin necesidad de que la víctima intervenga.
Un equipo de investigadores de seguridad de Radware, según su informe técnico publicado el 18 de septiembre, ha identificado esta grave vulnerabilidad. El problema afecta al agente Deep Research, que utiliza métodos de extracción de datos del servidor. Esta situación hace que las defensas de seguridad tradicionales sean ineficaces y, además, la víctima no se percata de que sus datos confidenciales están siendo robados.
Vulnerabilidad crítica en ChatGPT
El problema surge cuando los usuarios emplean la función de Deep Research en ChatGPT. Esta función permite explorar sitios web y acceder a servicios conectados como Gmail para elaborar informes. La vulnerabilidad opera completamente en la infraestructura en la nube de OpenAI, lo que complica su detección, ya que no es necesario que la víctima vea contenido malicioso.
Técnicamente, el fallo, denominado ‘ShadowLeak’ por sus descubridores, se clasifica como un ataque de inyección de prompts indirecta (Indirect Prompt Injection). Hasta la fecha, no se le ha asignado un identificador CVE (Common Vulnerabilities and Exposures) oficial, lo que dificulta su seguimiento. Sin embargo, los equipos de seguridad pueden referirse al informe técnico de Radware para obtener información sobre el vector de ataque.
Primero, el atacante enviará un correo electrónico que contendrá instrucciones HTML ocultas utilizando técnicas como fuentes pequeñas, texto blanco sobre fondo blanco y trucos de diseño. Este e-mail parecerá legítimo y no activará alarmas.
Estas instrucciones invisibles solicitarán al agente Deep Research que busque información confidencial en la bandeja de entrada de la víctima y la envíe a un servidor controlado por el atacante. Cuando el usuario pida al agente que analice sus correos, se ejecutarán involuntariamente las instrucciones maliciosas.
Los investigadores lograron un 100% de éxito utilizando técnicas avanzadas de ingeniería social que evadieron las restricciones de seguridad del agente. Entre otras estrategias, pueden emplear una falsa autoridad o servidores fraudulentos que simulen sistemas de validación. La técnica más astuta, según los investigadores, implica la codificación Base64 de los datos robados, presentada como una “medida de seguridad” para proteger la información durante su transmisión.
Es importante destacar que los controles de seguridad corporativos no pueden supervisar ni bloquear estas solicitudes, ya que provienen de los servidores confiables de OpenAI y no de los dispositivos del usuario. Esto representa una vulnerabilidad significativa para las organizaciones que utilizan agentes de IA para procesar datos sensibles.
Recomendaciones de acción
Los investigadores de seguridad sugieren que las organizaciones que utilizan Deep Research de ChatGPT y tienen acceso al correo electrónico implementen un monitoreo adicional y consideren restringir los permisos del agente.
Es relevante mencionar que ChatGPT ya ha abordado esta vulnerabilidad de día cero. Aunque no hay un comunicado oficial al respecto, desde Radware indican que este problema ha sido resuelto. Medios como Bloomberg han informado sobre esta corrección.
Aunque OpenAI ha solucionado la vulnerabilidad, es fundamental revisar qué aplicaciones tienen acceso a tus datos. Para verificar los permisos en tu cuenta de Google, sigue estos pasos:
- Accede al panel de seguridad de Google: Dirígete a myaccount.google.com/security.
- Busca ‘Tus conexiones con aplicaciones y servicios de terceros’: Haz clic en ‘Ver todas las conexiones’ en esta sección.
- Revisa la lista: Identifica ChatGPT y cualquier otra aplicación de IA o servicio que ya no utilices o que no reconozcas.
- Revoca accesos innecesarios: Haz clic en una aplicación y selecciona ‘Eliminar todas las conexiones que tienes con…’. Confirma la acción.
Como usuario doméstico, es crucial actuar con sentido común en Internet. Al utilizar plataformas online, evita proporcionar más información de la necesaria. Debes tener control sobre lo que expones en la red y no facilitar el trabajo a los atacantes. Además, asegúrate de mantener todo actualizado y contar con un buen antivirus.
Preguntas frecuentes
¿Qué es ChatGPT?
ChatGPT es un chatbot que utiliza Inteligencia Artificial. Es uno de los más utilizados en la actualidad.
¿Qué sucede si roban datos de Gmail?
Podrían obtener información personal, utilizarla en ataques más sofisticados, suplantar tu identidad o acceder a otras cuentas.
¿Puedo usar ChatGPT en móvil y PC?
Sí, puedes acceder a ChatGPT tanto en ordenadores como en dispositivos móviles.
