Todo lo relacionado con la Inteligencia Artificial, tiene hoy en día un gran peso en Internet. Si hablamos de una plataforma muy conocida y utilizada, esa es ChatGPT. Los piratas informáticos también se aprovechan de ello, como vas a ver en este artículo. Vamos a hablar de una vulnerabilidad que afecta a este servicio y que permite a los ciberdelincuentes robar datos de Gmail, incluso sin que la víctima tenga que intervenir.
Un grupo de investigadores de seguridad de Radware, como anuncian en su informe técnico actualizado con fecha de 18 de septiembre, han detectado esta grave vulnerabilidad. El fallo afecta al agente Deep Reserch o investigación avanzada. Utiliza técnicas de extracción de datos del servidor, un problema que hace que no sirva de nada tener defensas de seguridad tradicionales y, además, la víctima no se da cuenta de que están robando datos confidenciales.
Vulnerabilidad importante en ChatGPT
El problema comienza cuando los usuarios utilizan la característica de Deep Research, de ChatGPT. Es una función que permite navegar por sitios web y acceder a servicios conectados, como Gmail, para generar informes. Esta vulnerabilidad opera completamente en la infraestructura en la nube de OpenAI, lo que dificulta su detección. No depende de que la víctima vea contenido malicioso.
Técnicamente, esta vulnerabilidad, denominada ‘ShadowLeak’ por sus descubridores, es un ataque de inyección de prompts indirecta (Indirect Prompt Injection). A fecha de hoy, no se le ha asignado un identificador oficial CVE (Common Vulnerabilities and Exposures), lo que dificulta su seguimiento estandarizado. Sin embargo, los equipos de seguridad pueden referenciar el informe técnico de Radware para obtener detalles sobre el vector de ataque.
En primer lugar, el atacante va a enviar un correo electrónico en el que meterá instrucciones HTML ocultas mediante técnicas como fuentes pequeñas, texto blanco sobre fondo blanco y trucos de diseño. Aparentemente, ese e-mail va a ser legítimo y no hará saltar las alarmas de ningún tipo.
Todo eso son instrucciones invisibles que pedirán al agente Deep Research que busque información confidencial en la bandeja de entrada de la víctima y la envíe a un servidor controlado por el atacante. Cuando el usuario solicite a ese agente que analice sus correos electrónicos, va a ejecutar, de forma involuntaria, esas instrucciones maliciosas.
Los investigadores lograron un 100% de éxito al utilizar técnicas sofisticadas de ingeniería social que eluden las restricciones de seguridad del agente. Entre otras cosas, pueden utilizar una falsa autoridad, servidores falsos como si fueran sistemas de validación, etc. La técnica más ingeniosa, como indican estos investigadores, consiste en la codificación Base64 de los datos robados, presentada como una “medida de seguridad” para proteger la información durante la transmisión.
Hay que tener en cuenta que los controles de seguridad corporativos no pueden supervisar ni bloquear estas solicitudes, ya que provienen de los servidores confiables de OpenAI, no de los dispositivos del usuario. Esto crea una importante vulnerabilidad para las organizaciones que utilizan agentes de IA para el procesamiento de datos sensibles.
Cómo actuar
Los investigadores de seguridad recomiendan que las organizaciones que utilicen Deep Research, de ChatGPT, y tengan acceso al correo electrónico, implementen una supervisión adicional, además de considerar la restricción de los permisos del agente.
Hay que tener en cuenta que ChatGPT ya ha corregido esta vulnerabilidad de día cero. Aunque no hay ningún comunicado oficial al respecto, desde Radware indican que este problema ya ha quedado resuelto. Medios de comunicación como Bloomberg, se han hecho eco de esta corrección.
Aunque OpenAI ha corregido la vulnerabilidad, es una práctica de seguridad esencial revisar qué aplicaciones tienen acceso a tus datos. Sigue estos pasos para verificar los permisos en tu cuenta de Google:
- Accede al panel de seguridad de Google: Ve a myaccount.google.com/security.
- Busca ‘Tus conexiones con aplicaciones y servicios de terceros’: En esta sección, haz clic en ‘Ver todas las conexiones’.
- Revisa la lista: Identifica ChatGPT y cualquier otra aplicación de IA o servicio que ya no utilices o no reconozcas.
- Revoca accesos innecesarios: Haz clic en una aplicación y selecciona ‘Eliminar todas las conexiones que tienes con…’. Confirma la acción.
Como usuario doméstico, es importante que actúes siempre con sentido común en Internet. Cuando utilices plataformas online, es clave no dar más información de la necesaria. Deberías tener un control sobre qué estás exponiendo en la red y no dar facilidades a los atacantes. Además, asegúrate de tener todo correctamente actualizado y de instalar un buen antivirus.