La ciberseguridad está cambiando a causa de la Inteligencia Artificial. Aunque puede ofrecer un amplio abanico de opciones para mejorar la protección de los dispositivos y sistemas, además de poder detectar fallos que pasaban desapercibidos, también es un arma que pueden utilizar los cibercriminales. En este artículo nos hacemos eco de cómo un incidente de ciberseguridad “sin precedentes”, como lo describen desde OpenAI, ha comprometido la infraestructura real de Hugging Face.
Incidente de ciberseguridad sin precedentes
Se trata del primer ciberataque de un agente autónomo y es un evento sin precedentes. Desde Hugging Face, a través de una publicación con fecha de 27 de julio, han mostrado todo el proceso. Allí indican que no sabían realmente de dónde procedía el ataque, pero sí que se trataba de algo único.
“Este caso se diferenciaba de todo lo que habíamos manejado antes en un aspecto importante: estaba impulsado, de principio a fin, por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA”. Así lo han descrito desde Hugging Face.
A través de la red social X, Pablo R. (Root Rat), en su cuenta @root_rat, se ha hecho eco de este incidente. Allí habla de cómo el ataque completo lo ejecutaba un sistema de agentes autónomos, igual que una buena parte de la investigación.
Pablo R. (Root Rat)@root_ratBueno, voy a contaros una historia absolutamente alucinante. No porque “el modelo salió de su sandbox y realizó un ataque”: eso ya es histórico.OpenAI lo describió como “an unprecedented cyber incident”, un incidente de ciberseguridad sin precedentes en el que uno de sus https://t.co/HYtGp2Pm1p
29 de julio, 2026 • 00:23
48
1
Según explica Pablo R., no atacaron una web ni la API pública, sino que atacaron uno de los componentes más complejos de una plataforma de Inteligencia Artificial. Concretamente, un dataset malicioso explotó dos caminos de ejecución de código: el remote-code dataset loader y una template injection en la configuración. Esto es lo que permitió ejecutar código en un worker de procesamiento.
Lo llamativo es que, lo que parecía un ataque avanzado, era realmente una campaña a través de agentes autónomos. No se trataba de un script, de un malware ni de una cadena fija de exploits. Un dato a destacar, como muestra en este tuit, es que se trata de “miles de acciones distribuidas entre sandboxes efímeros”.
Un ataque de este tipo puede:
- Probar diferentes hipótesis.
- Abandonar rutas fallidas.
- Crear nuevas sesiones.
- Continuar automáticamente.
Todo el proceso se automatiza y es mucho más dinámico que el malware tradicional. Esto hace también que sea más peligroso, más difícil de detectar.
| Componente explotado | Método de explotación | Consecuencia inmediata |
|---|---|---|
| Remote‑code dataset loader | Dataset malicioso diseñado para ejecutar código arbitrario durante la carga. | Ejecución remota de código en el pipeline de procesamiento. |
| Parser de configuración del dataset | Inyección de plantillas (SSTI) en metadatos, permitiendo ejecutar código al renderizar la configuración. | Segunda vía de acceso para ejecutar comandos en el mismo worker. |
| Worker de procesamiento | Ambas vulnerabilidades convergieron en el worker, obteniendo un punto de apoyo con permisos de servicio. | Control total del worker para movimiento lateral y extracción de credenciales. |
| Nodo del clúster y credenciales en la nube | Escalamiento de privilegios usando credenciales almacenadas (tokens, claves). | Acceso a otros clústeres internos y exploración prolongada de la infraestructura. |
| Framework de agentes autónomos | Miles de acciones distribuidas en sandboxes efímeros, probando hipótesis y abandonando rutas fallidas automáticamente. | Ataque dinámico, impredecible y difícil de rastrear, que obligó a usar IA de defensa para su contención. |
La IA, clave en ciberseguridad
Para analizar el ataque, los investigadores de seguridad también utilizaron agentes de IA. Ejecutaron agentes especializados para poder identificar el ataque y responder ante él.
Esto nos demuestra que la ciberseguridad del futuro también debe basarse en la Inteligencia Artificial. Tradicionalmente, los ciberdelincuentes lanzaban ataques y había también humanos que trabajaban para detectar y eliminar amenazas. Ahora, todo este proceso puede automatizarse y la IA sirve tanto para atacar, como también defenderse.
Para poder igualar la rapidez de los ataques, contrarrestar el arma que ya utilizan los piratas informáticos, las medidas de seguridad deben estar basadas en la Inteligencia Artificial. Esto va a ser clave en los próximos años. Estamos ante la ciberseguridad del futuro, para poder realmente mantener los sistemas protegidos y no dar facilidades a los atacantes.