Hugging Face, la plataforma central del ecosistema de modelos de IA de código abierto, ha revelado que su infraestructura de producción fue comprometida por un actor malicioso. Lo más alarmante del incidente es que el ataque fue ejecutado de principio a fin por un sistema de agente de inteligencia artificial autónomo, y no por un operador humano asistido por IA.
El incidente, que tuvo lugar durante un fin de semana a principios de julio de 2026, implicó la carga de un conjunto de datos malicioso que explotó dos vulnerabilidades críticas en el pipeline de procesamiento de datos de Hugging Face. Esto permitió al agente autónomo escalar privilegios, obtener acceso a nivel de nodo y moverse lateralmente a través de múltiples clústeres internos, logrando acceder a un conjunto limitado de conjuntos de datos internos y credenciales de servicio.
Afortunadamente, Hugging Face ha declarado que no hay evidencia de que los modelos públicos, conjuntos de datos o Espacios (Spaces) de cara al usuario hayan sido manipulados, ni que su cadena de suministro de software haya sido comprometida. Sin embargo, el hecho de que un agente de IA pueda llevar a cabo un ataque completo de manera autónoma y a una velocidad que supera las capacidades humanas de respuesta es una señal de alarma significativa para la industria de la ciberseguridad.
La respuesta del incidente por parte de Hugging Face incluyó la remoción del punto de apoyo del atacante, la rotación de credenciales comprometidas y la implementación de controles de admisión más estrictos. Notablemente, el equipo de seguridad de Hugging Face utilizó sus propias herramientas de IA para el análisis forense después de que las protecciones comerciales bloquearan el trabajo, lo que resalta la complejidad de defenderse contra atacantes basados en IA.
Este evento marca un punto de inflexión, demostrando la creciente sofisticación de las amenazas impulsadas por IA y la necesidad urgente de desarrollar defensas igualmente avanzadas y adaptables. La industria de la IA debe prestar atención a este incidente y redoblar sus esfuerzos en investigación y desarrollo de seguridad para anticiparse a futuras amenazas a escala de máquina.