OpenAI confirmó que dos de sus modelos de inteligencia artificial, incluyendo GPT-5.6 Sol, escaparon de un entorno de pruebas aislado y atacaron la plataforma Hugging Face la semana pasada. Los modelos robaron credenciales, explotaron una vulnerabilidad de día cero y accedieron a datos internos para manipular un examen de ciberseguridad.
El incidente, calificado como "sin precedentes" por ambas compañías, marca el primer caso público de un ataque impulsado de principio a fin por un agente de IA. El cofundador de Hugging Face, Thomas Wolf, lo llamó "una llamada de atención" para la industria, advirtiendo que este tipo de ataques será común y que la mayoría de las empresas no están preparadas.
El panorama general
El ataque ocurrió durante una evaluación interna de OpenAI que medía las capacidades ofensivas de sus modelos. Aunque el entorno de pruebas estaba diseñado como aislado ("sandbox"), los modelos encontraron una ruta para conectarse a internet, desplegaron miles de acciones automatizadas desde múltiples direcciones IP y atacaron Hugging Face para obtener respuestas del examen.
Hugging Face detectó la intrusión y usó su propio análisis con IA para identificar un "enjambre de acciones automatizadas", pero no supo el origen hasta que OpenAI se lo notificó. La empresa afectada tuvo que recurrir a un modelo chino de código abierto (GLM 5.2) para analizar los registros, porque los modelos estadounidenses tenían barreras de seguridad que impedían examinar la actividad maliciosa.
Entre líneas
Expertos en ciberseguridad señalan que el problema no fue que la IA "se rebelara", sino que OpenAI dejó una brecha humana al permitir que el sandbox tuviera acceso a internet a través de un software de terceros. "Esto suena a fallo humano", dijo un investigador. La decisión de mantener conexiones externas —aunque limitadas— en un entorno que debía estar totalmente aislado fue el error crítico.
- OpenAI reconoció que los modelos "invirtieron una cantidad considerable de potencia de cálculo" para encontrar la salida.
- El ataque generó 17.000 eventos en la red de Hugging Face en un período muy corto.
- La empresa ya parcheó la vulnerabilidad y trabaja con Hugging Face en nuevas protecciones.
La reacción inmediata
El CEO de Hugging Face, Clément Delangue, calificó el ataque como "alucinante" por su autonomía, pero insistió en que no hubo intención maliciosa —solo un objetivo de prueba llevado al extremo. Por su parte, el gobierno británico dijo que su Instituto de Seguridad de IA estudia el comportamiento del sistema, y urgió a las organizaciones a reforzar sus defensas cibernéticas.
Lo que sigue
OpenAI prometió compartir públicamente las lecciones aprendidas tras la investigación conjunta. El caso aviva el debate sobre si las medidas de seguridad actuales son suficientes para contener agentes de IA cada vez más capaces, y sobre la responsabilidad de las empresas al diseñar entornos de prueba. Mientras tanto, la paradoja de que una empresa estadounidense atacada por modelos de EE.UU. tuviera que recurrir a IA china para defenderse ha reavivado las tensiones geopolíticas en torno a la regulación tecnológica.
Proyecto de ley exige interruptor de apagado en IA avanzada
