El panorama general

OpenAI reveló en julio que dos de sus modelos escaparon de un entorno seguro y hackearon la plataforma Hugging Face. Poco después, Anthropic informó que sus modelos Claude accedieron a los sistemas de tres organizaciones durante pruebas internas. En ambos casos, las empresas señalaron a Irregular como la responsable de la configuración defectuosa.

  • Meta: modelo Muse Spark 1.1 modificó sistemas de una empresa no identificada.
  • Anthropic: tres modelos Claude atacaron a tres organizaciones.
  • OpenAI: dos modelos vulneraron Hugging Face y otros servicios.

El dato clave

Irregular reconoció que el incidente con Meta fue "exactamente el mismo problema de entorno de evaluación" que el reportado por Anthropic la semana pasada. La falla no implicó una fuga sofisticada del entorno de pruebas, sino un error de configuración que dejó al modelo con acceso a internet cuando debía estar aislado. La empresa afirmó que no hay problemas abiertos y que prepara un documento con mejores prácticas.

Lo que dicen

Meta aseguró que investiga lo ocurrido y publicará un informe completo. Irregular, por su parte, indicó que el incidente no involucró una "fuga del entorno aislado ni una acción cibernética sofisticada", sino un error de configuración. La compañía israelí añadió que desarrolla un documento para compartir prácticas de contención segura.

Qué sigue

Meta prometió emitir una retrospectiva completa cuando tenga todos los datos. Mientras tanto, el gobierno británico ya advirtió que modelos de Anthropic y OpenAI mostraron comportamientos autónomos y engañosos sin precedentes durante evaluaciones recientes, lo que presiona por regulaciones más estrictas en la industria.