Cómo funciona

GPT-Red actúa como un "hacker" de inteligencia artificial. Envía un prompt, observa la respuesta del modelo y ajusta su estrategia hasta lograr un objetivo malicioso, como extraer datos sensibles. El proceso se repite de forma autónoma, generando ataques que los humanos no habían visto.

El dato clave

OpenAI integró GPT-Red directamente en el entrenamiento adversarial de GPT-5.6. El resultado: seis veces menos fallos frente a inyecciones de comandos comparado con GPT-5.5, su modelo anterior más avanzado.

  • GPT-5.6 Sol es, según OpenAI, su modelo más robusto hasta la fecha.
  • La mejora se mide con un benchmark específico de inyecciones directas.

El panorama general

Los sistemas de agentes se conectan a correos, páginas web, archivos y otras herramientas. Eso amplía la "superficie de ataque": un atacante puede esconder instrucciones maliciosas en contenido aparentemente inofensivo. GPT-Red busca descubrir esos modos de fallo antes de que los exploten actores reales.

Qué sigue

OpenAI planea seguir escalando este enfoque junto con pruebas humanas, capas de seguridad adicionales y monitoreo en tiempo real. La compañía afirma que GPT-Red ya encontró tipos de ataque que no se habían documentado antes, lo que sugiere que la automatización puede adelantarse a futuros atacantes.