OpenAI propone estándares internacionales para la seguridad de la IA
Sam Altman, consejero delegado de OpenAI, pidió fijar estándares internacionales de seguridad para la inteligencia artificial y advirtió sobre los riesgos de la fragmentación normativa.
La propuesta, presentada junto al científico jefe Jakub Pachocki, plantea aprender de la aviación y las finanzas, donde existen estándares técnicos comunes y cooperación entre países.
OpenAI propone que Estados Unidos impulse normas técnicas globales, con métodos compartidos de medición, notificación de incidentes y reglas de supervisión humana.
¿Qué riesgos busca abordar?
La iniciativa se centra en la mejora recursiva: sistemas de IA que automatizan la investigación necesaria para desarrollar generaciones posteriores de inteligencia artificial.
OpenAI sostiene que esa investigación autónoma no ocurre plenamente hoy y que solo debe impulsarse cuando pueda realizarse de forma segura.
La empresa advierte que, sin salvaguardas maduras, las personas podrían perder el control del desarrollo y los sistemas volverse más peligrosos y menos alineados.
¿Quién debe participar en las decisiones?
Altman y Pachocki sostienen que personas ajenas a los laboratorios deben intervenir realmente en las decisiones para evitar concentrar el poder y preservar la competencia.
También plantean crear un investigador automatizado de IA centrado en la alineación y el control humano, junto con avances científicos y modelos personalizados para las personas.