OpenAI pide una coalición global liderada por Estados Unidos para regular la IA
OpenAI propuso que Estados Unidos lidere una coalición internacional para coordinar normas globales de seguridad y desarrollo de inteligencia artificial.
La empresa defendió que Washington está bien posicionado porque su industria de IA se encuentra a la vanguardia tecnológica.
Veinte países pidieron crear una institución internacional que establezca estándares, verifique riesgos y coordine a los gobiernos.
¿Qué riesgos busca abordar la propuesta?
OpenAI recomendó priorizar modelos avanzados y desarrolladores, además de gestionar los riesgos de investigadores automatizados capaces de mejorar sistemas.
La empresa advirtió que la mejora recursiva autónoma no debería impulsarse “a menos y hasta que pueda hacerse de forma segura”.
Un panel científico de la ONU alertó que no existe garantía de que los humanos mantengan el control sobre los agentes de IA.
¿Qué medidas plantean los gobiernos?
La declaración respaldada por 20 países pide probar los sistemas antes de su lanzamiento y permitir evaluaciones independientes de sus riesgos.
También propone estándares comunes para que gobiernos y organismos regionales evalúen modelos con conocimientos científicos adecuados.
Estados Unidos, China y Reino Unido no firmaron el documento; entre los adherentes figuran Canadá, Kenia, Países Bajos, Australia y Sudáfrica.
Las propuestas se presentan durante la Asamblea General de la ONU, celebrada en Nueva York del 21 al 25 de septiembre, con líderes tecnológicos como Bill Gates y Sam Altman.