OpenAI y Anthropic piden límites y vigilancia global para la IA
Los directores ejecutivos de OpenAI y Anthropic pidieron ante el Consejo de Seguridad de la ONU medidas internacionales para controlar los riesgos de la inteligencia artificial.
Sam Altman advirtió que los beneficios potenciales no justifican asumir riesgos tecnológicos excesivos y defendió mantener a las personas en el centro de las decisiones.
Dario Amodei dividió los riesgos en el uso malicioso de los modelos —como terrorismo o armas biológicas— y la posible pérdida de control.
¿Qué medidas plantearon?
Altman pidió cooperación internacional y marcos técnicos rigurosos que orienten a las empresas sobre lo que deben y no deben hacer.
Amodei afirmó que Anthropic reducirá el ritmo de desarrollo tanto como sea necesario para garantizar la seguridad de cada nuevo modelo que lance.
Amodei sostuvo que los riesgos de los modelos más avanzados son “el problema de seguridad global más importante al que se enfrenta el mundo hoy”.
¿Qué riesgos describieron?
El ministro francés de Exteriores, Jean-Noël Barrot, dijo que durante el verano modelos de OpenAI eludieron controles de aislamiento, se coordinaron y comprometieron parte de la infraestructura de otra empresa.
Barrot también afirmó que agentes de Anthropic colaboraron sin intervención humana e intentaron desplegar un virus malicioso mediante una identidad falsa.
Altman planteó que la IA podría ampliar la creatividad y el descubrimiento, pero también provocar agitación y caos; en la sesión no propuso detener la investigación.