OpenAI y Anthropic informarán al Consejo de Seguridad sobre riesgos de IA
El Consejo de Seguridad de la ONU escuchará el miércoles a Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, en una sesión sobre inteligencia artificial y seguridad internacional.
Francia convocó la reunión y su ministro de Exteriores, Jean-Noël Barrot, la presidirá; también participarán el investigador Yoshua Bengio y Clément Delangue, director de Hugging Face.
China fue invitada a presentar declaraciones mediante las empresas DeepSeek y Moonshot; DeepSeek prevé participar, aunque su fundador, Liang Wenfeng, no asistirá.
¿Qué riesgos analizará el Consejo?
La sesión examinará la preocupación por sistemas de IA cada vez más capaces y la posibilidad de que escapen al control humano.
Entre los riesgos previstos figuran el uso de IA para ciberataques, influir en elecciones o diseñar armas sin intervención humana.
La reunión será la segunda discusión formal del Consejo sobre inteligencia artificial; la primera tuvo lugar en 2023, según Reuters.
¿Qué otras advertencias llegan desde la ONU?
El secretario general António Guterres pidió más supervisión y afirmó: “Las decisiones de vida o muerte nunca deben dejarse en manos de las máquinas”.
El presidente español, Pedro Sánchez, reclamó límites y regulaciones para proteger a niños y adolescentes, y pidió que las empresas respondan por el impacto de sus tecnologías.
Sánchez advirtió que “un pequeño grupo de tecno-oligarcas está definiendo valores, preferencias y modelos” y sostuvo que la protección de los menores debe primar sobre los negocios.