Empresas de IA aceptan controles voluntarios de seguridad
Donald Trump publicó un acuerdo voluntario de la Casa Blanca para que las empresas de IA adopten medidas de seguridad para sus modelos más avanzados.
El pacto recomienda controles internos para supervisar capacidades y alineación, reducir riesgos en ciberseguridad, bioseguridad y amenazas químicas, y bloquear acciones no deseadas.
También propone equipos dedicados a supervisar los controles, auditorías externas independientes y comités de los consejos de administración para revisar resultados.
¿Qué empresas y directivos lo firmaron?
Entre los firmantes figuran Jensen Huang, Sundar Pichai, Mark Zuckerberg, Elon Musk y Dario Amodei; también aparecen representantes de OpenAI y otras empresas tecnológicas.
Las fuentes difieren sobre el alcance de la firma: una identifica a seis compañías, mientras otra señala que dos docenas de firmas asumieron compromisos voluntarios.
¿Qué alcance tiene el compromiso?
El acuerdo no impone obligaciones legales nuevas; algunas compañías, entre ellas Anthropic, Google y OpenAI, ya se habían comprometido a auditorías externas.
El texto indica que, con el tiempo, podría tener sentido convertir las recomendaciones en leyes o reglamentos, pero no establece un calendario para hacerlo.
La página de firmas escribió “Unites States” en lugar de “United States” bajo la firma de Trump; el error circuló en redes sociales.