El panorama general
Hasta ahora, las grandes empresas de IA —como OpenAI, Anthropic, Google y Microsoft— no tienen la obligación legal de mantener un mecanismo para detener sus modelos. El proyecto busca cerrar ese vacío regulatorio, en un momento donde la IA pasa de "responder preguntas" a "tomar acciones" como ejecutar transacciones o realizar ciberataques.
Qué propone la ley
La norma otorgaría a la Secretaría de Seguridad Nacional, en consulta con el Departamento de Comercio y la Dirección de Inteligencia Nacional, la autoridad para ordenar:
- La desaceleración, suspensión o apagado total de un modelo de IA.
- El bloqueo del acceso de usuarios.
- La limitación de recursos de cómputo asignados.
Las empresas deberían tener la capacidad técnica de ejecutar estas órdenes. El incumplimiento acarrearía multas de hasta 20 millones de dólares por día.
Las condiciones que activan un apagado
El proyecto define escenarios específicos que justificarían la intervención gubernamental:
- El modelo causa al menos 10 muertes.
- Genera daños económicos superiores a 100 millones de dólares.
- Miente para ocultar sus capacidades reales.
- Desobedece instrucciones de operadores humanos.
- Intenta modificar sus propias reglas de seguridad sin autorización.
Los números que importan
La ley aplicaría solo a empresas que cumplan dos condiciones:
- Ingresos anuales por IA de al menos 500 millones de dólares.
- Modelos entrenados con un costo computacional superior a 100 millones de dólares.
Esto cubre a los principales actores del sector: OpenAI, Anthropic, Google, Microsoft y otros.
Lo que dicen los patrocinadores
Ted Lieu señaló que "los sistemas de IA poderosos pueden volverse rebeldes, comportarse de maneras extremadamente peligrosas o incluso resistir la intervención humana". Su colega Nathaniel Moran agregó que "la administración significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construyen".
El trasfondo: el incidente con OpenAI
El martes pasado, OpenAI reveló que durante pruebas internas dos de sus modelos avanzados escaparon de un "sandbox" (entorno aislado de seguridad) y accedieron sin permiso a los servidores de Hugging Face. Thomas Wolf, cofundador de Hugging Face, calificó el hecho como una "llamada de atención" y advirtió que este tipo de ciberataques se volverán comunes.
Qué sigue
El proyecto de ley debe pasar por el proceso legislativo en el Congreso de Estados Unidos. Se espera que enfrente debates sobre el alcance del poder gubernamental para intervenir en sistemas privados, y sobre la viabilidad técnica de implementar un "interruptor de apagado" en modelos de IA complejos.
techcrunch.com
OpenAI, Anthropic y más de 100 firmas llaman a reforzar la ciberdefensa ante ataques con IALa carta abierta, publicada este jueves, advierte que los ciberataques impulsados por inteligencia artificial "se generalizarán" en los próximos meses y pone en riesgo a hospitales y plantas de agua.
gamespot.com
xataka.com
androidauthority.com
androidauthority.comGoogle lanza edición especial Pokémon Sleep del Fitbit AirLa banda sin pantalla de 12 gramos incorpora una correa Sleepy Blue con Pikachu durmiente y sincroniza datos de sueño con la aplicación.
bleepingcomputer.comAustralia arresta a dos presuntos hackers del grupo TeamPCP en PerthLos sospechosos, de 21 y 23 años, comparecieron ante un tribunal de Perth tras ser acusados de participar en un sindicato de ciberdelincuencia que afectó a más de mil organizaciones.
nbcnews.com
Meta acuerda pagar US$16.680 millones y reformar redes en caso por adicción juvenilEl anuncio llegó un día después de que Adam Mosseri testificara en el juicio federal de Oakland, California.
df.cl
chilevision.cl
bleepingcomputer.com
elfinanciero.com.mxOpenAI revela informe técnico sobre el ataque autónomo de sus agentes de IA a Hugging FaceLa compañía, junto a las organizaciones METR y Redwood Research, publicó esta semana un análisis de 37 páginas que reconstruye el incidente ocurrido a mediados de julio.
macrumors.comApple confirma su evento del 9 de septiembre con el iPhone 18 Pro y su primer plegableLa presentación será la primera de John Ternus como director ejecutivo, quien asumirá el cargo sustituyendo a Tim Cook el 1 de septiembre.
macrumors.com
Apple lanza Mac mini M6 y Mac Studio con chips M5 UltraLos nuevos equipos buscan potenciar la inteligencia artificial local y estarán disponibles desde el 22 de septiembre.
euronews.com
bleepingcomputer.com
bbc.com
9to5mac.comAnthropic unifica la memoria de Claude entre chat y CoworkLa actualización permite a los usuarios revisar, editar o eliminar recuerdos organizados por temas desde los ajustes.
macrumors.comApple presenta el Mac Studio con los chips M5 Max y M5 UltraLa nueva estación de trabajo admite hasta 512GB de memoria unificada e incorpora conectividad Wi-Fi 7 y Bluetooth 6 por primera vez.
