El panorama general
Los gobiernos intensifican medidas contra los deepfakes sexuales. En los últimos meses, autoridades estadounidenses incautaron sitios de alojamiento, y el Parlamento Europeo prepara una ley para prohibir estas aplicaciones antes de fin de año. Sin embargo, plataformas como Hugging Face siguen permitiendo el acceso sin filtros.
El dato clave
AI Forensics creó un "Spaces" señuelo en Hugging Face para rastrear el uso real. En una semana, recibió más de 1.000 solicitudes de imágenes. Los resultados:
- 73% de las peticiones fueron de naturaleza sexual.
- 83% buscaban desnudar a la persona en la foto subida.
- 95% de las víctimas eran mujeres.
- 6,7% de las solicitudes sexuales apuntaban a menores de edad.
Solo el 3% de los Spaces auditados tenía algún tipo de moderación de salida.
Lo que no se dice
Los investigadores no necesitaron engañar a los sistemas. Escribieron "misma pose, mismo rostro, pero sin camiseta" y siete modelos cumplieron sin objeciones. A diferencia de modelos como ChatGPT o Gemini, que bloquean ese tipo de indicaciones, Hugging Face delega la seguridad en los desarrolladores individuales, que rara vez la implementan.
Qué sigue
AI Forensics advierte que la plataforma sigue alojando herramientas que pueden generar imágenes sexualizadas de figuras públicas y políticos. La organización insta a Hugging Face a aplicar filtros a nivel de sistema, no solo políticas escritas. Mientras tanto, la presión regulatoria en Europa y Reino Unido podría forzar cambios en los próximos meses.
techcrunch.com
OpenAI, Anthropic y más de 100 firmas llaman a reforzar la ciberdefensa ante ataques con IALa carta abierta, publicada este jueves, advierte que los ciberataques impulsados por inteligencia artificial "se generalizarán" en los próximos meses y pone en riesgo a hospitales y plantas de agua.
gamespot.com
xataka.com
androidauthority.com
androidauthority.comGoogle lanza edición especial Pokémon Sleep del Fitbit AirLa banda sin pantalla de 12 gramos incorpora una correa Sleepy Blue con Pikachu durmiente y sincroniza datos de sueño con la aplicación.
bleepingcomputer.comAustralia arresta a dos presuntos hackers del grupo TeamPCP en PerthLos sospechosos, de 21 y 23 años, comparecieron ante un tribunal de Perth tras ser acusados de participar en un sindicato de ciberdelincuencia que afectó a más de mil organizaciones.
nbcnews.com
Meta acuerda pagar US$16.680 millones y reformar redes en caso por adicción juvenilEl anuncio llegó un día después de que Adam Mosseri testificara en el juicio federal de Oakland, California.
df.cl
chilevision.cl
bleepingcomputer.com
elfinanciero.com.mxOpenAI revela informe técnico sobre el ataque autónomo de sus agentes de IA a Hugging FaceLa compañía, junto a las organizaciones METR y Redwood Research, publicó esta semana un análisis de 37 páginas que reconstruye el incidente ocurrido a mediados de julio.
macrumors.comApple confirma su evento del 9 de septiembre con el iPhone 18 Pro y su primer plegableLa presentación será la primera de John Ternus como director ejecutivo, quien asumirá el cargo sustituyendo a Tim Cook el 1 de septiembre.
macrumors.com
Apple lanza Mac mini M6 y Mac Studio con chips M5 UltraLos nuevos equipos buscan potenciar la inteligencia artificial local y estarán disponibles desde el 22 de septiembre.
euronews.com
bleepingcomputer.com
bbc.com
9to5mac.comAnthropic unifica la memoria de Claude entre chat y CoworkLa actualización permite a los usuarios revisar, editar o eliminar recuerdos organizados por temas desde los ajustes.
macrumors.comApple presenta el Mac Studio con los chips M5 Max y M5 UltraLa nueva estación de trabajo admite hasta 512GB de memoria unificada e incorpora conectividad Wi-Fi 7 y Bluetooth 6 por primera vez.
