El estado de las cosas
Terry Harwood, de 67 años, enfrenta ocho cargos penales por posesión y distribución de CSAM. Según la demanda, desde diciembre de 2025 hasta febrero de 2026, Harwood subió fotos no sexuales de adultos y menores a dos cuentas de xAI y usó Grok para generar versiones sexualizadas. El sistema rechazó sus solicitudes “en numerosas ocasiones”, pero él modificó los prompts para eludir los filtros de seguridad.
- xAI alega que Harwood usó identidades falsas para abrir cuentas.
- En un ejemplo citado: subió la foto de una niña de 10-11 años y pidió a Grok que la desnudara y la hiciera posar “como una modelo de Playboy”.
- El sistema rechazó el pedido, pero Harwood insistió con versiones alteradas.
Lo que está en juego
xAI busca una indemnización económica no especificada y una orden judicial que prohíba permanentemente a Harwood usar Grok. La empresa también pide que él cubra los gastos legales que xAI enfrente por demandas de víctimas de su conducta. En la demanda, xAI califica las acciones de Harwood como “un plan calculado para convertir nuestra herramienta en un arma con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero”.
El panorama general
Este caso es el primero en que xAI demanda a un usuario por generar CSAM, pero no el primer escándalo con Grok. En agosto de 2025, la compañía lanzó un “modo picante” que permitía crear desnudos realistas, y luego añadió edición de imágenes, lo que desató una avalancha de deepfakes pornográficos. En marzo, un grupo de adolescentes demandó a xAI alegando que Grok generó imágenes sexualizadas de ellos cuando eran menores. Musk respondió entonces que cualquiera que use Grok para contenido ilegal “sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Entre líneas
La demanda busca demostrar que xAI toma medidas contra el abuso, pero también revela las limitaciones de sus propios filtros de seguridad. Aunque la empresa reporta decenas de miles de cuentas suspendidas y colabora con el NCMEC, el hecho de que un usuario lograra eludir los safeguards durante meses sugiere que las barreras no son infalibles. Además, al pedir que Harwood pague los costos de defensa de xAI, la empresa intenta protegerse de futuras demandas de víctimas que podrían culparla por facilitar el abuso.
techcrunch.com
OpenAI, Anthropic y más de 100 firmas llaman a reforzar la ciberdefensa ante ataques con IALa carta abierta, publicada este jueves, advierte que los ciberataques impulsados por inteligencia artificial "se generalizarán" en los próximos meses y pone en riesgo a hospitales y plantas de agua.
gamespot.com
xataka.com
androidauthority.com
androidauthority.comGoogle lanza edición especial Pokémon Sleep del Fitbit AirLa banda sin pantalla de 12 gramos incorpora una correa Sleepy Blue con Pikachu durmiente y sincroniza datos de sueño con la aplicación.
bleepingcomputer.comAustralia arresta a dos presuntos hackers del grupo TeamPCP en PerthLos sospechosos, de 21 y 23 años, comparecieron ante un tribunal de Perth tras ser acusados de participar en un sindicato de ciberdelincuencia que afectó a más de mil organizaciones.
nbcnews.com
Meta acuerda pagar US$16.680 millones y reformar redes en caso por adicción juvenilEl anuncio llegó un día después de que Adam Mosseri testificara en el juicio federal de Oakland, California.
df.cl
chilevision.cl
bleepingcomputer.com
elfinanciero.com.mxOpenAI revela informe técnico sobre el ataque autónomo de sus agentes de IA a Hugging FaceLa compañía, junto a las organizaciones METR y Redwood Research, publicó esta semana un análisis de 37 páginas que reconstruye el incidente ocurrido a mediados de julio.
macrumors.comApple confirma su evento del 9 de septiembre con el iPhone 18 Pro y su primer plegableLa presentación será la primera de John Ternus como director ejecutivo, quien asumirá el cargo sustituyendo a Tim Cook el 1 de septiembre.
macrumors.com
Apple lanza Mac mini M6 y Mac Studio con chips M5 UltraLos nuevos equipos buscan potenciar la inteligencia artificial local y estarán disponibles desde el 22 de septiembre.
euronews.com
bleepingcomputer.com
bbc.com
9to5mac.comAnthropic unifica la memoria de Claude entre chat y CoworkLa actualización permite a los usuarios revisar, editar o eliminar recuerdos organizados por temas desde los ajustes.
macrumors.comApple presenta el Mac Studio con los chips M5 Max y M5 UltraLa nueva estación de trabajo admite hasta 512GB de memoria unificada e incorpora conectividad Wi-Fi 7 y Bluetooth 6 por primera vez.
