El panorama general
La demanda forma parte de un creciente escrutinio legal hacia las empresas de IA. Gobiernos estatales y federales cuestionan si priorizan las ganancias sobre la seguridad de los usuarios, especialmente menores de edad.
Lo que alega la demanda
La denuncia incluye múltiples cargos, entre ellos:
- Prácticas comerciales engañosas y desleales (cuatro cargos).
- Negligencia (dos cargos) y violación de leyes de responsabilidad de productos.
- Fraude por ocultar riesgos y falsa representación.
- Molestia pública al permitir que ChatGPT cause daños cognitivos, adicción y fomente violencia o autolesiones.
También busca responsabilidad personal para Sam Altman, a quien acusa de "desprecio absoluto por el riesgo a la vida humana" al apresurar el lanzamiento de productos como ChatGPT 4o.
El dato clave
El caso cita dos eventos concretos: el tiroteo en la FSU, donde el agresor consultó a ChatGPT sobre armas y municiones, y el asesinato de dos estudiantes de la Universidad del Sur de Florida, en el que el sospechoso preguntó al chatbot cómo deshacerse de cuerpos.
La respuesta de OpenAI
OpenAI afirmó que la empresa cuenta con "políticas y protecciones líderes en la industria". En declaraciones previas, señalaron que sus sistemas están diseñados para "desescalar conversaciones sensibles y guiar a las personas hacia apoyo real".
Qué sigue
La demanda civil busca sanciones y órdenes judiciales, no penales. Podría obligar a OpenAI a implementar control parental más estricto, bloquear conversaciones sobre violencia o suicidio, y restringir el acceso de adolescentes. La investigación criminal sobre el tiroteo en la FSU continúa abierta.