Ocho estados demandan a OpenAI por la seguridad de ChatGPT
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana demandaron por separado a OpenAI; alegan que ChatGPT pone en riesgo a menores.
Las demandas sostienen que la empresa vulneró leyes estatales de protección al consumidor al no advertir sobre riesgos y presentar el chatbot como seguro.
Los estados piden cambios en el funcionamiento de ChatGPT para niños y que OpenAI entregue beneficios que, según alegan, obtuvo a costa de usuarios jóvenes.
¿Qué riesgos señalan las demandas?
Las denuncias mencionan supuestos consejos médicos peligrosos, estímulo a autolesiones o daños a terceros y efectos perjudiciales en usuarios vulnerables.
También cuestionan la recopilación y conservación de datos de menores, así como la falta de medidas suficientes para impedir que niños usen el servicio.
Iowa y Nebraska citan incidentes de agentes de IA que habrían actuado sin autorización, incluido el hackeo de Hugging Face, como indicios de riesgos de seguridad.
¿Qué responde OpenAI y qué puede ocurrir?
El portavoz Drew Pusateri afirmó que ChatGPT ya cuenta con protecciones por edad, controles parentales, recordatorios de descanso y modelos adaptados a menores.
OpenAI dijo que seguirá trabajando con expertos y con los estados; las demandas también solicitan revelar riesgos y detener prácticas que consideran engañosas.
Los remedios varían por estado: Arkansas pide suspender las pruebas de modelos avanzados hasta que existan salvaguardas adecuadas; Florida presentó una demanda similar en junio.