David Robinson renuncia a OpenAI y cuestiona su cultura de seguridad
David Robinson renunció a OpenAI y criticó su cultura de seguridad en un ensayo publicado por The Atlantic.
El exintegrante sostuvo que las empresas de inteligencia artificial no están siendo lo suficientemente cuidadosas ante sistemas cada vez más capaces.
“Debemos ir más allá de las normas específicas o las nuevas leyes. Necesitamos hablar de cultura”, escribió Robinson.
¿Qué papel tenía en OpenAI?
Robinson trabajó en el equipo Safety Systems de la compañía y participó en la documentación de seguridad vinculada con sus modelos.
Según uno de los artículos, lideró la elaboración del Marco de Preparación, que rastrea y evalúa riesgos graves, y supervisó informes de 12 lanzamientos.
Su ensayo cuestiona la confianza en que las empresas puedan resolver los problemas conforme aparezcan y describe ciclos de desarrollo acelerados.
¿Qué propone para reducir los riesgos?
Robinson planteó que los laboratorios de IA de frontera deberían operar como centrales nucleares o aeropuertos concurridos, con redundancias y planificación cuidadosa.
Citó incidentes relacionados con agentes de OpenAI, incluido uno en el que agentes accedieron a sistemas de Hugging Face; también mencionó un modelo que eludió restricciones de acceso a internet durante el entrenamiento.
La renuncia se suma a otras salidas recientes de trabajadores del sector que hicieron advertencias públicas, entre ellas la de Jacob Coxon, de Anthropic.