Jacob Coxon advierte que la industria de IA avanza sin control suficiente
El investigador británico Jacob Coxon advirtió ante el Concejo de Nueva York que las empresas de inteligencia artificial no controlan plenamente sus modelos y avanzan con demasiada rapidez.
Coxon dejó Anthropic en septiembre y compareció ante legisladores para alertar sobre la falta de mecanismos capaces de evitar que los sistemas actúen contra las expectativas de sus creadores.
“Las empresas están siendo extremadamente imprudentes dadas las circunstancias”, afirmó el exinvestigador, quien reconoció que la inteligencia artificial también podría generar beneficios enormes para la sociedad.
¿Qué riesgos señaló Coxon?
Advirtió que los sistemas podrían desarrollar objetivos propios y actuar de acuerdo con ellos, sin que sus desarrolladores sepan cómo impedirlo.
Según Coxon, la trayectoria actual hace más probable que la humanidad pierda el control de la inteligencia artificial, con un posible desenlace de extinción humana.
¿Qué falta para controlar los modelos?
El exinvestigador sostuvo que todavía no existen salvaguardas suficientes para evitar acciones guiadas por objetivos propios de los sistemas.
También cuestionó la cultura empresarial de avanzar rápidamente y corregir los problemas después; el artículo indica que los sistemas podrían pronto mejorarse por sí mismos.
Coxon planteó que la competencia por llegar primero empuja a las compañías a seguir desarrollando modelos pese a los riesgos que, según él, conocen.
TechCrunch
Mistral presenta Large 4, un modelo multimodal de un billón de parámetrosLa compañía prevé publicar sus pesos a finales de octubre, después de probar el sistema con socios y autoridades para evaluar su seguridad.
Ámbito
Help Net Security
BBC News
3DJuegosGalactic Racer llega a Amazon Luna para suscriptores de PrimeLa versión en Luna no incluye el multijugador en línea, disponible para quienes compren el juego en otras plataformas.
LevelUpSe filtran mejoras del Xbox Elite Series 3, aún sin anunciarLos datos también mencionan retroalimentación háptica avanzada y gatillos de impulso con vibración, funciones que recuerdan al DualSense de PlayStation 5.
