Investigadores de IA alertan sobre una posible explosión de inteligencia
Geoffrey Hinton y Yoshua Bengio, dos figuras clave de la inteligencia artificial, instan a los gobiernos a prepararse para una posible aceleración descontrolada del progreso.
Un informe firmado por más de 20 autores advierte que sistemas capaces de desarrollar IA podrían comprimir en meses avances que normalmente tomarían años.
Los autores consideran que la automatización de la investigación y el desarrollo de IA es la vía más probable hacia esa aceleración.
¿Qué riesgo describen los investigadores?
El proceso, denominado mejora recursiva, permitiría que sistemas de IA mejoraran sus propias capacidades sin intervención humana.
Si alcanzan nivel experto en investigación de IA, un solo desarrollador podría dirigir una fuerza de trabajo equivalente a «millones» de investigadores humanos de primer nivel.
¿Qué consecuencias temen?
El informe advierte que la aceleración podría amenazar el control humano sobre los sistemas y debilitar los contrapesos al poder en gobiernos y empresas.
Entre los autores figuran Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI; el documento pide a los políticos actuar antes de que avance el proceso.