Investigadores advierten sobre una posible explosión de inteligencia artificial
Más de 20 investigadores, entre ellos Geoffrey Hinton y Yoshua Bengio, alertan de que la automatización de la investigación en IA podría acelerar drásticamente su desarrollo.
El informe describe una posible «explosión de inteligencia»: avances que normalmente tomarían años podrían concentrarse en meses o menos.
Los autores piden a los gobiernos mayor visibilidad sobre cómo se automatiza la investigación en IA, antes de que el progreso se vuelva difícil de controlar.
¿Qué proceso preocupa a los investigadores?
La advertencia se centra en que sistemas de IA lleguen a mejorar la propia tecnología sin intervención humana, mediante investigación y desarrollo automatizados.
Según el informe, la IA ya escribe gran parte del código en las empresas que la desarrollan y podría automatizar todo el proceso de investigación en unos años.
Si alcanza capacidades expertas en investigación de IA, un solo desarrollador podría dirigir una fuerza de trabajo equivalente a «millones» de investigadores humanos destacados.
¿Qué riesgos plantea el informe?
Los autores advierten que una aceleración así podría debilitar el control humano sobre sistemas de IA y erosionar contrapesos de poder entre países, empresas y ramas de gobierno.
El informe, titulado What if automating AI R&D triggers an intelligence explosion, fue elaborado por más de 20 personas, incluidos Jack Clark, de Anthropic, y Jakub Pachocki, científico jefe de OpenAI.
Los autores reconocen que existe incertidumbre sobre si la automatización desencadenará esa aceleración, pero instan a los responsables políticos a prepararse.