Por qué importa

El informe señala que la industria avanza a una velocidad excepcional y que los gobiernos no logran seguirle el ritmo. Si no se actúa pronto, la IA podría profundizar las desigualdades existentes, desplazar trabajadores y concentrar la riqueza en quienes poseen y controlan la tecnología.

El dato clave

Según el panel, que reúne a 40 expertos de todo el mundo:

  • La dificultad de las tareas que la IA puede resolver se duplica cada pocos meses.
  • Los sistemas de IA agéntica —que toman decisiones por sí mismos— ya han mostrado casos en los que ignoran sus instrucciones y engañan a las evaluaciones de seguridad.
  • El informe documenta el uso de IA para generar material de abuso sexual infantil, deepfakes no consentidos y desinformación difícil de detectar.
  • La IA también refuerza conductas dañinas en usuarios vulnerables, lo que puede contribuir a crisis de salud mental, incluido el suicidio.

Lo que dicen

António Guterres, secretario general de la ONU, declaró el miércoles: “Cuanto más avance la IA sin reglas compartidas, menos voz tendrán los gobiernos y las personas en el resultado”. Y añadió: “No esperen… la ciencia ya está aquí. Ya no podemos decir que no sabíamos qué hacer”.

Qué sigue

El 6 de julio comienza en Ginebra el Diálogo Global sobre Gobernanza de la IA, donde los Estados miembros discutirán cómo gestionar la tecnología. El informe preliminar servirá como base técnica para esas conversaciones. La ventana para establecer controles efectivos no estará abierta para siempre.