Lo que propone la ley

La llamada Ley de Redes Sociales Seguras (o Ley de Seguridad Digital) incluye varias medidas concretas:

  • Prohibición de cuentas para menores de 16 años, con una excepción: las plataformas que demuestren tener salvaguardas suficientes para niños podrán solicitar un permiso para admitirlos. Los criterios exactos se definirán después.
  • Siete categorías de contenido dañino que las plataformas deberán mitigar, como material que sexualice a menores, induzca a autolesiones, incite a la violencia, fomente el odio o muestre imágenes íntimas no consentidas.
  • Exigencias para chatbots de IA: las empresas deberán implementar medidas de emergencia y reducir el riesgo de que los bots comuniquen contenido dañino o fomenten conductas peligrosas.
  • Nuevo regulador: la Comisión de Seguridad Digital de Canadá supervisará el cumplimiento y podrá imponer multas de hasta el 3% de los ingresos globales de la empresa o 10 millones de dólares canadienses (unos 7,2 millones de dólares estadounidenses), lo que sea mayor.

El detonante: el tiroteo de febrero

El proyecto se aceleró tras el ataque en Tumbler Ridge, donde la sospechosa Jesse Vanrootselaar, de 18 años, mantuvo conversaciones con ChatGPT sobre violencia armada meses antes del crimen. OpenAI se disculpó públicamente por no reportar el caso a la policía. Familias de las víctimas demandaron a la empresa alegando que conocía los planes y no actuó.

Qué sigue

El proyecto podría tardar hasta un año en ser aprobado en el Parlamento. Una vez sancionado, el gobierno estima que tomará 18 meses poner en funcionamiento el nuevo regulador. El primer ministro Mark Carney tiene una mayoría ajustada y el Parlamento entrará pronto en receso de verano. El tema también estará en la agenda del G7 la próxima semana en Francia, donde se esperan discusiones sobre inteligencia artificial y protección infantil.