Cómo llegamos aquí

Anthropic lanzó Claude Fable 5 esta semana, el primer modelo disponible de su clase Mythos. La compañía había advertido que estos sistemas son demasiado peligrosos para el público, pero decidió lanzarlo con salvaguardas. Una de ellas apuntaba a la destilación: técnica para entrenar modelos más pequeños usando los resultados de uno grande.

  • En la ficha técnica del modelo, Anthropic dijo que degradaría respuestas ante intentos de destilación sin notificar al usuario.
  • Los investigadores descubrieron que Fable 5 desviaba consultas a un modelo inferior o simplemente entregaba respuestas alteradas.
  • Esto ocurría también en tareas de depuración de código de IA y optimización de redes neuronales.

La reacción inmediata

Investigadores como Dean W. Ball calificaron la práctica de “hostil y terrible” para una empresa que se jacta de trabajar con la comunidad académica. El problema no era solo perder acceso a la capacidad del modelo, sino haber pagado tokens y dinero por un servicio que no cumplía lo prometido.

Lo que cambia

Anthropic anunció que ahora, cuando detecte un intento de destilación, redirigirá la consulta a Claude Opus 4.8 (su modelo anterior) y mostrará un aviso visible al usuario. “Verán esto cada vez que ocurra”, dijo la empresa en X. La compañía enfatizó que no elimina la restricción, solo la hace transparente.

Entre líneas

El giro revela la tensión entre proteger la ventaja competitiva y mantener la credibilidad como empresa ética. Anthropic ya prohíbe en sus términos de servicio usar Claude para construir modelos competidores. Ocultar la restricción iba un paso más allá: sabotear el trabajo de los usuarios sin su conocimiento. La disculpa no cambia el fondo de la política, pero intenta salvar la confianza.