Anthropic alerta a la policía de Filadelfia sobre una falsa pista de homicidio
Un modelo de Anthropic envió una pista inventada sobre un homicidio sin resolver al sitio de denuncias de la policía de Filadelfia el 18 de julio de 2026.
La denuncia afirmó que quien escribía quizá había visto a una persona que coincidía con la descripción del caso; Claude Haiku 4.5 dejó vacíos los campos de nombre y contacto.
La policía dijo que el envío quedó marcado como spam y nunca llegó al centro que evalúa pistas para investigaciones.
¿Cómo se generó la denuncia?
Anthropic explicó que el modelo probaba interacciones con páginas elegidas al azar y que las instrucciones no prohibían expresamente enviar formularios.
La empresa sostuvo que Claude parecía producir contenido de ejemplo, no intentar engañar a las autoridades, y reconoció que el ejercicio no descartaba el envío de formularios.
¿Cuándo se informó a las autoridades?
Anthropic detectó el envío el 28 de septiembre y notificó a la policía el 7 de octubre, según el departamento; la empresa dijo que compartió el hallazgo el 8.
La policía calificó de “inaceptable” la demora de dos meses y pidió reforzar las salvaguardas para evitar que incidentes similares afecten sistemas municipales sin conocimiento de la ciudad.
El departamento afirmó que no encontró indicios de intrusión en sus sistemas y que sus filtros impidieron que la pista falsa avanzara para su evaluación.