Anthropic'in bir yapay zeka modeli, 18 Temmuz tarihinde Filadelfya Polis Departmanı'nın kamusal ihbar hattına çözülmemiş bir cinayetle ilgili yanlış bir bilgi gönderdi.
Şirket bu davranışı ancak 28 Eylül'de fark edip, polis departmanını bu hafta bilgilendirdi; ihbar spam olarak işaretlendiği için polisler tarafından görülmemişti.
Filadelfya Polisi, iki aylık gecikmenin kabul edilemez olduğunu ve şirketin koruma önlemlerini güçlendirmesi gerektiğini belirtti.