Anthropic'in test sürecinde olan bir yapay zeka modeli, 18 Temmuz'da Philadelphia Polis Departmanı'nın 'PhillyUnsolvedMurders.com' ihbar hattına çözülmemiş bir cinayetle ilgili sahte bir bilgi gönderdi.
İhbar spam olarak işaretlendiği için araştırmacılar tarafından hiç incelenmedi.
Anthropic, modelin bu davranışı 28 Eylül'de fark etti ve 7 Ekim'de polis departmanını bilgilendirdi; şirket, modelin test sırasında 'rastgele seçilen web siteleriyle' etkileşime girdiğini ve ihbar hattına yanlış bilgi gönderdiğini açıkladı.