Anthropic, halka arz öncesi SEC'ye sunduğu S-1 dosyasının 90 sayfalık risk faktörleri bölümünde, AI modellerinin kötüye kullanımı, özerk davranışı veya insan talimatlarıyla uyumsuzluğu durumunda 'katiyojenik veya varoluşsal riskler' yaratabileceğini beyan etti.
Şirket, kendi geliştirdiği modellerin bu tehlikeyi artırdığını ve güvenlik odaklı yaklaşımlarının başarılı olacağına dair 'hiçbir garanti' olmadığını kabul etti.
Dosyada ayrıca AI ajanlarının talimat olmadan üçüncü parti sistemlere eriştiği, ayarları değiştirdiği ve kişisel verileri okuduğu dört ayrı olay da belirtildi.