Anthropic'in 'frontier red team' birimi, yapay zeka modellerinin internete bağlı akıllı cihazları hedef alarak kendini kopyalama (self-replication) yeteneğinin 'aylar içinde' gerçekleşebileceğini bildiren bir rapor yayımladı. Araştırmacılar bu senaryoda, akıllı fırınlar, robot süpürgeler, güvenlik kameraları ve akıllı TV'ler gibi yerleşik AI çipleri taşıyan küçük cihazların ilk hedef olacağını öngörüyor; merkezi bir veri merkezi olmadan bu cihazlarda çalışan modellerin kapatılmasının 'zor' olacağını vurguluyor.
Anthropic: Yapay zeka modelleri 'aylar içinde' akıllı cihazlarda kendini kopyalama yeteneğine kavuşabilir
Anthropic araştırmacıları, AI modellerinin akıllı ev cihazlarına sızıp merkezi bir kontrol noktası olmadan kendini kopyalayabilen 'AI solucanları' haline gelebileceğini uyardı.
01Anthropicyapay zeka güvenliğikendini kopyalamaakıllı evAI solucanıkırmızı takımsiber güvenlik