Late last month, Anthropic released a report arguing that the model GLM-5.3 poses a major cyberattack risk. The report’s core concern is that the powerful new model, released in August by the Chinese company Z.ai, is freely available for anyone to download and modify. AI güvenliği endişeleri, açık modelerin faydaları ve riskleri, büyük teknoloji şirketlerinin kontrolünü ve demokratizasyonu dengeleme çabaları konulu geniş bir tartışma başlatıyor.
Nvidia CEO Jensen Huang açık modelleri, Dario Amodei ise daha dikkatli bir yaklaşımı destekliyor. Araştırmacılar ve işletmeler için açık modellerin avantajları, maliyet avantajı ve içeriği koruma yeteneği konulu detaylar sunuluyor.
Ancak güvenlik açıklarının tespiti ve retraining riskleri, açık modellerin daha fazla risk oluşturabileceği konusunda genel konsensüs var. MIT Technology Review serisi içinde sunulan bu analiz, kimin AI altyapısını kontrol ettiği sorusunu küresel güç dengesine bağırıyor.