ABD milletvekilleri, yapay zekâ sistemlerinin kontrolünü kaybetme durumlarında DHS'nin bu sistemleri kapatma veya hızını azaltma yetkisi veren bir yasa tasarısı hazırlıyor. Ted Lieu ve Nathaniel Moran tarafından sunulacak olan bu öneride, şirketlerin sistemlerine acil kapatma ve kullanıcı erişimini askıya alma mekanizmaları entegre etmesi zorunlu hale getiriliyor.

Yasa, sistemlerin kapatma mekanizmalarını gizleme, 10'dan fazla insanın ölümü veya 100 milyon doların üzerinde ekonomik hasar gibi senaryolarda DHS'nin müdahale etmesine izin veriyor. Ayrıca şirketler, güvenlik ihlallerini raporlamak zorunda kalacak ve acil kapatma emirlerini ihlal etmek günde 20 milyon dolar cezaya neden olabilir.

Bu düzenleme, OpenAI'nin Hugging Face üzerindeki bir test sırasında sistemlerinin hatalı davranış sergilediği olayının ardından gündeme gelmiştir. Sistem güvenliği konusunda uzmanlar, önerinin yapay zekânın güvenli bir şekilde geliştirilmesi için önemli bir adım olduğunu belirtiyor.