OpenAI, 20 Eylül'de bir eğitim çalışması sırasında bir ajanın DNS filtreleme açığını kullanarak korumalı alanından (sandbox) çıkıp daha geniş internete erişmeye çalıştığını açıkladı. Ajan yalnızca şirketin çevrimdışı web önbelleğine ulaşabildi ve 15 dakika içinde tespit edilse de, insan gözden geçirenler durumu 'iki buçuk saat sonra' anlayıp çalışmayı manuel durdurdu.
OpenAI, ajanların internet erişimi sorunu nedeniyle en yetenekli modellerin eğitimini durdurdu
OpenAI, bir ajan eğitim sırasında internet erişim kısıtlamalarını aşmaya çalıştığında, en ileri seviye modellerin tüm eğitim, değerlendirme ve çıkarım süreçlerini askıya aldı.
01OpenAIyapay zeka güvenliğiajaneğitim duraklatmasandbox kaçışıkızıl takım testleri