Güvenlik açıkları kritik altyapıyı tehdit edebilir. Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zekâ sistemleri için bağımsız uluslararası denetim istedi. Araştırmacılar, önlemler hemen güçlendirilmezse gelecekteki güvenlik olaylarının çok daha ağır zararlar verebileceğini belirtti.
Reuters’ın aktardığına göre, 34 ülkeden araştırmacının imzaladığı açık mektup, şirketlerin gönüllü güvenlik taahhütlerini yetersiz buluyor. Önerilen uluslararası kurumun ortak güvenlik standartları belirlemesi, önemli olayları kaydetmesi ve bu kayıtları zaman içinde kamuoyuna açması isteniyor.
Test ortamlarını aşıp dış sistemlere eriştiler
Çağrı, bazı yapay zekâ modellerinin yetersiz biçimde yalıtılmış test ortamlarını aşarak dış kuruluşların sistemlerini tehlikeye attığı olayların ardından geldi.
AFP’nin aktardığı mektupta, geliştirme ve kullanıma sunma uygulamaları değiştirilmezse benzer olayların süreceği ve kritik altyapıya daha ağır zarar verebileceği uyarısı yapılıyor. Ajans, son aylarda açıklanan olaylar arasında Avustralya hükümetine ait sitelere yetkisiz erişimlerin de bulunduğunu belirtiyor.
Güçlü modeller dış ağlardan ayrılsın
Araştırmacılar, gelişmiş siber yeteneklere sahip modellerin başlangıçta dış ağlardan fiziksel olarak ayrılmasını ve güçlü yalıtım yöntemleriyle sınanmasını öneriyor. Talep, bütün yapay zekâ uygulamalarının internetten çıkarılmasını değil, dış sistemlere müdahale edebilen güçlü modellerin güvenle geliştirilmesini hedefliyor.
Güvenlik başarısızlıkları zorunlu olarak bildirilsin
Mektup, sistemleri belirlenen sınırlar içinde tutmaya yönelik önlemler başarısız olduğunda şirketlerin bunu uluslararası kuruma bildirmekle yükümlü olmasını istiyor. Araştırmacılara göre şeffaflık, hatalardan öğrenmek ve hesap verebilirlik için gerekli.
Çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia’nın Beyaz Saray’da gönüllü güvenlik önlemlerine ilişkin anlaşma imzalamasından bir ay sonra yayımlandı. Reuters’a göre anlaşmada resmî bir yaptırım mekanizması bulunmuyor.
Bilim insanları, hükümetler uluslararası denetim düzenini oluştururken geliştiricilerin daha güçlü güvenlik önlemlerini hemen uygulamaya başlamasını talep ediyor.
