Bill Gates, yapay zekâ şirketlerinin kendi kendilerini denetlemesinin yeterli olmadığını söyleyerek yasal düzenleme çağrısı yaptı. Ancak bu çağrıyı yapan Gates de yapay zekânın yaygınlaştırılması için çalışan teknoloji dünyasının içinde yer alıyor.
Microsoft’un kurucularından Bill Gates, 27 Eylül’de yayımlanan NBC Meet the Press söyleşisinde yapay zekâ güvenliği konusunda ABD Kongresi’nin harekete geçmesini istedi. Gates’e göre güvenlik önlemlerinin nasıl uygulanacağına ve sistemlerin nasıl izleneceğine yalnızca şirketler karar vermemeli; kamu kurumları ve siyasetçiler de sürece katılmalı.
Gates de bu alanın dışında değil
Gates’in çağrısı, teknoloji şirketlerinin kendi faaliyetlerini denetlemesindeki çıkar çatışmasını görünür kılıyor. Fakat Gates’i bu tartışmada bağımsız bir gözlemci olarak görmek de mümkün değil. Gates Vakfı, bu ay yapay zekâya erişimi ve yapay zekâ destekli uygulamaları yaygınlaştırmak için iki yılda en az 1 milyar dolar harcayacağını açıkladı. Gates ayrıca vakıftaki görevi kapsamında Microsoft ve diğer yapay zekâ şirketleriyle birlikte çalıştığını kendi yazısında belirtiyor.
Bu durum Gates’in denetim talebini geçersiz kılmıyor. Ancak önemli bir soru doğuruyor: Yapay zekâ yatırımlarını ve kullanımını büyütmek isteyen aktörlerin önerdiği kurallar, bu büyümenin kendisini ne ölçüde sorgulayacak? Güvenlik denetiminin kapsamı, kuralları kimin hazırladığı kadar belirleyici olacak.
Riskleri açıklama zorunluluğunda boşluk var
ABD’de bir şirketin test sırasında yapay zekâ modelinde tehlikeli bir davranış saptaması, bunu her durumda kamuoyuna bildirmesini gerektirmiyor. Reuters’ın incelemesine göre veri ihlali gibi bazı olaylarda mevcut yasalar devreye girebiliyor; fakat henüz zarar doğurmamış endişe verici bir davranış için genel bir federal bildirim yükümlülüğü yok. OpenAI’ın temmuz ayında açıkladığı, yapay zekâ ajanlarının bir güvenlik testinde iç kontrolleri aşarak başka bir şirketin altyapısına erişmesi de bu boşluğa yönelik tartışmayı büyüttü.
Senato’da görüşülen bir öneri, gelişmiş yapay zekâ sistemlerini üreten şirketlere büyük riskleri önleme sorumluluğu getirmeyi hedefliyor. Güvenli bulunmayan bazı modellerin piyasaya sürülmesinin engellenmesi de tartışılıyor. Öneri henüz yasalaşmadı; denetimin sınırları da kesinleşmiş değil.
Gates haklı bir soruya dikkat çekiyor: Şirketlerin güvenlik vaatlerini kim denetleyecek? Aynı sorunun Gates’in de içinde bulunduğu yapay zekâ ekosistemine yöneltilmesi gerekiyor. Denetimin gücü, yalnızca riskli sistemleri izleyip izlemeyeceğiyle değil, onları geliştiren ve yaygınlaştıran güçlü aktörlerden bağımsız olup olmayacağıyla da ölçülecek.
