ABD Başkanı Donald Trump, dünyanın en güçlü yapay zekâ şirketleriyle gönüllü bir güvenlik anlaşmasına imza attı. OpenAI, Anthropic, Google, Meta, Nvidia ve xAI gibi şirketlerin kendi teknolojilerini büyük ölçüde kendilerinin denetlemesini öngören anlaşmanın yasal yaptırımı yok. Trump ise belgeyi “ahlaken bağlayıcı” ilan etti.
Dünyanın en güçlü yapay zekâ sistemlerinin nasıl denetleneceğine ilişkin tartışmalar sürerken ABD yönetimi tercihini büyük ölçüde şirketlerin kendi kendilerini denetlemesinden yana yaptı.
Donald Trump, 29 Eylül’de Beyaz Saray’da yapay zekâ ve teknoloji sektörünün önde gelen yöneticileriyle bir araya geldi. Toplantının ardından Google, Meta, OpenAI, Nvidia, Anthropic ve xAI yöneticilerinin de aralarında bulunduğu isimler, ileri yapay zekâ sistemlerinin güvenliğine ilişkin gönüllü bir anlaşmaya imza attı.
Yasal yaptırım yerine “ahlaki” bağlayıcılık
Anlaşma, ileri yapay zekâ modelleri geliştiren şirketlerin güçlü iç denetim mekanizmaları kurmasını, risk değerlendirmeleri yapmasını ve bağımsız dış denetçilerle çalışmasını öngörüyor.
Ancak kritik nokta şu: Bunlar yasal olarak bağlayıcı yükümlülükler değil.
Trump’a anlaşmanın bağlayıcı olup olmadığı sorulduğunda, “Bence ahlaken bağlayıcı” yanıtını verdi. Belgeyi bir tür “anayasa”ya benzeten Trump, şirketlerin kendilerini denetleyeceğini söyledi.
Böylece ekonomik çıkarları yapay zekâ yarışında daha güçlü modeller geliştirmeye ve bunları hızla piyasaya sürmeye bağlı şirketlerden, aynı yarışın doğurduğu tehlikelerin başlıca denetçileri olmaları da bekleniyor.
Şirketler hem yarışacak hem kendilerini denetleyecek
Anlaşmanın temel çelişkisi burada ortaya çıkıyor.
Yapay zekâ şirketleri yüz milyarlarca dolarlık yatırımların söz konusu olduğu küresel bir yarışın içinde. Aynı şirketlerin yöneticileri son dönemde giderek daha güçlü AI sistemlerinin siber güvenlikten biyolojik tehditlere ve insan kontrolünün kaybedilmesine kadar ciddi riskler yaratabileceği konusunda uyarılarda bulunuyor.
Buna rağmen ABD yönetiminin ortaya koyduğu model, güçlü ve bağlayıcı bir kamusal düzenleme yerine şirketlerin iç kontrollerine, dış denetçilere ve gönüllü taahhütlerine ağırlık veriyor.
Üstelik anlaşmadaki risk değerlendirmesi, iç kontrol ve dış denetim gibi bazı uygulamalar büyük AI şirketlerinin zaten çeşitli biçimlerde kullandığı yöntemler.
Trump yapay zekâ yarışını yavaşlatmak istemiyor
Trump’ın yaklaşımının arkasında ABD ile Çin arasındaki teknoloji rekabeti de bulunuyor. ABD Başkanı daha önce yapay zekâya yönelik yeni düzenlemelere mesafeli durmuş ve küresel AI denetimi girişimlerine karşı çıkmıştı.
29 Eylül’deki toplantının ardından da yapay zekâ sektörünün kendisini denetleyebileceğini savundu.
Trump yönetimi ileride yaklaşık 10 kişilik bir denetim komitesi oluşturulabileceğini de açıkladı. Anlaşmanın metni, gönüllü önlemlerin gelecekte yasa veya düzenlemelere dönüştürülebilmesine kapıyı tamamen kapatmıyor.
Ancak şimdilik dünyanın en hızlı gelişen ve kendi yöneticilerinin bile ciddi riskler taşıyabileceğini söylediği teknolojilerden birinin denetiminde yasal zorunlulukların yerini büyük ölçüde şirketlerin verdiği sözler alıyor.
Ve Trump bu sözlerin güvencesini tek kelimeyle açıklıyor: “Ahlak.”
