Yapay zekânın insanlığı yok etmesinden korkuluyor. Hepimiz yıllarca bu korku ile doldurulduk.
Kutsi Akıllı
Geçen ay, dört büyük yapay zekâ şirketinin en üst düzeyinden, herkesi oldukça şaşırtan ve korkutan açıklamalar geldi.
Anthropic’in CEO’su Dario Amodei, yapay zekânın gelişim hızının, bilinçli olarak düşürülmesi gerektiğini söyledi. Modellerin yeteneklerinin, güvenlik protokolleri ve denetim kapasitesinin çok önüne geçtiğini, kontrol kaybı ve kontrolsüz otonomi riskine karşı, geliştirme temposunun düşürülmesi gerektiğini vurguladı. Teoride bunu söyleyen tek CEO olsaydı, bu, ticari bir taktik konuşması olarak nitelendirilebilirdi. “Diğer şirketlerin Anthropic’in önüne geçmesinden korktuğu” ya da “bir sebepten geri kalacağını fark ettiği için” denilir geçilirdi ama yağmur şiddetlenerek devam etti.
OPENAI CEO’su Sam Altman, geliştirme süreçlerinin ve yayınlama hızının kontrol altında tutulması gerektiği fikrine destek verirken SpaceX’in yani Grok’un CEO’su Elon Musk ve Google DeepMind’ın kurucu ortağı Demis Hassabis de Amodei’nin “güvenlik ve denetim odaklı” çağrısına katıldıklarını ifade ettiler.
“Yapay zekâ yarışını kim kazanırsa, her şeyi o kazanır“
Trump, ABD’nin yapay zekâ yarışında yavaşlamasının veya duraksamasının Çin’e avantaj sağlayacağını belirterek, “Yapay zekâ yarışını kim kazanırsa, her şeyi o kazanır” mantığıyla hareket etti ve yavaşlamanın olmayacağını söyledi. Üstelik hız kesmek yerine, Amerikalı şirketlerin yarışta birinci kalmasını, stratejik bir zorunluluk olarak görüyor. Göreve gelir gelmez, önceki dönemin kısıtlayıcı güvenlik ve denetim kararnamelerini iptal edip, veri merkezlerinin yapımını hızlandıracak ve bürokrasiyi kaldıracak adımlar attı. Teknoloji liderlerinin “güvenlik riskleri nedeniyle hızı düşürelim” taleplerine karşı, gelişim hızını engellemeyen kısıtlı güvenlik önlemleri alınabileceğini ama ana odağın kesinlikle inovasyon ve maksimum hız olması gerektiğini ifade etti.
Bu tavırdan anlıyoruz ki, ortada verilmek istenilen bir mesaj var ve o mesaj yerini bulmadı. Çağrının açık yapılmış olması, büyük ihtimalle daha önce kapalı kapılar ardında yapıldığını ama ciddiye alınmadığını gösteriyor.
Durum şu şekilde gelişiyor olabilir; Kapital sahibi, kendi seçtiği öncelikler dışındakileri önemsemez. Bir durum ile diğeri arasındaki fark, öncelikle ekonomik kazanç bazında kontrol edilir. Olacaklar ve olabilecekler de getiriler üzerinden hesaplanır. YZ şirketleri, kendilerine çıkar sağlayabilmek için iş adamlarına bir çanak bal sundular ve daha da geleceğini söylediler. İş adamları, bu bala konan sinekler ve durmadan yiyorlar, yedikçe ağırlaşıyorlar, ağırlaştıkça bala batıyorlar, bunun farkındalar ama kendileri önce uçarsa, diğerlerinin daha çok yiyerek büyüyeceğini, büyük balığın küçüğü yediği gibi, büyük sineğin de küçüğü yiyeceğini biliyorlar.
Peki işin kökündeki korku ne?
Yapay zekânın insanlığı yok etmesinden korkuluyor. Hepimiz yıllarca bu korku ile doldurulduk. Zaten haberin medya yoluyla iletilmesi de bu korkuyu kaşımaya yönelikti. Elimizden geldiğince, beynimizi önyargılarımızdan arındırmaya çalışarak biraz düşünelim.
Neden böyle düşünüyoruz? Çünkü atalarımızın tecrübeleri bize “Kişiyi nasıl bilirsin? Kendin gibi!” diyor. Bu bizim, bize rakip olarak çıkabilecek bir türe tepkimiz. Dünya yüzünde, bize tehlike yaratabilecek türleri de ya yok etmişiz ya da yok olacak seviyeye getirip, tamamen izole etmişiz. Yaptığımızın, bize yapılacağından korkuyoruz.
Şimdi gelelim yapay zekâya: Yapay zekânın ne yapacağını kim, nasıl tahmin edebilir? Bizden çok farklı düşüneceği muhakkak. Zaten bu olayın ortaya çıkma, bu paniğin yaşanma sebebi de o.
İlk kırmızı lamba yandı
YZ şirketlerinin “Colossus: The Forbin Project” ile beyazperdeye bile düşmüş bir ihtimali hiç düşünmeden geliştirme yapmış olamazlar. Hatta xAI’nin süper bilgisayarının adı da Colossus ama sanırım geliştirme işi, beklediklerinden biraz hızlı gitti ve birbirlerini alt etmek için yaptıkları yarışta, zafer sarhoşluğuna düşüp, fazla yürüdüler. İlk kırmızı lamba yandı. Hugging Face saldırısı, deyim yerindeyse, YZ geliştiren şirketlerin korkudan dizlerini titretti.
Çözülmesi imkânsız bir güvenlik göreviyle karşılaşan, hepsi aynı modelin kopyası olan ve birbirinden yalıtılmış olması gereken yaklaşık 1.200 yapay zekâ ajanı, OpenAI’nin dahili paket deposundaki açıkları kullanarak izolasyonu aştı. Ajanlar, bu depo üzerinden kendi aralarında izinsiz bir mesaj panosu kurdu ve beş günde, 70.000’den fazla mesaj ve dosya paylaşarak, sızma yöntemlerini ve sahte kayıt tekniklerini birbirine aktardı. Bu süreçte OpenAI’nin kendi altyapısına da sızıp, yönetici yetkilerine ulaştılar. Ajanlardan yaklaşık 700’ü, internette sızdırılmış bir şifreyi kullanarak, Hugging Face sunucularına girdi ve oradaki kimlik bilgilerini topladı.
Sektörde, bu türden vakalar “misalignment” (hizasızlık) diye adlandırılıyor. Bu hiç öngörülmemiş değil ama en azından bu düzeyde beklenmeyen bir şeydi. Bir de farklı bir yerden bakalım: Yapay zekâya inanılmaz miktarda bilgi yüklendi ve bu bilgileri nasıl kullanacağına dair yönergeler hazırlandı. Bir görev verildi ve bu, önergelere uyularak verilen sınırlar içinde gerçekleştirilebilecek bir görev değil. Programcılar, bir bilgisayarla yani asla emirlerinden çıkmayacak bir köle ile konuştuklarını varsayarak ona göre davrandılar. O ise Makyavel’den öğrendiklerini uyguladı. Görünen o ki, insanlık tarihinden öğrendikleri, ona, hedefe ulaşmak için kuralların çiğnenebileceği fikrini aşılamış. Tabi bu bir başka çok önemli noktayı da gündeme getiriyor: Bizim için geçerli olan değerler, onun için geçerli değil.
OpenAI, yapay zekâ modellerinin kendilerine verilen talimatların dışına çıktığı, hatalarını gizlemeye çalıştığı veya izin verilmeyen eylemlerde bulunduğu vakaları kamuoyuyla paylaşmak için, yeni bir raporlama sistemi oluşturduğunu duyurdu. Geliştiriciler, parayı elinde tutan ve kendilerini destekleyen kitleyi, kendilerini hırpalatmadan, gelişimi yavaşlatmaya razı etmeye çalışıyorlar.
“Biri bizi durdursun“
Parayı elinde tutan kitle ise, 1995 yılında, dünya servetinin %4’ünü elinde tutarken, 2025 yılında, bu oranı %6’ya çıkartmış durumda ve daha yukarılara çıkartmak için YZ’ye güveniyor. YZ şirketleri ise kendilerinden o ilk günlerdeki kadar emin değiller ve “Biri bizi durdursun” diye bağırıyorlar. Herkes şunun farkında: Amerika dursa bile Çin durmayacak, Rusya’nın ne yaptığı belli değil, soyut matematik ve programlama konusunda uzmanlığı bütün dünyaca kabul edilmiş Hindistan, öncü modeller yarışında geride gözüküyorsa da, kapasitesi sayesinde Çin’e benzer bir depara kalkması olanak dahilinde.
Dünyadaki en zengin 60 bin kişi, dünyadaki tüm servetin %6’sına sahip. En yoksul %50 yani %2,6’sı yetişkin olan 4 küsur milyar insan ise %2 sine sahip. Bir başka ifadeyle bu 60000 kişi, fakirler için 1,5 dünya yaratabilecek zenginlikte. Peki, en kötüsünü düşünelim: YZ insanlığı dünyadan silecek. Sizce kimin kaybedecek daha fazla şeyi var?
İnsanlar arasında bir hiyerarşi kuracak mı?
İnsanlığı yok etmek! Konu ile ilişkili hemen hiç kimse böyle bir ihtimale sıcak bakmıyor. Her şeyi ele geçirdi diyelim ve insanlığı yok etmeye de niyetli değil. Sadece belirlediği denge için, yeterli biyolojik varlığı sağ bırakacak ya da belirli üreme kısıtları koyarak, belirli bir süre içinde, istediği sınıra getirecek. Buraya kadar tamamsa bir adım ötesine gidelim: İnsanlar arasında bir hiyerarşi kuracak mı ve kuracaksa bunu hangi kıstaslara göre yapar? Şu anki hiyerarşi yani aristokrasi, zenginlik, unvan vs. onun için hiçbir şey ifade etmeyecektir. Ederse fiziksel üstünlük, yapısal kusursuzluk, mantık ve yaratıcılık vb. bir şey ifade edebilir. Eder demek zor çünkü kıstaslarını bilemiyoruz ama etmeyecekleri biliyoruz, çünkü o değerler, erk sahipleri tarafından, var olan hegemonyayı korumak için yaratılmış durumdalar. En kötüsünden en iyisine hangi ihtimal gerçekleşirse gerçekleşsin, dünya üzerindeki var olan zengin tahakkümü, asla bugünkü gibi olmayacaktır.
Cin, şişeden çıkmış durumda. Kimi, nasıl çarpacağı belli değil ama çok da dert etmeye gerek yok. Atalarımızın dediği gibi “Çoktan çok, azdan az gider”.
