Yapay zekâ şirketi Anthropic, Claude’un neyin doğru neyin yanlış olduğuna nasıl karar vereceğini tartışmak için din insanları, ilahiyatçılar, filozoflar ve etikçilere başvurdu. Şirket, 15’ten fazla dinî ve kültürel gelenekten uzmanlarla yapay zekânın “ahlaki oluşumu” üzerine görüşüyor.
Claude’u geliştiren Anthropic, yapay zekânın yalnızca güvenli değil, şirketin ifadesiyle “iyi, bilge ve erdemli” davranmasını istiyor.
Ancak bunun nasıl sağlanacağı artık yalnızca mühendislerin tartıştığı teknik bir problem değil.
Anthropic, son aylarda Hristiyanlık, Yahudilik, İslam, Hinduizm, Budizm ve farklı felsefi geleneklerden din insanları, akademisyenler, filozoflar ve etikçilerle toplantılar düzenledi.
Yapay zekânın “ahlâki oluşumu”
Anthropic bu çalışmayı açıkça yapay zekânın “moral formation” — ahlaki oluşumu olarak adlandırıyor.
Şirketin temel sorusu oldukça büyük: İnsanların yüzyıllardır tartıştığı erdem, karakter, iyi yaşam, doğru ve yanlış gibi kavramlardan yapay zekânın davranışlarını şekillendirirken yararlanılabilir mi?
Anthropic daha önce Claude için bir “anayasa” hazırlamıştı. Bu metinde Claude’un dürüst, güvenli, düşünceli ve etik davranması; gerçek dünyadaki ahlaki belirsizlikleri ve insanların farklı değerlerini dikkate alması hedefleniyor.
Şirket, anayasanın hazırlanması sırasında da farklı alanlardan insanların görüşlerine başvurduğunu belirtiyor.
Ahlâkı kim belirleyecek?
Girişim aynı zamanda temel bir tartışmayı gündeme getiriyor: Milyonlarca insanın kullandığı bir yapay zekânın hangi değerlere göre davranacağına kim karar verecek?
Anthropic’in yalnızca tek bir dine başvurmadığını özellikle vurgulamak gerekiyor. Şirket farklı dinî, felsefi ve kültürel gelenekleri sürece dahil etmeye çalışıyor ve gelecekte görüşmelerin kapsamını genişletmeyi planlıyor.
Dolayısıyla yapılan şey din insanlarının Claude’a doğrudan “ders vermesi” değil. Onların ahlak, erdem ve insan yaşamına ilişkin düşüncelerinin, şirketin yapay zekânın davranışlarını ve değer sistemini oluştururken başvurduğu kaynaklardan biri haline gelmesi.
Ancak yapay zekâ günlük yaşamda giderek daha fazla ilişkiler, ölüm, suçluluk, adalet, inanç ve doğru-yanlış gibi ahlaki sorulara cevap vermeye başladıkça, tartışma kaçınılmaz görünüyor:
İnsanlığın ahlaki sorularına cevap verecek makinelerin ahlakını kim yazacak?
