OpenAI’da güvenlik tartışması büyüyor. İşten çıkarılan üç araştırmacı, gelişmiş yapay zekâ modellerinin izlenebilirliğinin gerilediğini ve çalışanların konuşmaktan korkmasının felaket riskini artırabileceğini savundu.
Tomek Korbak, Jasmine Wang ve Mikita Balesni, şirketin güvenlik denetim organlarına yönelik ortak bir açık mektup yayımladı. Balesni, mektupla birlikte yaptığı kişisel açıklamada, şirketin kısa vadeli çıkarları yerine güvenliğe öncelik verdikleri için kovulduklarına inandığını söyledi.
“OpenAI, yapay zekâyı tek başına güvenli hâle getiremez” başlıklı mektupta üç araştırmacı, işten çıkarılmalarının şirkette kalan çalışanları açıkça konuşmaktan ve bağımsız güvenlik kuruluşlarıyla çalışmaktan korkar hâle getirdiği yönündeki kaygılarını dile getirdi.
“İzleyemediğimiz modelleri güvenle geliştirmeyi henüz bilmiyoruz”
Araştırmacılar, sektörün izleyemediği yapay zekâ modellerini güvenli biçimde nasıl geliştireceğini ve kullanıma sunacağını henüz bilmediğini vurguladı. En gelişmiş modellerin izlenebilirliğinin kötüleştiğini savunarak OpenAI ve diğer şirketlere, bu imkânı daha da azaltan geliştirmelerde ilerlememe çağrısı yaptı.
Mektupta, çalışanların güvenlik sorunlarını kurum içinde dile getirememesi veya dış uzmanlarla yoğun bilgi alışverişi yapamaması durumunda, “gerçekten felaket niteliğinde bir olayın yaşanması” riskinin herkes için artacağı belirtildi.
Bağımsız denetimin daraltılmasından endişeliler
Üç araştırmacı, kovulmalarının bağımsız güvenlik kuruluşu METR’le işbirliğini sonlandırmak veya dış denetçilerin erişimini kısıtlamak için kullanılabileceğinden kaygı duyduklarını açıkladı. OpenAI’ın bağımsız değerlendiricilere sürekli erişim sağlama taahhüdüne bağlı kalmasını istedi.
Araştırmacılar, dış kuruluşlarla temaslarının görevleri kapsamında olduğunu savundu. Balesni’nin üst yönetim ve yönetim kurulu üyeleriyle koordinasyon içinde çalıştığı, paylaşılacak materyallerden hassas ayrıntıları çıkardığı belirtildi. Wang’ın ise izinli e-posta erişiminin kaldırılmasını istediği hâlde erişimin sürdüğü; yanlışlıkla açtığı hassas bir mesajı dakikalar içinde ilgili yöneticiye bildirdiği anlatıldı.
OpenAI iddiaları reddediyor
OpenAI, işten çıkarmaların güvenlik kaygılarını dile getirmekle ilgili olmadığını savundu. Şirket, hassas bilgilerin kullanımına ilişkin kuralların ihlal edildiğini ve çalışanlara duyulan güvenin sarsıldığını belirtti; ancak ileri sürdüğü ihlallerin ayrıntılarını kamuoyuyla paylaşmadı. Bağımsız güvenlik değerlendiricileriyle işbirliğini sürdüreceğini de açıkladı.
