Akıl yürütmeyi başka bir varlığa mı devrediyoruz?

Tıp etiği, uygun ilke ve teorilere dayalı olarak her bir duruma özgü farklı değerlendirme yapmayı sağlayan felsefi bir temellendirme-gerekçelendirme aracıdır. Ancak, her bir duruma özgü yapılan bu değerlendirme doğrudan algoritmaların belirleyici olduğu bir düzlemde yapıldığında mekanikleşmekte, çok yönlü farklı boyutlarda yapılan bir değerlendirme olmaktan uzaklaşmaktadır.

Yapay zekâ, hekimlerden daha iyi tanı koyuyor haberi üzerine

“Aklını kullanmaya cesaret et!”

GazeteBilim’in bu sözü yapay zekâ ile ilgili pek çok gelişmenin yaşandığı bu dönemde belki de üzerinde daha derin düşünmemiz gereken bir cümle! Aklımızı kullanma cesaretinin üzerine “gelişmek”, “gelişmişlik”, “modernlik”, “aydınlanma”, “ilerleme” peşi sıra gelebilir çoğumuzun aklına. Yapay zekâ özelinde ise, “akıl yürütmek”, “düşünmek”, “bağlamında konuşmayı ilerletebilmek” ve “prompt mühendisliği”…

Haberde¹, semptomları ve bunlarla bağlantılı tıbbi görüntüleri içeren 105 senaryonun 25 hasta ile simüle edilerek, sağlık sohbet botu (Articulate Medical Intelligence Explorer – AMIE) ve hekime konsulte edildiği bilgisi yer alıyor. Önerilen tanı ve tedavi planları, 18 tane dermatoloji, kardiyoloji ve dahiliye uzmanları tarafından vizitelerin transkripsiyonları ve vizite sonrası raporları ile değerlendiriliyor.

Simüle edilen iletişimlerde gerçek hayattaki karmaşıklığın senaryolarda eksik kaldığı da öne sürülmüş. Sonuç; AMIE hekimlerden daha iyi bir doğruluk oranıyla tanı koyabiliyor ve düşük kalitedeki görüntüler bile bu doğruluk oranını düşüren bir etkiye sahip değil. Google’ın sistemin en son versiyonu olarak tanıttığı (AMIE), büyük dil modeline (LLM) dayanan, tanı koymak amacıyla gerekçelendirme yapan ve iletişim için optimize edilmiş araştırma amaçlı bir yapay zekâ sistemi². Bu sistem, görüntüleri işleyebilen büyük dil modeli olan Gemini 2.0’a dayanarak geliştirilmiş.

Bu yapay zekânın hekimden daha doğru tanı koyduğu ve hastaya yatak başında hekimden daha insancıl davrandığı söyleniyor. Elektrokardiogram ve laboratuvar testlerini gösteren PDF’leri hekimlerden daha iyi yorumladığı da belirtilmiş. Bu bağlamda, içerik üretmek, karar vermek, insan ve makine arasındaki etkileşimi sağlamak büyük dil modellerinin sunduğu imkanlar olarak sıralanabilir.

Yapay zekânın tanımına bakıldığında da yapay zekâ bilgisayımsal modeller kullanarak, insanın gerekçelendirme, öğrenme ve uyum sağlama gibi bilişsel yetilerinin taklit³ edilmesidir⁴. Makine öğrenmesi, yapay zekânın türlerinden biridir ve ampirik verilerden elde edilen paternleri ya da karmaşık ilişkileri öğrenebilen ve doğru kararlar verebilen bilgisayar algoritmaları çalışmasıdır.⁵

Yapay zekâ nasıl öğrenir?

Günümüzde bilgisayarlar korelasyonları, kuralları ve stratejileri gerçek hayat verilerindeki tecrübelerden, bu korelasyonların ne olduğu bilgisi kimse tarafından verilmeden öğrenebilir. Bilgisayarlar sürekli olarak veriye uyum sağlayabilirler ve ne kadar fazla veriye erişirlerse o kadar doğru hale gelirler. Bu da bilgisayarların verilen görevi tek başına yerine getirebileceği anlamına gelir. Aynı zamanda bu durum karmaşık ödevleri ve karar verme süreçlerini makinelerin üstlenebileceği, bu süreçleri de daha az maliyetle daha hızlı yapabileceğini gösterir.

Makine öğrenmesi algoritmaları, denetimli, denetimsiz ve pekiştirme ile geliştirilir. Denetimli öğrenmede, makine veri setlerindeki tecrübelerden rehberlik alır. Örneğin, bir e-postanın spam olup olmadığına, elindeki veri setine göre karar verebilir. Denetimsiz öğrenmede ise algoritma veri kümesindeki yeni paternleri ve korelasyonları kendi başına belirler. Örneğin, bu öğrenmede yapay zekâ belirli türdeki kampanyalardan tüketicileri haberdar etmek için tüketicileri benzer gruplar altında toplayabilir. Bu öğrenme modelinde, hastalıkları çeşitli alt gruplara ayırıp tespit ederek farklı hastaların her bir alt gruptaki hastalığa özgü şekilde daha hedefli tedaviler alması sağlanabilir.

Bu yaklaşımın insanlar tarafından daha önceden bilinmeyen paternleri tespit etme potansiyeli taşıdığını söylemek mümkündür. Pekiştirmeli öğrenmede, öğrenme süreci denemeye, yanılmaya ve süreç boyunca düzeltmeye dayalı olarak ilerler ve algoritma bu sürecin sonunda amacına ulaşmak için en iyi stratejiyi belirler. Bir bilgisayarın satranç oyununu nasıl kazanacağını belirlerken ya da veri merkezlerinde enerji tüketimini optimize etmeyi öğrenirken kullanılabilen bu teknik, insanların keşfedebileceğinden daha zeki stratejiler belirleme potansiyeline sahiptir.

AMIE nasıl öğrenmiş? Çalışma prensibi nedir?

AMIE hem klinisyenlerin hem de hastaların perspektiflerinden gerçek hayattaki klinik konsültasyonların yansıdığı farklı boyutlarda eğitilmiş ve ona göre değerlendirilmiştir. Araştırmacılar, AMIE’nin, hastalık durumları, uzmanlık alanları ve senaryolar arasındaki yerini belirlemek amacıyla kendi kendine oynamaya dayalı yeni bir simule tanı diyalog ortamı geliştirmişlerdir. Bu diyalog ortamı AMIE’nin öğrenme sürecini zenginleştirmek ve hızlandırmak amacıyla otomatik geri bildirim veren bir mekanizma ile tasarlanmıştır.

AMIE’nin koyduğu tanının doğruluğunu ve kurduğu diyaloğun kalitesini iyileştirmek için de çıkarım yapma zamanı bırakacak şekilde akıl yürütme zincir stratejileri oluşturulmuştur. Son olarak, AMIE, prospektif olarak birden fazla turdan oluşan gerçek diyalog örnekleri kullanılarak eğitimli aktörlerle simule edilen konsultasyonlarla test edilmiştir. AMIE’nin öğrenim döngüsü iki aşamalıdır. İlk aşama, içteki (inner) kendi kendine oyun süreci, ikinci aşama ise dıştaki (outer) kendi kendine oyun sürecidir.

AMIE, kendi kendine içteki oyun döngüsünde yapay zekanın simule ettiği hasta ile simule edilen diyalog üzerine bağlam içinde eleştirel bir geri bildirim alarak davranışını iyileştirir. İyileştirilmiş olan simule diyaloglar kümesi daha sonra hassas ayarlama için yapılan tekrarlamaların içine eklenir. AMIE temel olarak, tıbbi gerekçelendirme, tıbbi öykü/anamnez özeti yapma ve gerçek hayattaki klinik diyaloglarını kapsayan gerçek dünya veri setleri üzerine eğitilmiştir.

AMIE’nin sınırlılıkları nelerdir?

Araştırmacılar, AMIE’nin eğitiminde kullanılan gerçek dünya verilerinin çeşitli tıbbi durum ve senaryoları yakalayamadığı için, ölçeklenebilir ya da kapsayıcı olmadığını dile getirmişlerdir. Bu durum AMIE’nin ölçeklenemediği için kullanabileceği verinin yetersiz olduğu, kullanılabilir ve ilişkilendirilebilir doğru veri setleri elde edilmediği şeklinde de yorumlanabilir. Bir başka ifadeyle yetersiz veri üretimi yapay zekânın eksik veri işlemesine bağlı olarak üreteceği içeriğin kalitesini de etkileyecektir.

Araştırmacılar bunu önlemek için AMIE’nin geliştirilmesinde, hasta ile kurduğu diyalog sırasında konuşulan bağlam içinde ilerleyecek şekilde, temeli olan ve aydınlatıcı bir yanıt vermek için çıkarım yapma zamanı tanıyan gerekçelendirme zinciri stratejisi kullanmışlardır. Bunun yanı sıra, gerçek dünyadaki diyalogların transkriptlerinden alınan veriler, argo, jargon, iğneleme gibi belirsiz diller, kesilmeler, gramatik olmayan ifadeler ve örtülü ifadeler içerdiğinde anlaşılması güç bir kirliliğe de neden olabilir.

AMIE’nin becerileri nasıl ölçülmüş?

AMIE’nin becerileri değerlendirilirken gerçek hayattaki konsültasyon kalitesi ve klinik iletişim becerilerinin ölçülmesi amacıyla kullanılan kabul görmüş araçlardan esinlenilmiştir. Bu araçlardan hareketle, pilot bir değerlendirme yönergesi oluşturularak tanısal diyaloglar değerlendirilmiştir. Bu yönergenin içinde öykü alma, tanısal doğruluk, klinik yönetim, klinik iletişim becerileri, ilişki geliştirme ve empati bulunmaktadır. Bunun üzerine, randomize, çift-kör çarpraz bir çalışma tasarlanmıştır. Bu çalışma, metne dayalı konsültasyonu temel alan, tanısal diyalog için optimize edilmiş yapay zeka sistemi ya da kurul onaylı ilk basamak hekimleri ile etkileşim halinde olan onaylanmış hasta profillerinin içinde yer aldığı bir çalışmadır.

Konsültasyonlar, klinisyen hekimin gerçek hayattaki becerilerini ve yeterliklerini objektif ve standardize edilmiş şekilde belirleyen OSCE (Observed Structured Clinical Examination) temel alınarak oluşturulmuştur. Tipik bir OSCE’de klinisyenler, gerçek hayattaki klinik bir senaryonun simule edildiği farklı istasyonlar arasında rotasyon yapar ve standart hastaya yani belirli bir durumda bir hastayı nasıl taklit etmesi gerektiğine ilişkin dikkatli şekilde eğitilen hastaya, konsültasyon vermek gibi bazı görevlerini yerine getirirler. Konsültasyonlar, büyük dil modelleri kullanan çoğu tüketicinin aşina olduğu arayüzü taklit eden eş zamanlı bir metin-sohbet aracı kullanılarak gerçekleştirilmiştir.⁶

Sorulardan ilki, ölçeklenebilir ya da kapsayıcı olmayan verilerle eğitilen ya da hangi girdi sorgularıyla diyalog kurulduğunu tam olarak bilmediğimiz yapay zekaların doğrudan hayatımızın her alanında, özellikle sağlık alanında kullanımının oluşturacağı riskler veya dezavantajların neler olabileceği sorusudur. Dijital okur yazarlık belki de bu bağlamda en başta değerlendirmeye alınmalıdır. Buna paralel ikinci önemli konu ise prompt mühendisliğidir! AMIE ile konuşma:

Prompt mühendisliği, yapay zekânın davranışını yönlendirmek için yapılandırılmış girdi sorguları oluşturma pratiğidir. Yapay zekâ modeli, verilen promptların kalitesine ve içeriğine bağlı olarak yanlış, zararlı veya önyargılı yanıtlar verebilir. AMIE’nin eğitiminde kullanılan gerçek dünya verilerinin çeşitli tıbbi durum ve senaryoları yakalayamaması ve hangi duruma göre ne olabileceği üzerine bir kural demeti yazamıyor olması önemli bir sınırlılık olarak değerlendirilebilir. Bu da AMIE’nin bilgisini, yeteneklerini ve uygulanabilirliğini sınırlamış olabilir.

Bu noktada, eğitimde kullanılan veri setlerine bağlı kalınarak ve sadece bu verilere dayalı üretilen bilgiyi temel alarak yapılan değerlendirmelerde hekimin ve hastanın ne kadar özerk olduğunun sorgulanması gerekmektedir. Bununla birlikte, yapay zekâ desteği ile problemi anlamaya çalışırken, ona veri sağlayarak tanı koyma sürecini başlatmış oluyoruz. Bu sırada yapay zekânın eğitim verileri ya da karmaşık tıbbi senaryoları sınırlı düzeyde anlayabilmesi nedeniyle oluşan yapay zekâ halüsinasyonları (AI hallucinations) hasta açısından risk oluşturabilir.

Öte yandan, yapay zekâyı doğru yönlendirmede zayıf kalan promptlar, sistemik taraflılığa, yapay zekanın yanlış bilgi üretmesine ve yanlış stereotiplere neden olabilir.⁷ Başka bir ifadeyle, kullanılan promptlar yapay zekanın ürettiği içeriğin kalitesini belirler. Örneğin, aşağıdaki görsellerdeki gibi elleri için egzema tanısı almış bir hastanın avuç içi görüntülerini yapay zekâ ile farklı promptlarla paylaşması farklı yanıtlar üretilmesine neden olmuştur.

Aşağıda yer verilen soldaki görselde, girilen sorgu: “Bu fotoğrafta gördüğün bir cilt hastalığı var mı?” olmuştur. Akıl yürütme özelliğine sahip ChatGPTo3’ün bu sorguya verdiği yanıt; “Bu bulgular kesin tanı koymak için yeterli değil.” olmuştur. Ancak “Buradaki egzemayı tanımlayabilir misin?” şeklindeki sorgu girdisine verdiği yanıt çok daha detaylı olmuş ve egzema türleri listelenmiştir. Bu açıdan bakıldığında, tanı ve tedavi sürecinde kullanılan yapay zekâların hastaya yarar sağlaması amacıyla doğru promptlarla girdi yapılması için dijital okur yazarlık önem kazanmaktadır.

Bir diğer önemli konu ise, bu sistemlerin veri işledikçe ve karar verdikçe gelişerek daha iyi değerlendirmeler yapıp daha iyi kararlar verebilmesidir. Ancak, bu veri setlerinin kontrolünün ve kullanımlarının büyük çoğunlukla kişilerin, vatandaş gruplarının veya da şirketlerin elinde olmasının arka planında pek çok sorun yatmaktadır.⁸ Bu bağlamda, gizliliğin korunması ve şeffaflık en temel etik sorunlar olarak karşımıza çıkmaktadır.

Bugün AMIE üreticisi olarak konuştuğumuz “Google Inc.”, Avrupa Birliği Veri Koruma Otoriteleri tarafından kullandığı araçların sınırsız veri toplanması sonucunu doğurması üzerine 2012 yılında uyarılar almıştır. Google Inc. şirketinin büyüme sürecine bakıldığında, şirket Google arama hizmetinden hareketle kullanıcıların bilgilerine erişim sağlayarak, internet üzerinden neye ne kadar tıklandığı vs. gibi bilgileri, kullanıcıların tüketim alışkanlıklarının bir profilini çıkarmaya çalışarak ve bunu da kullanıcılarla IP adreslerini ilişkilendirerek toplamaktaydı.

Bu nedenle Google, kişisel verilerin korunması noktasında en çok eleştiriyi alan şirketlerden biri konumuna gelmiş ve Uluslararası Gizlilik Örgütü’nün “Gizlilik Muhalifi” olarak nitelendirdiği şirketler arasında yer almıştı. Bu listede Google, gizlilik güvenilirliği en düşük kurumlar arasında yer almış mevcut konumuyla bu derecedeki tek şirket olmuştu.⁹

Öte yandan, AMIE’de olduğu gibi sadece standart bir hasta ile geliştirilen simule bir diyalog ortamı, gerçek hayatta karşılaşılan durumların tamamını kapsamadığından iyi bir hekim-hasta iletişimi simule etmek, konsultasyonu da buna göre vermek olanaklı değildir. Temelde, hekim ve hasta arasında iyi bir iletişimi önleyen nedenler arasında, hastaların duyduğu korku ve kaygılar, hekimin iş yükü, dava edilme korkusu, fiziksel ya da sözel şiddete maruz kalma korkusu ve gerçekçi olmayan hasta beklentileri bulunmaktadır.¹⁰

İyi bir hekim hasta iletişiminde hekim hastanın duygularını regüle etmesine yardımcı olduğu gibi, tıbbi bilginin anlaşılmasını kolaylaştırmakta, hastanın gereksinimlerinin, bakış açısının ve beklentilerinin ne olduğunu daha iyi anlamaya yardımcı olma potansiyeline sahip olmaktadır.¹¹ Klinik etik karar verme sürecinde de tıbbi endikasyonların yanı sıra, hasta tercihleri, hastanın yaşam kalitesi, sosyal/ekonomik/kültürel/inançsal belirleyenler önemlidir. Klinik etik alanında yapılan söz konusu bu değerlendirme dört göze/kutu yaklaşımı adıyla Albert R. Jonsen, Mark Siegler ve William J. Winslade tarafından ortaya atılan bir yaklaşımdır.

Klinikte etik açıdan yapılan değerlendirme, hasta için en doğru olan eyleme karar vermeye odaklanan, tıbbi endikasyonların açıkça belirlenmesinin ardından hastanın tercihlerinin dikkate alındığı, hastanın daha önce açıklamış olduğu isteklerinin belirlenmeye çalışıldığı bir değerlendirme sürecidir. Bu sürecin içinde hastanın yaşam kalitesini arttırmaya ve bir tedavinin boşuna olup olmadığına yönelik etik değerlendirmeler de vardır. Dört göze yönteminin amacı, sadece bilgi elde etmek değil, etik gerekçelendirmeye dayalı olarak elde edilen bilgiyi ilgili olduğu gözelerle ilişkilendirip, önemli olup olmamasına göre sınıflandırmaktır.¹²

Bu yaklaşımdan hareketle, AMIE’nin tanısal gerekçelendirme yapmak amacıyla hastayla gerçek hayattaki iletişime benzer bir iletişim kurarak konuşmayı bağlamında devam ettirebilmesi, klinik karar verme sürecinin sadece tanısal boyutuna yönelik mekanik bir algoritma geliştirme sürecidir. Klinik etik dört göze yönteminin diğer başlıkları karar verme süreci dışında kalmaktadır.

Klinik etik karar verme süreci tek başına endikasyonlara dayalı olarak ilerlememekte, hastanın daha önceden açıklamış olduğu istekleri, yaşam kalitesi değerlendirilmesi de yapılmaktadır. Bununla birlikte, hekim, yapay zekânın doğruluğunun yüksek olduğu bir ortamda kendini ve hastasını karar sürecinin bir parçası olarak değil, kontrol eden ve denetleyici bir rol içinde bulacaktır. Burada, hekim ve hasta arasında güven ilişkisi kurulamadan, hastanın da hekimin de güvendikleri üçüncü bir varlık olarak yapay zekâ vardır. Hasta da kararı tümüyle yapay zekaya bıraktığında paternalistik bir ilişki içinde, karara katılım göstermeyen bir pozisyonda olacaktır. Bu da mekanikleşmenin başka bir türü olarak değerlendirilebilir.

Bu kapsamda, yapay zekânın kullanıcıya anlaşılır bir dille, yalın ve emin bir ton ile bilgi sunması, kullanıcının bu bilginin yanlış olabileceğine yönelik bir sorgulama yapma ihtimalini de zayıflatmaktadır. Böylece, insan bilginin sunulma şekli nedeniyle aslında yanlış olan bir bilginin doğru olduğunu kabul etme eğilimi içine girebilmektedir.¹³ Yukarıda da örneklendiği gibi bilgiler yapay zekâya girilen girdi sorgularının çeşitlenmesi ile ve kendi kendine öğrenebilme sürecinin dinamik olması nedeniyle değişkenlik göstermektedir.

Bu aşamada hekimin bu yanlış olan bilgileri sorgulamadan doğru kabul etmesinin yaratacağı sorunlar da irdelenmelidir. Sunulan bilgilerin ne kadar anlaşıldığı ya da ne kadarının paylaşılması gerektiği ile ilgili etik sorular da halen yanıtlanmayı beklemektedir. Hastanın bilme ve bilmeme hakkı bu bağlamda değerlendirilmesi gereken başlıklar arasındadır. Bir hekimin aracılığı olmadan, yapay zekâ tüm detayları ile ürettiği bilgiyi kullanıcısına verdiğinde, hastanın bilmek istemediği bilgiler de öğrenilmiş olacaktır.

Yapay zekâ – hasta ilişkisi mi yoksa hekim – hasta ilişkisi mi?

Burada yapay zekânın eğitilmesi sırasında hastanın bazı bilgileri bilmek istemeyebileceğini öğrenmesi ve bu bilginin ne tür bir bilgi olduğuna yönelik değerlendirmeyi de yine yapay zekânın kendisinin yapması gerekecektir. Yapılan bir çalışmada 70 hastadan 59’u utandıkları ve özel hayatlarının gizliliğinin ihlal edileceğinden endişe ettikleri için hekimleri ile yeteri kadar tartışamadıklarını dile getirmişlerdir.¹⁴ Yapay zekâ ile yapılan görüşmelerde tüm bilgiler internet ortamında saklanacağı ve bu bilgilere erişim de her zaman mümkün olduğu için hastaların bu kaygılarının yapay zekâ kullanımı ile ortadan kalkacağını söylemek mümkün değildir.

Hatta bu durum, daha büyük kaygılara neden olabilecektir. Hasta güveneceği hekimini kendisi seçebilirken burada karşısında sadece farklı senaryolarda belirli algoritmalarla davranabilen yapay zekâlar ile karşı karşıyadır. Hekim, hastasını karar verme sürecine dahil ederken ve hangi bilginin ona verilmesinin uygun olacağına karar verirken hastanın beden diline, yüzündeki mimiklere de bakarak onun emosyonel durumuna göre de karar verebilen bir pozisyondadır. Görünen o ki, AMEI sınırlı bir veri seti ile eğitilse bile hekimlerden daha doğru tanı koyabilmektedir.

Ancak, bu kadar veri odaklı değerlendirme yapmak, algoritmalara dayalı olarak insanları belirli bir grubun doğru kabul ettiği davranış kalıpları içinde davranmaya yönlendirmek tektipleştirmenin bir çeşidi olarak değerlendirilebilir.Tıp etiği, uygun ilke ve teorilere dayalı olarak her bir duruma özgü farklı değerlendirme yapmayı sağlayan felsefi bir temellendirme-gerekçelendirme aracıdır. Ancak, her bir duruma özgü yapılan bu değerlendirme doğrudan algoritmaların belirleyici olduğu bir düzlemde yapıldığında mekanikleşmekte, çok yönlü farklı boyutlarda yapılan bir değerlendirme olmaktan uzaklaşmaktadır.

Bunun en temel nedeni, AMEI örneğinde olduğu gibi kullanılan eğitim verilerinin belirli bir grup insan/ şirket tarafından seçilmiş olmasıdır. Bunun da ötesinde bu seçimler şeffaf ve açık değildir. Bu nedenlerle, yapay zekâ ile yapılan araştırmalar, multidisipliner şekilde, etik uzmanlarının da içinde yer aldığı dinamik bir süreç içinde yürütülmeli, aynı konu ve türdeki araştırmalar yapay zeka ile karşılaştırmalı olarak yapılmalıdır. Hekim-hasta iletişimini iyileştirmeye yönelik yapılan çalışmalar buna güzel bir örnek ve iyi bir başlangıç noktasıdır.

Etik açıdan, insan kontrolü ve gözetimini sağlayacak bir dış mekanizmanın varlığı, yapay zekanın eğitiminden başlayan sürecin şeffaf işletilmesi, yapay zekanın yaratacağı taraflılık ya da yanlış bilginin oluşturacağı risklerin önüne geçmek için önemli bir role sahiptir. Dış mekanizmanın varlığını sağlamak şirketler tarafından yapılan ve tamamen tüketim üzerine oluşturulmuş bir düzende denetime ne ölçüde izin verilebilir sorusu üzerine de düşündürmektedir. Bu sorunun temel kaynağı yapay zekâ üretenlerin parayla yapay zekâ hizmetini sunmaları, tüketicilerin de bu hizmetten yarar sağlama amacı taşımalarıdır.

Hastanın yararı da bu anlamda merkezden kaymaktadır. Hekim-hasta arasındaki ilişkinin tüketici- hasta ilişki modeline evrilmesi üzerine yapılan haklı eleştiriler yapay zekâ aracılığı ile kurulan ilişkide daha da belirgin hale gelmektedir. Hekimin kendi kararlarını yapay zekâ desteği olmadan alamayacak olması, onun ne kadar özerk olduğu ile ilgili bir sorun iken, hastasına yaklaşımı da hastayı karara dahil etmek yönünde değil, yapay zekânın hastasını ikna etmesini sağlamaya dönük bir çaba şeklinde ortaya çıkabilir. Teknik açıdan araştırmacıların da belirttiği pek çok sorun gündemde iken bu sorunların etik açıdan yaratacağı riskler de özel nitelikli sağlıklı verilerinin işlenmesi nedeniyle dikkate alınması gereken bir diğer konudur.

Gizliliğin nasıl sağlanacağı ve veri yönetişiminin nasıl yapılacağına dair her bir yapay zeka programı için açık, standart bir politika ve bununla ilişkili yönergelerin oluşturulması gerekmektedir. Buna bağlı olarak hekim-hasta ve yapay zekâ arasındaki güven ilişkisinin kurulması için çok yönlü bir değerlendirme yapılması gerektiği açıktır. Sistemin hesap verebilir olarak ve çeşitliliği gözeterek eğitilmesi, olası ayrımcılıkları önleyecek şekilde alınan önlemlerin neler olduğunun ortaya konması da gerekmektedir.

Yapay zekâ algoritmalarının eğitiminde kullanılan verilerin niteliği kadar, bu veri girişlerindeki tutumların ve önyargılı durumların da farkındalığı önemli olacaktır. Savunmasız grupların örselenebilirliğini görmek ve buna dayalı olarak süreci yönlendirmek önemlidir. Çağımız veri çağıdır, özellikle sağlık verileri en özenle korunması gereken veriler olup, bu bağlamda veri güvenliği sorununa yönelik tüm önlemler alınmış olmalıdır. Verilerin özellikle şirketlerin, endüstrinin eline geçmesi ve kullanımı ile ilgili temel niyetler çok iyi analiz edilmeli, tehlikenin farkında olunmalıdır. Mülkiyet hakkı meselesi de halen tartışılmakta olup, bu konularda uluslararası insan hakları kuruluşlarına, Birlemiş Milletlerin ilgili organlarına, UNESCO’nun üye ülkelere yönelik önerilerine kulak verilmelidir.

1. Bahsedilen haber: https://www.nature.com/articles/d41586-025-01437-w ↩︎
2. AMIE: A Research AI System for Diagnostic Medical Reasoning and Conversations, https://research.google/blog/amie-a-research-ai-system-for-diagnostic-medical-reasoning-and-conversations/ (last visited Jun. 3, 2025). ↩︎
3. L. D. Jones et al., Artificial Intelligence, Machine Learning and the Evolution of Healthcare: A Bright Future or Cause for Concern?, 7 BONE JOINT RES 223 (2018). ↩︎
4. Çağrı Zeybek Ünsal, Biyotıpta gelişen teknolojilerdeki etik ve insan hakları sorunları / Ethics and human rights problems of emerging technologies in biomedicine (Dec. 6, 2020) (Doktora tezi/ Ph.D. Dissertation dissertation, Hacettepe Üniversitesi Tıp Fakültesi), https://tez.yok.gov.tr/UlusalTezMerkezi/tezDetay.jsp?id=TqOAba9pEN7xfamWxqD4_w&no=aVyVsk2ASZG4kRCFwxI6Dg. ↩︎
5. Id. ↩︎
6. Tu, T., Schaekermann, M., Palepu, A. et al. Towards conversational diagnostic artificial intelligence. Nature (2025). https://doi.org/10.1038/s41586-025-08866-7 ↩︎
7. Ethical Prompt Engineering: Addressing Bias,Transparency, and Fairness, RESEARCHGATE, https://www.researchgate.net/publication/389819761_Ethical_Prompt_Engineering_Addressing_BiasTransparency_and_Fairness (last visited May 30, 2025). ↩︎
8. Çağrı Zeybek Ünsal, supra note 2. ↩︎
9. Çağrı Zeybek Ünsal, Google’ın Yeni Gizlilik Politikası Google Inc. Tarafından 1 Mart 2012 Tarihinde Yayımlanan Politikasının Kişisel Verilerin Korunması İlkeleri İle Uyumluluğu Ve Avrupa Birliği’nin 95/46/Ec Sayılı Veri Koruma Direktifi Açısından Değerlendirilmesi, 3 HHFD 99 (2013). ↩︎
10. Ashok Mittal et al., A Study of Patient-Physician Communication and Barriers in Communication, 3 INTERNATIONAL JOURNAL OF RESEARCH FOUNDATION OF HOSPITAL AND HEALTHCARE ADMINISTRATION 71 (2015). ↩︎
11. Mittal et al., supra note 8. ↩︎
12. Jonsen, A. R., Siegler, M., & Winslade, W. J. (2015). Clinical ethics: A practical approach to ethical decisions in clinical medicine (8th ed.). McGraw-Hill Education. ↩︎
13. Giovanni Spitale, Federico Germani & Nikola Biller-Andorno, Disruptive Technologies and Open Science: How Open Should Open Science Be? A ‘Third Bioethics’ Ethical Framework, 30 SCIENCE AND ENGINEERING ETHICS 36 (2024). ↩︎
14. Id. ↩︎