Dergi

  • Yazı Büyüklüğü A(-) A(+)
  • Paylaş
Prof. Dr. İlhan İlkılıç

1990 yılında İstanbul Üniversitesi Cerrahpaşa Tıp Fakültesinden mezun oldu. Almanya Bochum-Ruhr Üniversitesinde Felsefe, Şarkiyat ve Doğu Dilleri Filolojisi bölümlerinden mezun olduktan sonra felsefe alanında doktora yaptı. Tübingen, Bochum ve Mainz Üniversitelerinde bilimsel projelerde çalıştı. Mainz Üniversitesi Tıp Fakültesinde habilitasyonunu yazdı. ABD’de Georgetown Üniversitesi ve Duke Üniversitelerinde bilimsel araştırmalarda bulundu. Frankfurt Üniversitesinde iki sömestir misafir profesörlük yaptı. 2012-2020 yıllarında Alman Etik Konseyi üyeliğinde bulundu ve halen Alman Tabipler Birliği Merkez Etik Komitesi üyesi ve Dünya Sağlık Örgütü Sağlığın Kültürel Konteksti Uzmanlar Grubu üyesidir. 2012 yılının sonundan itibaren İstanbul Üniversitesi İstanbul Tıp Fakültesi Tıp Tarihi ve Etik Anabilim Dalında öğretim üyeliği yapmakta ve 2015 yılından itibaren de aynı kürsünün anabilim dalı başkanlığını yürütmektedir.

Tıpta yapay zekâ kullanımının etik açıdan değerlendirilmesi

İnsanlık tarihi kadar eski olan tıbbın bilinen serüveninde hem bilginin oluşmasında hem de uygulanmasında birçok paradigma değişiklikleri olmuştur. Tıpta yapay zekâ kullanımı ise bu sürecin içerisinde birçok açıdan önemli ve köklü değişiklikler yapma potansiyeline sahiptir. Bazı uzmanların tahminlerine göre, tıpta yapay zekâ kullanımı, doktorların yerleşik düşünce ve çalışma biçimlerini değiştirecek ve geleneksel hasta-hekim ilişkisini yeniden şekillendirecektir (1). Acaba gerçekten yapay zekâ, teşhis, tedavi ve prognoz ile ilgili uygulama ve tahminlerde devrim diyebileceğimiz farklılıklar ortaya çıkararak paradigma değişikliğine sebep olacak mıdır? Yapay zekâ, kadim tıp geleneğindeki klasik hasta ve hekim ilişkisinin temel dinamiklerini etkileyecek midir? Bu değişim sürecinde tıp ahlakının önemli normatif kavramlarından olan hastalık, güven ve mahremiyet kavramlarının anlamı nasıl değişecek ve bu alanlarda hangi etik sorunlar ortaya çıkacaktır? Tıpta yapay zekânın kullanılması konusunda henüz sürecin başında olmamızdan dolayı bu sorulara şu anda kesin cevaplar vermemiz mümkün değildir. Buna rağmen bu gelişmelerinin şimdiden sosyal, hukuki ve etik açıdan önemli sorunlar doğuracağını tahmin etmek güç değildir. Bu yazımızda özellikle yapay zekâ sistemlerinin tıp alanında uygulanmasıyla teşhis ve tedavi ile ilgili alanlardaki etik sorunları ele alacak ve bu süreç içerisinde ortaya çıkabilecek etik sorunlarla ilgili bazı çıkarım ve sonuçları sunmaya çalışacağız.

Tıpta Yapay Zekânın Kullanım Alanları

Yapay zekâ sistemlerinin tıpta kullanımı söz konusu olduğunda büyük veri alanında olduğu gibi verilerin sadece depolanması, tasnifi ve analizi değil (20), bu verilerden belli algoritmalarla yeni bilgilerin oluşturulması, yine bu bilgilerin de teşhis ve tedavide aktif bir şekilde kullanılmasını anlıyoruz. Bu alanda mevcut gelişmeleri incelediğimizde tıpta yapay zekânın özellikle radyoloji, patoloji, dermatoloji, acil tıp ve yoğun bakım tıbbı gibi alanlarda yaygınlaşarak kullanılacağını söylememiz mümkündür. Radyoloji, patoloji ve dermatolojide dijital hale getirilen bazı oluşumların yapay zekâ yardımıyla teşhis edilmesi veya iç hastalıklarında farklı karakterde birçok verilerin değerlendirilmesiyle en anlamlı ve doğru tedavi şeklinin belirlenmesi halen deneme ve araştırma aşamalarındadır (7,10,13). Diğer taraftan belli bir görüntünün bir hastalık teşhisi olarak ifade edilmesi ise sadece teknik bir eylem olmanın ötesinde aynı zamanda hekim, hasta ve toplum için bir takım önemli ve farklı sonuçları olan bir eylemdir. Bir kanser teşhisi sadece bir biyolojik değişimin tespitiyle ilgili bilgi olmayıp aynı zamanda bir kişinin varoluşunda ve biyografisinde bir dönüm noktası olabilir. Bu bağlamda Alman tıbbi antropolog Fritz Hartmann teşhis mefhumunu “varoluşun patolojik kategorisi” olarak tarif eder (6).

Tıpta yapay zekâ sistemlerinin kullanılmasında geleceğe yönelik iki genel senaryo tahmin edilebilir. Birinci senaryo yukarıdaki bahsedilen uygulama alanlarının geliştirilmesi ve yapay zekâ uygulamalarının tıbbi müdahalelerin artık ayrılmaz bir parçası haline gelmesidir. Bu bağlamda daha çok belli hastalıkların teşhisi, tedavi tavsiyeleri ve prognoz tahminlerinde gelişmiş bir şekilde kullanılabilir (18). İkinci senaryo ise daha ütopik olan hekimin yerine bir robot doktorun (Robodok) almasıdır. Bu Robodok hastanın hikayesini dinleyecek, muayeneler yapacak, reçete yazacak, sağlıkla ilgili tavsiyelerde bulunacak ve gerekirse cerrahi operasyonlar yapacak yapay zekâyla çalışan bir makinedir. Yapay zekânın mevcut hızlı gelişimi göz önüne alındığında, bu tıbbi hizmetlerin yakın zamanda başarılı bir şekilde uygulanması beklenmese de, gelecekte belli bir aşamadan sonra kullanılabilir hale gelebileceği tahmin edilmektedir. İkinci senaryo yakın bir gelecekte mümkün olmayacağından biz daha çok birinci senaryonun etik anlamına ve sonuçlarına yoğunlaşacağız.

Yapay Zekâyla Hekimin Çalışma Kültürünün Değişmesi

Yapay zekânın tıpta yaygın kullanılmasıyla artık hekim tıp tahsili sırasında öğrendiği bilgilerden ziyade, ona milyonlarca verinin belli algoritmalardan geçtikten sonra bilgi olarak sunulduğu sistemlerle çalışmak durumundadır. Bu süreç içerisinde teşhis ve tedaviye götüren laboratuvar ve görüntüleme tekniklerinin sonuçları ve bu sonuçların analizi artık yapay zekâ ile çalışan makineler tarafından üstlenilecektir. Bilgi aktarımı, bilimsel yayınlar hızlı bir şekilde taranarak an be an güncellenecek ve her gün büyük veri ağında üretilen milyonlarca veri, bilgi haline getirilip diğer bilgilerle birleştirilecektir. Tüm bu bilgiler, bu analizleri yapan yapay zekâ ile çalışan sistemlere aktarılarak teşhis ve tedavi konseptlerini belirleyecektir.

Bunlara ilaveten hekimlerin elde etmiş olduğu tecrübeler de uygun mekanizmalarla diğer hekimlere sunulacaktır. Bu bağlamda ontolojik olarak klasik anlamda tecrübe mefhumu ortadan kalkacaktır. Bu sürecin başlarında belki makine ve hekim arasında bir rekabet olacak ve bu rekabeti zaman içerisinde makine kazanacaktır. Hatta makinelerin işleyişi sırasında insana oranla ortaya koyduğu yüksek performans ve düşük hata oranı bilimsel olarak ispatlandığında, belki hukuki yaptırımlarla hekimin tıp sahnesindeki başrol oyunculuğu elinden alınacaktır. O artık beyazlar içinde bir yarı tanrı değil, yapay zekâ makinelerini kullanan ve onlardan çıkan kararları uygulayan beyaz önlüklü bir teknisyendir. Artık stetoskopunu, EKG aletini veya ultrason aletini iyi kullandığı için iyi bir hekim değil, yapay zekâ sistemleri ile yönetilen makineleri iyi kullanabilirse başarılı bir doktor olacaktır.

Bütün bu tahminler ütopik senaryolardan ziyade, gerçekleşmesi yakın zamanda mümkün olan olaylardır. Bu iddiaya Almanya’nın Heidelberg Üniversitesinde yapılan bir araştırma örnek olarak verilebilir. Bu araştırmada öğrenme özeliği olan yapay nöronal ağla çalışan bir yapay zekâ uygulaması kullanılmıştır. (Convolutional Neural Network (CNN)). Farklı ülkelerden 58 dermatolog ve CNN’in ortaya koyduğu performans habis bir deri kanseri olan melanomu teşhis etme konusunda karşılaştırılmıştır. Bu çalışmada hekimler %86,6 oranla doğru teşhis koyarken, CNN %95 oranla doğru teşhis koyarak araştırmaya katılan hekimlerden daha başarılı olmuştur (5). Yapay zekâ sistemlerinin hekimleri teşhis konusunda geçtiği başka çalışmalar da mevcuttur (14, 19).

Yapay Zekânın Hasta Hekim İlişkilerine Muhtemel Etkileri

Hekimin çalışma kültüründe yukarıda bahsedilen değişiklikler şüphesiz hasta ve hekim ilişkilerini de etkileyecektir. Bu bağlamda bu ilişki sürecinde zaten mevcut olan epistemik eşitsizlik ve asimetriklik değişecek, güven ve mahremiyet gibi normatif kavramlar yeni anlamlar kazanacaktır.

Dijital asimetriklik: Hasta ve hekim arasında asimetrik bir ilişki dendiğinde, bu ilişkiyi gerçekleştiren insanların durum, hal ve statü olarak eşit olmadıkları kastedilmektedir. Hekim, hastalığı şifaya kavuşturmak için gerekli bilgi ve tecrübeye sahip olan, kendisinden yardım istenilen ve medet umulan güçlü bir kişidir. Hasta ise ağrı, acı ve ıstırabı olup, bu durumunun iyileştirilmesi için hekimin yardımına muhtaç olan zayıf ve güçsüz bir insandır. Yapay zekâ ile çalışan makineleri sayesinde klasik hasta ve hekim ilişkisine üçüncü bir aktör eklenecektir. Hekim, yapay zekâyla çalışan makine ve hasta üçlüsü arasındaki asimetriklik hem nicelik, hem de nitelik olarak hasta ve hekim ilişkisine yeni bir boyut kazandıracaktır. Büyük veri ve yapay zekâ sistemlerinin ileride teşhis ve tedavi sürecinde çok yoğun bir şekilde kullanılacağını kabul edersek, bu süreçte muhtemelen hekim lider rolünü ve mevcut ilişkilerdeki gücünü kaybedecektir. Konu ile ilgili bazı çalışmalarda uzmanlar geliştirilecek yapay zekâ sistemlerinin hekimi sadece destekleyeceğini, dolayısıyla hekimin otoritesini ve sorumluluğunu hiçbir zaman kaybetmeyeceğini iddia etmektedirler (12, 15). Bu durum bu sürecin ilk safhalarında geçerli olsa bile ileriki aşamalarda dengenin yapay zekâ sistemleri lehine değişmesi muhtemeldir. Çünkü oldukça başarılı bir şekilde çalışan bu makinelerin verdiği kararlardan sapan bir hekim bu sapmasını savunmak zorunda kalacaktır. Eğer bu sapmadan dolayı tedavi sonucunda bir olumsuzluk olursa, belki hukuki açıdan sorumlu tutulacaktır. Böylece hekim teşhis ve tedavilerdeki eski otoritesini kaybedecektir.

Epistemik eşitsizlik: Asimetrik olarak tarif edilen hasta ve hekim ilişkisi aynı zamanda hekim ve hastanın farklı bilgilere sahip olmasından dolayı bilgi eşitsizliğini de içermektedir. Yapay zekâ sistemlerinin hekimin tıbbi ve tecrübi bilgiye ulaşmasını kolaylaştıracağı için, hekim ve hasta arasındaki zaten hekim lehine mevcut olan bilgi üstünlüğünü yani epistemik eşitsizliği artıracağı beklenebilir. Diğer taraftan bu süreç içerisinde hasta, kendi hastalığı ile ilgili bireyselleştirilebilmiş bilgiye daha kolay ulaşırsa, hekim ve hasta arasındaki mevcut bilgi farkı azalabilecektir. Şu anda internet ortamında sadece hastalıklar hakkında genel bilgiler verilebilmekte, bu bilgilerin bilimsel değerinin kontrolü zor olmaktadır. Bu durum da hastayı yanlış yönlendirerek, özellikle kendisi hakkında doğru bilgiye ulaşmasını zorlaştırmaktadır. Bu durumda internet sayfaları bilgi asimetrikliğini azaltıyor görünse bile, gerçekte azaltmamakta, hatta bazı durumlarda hekimler bu yanlış bilgileri düzeltmek, ya da bilgilerin yanlış yorumlanmasını engellemek için ek zaman ve emek harcamaktadırlar. İnternet ortamında yapay zekâ ile çalışan arama motorları daha verimli olursa ve bilgilendirme sayfaları daha bireysel çalışabilirse bilgi asimetrikliği azalabilecektir. Diğer taraftan asimetriklik her hasta için eşit derecede azalmayacaktır. Çünkü şu anda olduğu gibi internet kullanma beceri ve imkanları sınırlı olan belli incinebilir gruplar ve özellikle yaşlı kişiler bu kaynaklara ulaşmakta güçlük çekecekler ve bu konuda sunulan imkanlardan istifade edemeyeceklerdir. Bu da mevcut kaynaklara tüm insanların adil erişim hakkıyla ilgili etik bir sorundur.

Güvenin dijitalleşmesi: Güven hasta hekim ilişkisinin temelini oluşturur. İnsanın varoluş açısından sınırda olduğu hastalık anındaki bu ilişkinin her anlamda sağlıklı bir şekilde yürütülmesi için güven prensibi esastır. Genel anlamda yapay zekânın sağlık sisteminde kullanılması söz konusu olduğunda artık klasik anlamda hasta ve hekim arasındaki klasik bir güvenden değil farklı parçalardan oluşan bir güvenden bahsetmemiz gerekecektir. Hasta yapay zekâ makinelerine mi, bu makineleri üreten firmalara mı, bu teknolojiyi sağlık sistemine uyarlayan devlete ve resmi makamlara mı, yoksa bu teknolojiyi kullanan doktora mı güvenmelidir? Her hâlükârda burada bir ‘güven dilimlenmesinden’ bahsetmemiz gerekir. Bu dilimlenmenin de birçok etik ve hukuki anlamda karmaşık ve çok boyutlu sorunları beraberinde getireceğini söylememiz kehanet olmayacaktır (4). Yapay zekâlı tıp dünyasında hekimin bilinen teşhis ve tedavi imkanlarını kullanmasına olan güven zaman içerisinde onun yapay zekâyla çalışan sistemleri kullanmasına olan güvene evrilecektir. Yine hekimin hastanın bilgilerini ifşa etmeyeceğine olan güven belli bir şahsa olan güvenden ziyade sisteme olan güvene dönüşecektir. Çünkü yapay zekâlı sağlık sisteminin çalışabilmesi için tüm bilgiler dijital dünyaya aktarılmalıdır. Bu süreç içerisinde yine hastadan tüm bu dijital çağlayana katılan mahrem bilgisinin suiistimal edilmeyeceğine de güvenmesi beklenecektir. Eğer güven duymuyorsa verilerini sistemden çekmesi gerekir ki, bunun teknik olarak gerçekleşmesi artık hayaldir.

Mahremiyetin sanallaşması: Mahremiyet tıp ahlakının kadim geleneğinde her zaman var olmuştur ve mahremiyetin ihlal edildiği bir hasta hekim ilişkisi düşünülemez ve mümkün değildir (8). Fakat büyük veri ve yapay zekâ sistemlerinin tıpta başarılı bir şekilde kullanılabilmesi için, hastanın verilerinin dijital ortama yüklenmesi gerekir. Uzmanların görüşüne göre ise, dijital ortama aktarılan her bilgi tüm tedbirlere rağmen ulaşılabilme imkanına sahiptir. Dolayısıyla dijital dünyada bilgi mahremiyetini garanti etmek mümkün için sanal, yani gerçek olmayan mahremiyetten bahsedebiliriz. Halihazırda birçok ülkede hasta verileri dijitalleştiriliyor olsa da, şu an itibariyle bu veriler ülke bazında nispeten kapalı sistemlerde tutulmaktadır. Yapay zekâ makineleri eğer verimli bir şekilde kullanılacaksa tüm dünyadaki veriler ortak bir havuza akmalı ve uluslararası büyük veri sistemleri ve ağları arasındaki dijital perdeler kalkmalıdır. Böylesi bir durumda ise bu karmaşık büyük veri sistemlerinde bu verilerin nerede ve nasıl kullanılacağını belirlemek ve kontrol etmek uluslararası düzeyde imkansız olacaktır. Ayrıca şahsi veri hakimiyeti (data souverinity) olarak adlandırabileceğimiz kişinin kendi verileri hakkında tasarrufta bulunması ve bu veriler hakkında karar yetkisine sahip olması imkansız hale gelecektir (3). Böyle bir şey olsa bile bu durum onun yapay zekâ sistemlerinin nimetlerinden ya hiç, ya da yeterince faydalanamaması anlamına gelir. Çünkü yapay zekânın en verimli bir şekilde kullanılması dünyadaki dijital veri havuzuna herkesin katılımıyla mümkün olacaktır.

Yapay Zekâ Sistemlerinin Ahlakiliği

Yapay zekâ sistemleri tıp hizmetlerinin ayrılmaz bir parçası haline gelmeden önce bu sistemlerle alınan kararların ahlakiliğinin sorgulanması gerekir (11). Yapay zekâ sistemlerinin tıp alanında kararları belirlemesi ahlaki bir eylem olarak anlaşılabilir mi? Eğer yapay zekâ sistemleri teşhis ve tedavileri belirleyecekse bu eylemden ahlaki bir özne olarak sorumlu tutulabilirler mi? (16) Hekimin tedavi ile ilgili kararların geneline bakıldığında sadece bir ilacın tıbbi fayda ve zararı değil, hastanın insan olmasından kaynaklanan - özellikle zor vakalarda - birçok değişkenin göz önünde bulundurulması gerektiğini tespit etmemiz mümkündür. Örneğin 90 yaşında kanser tedavisinin son evresine gelmiş, kendisi hakkında karar veremeyen demanslı bir hastanın hayatının sonundaki tedavilerine nasıl karar verilecektir? Burada hayatın kutsallığı ve yaşamın dokunulmazlığı, insanlık şerefi, hastanın özerkliği, (farz edilen) rızası, kaynakların adil dağıtımı ve yaşam kalitesi gibi bir çok normatif kavram karar verme sürecinde göz önünde bulundurulmalıdır. Yine bu kararların, sosyal, psikolojik, dini ve hukuki boyutları bulunmaktadır. Pekala tüm bu normatif kavramlar ve farklı boyutlar ahlaki bir eylem çerçevesinde yapay zekâ sistemlerinin algoritmalarıyla nasıl değerlendirilecektir? Görüldüğü gibi böylesi bir karar yapay zekâ sistemlerinin kullandığı tıbbi algoritmalara teslim edilemeyecek kadar karmaşıktır (2).

Kanaatimce yapay zekâ sistemleri ahlaki bir özne olarak düşünülemez çünkü ahlaki bir özne olmak için gerekli olan özgür irade, karar alma ve eylem biçimleri makineler için mümkün değildir. Bu makineler özgür iradeden çok, daha önce programcılar için belirlenmiş algoritmalardan dolayı bu kararları almaktadırlar. Aynı şekilde yapay zekâ sistemlerinde denetimli ve denetimsiz öğrenim yoluyla alınan kararlar da özgür irade ile alınmış kararlar olmayıp ahlaki bir özneden neşet etmemektedir (17). Aynı kararların alınması İngilizcede deep learning denilen derin öğrenme ile olsa bile ahlaki bir özneden yoksundur. Çünkü derin öğrenme ve bu öğrenmeye bağlı kararlar belli bir programlama ve algoritmalardan bağımsız değildir. Yapay zekâ sistemleri tarafından alınan tüm kararlar, programlama tabanlı ve algoritmaya bağlı olduğu için ahlaki bir öznenin aldığı bir karar olarak değerlendirilemezler.

Eğer karar alma süreçlerinde etik ikilemler söz konusuysa, bu ikilemin içermiş olduğu normatif kavramlar teorik olarak belli bir algoritma içerisinde değerlendirilip yapay zekâ sistemleriyle karar verilebilir. Fakat bu karar süreçlerinde hangi etik teori kullanılacak ve bu teori seçimini kim yapacaktır? Bu sistemler; deontolojik etik, faydacı etik, fazilet etiği veya İslam, Hristiyan ya da Yahudi ahlakına göre mi karar vermelidirler? Burada ileriye yönelik şu sorulabilir: eğer bu sistemler etik argüman geliştirme konusunda zaman içerisinde iyi bir şekilde geliştirilerek hekimlerden etik açıdan daha profesyonel karar verebilirlerse durum ne olur?

Sonuç olarak büyük veri ve yapay zekânın sağlamış, olduğu yeni imkanlarla hastalıkların daha çabuk, etkili ve verimli tedavi edilmesi beklenmektedir. Böylesi olumlu sonuçların sadece sathi bir teknoloji ve/veya batı düşmanlığı ile reddedilmesinin anlamlı olmadığı kanaatindeyim. Diğer taraftan böylesi bir karar ‘bir işe yarıyorsa (ahlaken) iyidir’ şeklinde basit bir reflekse de indirgenmemelidir. Çünkü böylesi bir değişim tıp tarihinde daha önce benzerini görmediğimiz bir özellikte ve kompleksliktedir.

Yapay zekâ sistemlerinin tıpta kullanılması konusunda dünya genelinde bir durum tespiti yapıldığında artık evet mi hayır mı aşamasını çoktan geçtiğimizi bilmemiz gerekir. Hayır deme imkânı çoktan kalktığı için, daha çok nasıl bir büyük veri ve yapay zekâ makineleriyle çalışan bir sağlık sistemi istiyoruz sorununa cevap aramalıyız. Bu soru kompleks ve zor bir sorudur. Bu kompleksliğin en önemli özelliği artık mahremiyet ve güven gibi normatif kavramların da gerçek ötesi çağda (İng. post truth era ya da post factual era) anlamının muğlaklaşmasıdır. Bu durum bizim için entelektüel anlamda iki boyutlu bir sorun ve çalışma alanı yaratmaktadır. Birinci sorun yeni oluşan startların kompleksliğinden neşet eden muğlaklığın anlaşılması ve anlamlandırılmasıdır. İkinci sorun ve çalışma alanı ise bu muğlaklığın kendi düşünce geleneğimiz içerisinde arkeolojik çalışmalar yaparak giderilmesidir. Yapay zekâ sistemlerinin sağlık hizmetlerinde kullanılmasının etik açıdan değerlendirilmesi henüz kesin olarak mümkün olmasa bile bu süreç içerisinde belli tavsiyelerde bulunulabilir.

Yapay Zekâ Sistemlerinin Tıp Alanına Uygulanması Sürecinde Etik Açıdan 10 Tez ve Tavsiyeler

1. Yapay zekâ sistemlerinin sağlık alanında kullanılmasının etik açıdan değerlendirmesini yapmak için öncelikle bu süreçteki anlamlı ve önemli olan normatif kavramlar tespit edilmeli ve bu kavramların anlamları müşahhas ulaştırılmalıdır.

2. Bu alandaki uygulamaları değerlendirirken insan sağlığının korunması ve hastalıkların tedavi edilmesi temel kıstaslardan olmalıdır. Bu bağlamda konuya teknoloji hayranlığı ya da teknoloji düşmanlığıyla yaklaşmak yanlıştır.

3. Bu tür uygulamaların değerlendirilmesinde sadece hastalıktan korunma ve hastalığın şifaya kavuşturulması değil, aynı zamanda temel insan hakları, adalet, özerklik, mahremiyet, toplumun refahı ve maslahat gibi diğer ilgili normatif kavramlar da değerlendirmeye dahil edilmelidir.

4. Yapay zekâ sistemlerinin tıp alanına uygulanması, ancak çok büyük maddi yatırım ve insan gücü kullanımıyla mümkün olacağından dolayı, buraya harcanan kaynaklar ile elde edilen fayda orantılılık ilkesine göre değerlendirilmelidir.

5. Sağlıkta teknolojik değerlendirme (İng. health technology assesment) yöntemleri kullanılarak yapay zekâ sistemlerinin geleceğe yönelik neleri değiştirebileceği profesyonel bir şekilde tespit edilmelidir. Bu tespitlere istinaden bu değişiklikler arzu edilebilir, ekonomik açıdan gerçekçi, hukuken meşru, ahlaki argümanlarla savunulabilir ve etik açıdan gerekçelendirilebilir olmalıdır.

6. Tüm bu gelişme ve uygulamaların sosyokültürel yapımız, dini inancımız, düşünce geleneğimiz ve değerler sistemimiz bağlamında ne anlama geldiği sorgulanmalıdır. Muhtemel sonuçlar; insan, hastalık, hasta olmak, sağlık, şifa, hakikat ve hikmet gibi kavramlar açısından analiz edilmeli ve bu analiz sonuçları felsefi refleksiyona tabi tutulmalıdır.

7. Hem teşhis, hem de tedavi kararlarında kullanılan algoritmaların sadece pozitif bilimlere ait olduğunu ve ahlaki değerler açısından nötr olduğunu ve ortaya çıkmış olduğu kültürden bağımsız olduğunu söylemek meselenin bütününü görmemek anlamına gelir. Bu algoritmalarla birlikte direk ya da dolaylı olarak normatif değerlendirmeler de sisteme dahil olmaktadır. Yani algoritma ithali, aslında aynı zamanda değer ithali anlamına gelmektedir. Dolayısıyla bu konudaki alınacak kararlarda ve belirlenecek siyasette bu hususlar ülkemiz açısından gözden kaçırılmamalıdır.

8. Daha çok sosyal ve beşeri bilimlerin alanına giren böylesi araştırmalar, tartışmalar ve eleştiriler ardıl olarak değil, gelişmelerle eşzamanlı olarak yapılmalıdır. Halk tabiriyle 'tekerlek kırıldıktan sonra' yapılacak araştırmalar ve kurulacak kurullar sorunu temelinden çözmek yerine, sadece 'yara bandı' görevi ifa edeceğinden, doğru bir yaklaşım ve sürdürülebilir bir bilimsel politika değildir.

9. Bir ülkede tıpta yapay zeka uygulamaları o ülkede yaşayan tüm insanları etkileyeceğinden, konuyla ilgili bilgilendirmeler yapılmalıdır. Şeffaflık prensibi gereği bu bilgiler güvenilir kaynaklardan, vatandaşlara doğru, kolay ulaşılır ve anlaşılır bir şekilde sunulmalıdır. İnsanların anlamadığı, güvenmediği ve faydasına ikna olmadığı sistem ve uygulamalar başarısız olmaya mahkumdurlar.

10. Konuyla ilgili tartışmalar sadece uzmanlar arasında değil, aynı zamanda toplum içerisinde ve sivil toplum örgütleri arasında da olmalıdır. Herkesin kolayca müdahil olabileceği mütalaalar (diskurs) gerçekleştirilmeli ve bunlar için ortamlar oluşturulmalıdır. Bu diskurslar günübirlik, kısa vadeli siyasi çıkarları hedeflemeyen, polemikten uzak ve toplumun gerçek çıkarlarına yönelik bir şekilde şekillendirilmeli ve sürdürülmelidir.

* Bu makale yazarın daha önce yayınlanmış olan ‘Reshaping the Patient-Physician Relationship through Artificial Intelligence in Medicine? Promises, Opportunities, and Ethical Challenges’ başlıklı makalesinin, üzerinde çalışılarak değiştirilmiş ve geliştirilmiş halidir.

Kaynaklar

1) Aminololama-Shakeri S, Lopez, JE, The Doctor-Patient Relationship with Artificial Intelligence, American Roentgen Ray Society 2018; 212 (2): 308-310.

2) Biller-Andorno N, Biller A, Algorithm-Aided Prediction of Patient Preferences – an Ethics Sneak Peek, the New England Journal of Medicine 2019; 381 (15): 1480-1485.

3) Deutscher Ethikrat, Big Data and Health – Data Sovereignty as the Shaping of Informational Freedom. Berlin 2017.

4) Grunwald, A., Der unterlegene Mensch: Die Zukunft der Menschheit im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern, 2019.

5) Haenssle H. A., et al., Man against Machine: Diagnostic Performance of a Deep Learning Convolutional Neural Network for Dermoscopic Melanoma Recognition in Comparison to 58 Dermatologists, Annals of Oncology 2018; 29 (8): 1836-1842.

6) Hartmann F, Patient, Arzt und Medizin. Beiträge zur ärztlichen Anthropologie, 1984.

7) Hosny A., et al., Artificial Intelligence in Radiology, Nature Reviews. Cancer 2018; 18 (8); 500-510.

8) İlkılıç İ, Kucur C, Önder O, Hasta Mahremiyeti, İstanbul 2019.

9) İlkılıç İ, Reshaping the Patient-Physician Relationship through Artificial Intelligence in Medicine? Promises, Opportunities, and Ethical Challenges. Journal of AI Humanities 2020; 6: 9-31.

10) Jalal S., et al., Artificial Intelligence, Radiology, and the Way Forward, Canadian Association of Radiologists Journal 2019; 70 (1): 10-12.

11) Jotterand F, & Bosco C, Keeping the “Human in the Loop” in the Age of Artificial Intelligence, Science and Engineering Ethics 2020; 26 (5): doi: 10.1007/s11948-020-00241-1.

12) Karches KE, Against the iDoctor: Why Artificial Intelligence Should Not Replace Physician Judgment. Theoretical Medicine and Bioethics 2018; 39 (2): 91-110.


13) Lin SY, et al., Ten Ways Artificial Intelligence Will Transform Primary Care, Journal of General Internal Medicine 2019; 34 (8): 1626-1630.

14) Marchetti MA, et al., Collaboration. International Skin Imaging: Results of the 2016 International Skin Imaging Collaboration International Symposium on Biomedical Imaging Challenge: Comparison of the Accuracy of Computer Algorithms to Dermatologists for the Diagnosis of Melanoma from Dermoscopic Images. In: Journal of the American Academy of Dermatology 2018; 78(2): 270–277.e1.

15) Mittelman M. et al., Patient commentary: Stop Hyping Artificial Intelligence-Patients Will Always Need Human Doctors, British Medical Journal, 2018 DOI: 10.1136/bmj.k4669.

16) Neri E, et al., Artificial Intelligence: Who is Responsible for the Diagnosis? La Radiologia Medica 2020; 125 (6): 517-521.

17) Nida-Rümelin J, Weidenfeld N, Digitaler Humanismus. Eine Ethik für das Zeitalter der Künstlichen Intelligenz, 2018.

18) Obermeyer Z, Emanuel EJ, Predicting the Future - Big Data, Machine Learning, and Clinical Medicine, the New England Journal of Medicine 2016; 375 (13): 1216-1219.

19) Tschandl P, et al. Comparison of the Accuracy of Human Readers versus Machine-Learning Algorithms for Pigmented Skin Lesion Classification: an Open, Web-Based, International, Diagnostic Study. The Lancet. Oncology 2019; 20(7): 938–947.

20) Uçar A, İlkılıç İ, Büyük Verinin Sağlık Hizmetlerinde Kullanımında Epistemolojik ve Etik Sorunlar, Sag&s74;lık Bilimlerinde I&s75;leri Aras&S07;tırmalar Dergisi 2019; 2 (2): 80-92.

SD (Sağlık Düşüncesi ve Tıp Kültürü) Dergisi Mart, Nisan, Mayıs 2021 tarihli 58. sayıda sayfa 18-21’de yayımlanmıştır.

3 HAZİRAN 2021
Bu yazı 304 kez okundu

Etiketler



Sayı içeriğine ait yorum bulunamamıştır. Yorum yazabilmek için üye girişi yapınız

  • SON SAYI
  • KARİKATÜR
  • SÖYLEŞİ
  • Şehir hastaneleri hakkında düşünceniz nedir?