Etik İlkeler ve Değerler

1. Etik İlkeler ve Değerler

Yapay Zekâ (YZ) sağlık alanında öncelikli olarak teşhis doğruluğunu artırma, tedavi süreçlerini kişiselleştirme ve sağlık sistemleri ve hizmet verme süreçlerinin verimliliğini optimize etme amaçlarıyla kullanılmaktadır (1). Hekim ve hastalar arasındaki ilişki tarih boyunca farklı açılardan ele alınarak incelenmiştir son yüzyılda YZ gelişimi ile ise bu alanda yeni tartışma alanları, çekinceler ve yorumlar gelişmiştir. Önceki dönemlerde bu ilişkide 2 taraf varken günümüzde karar verme, tanıyı destekleme gibi alanlarda kullanılmaya başlanan YZ’da bu ilişkinin bir parçası haline gelmiş, sorumluluk, otonomi, mahremiyet, veri güvenliği, şeffaflık ve hesap verebilirlik kavramları yeniden ele alınmaktadır (2). Ayrıca tıp alanında temel ilke olarak kabul edilen yararlılık, zarar vermeme, özerklik, eşitlik ve adalet YZ algoritmalarının tasarımı, etki mekanizması üzerinden tekrar yorumlamayı gerekli kılmaktadır. YZ modellerinin gündelik olarak kullanımında hastaların duyduğu güven, bilgilendirilmiş onam süreçlerinin kapsamı, hastaların onama dair farkındalığı ve algoritmik önyargıların olası etkileri de entegrasyon sürecinde dikkat edilmesi gereken faktörlerdir (3). Dolayısıyla sağlıkta yapay zeka uygulamalarını değerlendirirken teknolojik yeterliliği ve başarısı kadar ilişkisel, etik ve hukuki etki alanı da kapsamlı şekilde değerlendirilmelidir. Bu doğrultuda bu yazıda YZ dönüşüm sürecinde dikkat edilmesi gereken etik ilke ve değerler Biyomedikal Etiğin Dört Temel İlkesi ve YZ ile gelen görece yeni olarak değerlendirilen ilkeler üzerinden ele alınmıştır. Tom L. Beauchamp and James F. Childress tarafından ortak ahlaka dayandırılan ve temel ahlaki değerleri yansıttığı vurgulanan biyomedikal etiğin 4 temel ilkesi özerklik, zarar vermeme, fayda sağlama ve adalettir.

1.Fayda Sağlama: Bu ilke sağlık profesyonellerinin hastanın menfaatine en uygun tedavi yöntemini uygulama, bilgilendirme, iyiliği teşvik etmesine dair olan ahlaki yükümlülüğünü ifade etmektedir. Radyoloji, patoloji ve dermatoloji gibi görsel veri yoğunluklu alanlarda, derin öğrenme algoritmaları insan gözünün algılayamayacağı örüntüleri tespit ederek tanısal doğruluğu artırmakta ve hızlı şekilde artan literatürü analiz ederek kişiselleştirilmiş tıp hedefine katkı sunmaktadır (4). Klinik karar destek sistemleri sağlık sistemlerindeki artan iş yükü ve bürokrasi yönetimini kolaylaştırarak, dokümantasyon, veri girişi ve triyaj gibi rutin görevleri üstlenerek, hekimlerin daha nitelikli ve empatik iletişim süreçlerini yönetmesine imkân tanımaktadır. Bunlarla birlikte teknolojinin sınırlı olduğu alanlar da bulunmaktadır özellikle ruh sağlığı alanında kullanılan YZ tabanlı chatbotlar erişilebilirliği arttırasa da insan empatisinin yerini tutamamakta ve anlaşılamama hissi oluşturmaktadır, bazıları tarafından bu araçların hastaları sosyal izolasyona sürükleme ve insan temelli terapötik ilişkinin yerini alma riski, "fayda" kavramına aykırı olarak görülmektedir (5).

2.Zarar Vermeme: Zarar vermeme ilkesi tıbbi müdahalelerin hastalara fiziksel, psikolojik ve sosyal açıdan zarar vermemesini, risklerin minimize edilmesini şart koşmaktadır. YZ sistemlerinde bu ilke, algoritmik hatalar, algoritmik önyargı ve siber güvenlik açıkları üzerinden tartışılmaktadır. YZ modellerinin çıktıları eğitildikleri veri setlerinin içeriği ile sınırlıdır bu sebepten YZ modelleri eğitim verisinden farklı bir demografik ve klinik popülasyonda kullanıldığında performansı düşmekte, yanlış pozitif ve negatif sayıları artmakta, hatalı tanı ve tedaviye sebep olabilmektedir (6). Örneğin sadece belirli bir etnik grubun deri görselleriyle eğitilen bir kanser tarama algoritmasının, diğer etnik gruplarda yüksek oranda yanlış negatif sonuç vermesi, tedavinin gecikmesine ve zarar vermeye sebep olma potansiyeli taşır. Klinisyenlerin, YZ sistemlerinin önerilerine güvenerek kendi klinik yargılarını devre dışı bırakmaları durumu "otomasyon yanlılığı" olarak adlandırılmaktadır ve hastaya zarar veren bir eylemsizlik halidir (7). Sağlık verilerinin dijitalleşmesi ve YZ eğitimi için üçüncü taraflarla paylaşılması, veri sızıntısı ve siber saldırı riskini artırmaktadır. KVKK ve GDPR gibi regülasyonlar bu durumları önlemeye çalışsa da hızlı dijitalleşme mevzuatın uygulama ve denetim kapasitesini zorlamaktadır (8).

3.Özerkliğe Saygı: Bu ilke hastaların kendi bedenleri ve uygulanacak tanı, tedavi süreçleri hakkında bilgilendirme alma ve rızaya dayalı karar verme hakkını korumaktadır. Klinikte sözlü onam ve bilgilendirme süreçleri sözlü olarak yapılmaktadır ancak YZ algoritmalarının karar verme süreçlerinin şeffaf olmaması hastalar açısından tanı ve tedavi süreçlerini anlamayı doktorlar açısından ise öneriyi anlamlandırmayı olumsuz olarak etkilemektedir (9). YZ sistemlerinin birçoğu hayatta kalma süresi, tümör boyutu gibi ölçülebilir objektif verileri kullanmaktadır ancak hasta açısından yaşam kalitesi, bilişsel fonksiyonlar ağrı derecesi gibi subjektif durumlar daha önemli olabilmektedir ve indirgemeci olarak yorumlanmaktadır.

4.Adalet: Tüm bireyler arka planlarından bulundukları şartlardan bağımsız olarak sağlık kaynaklarına eşit şekilde erişim hakkına sahiptir. YZ eşitsizlikleri doğası sebebi ile hem azaltma hem de arttırma potansiyeline sahiptir. Teletıp, kişiselleştirilmiş tanı tedavi uygulamaları daha fazla insanın aynı kalitede sağlık hizmetine ulaşımını kolaylaştırmaktadır. Ancak toplumsal önyargılar toplanan verilere de yansıdığı için algoritmik önyargı oluşmaktadır. Eğitim verileri ağırlıklı olarak beyaz, erkek ve yüksek sosyoekonomik statüye sahip bireylerden oluştuğundan, algoritmalar kadınlar, azınlıklar ve dezavantajlı gruplar için daha düşük performans göstermektedir ve sistemsel adaletsizliği artırmakta yeniden üretmektedir (10). YZ geliştiren büyük teknoloji şirketlerinin, genellikle Küresel Güney veya düşük gelirli ülkelerden veri toplayıp, bu verilerle geliştirdikleri yüksek maliyetli YZ ürünlerini tekrar bu ülkelere satması, "veri sömürgeciliği" olarak adlandırılmaktadır (11). Bu durum, veriyi sağlayan toplulukların, üretilen değerden adil pay alamamasına neden olmaktadır. YZ tabanlı ileri tanı ve tedavi yöntemlerinin yüksek maliyetleri, bu hizmetlerin sadece zengin ülkelerde veya özel sigorta kapsamındaki hastalarda kullanılabilir olmasına yol açmakta ve erişimde dengesizliğe sebep olmaktadır.

5.Biyoetiğin Genişleyen Sınırları: Dünya Sağlık Örgütü (WHO) YZ’nın çevreye ve ekonomiye etkisini de etik bir sorun olarak ele almaktadır. Büyük dil modellerinin (LLM) eğitimi sırasında tüketilen yoğun enerji ve oluşan karbon ayak izi, küresel halk sağlığını ve iklim krizini dolaylı olarak tehdit etmektedir (12). Bir YZ modelinin eğitimi, yüzlerce transatlantik uçuşa eşdeğer karbon salınımına neden olmakta ve zarar vermeme ilkesi ile çatışmaktadır.

YZ kullanımı sebebi ile klinik hata gerçekleştiğinde hukuki ve etik açıdan sorumluluğun kime ait olduğuna dair somut kurallar ve yönetmelikler bulunmamaktadır bu da sorumluluk karmaşasına sebep olmaktadır. Bu durum hekimler açısından değerlendirildiğinde YZ’nın hatalı olması durumunda klinik yetkisini kullanmadığı, kendi yargısını kullanıp yetersiz kaldığında ya da yanlış uygulama yaptığında teknoloji güvensizliği üzerinden eleştirilir, bu da hekimler için baskı oluşturmaktadır. Avrupa hukukunda bu konu hakkındaki hakim görüş YZ’nın kişiliği, bilinci olmadığı bu sebepten de sorumlu tutulamayacağı yönündedir ve sorumluluk hekimde ya da YZ sistemini üreten firmadadır (13).

Sonuç olarak, YZ’nın sağlık hizmetlerine entegrasyonu, tıp etiğinin temel ilkeleri ile birlikte teknolojiyle evrilen dinamik bir süreçtir. Geleneksel biyomedikal ilkeler olan yararlılık, zarar vermeme, otonomi ve adaletin yanı sıra algoritmik şeffaflık, veri mahremiyeti ve çevresel sürdürülebilirlik net şekilde tanımlanmalı ve regülasyonlar oluşturulmalıdır. Bunun için teknik mükemmeliyetin yanı sıra "insan döngü içinde" (human-in-the-loop) yaklaşımının korunması, hukuki belirsizliklerin giderilmesi ve algoritmaların evrensel insan haklarına saygılı biçimde denetlenmesi önemlidir.

Kaynakça

1. Amann J, Blasimme A, Vayena E, Frey D, Madai VI. Explainability for artificial intelligence in healthcare: a multidisciplinary perspective. BMC Med Inform Decis Mak. 2020;20(1):310.
2. Arora A. Conceptualising ‘fairness’ in data privacy and protection: an analysis of the GDPR and the Data Protection Act 2018. Int J Law Inf Technol. 2023;31(1):1-24.
3. Bajwa J, Munir U, Nori A, Williams B. Artificial intelligence in healthcare: transforming the practice of medicine. Future Healthc J. 2021;8(2):e188-e194.
4. Celi LA, Cellini J, Charpignon ML, et al. Sources of bias in artificial intelligence that perpetuate healthcare disparities - A global review. PLOS Digit Health. 2022;1(3):e0000022.
5. Kaack LH, Donti PL, Strubell E, et al. Aligning artificial intelligence with climate change mitigation. Nat Clim Chang. 2022;12(6):518-527.
6. Mohamed S, Png MT, Isaac W. Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philos Technol. 2020; 33:659–684.
7. Morley J, Machado CCV, Burr C, et al. The ethics of AI in health care: A mapping review. Soc Sci Med. 2020; 260:113172.
8. Neri E, Coppola F, Miele V, Bibbolino C, Grassi R. Artificial intelligence: Who is responsible for the diagnosis? Radiol Med. 2020;125(6):517-521.
9. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med. 2022;28(1):31-38.
10. Sedlakova J, Trachsel M. Conversational Artificial Intelligence in Psychotherapy: A New Taxonomical Framework. Am J Bioeth. 2023;23(5):4-13.
11. Seyyed-Kalantari L, Zhang H, McDermott MBA, Chen IY, Ghassemi M. Underdiagnosis bias of artificial intelligence algorithms applied to chest radiographs in under-served patient populations. Nat Med. 2021;27(12):2176-2182.
12. Sullivan HR, Schweikart SJ. Are Current Tort Liability Doctrines Adequate for Addressing Injury Caused by AI in Health Care? AMA J Ethics. 2019;21(2): E160-166.
13. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021.