Algoritmik Önyargı ve Adalet

Giriş

Yapay zekâ (YZ) tabanlı sistemler sağlık hizmetlerinde tanı, risk sınıflaması, prognoz tahmini ve klinik karar destek süreçlerinde giderek daha yaygın biçimde kullanılmaktadır. Bu teknolojiler klinik verimliliği artırma ve karar süreçlerini destekleme potansiyeline sahip olsa da, bazı hasta grupları için sistematik olarak daha hatalı veya daha olumsuz sonuçlar üretme riski taşımaktadır. Bu durum literatürde algoritmik önyargı olarak tanımlanmaktadır¹.

1.1 Kapsam ve Yaklaşım

Bu kitap bölümünün amacı, sağlıkta YZ uygulamalarında algoritmik önyargının hangi mekanizmalarla ortaya çıktığını, bu önyargıların klinik ve etik sonuçlarını ve adalet kavramının pratikte nasıl ele alınabileceğini disiplinlerarası bir perspektifle açıklamaktır. Bölüm, algoritmik önyargıyı yalnızca teknik bir modelleme problemi olarak değil; veri toplama, problem tanımı, klinik uygulama ve yönetişim süreçlerini kapsayan bütüncül bir risk alanı olarak ele almaktadır. Bu yaklaşımın kavramsal çerçevesi, Dünya Sağlık Örgütü’nün etik ve insan hakları temelli sağlıkta yapay zekâ ilkelerine dayanmaktadır².

Bu bölüm, sağlık alanında yapay zekâ uygulamalarında algoritmik önyargı ve adalet konusunu kavramsal, klinik ve yönetişim boyutlarıyla ele almaktadır. Buna karşılık, matematiksel adalet tanımlarının formal ispatları, ayrıntılı model mimarileri, algoritma veya kod düzeyinde çözüm önerileri, kapsamlı hukuki yorumlar ve belirli klinik vaka incelemeleri bu bölümün kapsamı dışında bırakılmıştır. Ayrıca, sağlık ekonomisi ve maliyet-etkinlik analizleri ile ülke-özel ayrıntılı düzenleyici uygulamalar bu çalışmada yalnızca genel çerçeve düzeyinde ele alınmakta; ayrıntılı değerlendirmeler için ayrı çalışmalara ihtiyaç duyulmaktadır.Bu bölüm, seçilmiş temel çalışmalar ve rehberler üzerinden ilerleyen anlatı derlemesi niteliğindedir; sistematik derleme metodolojisi (PRISMA vb.) izlenmemiştir.

1.2 Tanım ve mekanizmalar

Algoritmik önyargı, bir yapay zekâ sisteminin çıktılarının belirli hasta gruplarında sistematik biçimde farklı klinik sonuçlara yol açması durumudur. Bu farklılıklar, modelin genel doğruluk düzeyi yüksek olsa bile, bazı gruplarda daha fazla yanlış sınıflandırma veya klinik ihtiyaçların yetersiz temsil edilmesi şeklinde ortaya çıkabilir. Algoritmik önyargılar yaş, cinsiyet, sosyoekonomik durum, etnik köken veya coğrafi farklılıklar ile ilişkili olabilir. Önemli bir nokta, bu tür önyargıların çoğu zaman açıkça “korunan” değişkenler modele dâhil edilmeden de ortaya çıkabilmesidir; çünkü yapay zekâ sistemleri, toplumsal ve yapısal eşitsizlikleri yansıtan dolaylı göstergeler üzerinden bu farklılıkları öğrenebilmektedir³. Denetimli öğrenmede model, geçmiş verilerde “girdi” (ör. yaş, laboratuvar, görüntü bulgusu) ile “çıktı/etiket” (ör. tanı, yatış, maliyet) arasındaki örüntüleri öğrenir ve benzer örüntüleri yeni hastalara uygular. Bu süreçte, proxy (dolaylı) değişkenler ayrımcılık üretebilir: Örneğin “sağlık ihtiyacı” yerine “geçmiş sağlık harcaması” etiketi kullanılırsa, hizmete erişimi düşük grupların harcaması düşük görüneceği için model bu grupların riskini sistematik olarak daha düşük tahmin edebilir³. Benzer biçimde, posta kodu, hastane türü veya sigorta durumu gibi değişkenler, klinik gereksinimden bağımsız biçimde sosyoekonomik koşulları yansıtarak gruplar arası hataları artırabilir Sağlık alanında algoritmik önyargı riski, kullanılan yapay zekâ yaklaşımına göre farklı biçimlerde ortaya çıkabilmektedir. Klinik risk tahmini ve prognoz modellerinde sıklıkla kullanılan denetimli öğrenme yöntemleri (ör. lojistik regresyon, rastgele orman ve gradyan artırmalı ağaçlar), hedef değişken seçimine ve eğitim verisinin temsiliyetine özellikle duyarlıdır. Tıbbi görüntüleme uygulamalarında yaygın olarak kullanılan derin öğrenme ve konvolüsyonel sinir ağları (CNN), büyük ve dengeli veri kümeleriyle eğitilmediğinde az temsil edilen hasta gruplarında performans kaybı gösterebilmektedir. Elektronik sağlık kayıtları ve klinik notların analizinde kullanılan doğal dil işleme (NLP) yöntemleri ise dilsel kullanım farklılıklarını, kodlama pratiklerini ve kayıt alışkanlıklarını öğrenerek dolaylı biçimde grup temelli yanlılıklara yol açabilmektedir. Bu nedenle algoritmik önyargı, belirli bir model türüne özgü bir sorun olmaktan ziyade, kullanılan yöntem ile veri ve klinik bağlam arasındaki etkileşimin bir sonucudur.

Sağlık alanında algoritmik adalet, tek bir matematiksel ölçütle tanımlanabilecek basit bir kavram değildir. Adaletin nasıl yorumlanacağı, algoritmanın kullanım amacı ve klinik bağlama göre değişiklik göstermektedir. Örneğin risk skorlarının böbrek nakli bekleme listesi gibi karar süreçlerinde kullanıldığı durumlarda, aynı skorun farklı hasta gruplarında benzer klinik anlam taşıması ve benzer doğrulukta risk yansıtması öncelikli olabilir. Buna karşılık, erken tanının kritik olduğu kronik hastalıklar veya kanser tarama programlarında, yanlış negatif sonuçların belirli bir hasta grubunda yoğunlaşmaması hasta güvenliği açısından daha belirleyici bir adalet ölçütü haline gelmektedir. Bu durum, algoritmik adaletin yalnızca teknik performans metrikleriyle değil, doğrudan klinik sonuçlar ve hasta güvenliği ile birlikte değerlendirilmesi gerektiğini göstermektedir⁴.

Algoritmik adalet kavramı, sağlık alanına özgü çalışmalardan önce genel makine öğrenmesi literatüründe kuramsal olarak ele alınmıştır. Hardt ve arkadaşları, fırsat eşitliği yaklaşımıyla, belirli bir klinik duruma gerçekten sahip olan bireylerde yanlış negatif oranlarının gruplar arasında dengelenmesini önermiştir⁵. Kleinberg ve Chouldechova’nın çalışmaları ise farklı adalet tanımlarının aynı anda sağlanamayabileceğini ve performans ile adalet arasında kaçınılmaz ödünleşimler bulunduğunu göstermiştir⁶˒⁷. Barocas ve Selbst, algoritmik önyargının yalnızca modelleme hatalarından değil, veri üretim süreçleri ve kurumsal karar mekanizmalarından kaynaklanan yapısal bir sorun olduğunu vurgulamıştır⁸. Bu kuramsal çerçeveler, sağlık uygulamalarında tek bir evrensel “adil” algoritma hedeflemek yerine, klinik bağlama duyarlı adalet tanımlarının açıkça belirlenmesi ve sonuçların hasta güvenliği açısından değerlendirilmesi gerektiğini ortaya koymaktadır.

1.3 Klinik sonuçlar ve güvenli kullanım

Algoritmik önyargı çoğu zaman model geliştirme sürecinin tek bir aşamasından değil, yapay zekâ sisteminin tüm yaşam döngüsünden kaynaklanmaktadır. Temel sorunlardan biri, problem tanımı ve hedef değişken seçimidir. Sağlık ihtiyacını doğrudan ölçmek yerine sağlık harcamalarını risk göstergesi olarak kullanan algoritmaların, sağlık hizmetlerine erişimi kısıtlı olan grupların riskini sistematik olarak olduğundan düşük tahmin edebildiği gösterilmiştir³. Benzer şekilde, kullanılan veri setlerinin belirli hasta gruplarını yeterince temsil etmemesi, modellerin genellenebilirliğini sınırlayan önemli bir etkendir. Pediatrik hastalar, nadir hastalıklara sahip bireyler ve sosyoekonomik olarak dezavantajlı gruplar çoğu veri setinde yetersiz temsil edilmekte; bu durum söz konusu gruplarda model performansının düşmesine yol açmaktadır.

Ölçüm ve etiketleme süreçleri de algoritmik önyargının önemli kaynakları arasındadır. Klinik pratikte tanı koyma, raporlama ve kayıt tutma alışkanlıklarının hasta grupları arasında farklılık göstermesi, veri etiketlerine sistematik yanlılıkların yansımasına neden olabilmektedir. Nitekim göğüs grafilerine uygulanan yapay zekâ algoritmalarının, yetersiz hizmet alan popülasyonlarda daha yüksek oranlarda eksik tanıya yol açtığı gösterilmiştir⁹. Buna karşılık, farklı hasta gruplarını yeterli ve dengeli biçimde içeren veri kümeleri kullanılarak geliştirilen ve adalet ilkeleri gözetilerek tasarlanan klinik yapay zekâ modellerinde, gruplar arası performans farklılıklarının azaltılabildiği literatürde belirtilmektedir¹⁰.

Algoritmik önyargının sağlık hizmetlerinde doğrudan klinik sonuçları bulunmaktadır. Yanlı çalışan risk tahmin modelleri, bazı hasta gruplarının önleyici programlara veya ileri tetkiklere daha geç yönlendirilmesine neden olabilmektedir. Bu etkiler çoğu zaman performans metriklerinin ötesinde, ölçülebilir hasta sonuçlarına uzanır. Örneğin bir triyaj/risk skoru belirli bir grupta yanlış negatif oranını artırıyorsa, bu hastalar ileri tetkike daha geç yönlendirilebilir; sonuçta tanı gecikmesi, tedaviye geç başlama ve komplikasyon riskinde artış görülebilir. Benzer şekilde, görüntüleme algoritmalarında bazı gruplarda eksik tanı oluşması, klinik iş akışında ek incelemelerin gecikmesine ve morbidite riskinin artmasına yol açabilir. Bu nedenle alt grup düzeyindeki duyarlılık (sensitivity) ve yanlış negatif oranlarının izlenmesi, yalnızca “model adaleti” için değil, tanı gecikmesi ve hasta güvenliği gibi sonuçlara etkisi nedeniyle de klinik olarak kritiktir Dünya Sağlık Örgütü, bu tür önyargıların yalnızca etik bir sorun değil, aynı zamanda klinik kaliteyi ve sağlık sistemlerinin güvenilirliğini tehdit eden yapısal bir risk oluşturduğunu vurgulamaktadır¹¹. Algoritmik önyargının önlenmesi ve hasta haklarının korunması açısından, veri yönetişimine yönelik teknik ve kurumsal önlemler kritik öneme sahiptir. Yapay zekâ geliştirme süreçlerinde sağlık verilerinin anonimleştirilmesi, rol-temelli erişim kontrolü, şifreleme ve erişim kayıtlarının denetlenmesi temel teknik gerekliliklerdir. Ayrıca, hastaların veri kullanım amaçları hakkında bilgilendirilmesi, ikincil veri kullanımı için açık onam mekanizmalarının tanımlanması ve algoritmik kararlara karşı başvuru yollarının oluşturulması etik ve hukuki açıdan önem taşımaktadır. Bu önlemler, yapay zekâ sistemlerinin klinik güvenilirliğini ve toplumsal kabulünü desteklemektedir.

Bu riskler göz önüne alındığında, yapay zekâ sistemlerinin klinik uygulamalarda şeffaf, izlenebilir ve insan denetimine açık biçimde geliştirilmesi kritik önem taşımaktadır. Uluslararası Tıbbi Cihaz Düzenleyicileri Forumu (IMDRF), sağlık alanında kullanılan yapay zekâ tabanlı sistemlerde amaçlanan klinik kullanım bağlamının açık biçimde tanımlanmasını, kullanılan veri setlerinin hedef hasta popülasyonunu temsil etmesini ve model performansının alt gruplar düzeyinde değerlendirilmesini temel iyi uygulama ilkeleri arasında tanımlamaktadır¹². Bu çerçevede, algoritmik kararların klinisyenler tarafından yorumlanabilir olması, modelin sınırlılıklarının kullanıcıya açıkça bildirilmesi ve sistemlerin gerçek yaşamda sürekli olarak izlenmesi önerilmektedir.

Küresel etik ve düzenleyici ilkelerin uygulanabilirliği, yerel sağlık sistemi ve veri ekosisteminin özellikleri dikkate alınmadan değerlendirilemez. Türkiye bağlamında, yapay zekâ tabanlı sağlık uygulamaları tıbbi cihaz mevzuatı ve Kişisel Verilerin Korunması Kanunu (KVKK) kapsamında ele alınmakta; sağlık verileri yüksek düzeyde hassas kişisel veri olarak tanımlanmaktadır¹³. Bu durum, veri erişimi, paylaşımı ve ikincil kullanım süreçlerinde sıkı hukuki ve kurumsal denetimleri gerekli kılmaktadır. Türkiye’de merkezi sağlık kayıt sistemleri (ör. e-Nabız), geniş ölçekli klinik veri üretimi açısından önemli fırsatlar sunmakla birlikte, bölgesel ve sosyoekonomik farklılıkların veri temsiliyeti üzerindeki etkileri dikkatle değerlendirilmelidir. Bu nedenle küresel rehberlerde vurgulanan algoritmik adalet, şeffaflık ve sürekli izleme ilkelerinin, Türkiye’nin veri koruma rejimi ve klinik iş akışlarıyla uyumlu biçimde yerelleştirilmesi gerekmektedir. Ulusal düzeyde yayımlanan yapay zekâ strateji belgeleri de sağlık alanında etik ve insan odaklı yapay zekâ kullanımını politika öncelikleri arasında tanımlamaktadır¹⁴.

Algoritmik önyargının yönetimi, yalnızca model geliştirme aşamasında yapılan teknik düzenlemelerle sınırlı değildir. Veri setlerinin temsil gücünün değerlendirilmesi, alt gruplara göre performans analizlerinin raporlanması ve modelin gerçek yaşam kullanımında sürekli izlenmesi gereklidir. Klinik araştırmalar ve yapay zekâ temelli sağlık uygulamalarının raporlanmasında SPIRIT-AI ve CONSORT-AI rehberleri klinik müdahaleler için, TRIPOD+AI ise klinik tahmin modelleri için şeffaflık ve güvenilirlik açısından temel standartlar sunmaktadır¹⁵,¹⁶.

Sonuç olarak, sağlıkta yapay zekâ uygulamalarında algoritmik önyargı, yalnızca teknik bir model performansı sorunu değil; veri seçimi, hedef değişken tanımı, klinik kullanım bağlamı ve kurumsal uygulamalarla yakından ilişkili çok boyutlu bir risk alanıdır. Bu bölümde ele alınan kanıtlar, algoritmik önyargının belirli hasta gruplarında yanlış negatiflik, tanı gecikmesi ve buna bağlı morbidite riskinde artış gibi ölçülebilir klinik sonuçlara yol açabildiğini göstermektedir. Bu nedenle klinik yapay zekâ sistemlerinin geliştirilmesi ve uygulamaya alınmasında, performansın yalnızca genel doğruluk metrikleriyle değil, alt gruplar düzeyinde duyarlılık ve yanlış negatif oranları gibi hasta güvenliğiyle doğrudan ilişkili göstergeler üzerinden değerlendirilmesi gerekmektedir. Algoritmik adaletin sağlanması; klinik açıdan anlamlı hedef değişkenlerin seçilmesi, eğitim ve doğrulama verilerinin temsiliyetinin sistematik olarak analiz edilmesi, model çıktılarının şeffaf ve yorumlanabilir biçimde sunulması ve gerçek yaşam kullanımında sürekli izleme ile insan denetiminin sağlanmasını içeren bütüncül bir yaklaşımı zorunlu kılmaktadır. Ayrıca küresel etik ve düzenleyici ilkelerin, Türkiye’nin sağlık sistemi, veri altyapısı ve KVKK çerçevesiyle uyumlu biçimde yerelleştirilmesi kritik önem taşımaktadır. Bu bağlamda SPIRIT-AI, CONSORT-AI ve TRIPOD-AI gibi raporlama rehberlerinin izlenmesi, klinik yapay zekâ uygulamalarının hem bilimsel geçerliliğini hem de toplumsal güvenilirliğini güçlendirecek temel bir adım olarak değerlendirilmelidir.

Kaynakça

• [1] Mehrabi N, Morstatter F, Saxena N, Lerman K, Galstyan A. A survey on bias and fairness in machine learning. ACM Comput Surv. 2021;54(6):115. doi:10.1145/3457607.
• [2] World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021. Available from: https://www.ncdirindia.org/Downloads/WHO_AI_Ethics.pdf
• [3] Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447–453. doi:10.1126/science.aax2342.
• [4] Chen RJ, Wang JJ, Williamson DFK, Chen TY, Lipkova J, Lu MY, Sahai S, Mahmood F. Algorithmic fairness in artificial intelligence for medicine and healthcare. Nat Biomed Eng. 2023;7:719–742. doi:10.1038/s41551-023-01056-8.
• [5] Hardt M, Price E, Srebro N. Equality of opportunity in supervised learning. In: Advances in Neural Information Processing Systems (NeurIPS). 2016;29:3315–3323.
• [6] Kleinberg, J., Mullainathan, S., & Raghavan, M. (2016). Inherent trade-offs in the fair determination of risk scores. arXiv preprint arXiv:1609.05807.
• [7] Chouldechova A. Fair prediction with disparate impact: a study of bias in recidivism prediction instruments. Big Data. 2017;5(2):153–163. doi:10.1089/big.2016.0047.
• [8] Barocas S, Selbst AD. Big data’s disparate impact. California Law Review. 2016;104(3):671–732.
• [9] Seyyed-Kalantari L, Zhang H, McDermott MBA, Chen IY, Ghassemi M. Underdiagnosis bias of artificial intelligence algorithms applied to chest radiographs in under-served patient populations. Nat Med. 2021;27(12):2176–2182. doi:10.1038/s41591-021-01595-0.
• [10] Rajkomar A, Hardt M, Howell MD, Corrado G, Chin MH. Ensuring fairness in machine learning to advance health equity. Ann Intern Med. 2018;169(12):866–872. doi:10.7326/M18-1990.
• [11] World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024.
• [12] International Medical Device Regulators Forum (IMDRF). Good machine learning practice for medical device development: Guiding principles. IMDRF/AIML WG/N88 FINAL:2025. 29 January 2025.
• [13] Türkiye Cumhuriyeti. 6698 Sayılı Kişisel Verilerin Korunması Kanunu. Resmî Gazete; 2016. Available from: https://www.mevzuat.gov.tr/mevzuat?MevzuatNo=6698&MevzuatTur=1&MevzuatTertip=5
• [14] Cumhurbaşkanlığı Dijital Dönüşüm Ofisi. Ulusal Yapay Zekâ Stratejisi 2021–2025. Ankara; 2021. Available from: https://cbddo.gov.tr/ulusal-yapay-zeka-stratejisi/
• [15] Ibrahim H, Liu X, Rivera SC, et al. Reporting guidelines for clinical trials of artificial intelligence interventions: the SPIRIT-AI and CONSORT-AI guidelines. Trials. 2021;22:11. doi:10.1186/s13063-020-04951-6.
• [16] Collins GS, Moons KGM, Dhiman P, Riley RD, Beam AL, Van Calster B, et al. TRIPOD+AI statement: updated guidance for reporting clinical prediction models that use regression or machine learning methods. BMJ. 2024;385:e078378. doi:10.1136/bmj-2023-078378.