Veri Gizliliği ve Güvenliği

1 Amaç, Hedef Kitle ve Öğrenme Çıktıları

Klinik AI sistemleri artık doğrudan iş akışına “karar önerisi/önceliklendirme” olarak girdiği için, veri gizliliği ve güvenliği yalnızca uyum (compliance) konusu değil; hasta güvenliği, hizmet sürekliliği ve kurumsal sorumluluk riskidir. WHO (Dünya Sağlık Örgütü) rehberi ve NIST AI RMF (Ulusal Standartlar ve Teknoloji Enstitüsü Yapay Zekâ Risk Yönetimi Çerçevesi), güvenilir AI (Yapay Zekâ) için risklerin yaşam döngüsü boyunca yönetilmesini; yönetişim, ölçüm ve izleme kanıtlarının tasarımdan itibaren kurulmasını vurgular (1,2). Erken klinik değerlendirme ve canlı pilotların raporlanması için DECIDE-AI (Yapay zekâ destekli karar destek sistemlerinin erken klinik değerlendirme çerçevesi), klinik araştırma/protokol raporlaması için CONSORT-AI (Yapay zekâ müdahaleleri için CONSORT raporlama standardı) / SPIRIT-AI (Yapay zekâ müdahaleleri için klinik araştırma protokolü raporlama standardı) çerçeveleri özellikle kritikleşmiştir (3–5).

Hedef Kitle

• Klinisyenler: İş akışı entegrasyonu, insan onayı (human-in-the-loop), sistem çıktılarının geçersiz kılınması (override), hasta bilgilendirme süreçleri ve otomasyon yanlılığına (automation bias) karşı klinik uygulamalar.
• Veri bilimciler ve makine öğrenmesi (ML) ekipleri: Model türleri, model doğrulama yöntemleri, model drift izleme, makine öğrenmesine özgü gizlilik tehditleri ve adalet (fairness) ölçümü.
• BT ve bilgi güvenliği ekipleri: rol tabanlı erişim kontrolü (RBAC), çok faktörlü kimlik doğrulama (MFA), loglama ve güvenlik izleme (SIEM), tedarik zinciri güvenliği, olay müdahalesi ve yedekleme ile anahtar yönetimi süreçleri.
• Uyum, regülasyon ve etik kurul birimleri: Veri koruma etki değerlendirmesi (DPIA/PIA), sözleşmesel yükümlülükler, hesap verebilirlik mekanizmaları, uluslararası veri aktarımı ve hasta hakları süreçleri (1–3,6,7).

Öğrenme Çıktıları

Bu bölümün sonunda okuyucunun aşağıdaki bilgi ve becerileri kazanması hedeflenmektedir:

1. Gizlilik, güvenlik ve yönetişim kavramları arasındaki ilişkiyi açıklayabilmek ve klinik yapay zekâ uygulamalarında bu üç bileşenin birlikte nasıl ele alınması gerektiğini ortaya koyabilmek (1,2).
2. Klinik yapay zekâ sistemleri için asgari kontrol setini tanımlayabilmek ve Veri Koruma Etki Değerlendirmesi (DPIA) sürecine ilişkin temel akışı tasarlayabilmek (2,6,7).
3. Yapay zekâ modellerinin performans değerlendirmesi, doğrulama ve sürekli izleme süreçlerini tanımlayabilmek; ayrıca hasta-odaklı sonlanım ölçütlerini belirleyebilmek (3–5).
4. Klinik ortamda uygulanabilir bir pilot uygulama planı, RACI sorumluluk matrisi ve olay müdahale sürecini kurgulayabilmek (2,3).
5. Otomasyon yanlılığı ile adalet/bias risklerini tanımlayarak bunları ölçülebilir metrikler aracılığıyla değerlendirebilmek ve yönetebilmek (8–11).
6. Klinik yapay zekâ uygulamalarında ortaya çıkan fayda–risk dengesi (trade-off) ve kalan riskleri (remaining risk) şeffaf ve sistematik biçimde raporlayabilmek (1–3,9–11).

2 Kapsam ve Sınırlar

Kapsam: Bu bölüm, klinik yapay zekâ sistemlerinde veri yaşam döngüsünün bütüncül yönetimini ele almaktadır. Kapsam; Elektronik Sağlık Kayıtları (EHR), görüntüleme sistemleri (PACS), laboratuvar verileri, sensör verileri ve klinik notlar gibi farklı kaynaklardan elde edilen verilerin toplanması, etiketlenmesi, depolanması, erişimi, paylaşımı ve arşivleme/imhaya kadar uzanan veri yaşam döngüsünü içermektedir. Ayrıca erişim ve kimlik yönetimi, tedarikçi ve bulut altyapılarıyla ilişkili yönetişim süreçleri, makine öğrenmesine özgü gizlilik tehditleri, Veri Koruma Etki Değerlendirmesi (DPIA), denetim ve olay müdahale mekanizmaları, saha sonrası performans izleme, otomasyon yanlılığı ile adalet/bias yönetimi gibi klinik yapay zekâ uygulamalarında kritik öneme sahip yönetişim ve güvenlik unsurları da kapsam dahilinde ele alınmaktadır (1–3, 8–12).

2.1 Kapsam Dışı Öğelerin Netleştirilmesi

Bu bölümde aşağıda belirtilen konular ayrıntılı olarak ele alınmamaktadır. Söz konusu başlıklar için okuyucuların kurum içi politika ve standart dokümanlarına ya da ilgili teknik kaynaklara başvurmaları önerilir:

• tedarikçi ürünlerine ait kurulum kılavuzları ve vendor-özgü sistem konfigürasyon adımları
• Sözleşme dokümanları (ör. DPA/SCC maddeleri) ile satın alma ve ihale süreçlerine ait dokümantasyon
• Farklı ülkelerin veri koruma mevzuatlarının (örn. KVKK, GDPR, HIPAA vb.) ayrıntılı ve kapsamlı karşılaştırmalı analizi; bu bölümde yalnızca gerekli durumlarda uyarlama notları verilmektedir
• Kriptografik algoritmaların matematiksel kanıtları, parametre türetimleri ve teorik ayrıntıları
• Ulusal sağlık bilişim altyapılarının (ör. farklı ülkelerdeki NHIS mimarileri) kapsamlı mimari analizleri

Bu yaklaşım, bölümün odağını klinik yapay zekâ uygulamalarında veri yönetişimi, gizlilik ve operasyonel uygulamalar üzerinde tutmayı amaçlamaktadır.

3 Tanımlar ve Klinik Yapay Zeka (AI) Bağlamında Kapsam

Veri Gizliliği (Data Privacy); Sağlık verisinin hangi amaçla, kim tarafından, hangi sınırlar içinde işlendiğini belirleyen normatif çerçevedir; bilgilendirilmiş onam, şeffaflık, amaç sınırlaması ve birey hakları merkezdir (1,7). Veri Güvenliği (Data Security); Veriyi yetkisiz erişim/ifşa/değişiklik/kayıptan koruyan teknik ve organizasyonel kontroller bütünüdür (2). Klinik AI’da bu iki kavram tek bir risk zinciri oluşturur:

• Zayıf Güvenlik → Gizlilik ihlali ve hasta güvenliği riski,
• Belirsiz Gizlilik Sınırları → Teknik olarak güvenli olsa bile etik/uyum riski (1,2).

4 Disiplinler-Arası “ML Primer” ve AI Yaklaşımlarının Sistematik Tanımı

4.1 Öğrenme Türleri

• Denetimli öğrenme: “girdi → model → etiket tahmini” yaklaşımına dayanır (örneğin komplikasyon var/yok sınıflaması veya mortalite riski tahmini). Klinik risk skorlaması ve tahmin modellerinde yaygın olarak kullanılmaktadır.
• Denetimsiz / öz-denetimli öğrenme: Etiketlenmemiş verilerden örüntü ve temsil öğrenmeye odaklanır (örneğin klinik notlardan temsil öğrenme gibi durumlarda, etiketli veri sınırlı olduğunda kullanılabilir). Bu tür yaklaşımlarda yanlılık (bias), temsil eksikliği ve yeniden tanımlama (re-identification) riskleri daha dikkatli yönetilmelidir.
• Transfer learning: “Harici veri setleri üzerinde önceden eğitilmiş bir modelin, hedef veri setinde ince ayar (fine-tuning) yapılarak kullanılması” yaklaşımını ifade eder. Bu süreçte veri kaynağı, lisans koşulları ve veri aktarımına ilişkin uyum gerekliliklerinin ayrıca değerlendirilmesi gerekir (2).

4.2 Model aileleri (Klinik Örnekler)

• Regresyon / ağaç tabanlı (tabular): EHR tabanlı risk tahmini
• CNN: Görüntüleme (CT/MR/MMG)
• Transformer: Klinik Metin, Çoklu-modalite

4.3 Model mantığı: Adım Adım Örnek Akış

Klinik yapay zekâ sistemlerinde model işleyişi genellikle çok aşamalı bir veri akışı üzerinden gerçekleşir. Süreç, elektronik sağlık kayıtları (EHR) veya görüntüleme sistemleri (PACS) gibi klinik veri kaynaklarından elde edilen girdiler ile başlar. Bu veriler modelleme sürecinden önce ön işleme aşamasından geçirilir. Ön işleme kapsamında eksik veri yönetimi, veri normalizasyonu ve veri güvenliği amacıyla kimliksizleştirme (de-identification) veya psödonimleştirme (pseudonymization) işlemleri uygulanır. Ardından veriler makine öğrenmesi modeline aktarılır ve model tarafından risk skoru veya sınıflandırma etiketi şeklinde bir çıktı üretilir.

Üretilen model çıktısı doğrudan klinik kararın yerine geçmez; bunun yerine klinik karar noktalarında destekleyici bir bilgi olarak kullanılır. Bu aşamada klinisyen tarafından insan onayı (human-in-the- loop), gerekçe kaydı ve gerektiğinde sistem çıktısının geçersiz kılınması (override) gibi mekanizmalar devreye girer. Sistem performansı ise uygulama sonrasında sürekli izleme süreçleri ile değerlendirilir. Bu izleme sürecinde model kalibrasyonu, veri dağılım kayması (drift), override oranları ve adalet (fairness) metrikleri düzenli olarak takip edilir (2,3,12).

4.4 Sık Başarısızlık Modları (Klinik Etkisiyle)

Klinik yapay zekâ sistemlerinde başarısızlık yalnızca model performansındaki düşüşlerle sınırlı değildir; veri özellikleri, kullanım bağlamı ve insan–makine etkileşimi de klinik sonuçları doğrudan etkileyebilir. Literatürde sık bildirilen başlıca başarısızlık modları aşağıda özetlenmektedir:

• Veri dağılım kayması (dataset shift / drift): Yeni cihazların kullanıma girmesi, görüntüleme veya laboratuvar protokollerindeki değişiklikler ya da hasta popülasyonunun farklılaşması model performansında düşüşe yol açabilir (12).
• Yanlılık ve temsil eksikliği (bias): Eğitim verisinde bazı hasta alt gruplarının yeterince temsil edilmemesi, bu gruplarda yanlış yönlendirme veya hatalı klinik karar riskini artırabilir (9–11).
• Otomasyon yanlılığı (automation bias): Kullanıcıların model çıktısına bağlamdan bağımsız biçimde aşırı güvenmesi veya düşük güven düzeyinde bile modele dayanarak karar vermesi klinik hatalara neden olabilir (8,13,14).
• Gizlilik ihlalleri ve veri sızıntısı: Makine öğrenmesi modellerine yönelik membership inference veya model inversion gibi saldırılar, eğitim verisine ilişkin hassas bilgilerin dolaylı biçimde ortaya çıkarılmasına yol açabilir (15,16).

Bu tür riskler yalnızca model doğruluğu ile açıklanamaz; aynı zamanda kullanım koşulları, klinik iş akışına entegrasyon ve insan faktörü ile yakından ilişkilidir. Bu nedenle klinik yapay zekâ sistemlerinin değerlendirilmesi, teknik performans göstergelerinin yanı sıra operasyonel kullanım bağlamını ve kullanıcı davranışlarını da dikkate almalıdır (2,3,8).

5 Ampirik “Kanıt” Özeti: Savunma/Yönetişim Tedbirleri Ne Söylüyor?

Bu alt bölümde sunulan öneriler, literatürdeki kanıt düzeylerine göre etiketlenmiştir. Kullanılan etiketler şu şekilde tanımlanmaktadır: SR (systematic/scoping review): Sistematik veya kapsam belirleyici derlemelere dayanan kanıtlar. GL (guideline/reporting standard): Kılavuzlar veya raporlama standartları tarafından desteklenen öneriler. CH/OBS (challenge/observational study): Challenge veri setleri ya da gözlemsel çalışmalar temelinde elde edilen bulgular. EXP (experimental study/survey): Deneysel çalışmalar veya anket temelli araştırmalardan elde edilen kanıtlar. EO (expert opinion/framework): Uzman görüşleri veya kavramsal çerçevelere dayanan öneriler.

5.1 Federated Learning (FL) – Etkinlik ve Sınırlar (SR/CH/OBS)

Federated Learning (FL) yaklaşımının sunduğu potansiyel faydalar ile operasyonel zorlukları—özellikle heterojen veri yapıları, yönetişim gereksinimleri ve güvenlik riskleri—dijital sağlık literatüründe kapsamlı biçimde tartışılmıştır (17, 33) (SR).

Örneğin ACR–NCI–NVIDIA Federated Learning Challenge, bazı federated öğrenme yaklaşımlarının merkezi eğitim performansına yakın sonuçlar elde edebildiğini göstermiştir. Bununla birlikte, bu çalışmalar genellenebilirlik, merkezler arası veri heterojenliği ve adil performans karşılaştırmalarının yapılması konularında önemli metodolojik zorlukların devam ettiğini ortaya koymaktadır (17) (CH/OBS).

Uygulama çıkarımı: Federated Learning tek başına “otomatik gizlilik” sağlayan bir çözüm değildir. Etkili ve güvenli bir uygulama için FL sistemlerinin açık bir tehdit modeli, uygun güvenlik kontrolleri ve veri kalite yönetişimi ile birlikte tasarlanması gerekmektedir (2, 33, 17) (GL/SR/CH).

5.2 Differential Privacy (DP) – Gizlilik Kazanımı ↔ Fayda Kaybı (SR)

Tıbbi veri analitiğinde Differential Privacy (DP) üzerine yapılan güncel derleme çalışmaları, DP’nin bireysel verilerin korunması açısından güçlü ve formal bir gizlilik garantisi sunduğunu göstermektedir. Bununla birlikte, ε (epsilon) parametresinin seçimi, bu parametrenin şeffaf biçimde raporlanması ve DP uygulamalarının model performansı üzerindeki fayda kaybı (utility loss) gibi etkileri kritik değerlendirme alanları olarak öne çıkmaktadır (18) (SR).

Uygulama çıkarımı: DP uygulamalarında seçilen gizlilik mekanizması ve parametreleri, öncelikle “hangi risk sınıfını azaltmayı hedeflediği” sorusu üzerinden gerekçelendirilmelidir. Ayrıca DP kullanımının model performansı, kalibrasyon ve adalet (fairness) metrikleri üzerindeki etkileri birlikte değerlendirilerek raporlanmalıdır (2,18) (GL/SR).

Ek bağlam (seminal çalışmalar): Differential Privacy’nin kurucu çalışmaları, gizlilik ile model faydası (privacy–utility trade-off) arasındaki dengeyi teorik olarak tanımlamış ve özellikle sağlık gibi yüksek hassasiyetli veri alanlarında gizlilik parametrelerinin açık ve standart biçimde raporlanmasının önemini ortaya koymuştur (32).

5.3 Post-Deployment İzleme – Kanıtın Görece Sınırlı Olduğu Alan (ScR)

Klinik yapay zekâ sistemlerinin saha sonrası izlenmesine (post-deployment monitoring) ilişkin yapılan scoping review çalışmaları, literatürde farklı izleme yöntemlerinin önerildiğini ancak uygulamaya yönelik standartlaştırılmış rehberlik ve pratik çerçevelerin hâlen sınırlı olduğunu göstermektedir (19) (ScR).

Uygulama çıkarımı: Klinik AI sistemleri için izleme stratejisi uygulamaya alınmadan önce açık biçimde tanımlanmalıdır. Bu kapsamda hangi metriklerin izleneceği, izleme sıklığı, eşik değerler ve müdahale tetikleyicileri önceden belirlenmeli ve bu süreçler kurumun yönetişim ve denetim mekanizmalarıyla uyumlu biçimde dokümante edilmelidir (2,19) (GL/ScR).

5.4 Bilimsel Olgunluk Özeti ve Raporlama Eşiği Önerileri

Bu bölüm, klinik yapay zekâ uygulamalarının saha kullanımına geçişinde “mevcut kanıt düzeyi ve bilimsel olgunluk ne ölçüde yeterlidir?” sorusuna kısa bir çerçeve sunmayı amaçlamaktadır. Önerilen raporlama eşikleri kurumların klinik risk iştahına göre uyarlanabilir; ancak bu eşiklerin önceden tanımlanmış, şeffaf ve dokümante edilmiş olması gereklidir (2,3).

Federated Learning (FL)

• Bilimsel olgunluk: Orta
• Raporlanması önerilen asgari unsurlar:
  • Katılımcı merkez sayısı
  • Veri heterojenliğinin (non-IID) açık biçimde belirtilmesi
  • Dış doğrulama planı
  • Tanımlı tehdit modeli
  • tedarikçi ve altyapıya ilişkin güvenlik/kontrol mekanizmaları (2,17,30,33)

Differential Privacy (DP)

• Bilimsel olgunluk: Orta
• Raporlanması önerilen asgari unsurlar:
  • Kullanılan gizlilik mekanizması
  • ε (ve varsa δ) parametrelerinin belirtilmesi
  • Model performansı ve kalibrasyon üzerindeki etkiler
  • Alt grup performansı veya adalet (fairness) üzerindeki etkiler (2, 18, 32)

Post-deployment izleme

• Bilimsel olgunluk: Erken–Orta
• Raporlanması önerilen asgari unsurlar:
  • İzlenen performans ve güvenlik metrikleri
  • İzleme sıklığı
  • Drift veya performans düşüşü için tetikleyici eşikler
  • Fail-safe veya geri alma (rollback) prosedürleri
  • Standartlaştırılmış raporlama şablonu (2,12,19)

Bu yaklaşım, klinik yapay zekâ sistemlerinin yalnızca teknik performans açısından değil, aynı zamanda yönetişim, güvenlik ve klinik güvenilirlik boyutlarıyla da sistematik biçimde değerlendirilmesini amaçlamaktadır.

Aşağıdaki tablo, “aynı yaklaşımın farklı koşullarda farklı sonuç verebildiğini” hızlı göstermek için kısa bir karşılaştırma şablonudur (2,6,17–19,30).

Başlık	Örnek çalışma türü	Popülasyon/ortam	Yöntem farkı (neden heterojen?)	Ana bulgu (özet)	Sonuçların farklılaşabileceği şart
FL performansı	Challenge/OBS	Çok merkez	non-IID veri, protokol farkı	Bazı görevlerde merkeziye yakın performans mümkün	Merkezler arası cihaz/protokol ayrışması ↑
DP etki	SR/survey	Çeşitli veri	ε seçimi + model türü	Gizlilik ↑, utility/kalibrasyon etkilenebilir	Nadir olay, alt grup küçükse etki ↑
İzleme	ScR	Klinik saha	Metrik ve eşik standardı yok	“Ne izlenecek?” değişken	İş akışı/log kalitesi düşükse körlük ↑

6 Temel Gizlilik İlkeleri: Klinik Yapay Zekâya Uyarlama

Klinik yapay zekâ uygulamalarında veri yönetişimi yalnızca teknik güvenlik önlemlerini değil, aynı zamanda temel gizlilik ilkelerinin klinik bağlama uygun biçimde uygulanmasını gerektirir. Aşağıda, veri koruma alanında yaygın olarak kabul edilen temel ilkelerin klinik AI bağlamına uyarlanmış başlıca boyutları sunulmaktadır.

6.1 Veri Minimizasyonu (GL)

Veri işleme süreçlerinde yalnızca tanımlanmış klinik amaç için gerekli olan veri toplanmalı ve kullanılmalıdır. “Daha fazla veri daha iyi model performansı sağlar” varsayımı, tek başına sınırsız veri toplama veya veri biriktirme için yeterli gerekçe olarak kabul edilmemelidir (1).

6.2 Amaç Sınırlaması ve İkincil Kullanım (GL)

Klinik yapay zekâ projelerinde veri kullanımı açıkça tanımlanmış amaçlarla sınırlı olmalıdır. Modelin yeniden eğitilmesi, ürünleştirme süreçleri veya ikincil veri analizleri gibi faaliyetler ayrı kullanım amaçları olarak değerlendirilmelidir. Bu bağlamda her bir kullanım senaryosu için hukuki dayanak, erişim yetkileri, saklama süreleri ve veri paylaşım sınırları açık biçimde dokümante edilmelidir (1,2,7).

6.3 Şeffaflık ve Raporlanabilirlik (GL)

Klinik karar süreçlerinde kullanılan yapay zekâ sistemlerinin şeffaf ve standartlaştırılmış biçimde raporlanması önemlidir. Bu kapsamda:

• CONSORT-AI, yapay zekâ içeren klinik müdahalelerin raporlanmasına yönelik standartlar sunmaktadır.
• SPIRIT-AI, yapay zekâ destekli klinik çalışmaların protokol raporlamasına rehberlik etmektedir.
• DECIDE-AI, özellikle erken aşama klinik pilotlar ve “canlı değerlendirme” (real-world evaluation) çalışmalarında raporlama standartlarının uygulanmasını desteklemektedir (3–5).

Bu çerçeveler, klinik AI çalışmalarında şeffaflık, yeniden üretilebilirlik ve metodolojik tutarlılığı güçlendirmeyi amaçlamaktadır.

6.4 Veri Kalitesi ve Adalet (GL/ScR)

Klinik tahmin modellerinde veri kalitesi ve adalet (fairness) kritik değerlendirme alanlarıdır. TRIPOD+AI, klinik tahmin modellerinin veri kaynağı, veri ön işleme süreçleri, model değerlendirme yöntemleri ve raporlama standartları için kapsamlı bir kontrol listesi sunmakta; özellikle alt grup analizleri ve dış doğrulama süreçlerinin şeffaf biçimde raporlanmasını teşvik etmektedir (20).

Öte yandan sağlık alanında fair machine learning yöntemlerine ilişkin scoping review çalışmaları, pratik uygulamalarda uygun fairness metriklerinin seçimi ve bu metriklerin gerçek-dünya izleme süreçlerine entegrasyonu konularında önemli eksiklikler bulunduğunu ortaya koymaktadır (10,11).

7 Performans, Doğrulama ve İzleme: Teknik Metrikler ve Hasta-Odaklı Sonlanımlar

(Pilot ve doğrulama çalışmaları için önerilen çerçeve)

Klinik yapay zekâ sistemlerinin değerlendirilmesi yalnızca teknik performans ölçütleriyle sınırlı olmamalıdır. Model performansı teknik metrikler, klinik doğrulama süreçleri ve hasta-odaklı sonlanım göstergeleri birlikte ele alınarak değerlendirilmelidir.

7.1 Doğrulama Protokolü – Asgari Gereksinimler (GL)

Klinik AI çalışmalarında güvenilir sonuçlar elde edebilmek için aşağıdaki doğrulama adımları önerilmektedir:

• Eğitim–validasyon–test veri ayrımı: Veri bölme işlemi hasta bazlı yapılmalı ve veri sızıntısı (data leakage) riskine karşı gerekli kontroller sağlanmalıdır.
• İç doğrulama: Çapraz doğrulama (cross-validation) veya zaman temelli veri ayrımı yöntemleri kullanılabilir.
• Dış doğrulama: Model performansının farklı kurumlarda, cihazlarda veya klinik protokollerde test edilmesi önerilir.
• Raporlama standartları: Klinik tahmin modelleri için TRIPOD+AI, tanısal doğruluk çalışmaları için ise uygun durumlarda STARD-AI raporlama standartları kullanılmalıdır (20,21).

7.2 Klinik Performans Metrikleri – Önerilen Çekirdek Set (GL)

Klinik yapay zekâ modellerinin değerlendirilmesinde aşağıdaki temel metriklerin birlikte raporlanması önerilmektedir:

• Ayrım gücü (discrimination):
  • AUROC (Receiver Operating Characteristic eğrisi altında kalan alan)
  • Sınıf dengesizliğinin yüksek olduğu durumlarda AUPRC (Precision–Recall eğrisi altında kalan alan)
• Eşik tabanlı performans metrikleri:
  • Duyarlılık (sensitivity)
  • Özgüllük (specificity)
  • Pozitif öngörü değeri (PPV)
  • Negatif öngörü değeri (NPV)
• Kalibrasyon:
  • Kalibrasyon eğrileri
  • Brier skoru
• Alt grup performansı:
  • Yaş
  • Cinsiyet
  • Kullanılan cihaz
  • Klinik merkez veya coğrafi bölge gibi değişkenlere göre performans analizi (20)

Bu metriklerin birlikte değerlendirilmesi, klinik yapay zekâ sistemlerinin yalnızca istatistiksel doğruluğunu değil, aynı zamanda farklı hasta gruplarında güvenilir ve adil biçimde çalışıp çalışmadığını ortaya koymak açısından önem taşımaktadır.

Her kullanım için tek bir birincil metrik + kabul eşiği + CI yöntemi önceden kilitlenir (3–5,20,21).

Örnek şablon:

Kullanım durumu	Birincil metrik	Kabul eşiği (örnek)	CI yöntemi	Alt grup gereksinimi
ER ICH triaj	Duyarlılık (kritik kaçırmayı minimize etmek için)	$\geq$ X ve non-inferiority margin	Bootstrap (n=1000)	Yaş / cinsiyet / cihaz / merkez
EHR sepsis risk tahmini	AUPRC (dengesiz sınıf için)	Baseline modele göre $\geq \Delta$ iyileşme	Bootstrap	ICU vs non-ICU
MMG triage	PPV @ sabit recall (veya sabit duyarlılık)	Klinik iş yükü sınırı ile uyumlu eşik	Bootstrap	Yaş / meme yoğunluğu (breast density)

Not: X, Δ ve non-inferiority margin değerleri kurumun klinik risk iştahı ve klinik anlamlı fark (MCID – Minimum Clinically Important Difference) temel alınarak belirlenmelidir (3–5).

7.3 Hasta-Odaklı Sonlanımlar (Pilot ve Doğrulamada Zorunlu Paket) (GL/EO)

Bir yapay zekâ modelinin yalnızca teknik olarak doğru olması yeterli değildir; klinik uygulamada hasta yararı ve potansiyel zararları ölçülebilir sonlanımlar üzerinden değerlendirilmelidir. Bu nedenle pilot ve doğrulama çalışmalarında aşağıdaki hasta-odaklı sonlanım göstergelerinin değerlendirme planına dahil edilmesi önerilmektedir (3–5):

• Time-to-diagnosis ve/veya time-to-treatment
• Mortalite veya morbidite (uygulama bağlamına göre)
• Hastanede kalış süresi (LOS – Length of Stay)
• Yeniden yatış oranı ve komplikasyon oranı
• Hasta güvenliği göstergeleri (advers olay / adverse events) (örn. gecikmiş tanı, gereksiz görüntüleme veya gereksiz müdahale)

Ölçüm ve Veri Kaynakları

Hasta-odaklı sonlanımların ölçümü için aşağıdaki veri kaynakları kullanılabilir:

• EHR zaman damgaları
• PACS iş listesi kayıtları
• Order set ve klinik işlem logları
• Klinik karar ve sonuç kayıtları
• Mümkünse olay bildirim sistemleri (2,3,19)

Önerilen Analiz Tasarımları

• Erken aşama: shadow mode uygulaması + süreç sonlanımlarının değerlendirilmesi (3)
• Canlı pilot: o Öncesi-sonrası tasarım o Kesikli zaman serisi (Interrupted Time Series – ITS) o Uygun durumlarda pragmatik RCT (3–5)
• Etki büyüklüğü değerlendirmesi: o Time-to-treatment için hedeflenen azalma o Mortalite veya morbidite için klinik anlamlı fark

Not: Nihai çalışma tasarımı kurumun klinik sorusu, etik kurul onayı ve operasyonel koşullar doğrultusunda belirlenmelidir (3–5).

Hasta Bildirimli Sonuçlar (PROM)

Pilot ve doğrulama çalışmalarında klinik sonlanımlara ek olarak 3 – 5 hasta bildirimli sonuç ölçütü (PROM) kullanılması önerilmektedir:

• Genel yaşam kalitesi / sağlık durumu (örn. EQ-5D benzeri kısa araçlar)
• Semptom yükü ve işlevsellik (örn. global health veya physical function kısa ölçekleri)
• Bakım deneyimi ve hasta memnuniyeti (kurumsal anket araçları)
• Anksiyete veya psikolojik yük (kısa tarama araçları)
• Yapay zekâ kullanımına ilişkin güven ve açıklanabilirlik algısı

Kurumlar ayrıca COMET yaklaşımına benzer bir core outcome set (çekirdek sonlanım seti) tanımlayarak farklı pilot çalışmaların karşılaştırılabilirliğini artırabilir (2,3,19).

7.4 Nicel Raporlama Sınırları: CI, Örneklem/Power ve Karar-Analitik Metrikler (GL/EO)

• Ana performans metrikleri güven aralıkları (confidence interval – CI) ile birlikte raporlanmalıdır (20,21).
• Pilot veya doğrulama çalışmalarında örneklem büyüklüğü ve istatistiksel güç (power) hesaplamaları hedeflenen klinik sonlanıma göre planlanmalıdır. (örn. time-to-treatment farkı) (3–5).
• Klinik karar destek sistemleri için karar-analitik metrikler (örn. decision curve analysis / net klinik fayda) opsiyonel ancak önerilen analizler arasındadır (EO).

7.5 Drift ve Saha İzleme Metrikleri (ScR/Review)

Literatür, veri dağılımı değişimlerinin (model drift) klinik AI performansını önemli ölçüde etkileyebildiğini ve sürekli izleme mekanizmalarının kritik olduğunu göstermektedir (12).

İzlenmesi Önerilen Metrikler

Girdi drift

• Veri dağılım ölçümleri
• Cihaz veya protokol değişiklikleri

Çıktı drift

• Risk skoru dağılımı
• Alarm oranı
• Pozitiflik oranı

Klinik etkileşim metrikleri

• Override oranı
• Alarm fatigue göstergeleri (19,12)

7.5.1 İzleme Tetikleyicileri ve Eşik Şeması

Pilot aşaması

• Haftalık performans raporları
• “Kırmızı bayrak” olaylarında anlık inceleme

Rutin kullanım

• Aylık veya çeyreklik izleme raporları

Tetikleyici örnekleri

• Alarm hacminde ani artış
• Alt gruplarda FNR artışı
• Düşük güven kabul oranında sıçrama
• Veri kaynağı veya protokol değişikliği (2,12,19)

8 Hekim–Sistem Etkileşimi ve Otomasyon Yanlılığını Azaltma

(UI/UX, Eğitim ve İzleme Metrikleri)

8.1 Otomasyon Yanlılığı Riski (Review)

AI tabanlı klinik karar destek sistemlerinde otomasyon yanlılığı (automation bias), kullanıcının model önerilerine aşırı güvenmesi sonucu oluşan önemli bir insan faktörü riskidir.

Literatürde bu riskin nedenleri ve klinik etkileri kapsamlı biçimde analiz edilmiştir (13,14). Çalışmalar özellikle aşağıdaki faktörlerin kullanıcı güvenini etkilediğini göstermektedir:

• Kullanıcı eğitimi
• İş akışı uyumu
• Sistem açıklanabilirliği

Bununla birlikte aşırı güven (over-trust) ayrı bir klinik risk olarak değerlendirilmektedir (22).

8.2 Zorunlu Uygulamalar (Pilot ve Canlı Kullanım) (GL/EO)

Aşağıdaki önlemler pilot planı ve RACI sorumluluk matrisi içinde tanımlanmalıdır (3,13,14):

1. Nihai klinisyen onayı Kritik kararlarda model çıktısı yalnızca öneri olarak sunulmalıdır.
2. Gerekçe kaydı Klinisyen kabul veya reddetme gerekçesini kısa bir form ile kaydetmelidir.
3. Belirsizlik gösterimi Düşük güven veya uygunsuz bağlam durumlarında sistem uyarı vermelidir.
4. Kademeli bilgi sunumu Önce özet sonuç; ayrıntılı bilgi isteğe bağlı olarak görüntülenir.
5. Zorunlu eğitim ve simülasyon Go-live öncesinde klinik vaka senaryoları ile eğitim yapılmalıdır.
6. Geri bildirim döngüsü kullanıcı geri bildirimleri ve override gerekçeleri kalite toplantılarında değerlendirilmelidir (2,19).

8.3 Otomasyon-Bias İzleme Metrikleri (Review/ScR)

• Low-confidence acceptance rate
• Override-without-review oranı
• Disagreement escalation rate
• Alarm fatigue göstergeleri (19,22)

9 ML’ye Özgü Gizlilik Tehditleri ve Savunmalar

9.1 Tehdit Sınıfları (Survey/Review)

Başlıca ML güvenlik tehditleri şunlardır:

• Membership inference saldırıları (34)
• Model inversion veya hassas özellik çıkarımı (35)
• Model extraction / model stealing saldırıları (36)
• Poisoning saldırıları (37)

Bu saldırıların kurucu çalışmaları, klinik model servisleme mimarilerinde potansiyel güvenlik risklerini ortaya koymuştur (34–37).

9.2 Savunma Yaklaşımı (NIST AI RMF ile Hizalı) (GL)

NIST AI Risk Management Framework, risk yönetimi için tehdit modeli + ölçüm + yönetişim kanıtı yaklaşımını önermektedir (2).

Başlıca kontrol alanları:

Erişim ve Kimlik Yönetimi

• RBAC / Least privilege
• MFA
• Düzenli ayrıcalık gözden geçirme

Güvenli Mimari

• Eğitim-test-canlı ortam ayrıştırması
• Ağ segmentasyonu
• Şifreleme ve anahtar yönetimi

API Güvenliği

• Rate limiting
• Anomali izleme
• Loglama

Veri ve Etiket Güvenliği

• Poisoning saldırılarına karşı giriş kontrolü
• İzlenebilir etiketleme

Test ve Denetim

• Penetrasyon testleri
• Sızıntı testleri
• Denetim izi

10 Hasta Hakları, Veri Sahipliği ve Onam Süreçleri

10.1 Hak Talepleri (GDPR/KVKK) (Law/Guidance)

Hasta veya ilgili kişi aşağıdaki haklara sahiptir:

• Veri erişim talebi
• Düzeltme
• İşleme itiraz
• İşleme kısıtlama

Bu talepler kurumsal iş akışlarında ölçülebilir SLA’ler ile yönetilmelidir (6,7).

10.2 Onam Alma ve Geri Çekme (Guidance)

Onam gerekiyorsa:

1. Klinik sorumlu + veri koruma birimi onaylı metin kullanılmalıdır
2. Kısa hasta dostu özet + ayrıntılı bilgilendirme sunulmalıdır
3. Geri çekme prosedürü önceden tanımlanmalıdır
4. Onam kayıtları zaman damgası ve versiyon kontrolü ile saklanmalıdır (2,6,7)

10.3 İhlal Bildirimi ve Onarım (GL)

Veri ihlalleri yalnızca teknik değil aynı zamanda hasta güvenliği olayı olarak ele alınmalıdır.

Kurumsal süreç aşağıdaki adımları içermelidir:

1. Tespit
2. İzolasyon
3. Etki analizi
4. Bildirim
5. Onarım

11. Adalet / Bias

11.1 Ölçüm Metrikleri (ScR/Review)

• subgroup AUROC / AUPRC
• subgroup calibration
• subgroup FPR / FNR
• fairness metrikleri (equalized odds, equal opportunity) (10,11)

11.2 Mitigasyon Araçları (ScR/Review)

Veri düzeyi

• Örneklem zenginleştirme
• Yeniden ağırlama
• Etiket kalite iyileştirme

Model düzeyi

• Adversarial debiasing
• Uygun regularizasyon

Post-hoc

• Eşik ayarı
• Alt grup kalibrasyonu

12 Hukuksal Çerçeve (AB – Türkiye)

• AB AI Act (2024/1689)
• GDPR (2016/679)
• Türkiye KVKK
• KVKK uluslararası aktarım rehberi (26)

12.1 Yerel Uyarlama

Küresel rehberlerin yerel uygulamaya uyarlanması için yükümlülük → süreç → kanıt eşleştirmesi önerilmektedir (1,2,6,7).

Ülke Uygulanabilirliği (Türkiye) – Tipik Akışlar ve Kısıtlar (Özet Tablo)

Tipik Veri Akışı	Risk / Uyum Hassasiyeti	Önerilen Kontroller	Kanıt / Dokümantasyon Çıktısı
Hastane içi entegrasyon (EHR ↔ PACS ↔ AI sistemi)	Yetkisiz erişim, veri erişim izlenebilirliği	RBAC (rol tabanlı erişim kontrolü), MFA, merkezi loglama ve SIEM izleme	Erişim raporları, audit log kayıtları
Bulut veya 3. taraf model servisleri	Sınır ötesi veri aktarımı, veri işleyen riskleri	Veri işleyen sözleşmeleri, şifreleme, anahtar yönetimi, güvenli API erişimi	DPIA raporu, tedarikçi güvenlik değerlendirmesi
Kurumlar arası veri paylaşımı	Amaç sınırlaması, ikincil kullanım riski	Veri minimizasyonu, pseudonymization, veri paylaşım protokolü	Veri paylaşım anlaşması ve veri envanteri kaydı

13 Klinik Kullanım Senaryosu, Pilot Plan ve RACI

(Hasta-Odaklı Sonlanımlar ve Otomasyon Yanlılığı Dahil)

13.1 Senaryo: Acil Serviste Beyin BT ile ICH Triajı için Karar Destek Sistemi (Örnek)

Amaç: Acil serviste çekilen beyin BT görüntülerinde intrakraniyal hemoraji (ICH) olasılığını erken aşamada belirleyerek iş listesi ( worklist ) önceliklendirmesini desteklemek ve kritik vakalar için erken uyarı sağlamak. Sistem yalnızca karar destek aracı olarak kullanılır; nihai klinik karar sorumlu hekim tarafından verilir.

Veri Akışı: PACS → AI analiz servisi → risk skoru / sınıflandırma etiketi + belirsizlik göstergesi → klinik arayüz veya worklist önceliklendirmesi → klinisyen onayı ve gerekçe kaydı → loglama ve izleme mekanizmaları (2,3).

Pilot Çalışma İçin Hasta-Odaklı Hedef Sonlanımlar Pilot uygulamada teknik performans göstergelerine ek olarak aşağıdaki hasta-odaklı sonlanımların değerlendirilmesi önerilir (3–5):

• Time-to-diagnosis ve/veya time-to-treatment süresinde hedeflenen iyileşme
• Hastanede kalış süresi (LOS) ve yeniden yatış oranı (ikincil sonlanımlar)
• Advers olay göstergeleri: o Gecikmiş tanı o Gereksiz görüntüleme veya müdahale artışı

Güvenlik Durdurma Kriterleri (Kuruma özgü risk iştahına göre uyarlanmalıdır)

Pilot uygulama sırasında aşağıdaki durumlar güvenlik tetikleyicisi olarak değerlendirilmelidir:

• Kritik vakalarda kaçırma oranının (miss rate) önceden tanımlanan eşik üzerinde artması
• Belirli hasta alt gruplarında belirgin performans düşüşü
• Model drift göstergelerinde hızlı veya beklenmeyen kötüleşme (2,12,19)

13.2 Pilot “Go-live” Planı

Aşama	Zaman	Amaç / Mod	Temel faaliyetler	Ölçüm-izleme (örnek)	İlgili kaynak
1. Hazırlık	0–2 hafta	Go-live öncesi kurulum	DPIA yürütülmesi, veri akışı haritalaması, tehdit modeli oluşturma, sözleşmesel çerçeve ve hasta bilgilendirme metinlerinin hazırlanması	Çıktılar: DPIA raporu, veri akışı diyagramı, risk kaydı (risk register)	(2,6,7,26)
2. Shadow mode	3–6 hafta	Klinik kararı etkilemeden gözlem	Modelin arka planda çalıştırılması; klinisyen kararlarını değiştirmeden performans verilerinin toplanması	Baseline performans: AUROC, kalibrasyon, alarm oranı; düşük güven senaryoları için acceptance simülasyonu	(3,19)
3. Sınırlı Canlı	7–10 hafta	Kontrollü canlı pilot	Tek vardiya veya tek cihaz ile sınırlı kullanım; zorunlu klinisyen onayı, gerekçe kaydı, belirsizlik gösterimi; eğitimi tamamlanmış kullanıcılarla çalışma	Haftalık kalite ve güvenlik değerlendirmesi; override oranı, alarm fatigue göstergeleri	(3,13,22)
4. Yaygınlaştırma	11+	Ölçekleme ve rutin izleme	Aylık performans izleme; drift, adalet (fairness) ve otomasyon-bias metriklerinin takibi; yeniden eğitim veya geri alma (rollback) kriterlerinin uygulanması	Aylık rapor: drift göstergeleri, alt grup performansı, otomasyon-bias metrikleri; tetikleyici eşiklerin izlenmesi	(2,12,19)

13.3 RACI

İş paketi	R (Responsible)	A (Accountable)	C (Consulted)	I (Informed)
DPIA, veri akışı haritalaması ve veri aktarım analizi	Uyum / Veri Koruma Birimi	Veri Sorumlusu / Kurum Yönetimi	Klinik Lider, BT, Etik Kurul	Üst Yönetim
Hasta bilgilendirme, onam ve geri çekme süreci	Klinik Lider, Uyum Birimi	Başhekimlik / Kurum Yönetimi	Hukuk, Veri Koruma, Hasta Hakları Birimi	Klinik Ekip
Model doğrulama ve alt grup performans analizi	Veri Bilimi / ML Ekibi	Klinik Ürün Sahibi	Klinik Uzmanlar, Kalite Birimi	BT / Operasyon
UI/UX tasarımı, belirsizlik gösterimi ve gerekçe kaydı mekanizması	Ürün Ekibi / BT	Klinik Ürün Sahibi	Klinik Ekip, Kalite Birimi	Son Kullanıcılar
Otomasyon-bias eğitimleri ve simülasyon uygulamaları	Eğitim Sorumlusu	Klinik Ürün Sahibi	Kalite Birimi, Klinik Lider	Son Kullanıcılar
İzleme raporları (drift, adalet, override metrikleri)	MLOps / Kalite Birimi	Klinik Ürün Sahibi	Klinik Ekip, BT	Üst Yönetim
Olay müdahalesi ve ihlal bildirimi	SOC / BT Güvenlik	Üst Yönetim	Hukuk, Uyum Birimi, Klinik Lider	İlgili Kurumsal Birimler

13.4 Tam Adım-Adım Kullanım Senaryosu (SOP Örneği) – ER CT Triage

Risk Matrisi ve Müdahale Playbook’ları (Pilot İçin “Hazır Müdahale”)

Pilot uygulama sürecinde ortaya çıkabilecek kritik risklerin sistematik biçimde yönetilebilmesi için risk matrisi yaklaşımı (olasılık × etki) kullanılmalıdır. Bu yaklaşımda, potansiyel riskler olasılık ve klinik etki düzeylerine göre değerlendirilir ve yüksek öncelikli riskler belirlenir.

Belirlenen her risk için aşağıdaki unsurları içeren bir müdahale playbook’u oluşturulması önerilir:

• Tetikleyici olay veya eşik değer
• Sorumlu ekip veya rol
• Anlık müdahale adımları
• Olay sonrası inceleme ve raporlama süreci

Bu yapı, pilot uygulama sırasında ortaya çıkabilecek performans düşüşleri, veri drift’i veya klinik güvenlik risklerine karşı hızlı ve standartlaştırılmış bir yanıt mekanizması oluşturmayı amaçlamaktadır (2,12,19).

Risk	Olasılık	Etki	Tetikleyici (Ölçülebilir)	Hazır Müdahale (Playbook)	Başarı Kriteri
Model drift / performans düşüşü	Orta	Yüksek	AUROC düşüşü, FNR artışı, veri kaynağı veya protokol değişikliği	“Uyarı modu”na geçiş, gerektiğinde rollback, yeniden validasyon ve performans incelemesi	Klinik kaçırma oranındaki artışın durdurulması ve performansın baseline seviyesine yaklaşması
Alarm fatigue (aşırı uyarı yükü)	Orta	Orta	Alarm hacminde artış, kullanıcıların alarmı sessize alma oranında yükselme	Alarm eşiklerinin yeniden ayarlanması, UI/UX iyileştirmesi, kullanıcı eğitimi	Alarm yükünün stabilizasyonu ve gereksiz uyarıların azalması
Otomasyon yanlılığı (automation bias)	Düşük–Orta	Yüksek	Low-confidence acceptance oranında artış	Klinik simülasyon eğitimi, kritik durumlarda zorunlu ikinci görüş mekanizması	Uygunsuz model kabul oranında düşüş
Veri ihlali veya yetkisiz erişim	Düşük	Çok Yüksek	SIEM anomali uyarısı, olağan dışı erişim paterni	Sistem izolasyonu, olay bildirimi, kök neden analizi ve düzeltici önlemler	İhlalin yayılımının durdurulması ve denetim sürecinin tamamlanması

14 Çelişkili Bulgular, Trade-Off’lar ve “Remaining Risk”

14.1 Çelişkili veya Karşıt Bulguların Doğrudan Karşılaştırılması

Klinik uygulamalarda önemli bir soru, yapay zekâ sistemlerinin gerçekten ek klinik değer sağlayıp sağlamadığıdır. Bu nedenle pilot değerlendirmelerinde AI performansının aşağıdaki referanslarla karşılaştırılması önerilir:

1. Kural-tabanlı veya klasik protokoller (örn. triage algoritmaları veya klinik skorlar)
2. Mevcut insan iş akışı (baseline performans)

Amaç, “AI klinik süreçte gerçekten ek değer üretiyor mu?” sorusunu nicel olarak değerlendirmektir (3–5).

Yapay zekânın tipik olarak değer kattığı durumlar

• Çok değişkenli klinik örüntülerin analiz edilmesi
• Yüksek hacimli veri akışı bulunan klinik ortamlar
• İş listesi önceliklendirme ihtiyacı olan süreçler
• Zaman kazanımının kritik olduğu acil klinik senaryolar

Yapay zekânın sınırlı değer sunduğu veya risk oluşturabileceği durumlar

• Veri kalitesinin düşük olduğu sistemler
• Klinik protokollerin sık değiştiği ortamlar
• Yanlış alarm maliyetinin yüksek olduğu uygulamalar
• Düşük güven (low-confidence) çıktılarının sık görüldüğü senaryolar

15 Kanıt Boşlukları ve Gelecek Araştırma İhtiyaçları

Mevcut literatür klinik yapay zekâ uygulamalarında önemli ilerlemeler sağlamakla birlikte bazı alanlarda kanıt boşlukları devam etmektedir.

• Klinik AI sistemlerinin saha sonrası izlenmesine ilişkin standart rehberlik (ne izlenecek, hangi sıklıkla izlenecek ve hangi eşiklerle müdahale edilecek) hâlen sınırlıdır (19).
• Drift tespiti ve yeniden eğitim kararları için istatistiksel güven temelli standartların geliştirilmesi kritik bir araştırma alanıdır (12).
• Fairness metriklerinin klinik bağlama uygun seçimi, belirsizlikle birlikte raporlanması ve gerçek-dünya izleme süreçlerine entegrasyonu geliştirilmelidir (10,11,24).
• Otomasyon yanlılığını azaltan UI/UX tasarımları ve eğitim müdahalelerinin klinik sonuçlara etkisini değerlendiren karşılaştırmalı çalışmaların sayısı artırılmalıdır (13,14,22).

15.1 Gelecek Araştırma ve Öncelikler

(Kısa–Orta–Uzun Vade Yol Haritası)

Kısa vade (0–12 ay)

• Kurum içinde izleme protokollerinin standardizasyonu
• Otomasyon-bias metriklerinin rutin raporlara dahil edilmesi
• Adalet (fairness) raporlama şablonlarının yerleşmesi (2,19,24)

Orta vade (1–3 yıl)

• Çok merkezli saha değerlendirme çalışmaları
• Drift tetikleyicileri için güven temelli eşiklerin belirlenmesi
• Privacy-preserving ML (FL/DP) yaklaşımları için ortak raporlama şablonlarının geliştirilmesi (6,17,18,19)

Uzun vade (3+ yıl)

• Otomasyon yanlılığını azaltan UI/UX ve eğitim müdahalelerinin klinik sonuçlara etkisini gösteren karşılaştırmalı çalışmalar
• Gizlilik–fayda–adalet trade-off’unu birlikte optimize eden standartların geliştirilmesi (1– 3,13,14,22)

Ana Mesajlar

• Gizlilik, güvenlik ve yönetişim klinik yapay zekâ uygulamalarında tek bir hasta güvenliği risk zinciri olarak ele alınmalıdır (1,2).
• Pilot uygulama öncesinde asgari kanıt paketi hazırlanmalıdır: DPIA + veri akışı haritası + tehdit modeli + RACI matrisi + olay müdahale planı + izleme eşikleri (2,3,6,7,19).
• “Model doğru mu?” sorusu tek başına yeterli değildir. Hasta-odaklı sonlanımlar ve PROM ölçümleri ile gerçek klinik etki değerlendirilmelidir (3–5).
• Otomasyon yanlılığı, veri drift’i ve bias riskleri saha kullanımında büyüyebilir; bu nedenle UI/UX tasarımı, kullanıcı eğitimi ve metrik temelli izleme mekanizmaları zorunludur (12– 14,19,22).
• FL ve DP gibi teknik çözümler tüm riskleri ortadan kaldırmaz. Trade-off’lar ve remaining risk açık biçimde raporlanmalı, durdurma kriterleri önceden tanımlanmalıdır (2,12,18,19).
• Uygulamaya geçiş için önerilen yol haritası: birincil metrik + kabul eşiği + CI yöntemi belirlenmesi → SOP ve playbook’ların uygulanması → shadow mode → sınırlı canlı kullanım → yaygınlaştırma aşamalarının izlenmesi (3–5,20,21).

Kaynakça (Vancouver)

1. World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: WHO; 2021. (GL)
2. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1; 2023. (GL)
3. Vasey B, Nagendran M, Campbell B, et al. Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence: DECIDE-AI. BMJ. 2022;377:e070904. (GL)
4. Liu X, Rivera SC, Moher D, et al. CONSORT-AI extension. BMJ. 2020;370:m3164. (GL)
5. Rivera SC, Liu X, Chan AW, et al. SPIRIT-AI extension. BMJ. 2020;370:m3210. (GL)
6. KVKK. Özel Nitelikli Kişisel Verilerin İşlenmesine İlişkin Rehber. 2025. (GL)
7. European Union. Regulation (EU) 2016/679 (GDPR). 2016. (Law)
8. Abdelwanis M, et al. Exploring the risks of automation bias in healthcare AI-driven CDSS: review/Bowtie analysis. 2024. (Review)
9. Cross JL, et al. Bias in medical AI: implications for clinical decision-making. 2024. (Review)
10. Huang Y, et al. Scoping review of fair ML techniques in real-world healthcare data. 2024. (ScR)
11. Matos J, et al. Critical appraisal of fairness metrics in clinical predictive AI. 2025. (Review)
12. Sahiner B, et al. Data drift in medical machine learning: implications and remedies. 2023. (Review)
13. Giebel GD, et al. Improving AI-based CDSS and mitigating automation bias (human factors). 2025. (Review/EO)
14. Malik OA, et al. Trust in AI-based clinical decision support systems: systematic review (2020–2024). 2025. (SR)
15. Hu H, Salcic Z, Sun L, et al. Membership inference attacks on ML: survey. 2021. (Survey)
16. Rigaki M, Garcia S. Survey of privacy attacks in ML. 2023. (Survey)
17. Schmidt K, et al. ACR-NCI-NVIDIA federated learning challenge (breast density). Med Image Anal. 2024;95:103206. (CH/OBS)
18. Liu WK, et al. Survey on differential privacy for medical data analysis. 2023. (SR)
19. Andersen ES, et al. Monitoring performance of clinical AI systems: scoping review. 2024. (ScR)
20. Collins GS, Moons KGM, Dhiman P, et al. TRIPOD+AI statement. BMJ. 2024;385:e078378. (GL)
21. Sounderajah V, et al. STARD-AI reporting guideline for diagnostic accuracy studies using AI. 2025. (GL)
22. Malik OA, et al. Trust in AI-CDSS (barriers/enablers). 2025. (SR)
23. Tian Z, Cui Z, et al. Survey on poisoning attacks and countermeasures in ML. 2022. (Survey)
24. Rountree L, et al. Reporting of fairness metrics in clinical risk prediction: review. 2025. (Review)
25. European Union. Regulation (EU) 2024/1689 (AI Act). 2024. (Law)
26. KVKK. Kişisel Verilerin Yurt Dışına Aktarılması Rehberi. 2025. (GL)
27. O’Neill TJ, et al. Active reprioritization of the reading worklist using AI has a beneficial effect on turnaround time for head CT with ICH. Radiol Artif Intell. 2020. doi:10.1148/ryai.2020200024.
28. Ginat DT. Implementation of machine learning software on the radiology worklist: ICH triage. Brain Sci. 2021;11(7):832. doi:10.3390/brainsci11070832.
29. (Prospektif CT çalışması—TAT iyileşmeyebilir bulgusu; haber özeti üzerinden) 2024. (Not)
30. U.S. Department of Health & Human Services. HIPAA Security Rule (Administrative/Physical/Technical safeguards). 2013. (Guidance)
31. Savage AJ, et al. [AI triage/time-to-notification vb. prospektif değerlendirme]. AJR Am J Roentgenol. 2024. doi:10.2214/AJR.24.31639.
32. Dwork C, McSherry F, Nissim K, Smith A. Calibrating noise to sensitivity in private data analysis. In: TCC 2006, LNCS 3876. Springer; 2006. doi:10.1007/11681878_14.
33. McMahan HB, Moore E, Ramage D, Hampson S, Agüera y Arcas B. Communication-efficient learning of deep networks from decentralized data. AISTATS. 2017. arXiv:1602.05629.
34. Shokri R, Stronati M, Song C, Shmatikov V. Membership inference attacks against machine learning models. IEEE S&P. 2017. doi:10.1109/SP.2017.41.
35. Fredrikson M, Jha S, Ristenpart T. Model inversion attacks that exploit confidence information and basic countermeasures. ACM CCS. 2015. doi:10.1145/2810103.2813677.
36. Tramèr F, Zhang F, Juels A, Reiter MK, Ristenpart T. Stealing machine learning models via prediction APIs. USENIX Security. 2016. doi:10.5555/3241094.3241142.
37. Biggio B, Nelson B, Laskov P. Poisoning attacks against support vector machines. In: Proceedings of the 29th International Conference on Machine Learning (ICML). Edinburgh; 2012. arXiv:1206.6389.