Hukuki Sorumluluk

Özet

Yapay zekâ teknolojileri sürekli gelişmekte ve hem hekimler hem de hastalar için birçok avantaj sağlamaktadır. Bu avantajlar, tanıdan tedaviye ve tıbbi teknolojilere kadar pek çok alanı kapsayabilir. Yapay zekânın avantajları ve tanı ve tedavi hizmetlerinde uzman faaliyeti olarak kullanımı, hukuki kuralların uygulanmasından hiçbir şekilde muafiyet sağlamaz. Ülkemizde mevcut mevzuatta, yapay zekânın hukuki sorumluluğu henüz tanımlanmamıştır. Yapay zekâ kullanılarak verilen sağlık hizmetlerinde mevzuat, sağlık hizmet kusuru ve organizasyon kusuru açısından değerlendirmeye uygun hale getirilmelidir. Yapay zekânın klinik karar sürecine katılması, sorumluluğu ortadan kaldırmamakta; aksine sağlık hizmeti sunucularının teknoloji seçimi, validasyonu ve denetimi bakımından Yapay zekâ kullanımından doğan hukuki sorumluluk ve bunun nedenleri incelenmeli ve hasta zararını önlemek amacıyla düzenlemeler oluşturulmalıdır. Sağlık hizmetlerinde Yapay Zekâ kullanımından doğabilecek medikolegal sorunların çözülebilmesi için Tüketicinin Korunması Hakkında Kanun, Türk Ceza Kanunu, Hasta Hakları Yönetmeliği, Kişisel Sağlık Verileri Hakkında Yönetmelik gibi mevzuatta düzenlemelerin hayata geçirilmesi gereklidir. Mevzuat, yapay zekâya güven düzeyi, gözetim gereklilikleri ve mesleki sorumluluk sınırlarına ilişkin açık kılavuzlar ortaya koymalıdır.

1. Giriş

Yapay zekâ, karmaşık ve büyük veri setleri kullanılarak bir bilgisayar sisteminin karar verme ve yeni verilerle karşılaştığında sonuçları öngörme yeteneğinin inşa edilmesi için eğitilmesi sürecidir ( 1 ).

Dr. Eric Topol, Deep Medicine adlı kitabında, yapay zekânın hekimleri nasıl güçlendireceğini ve hasta bakımını nasıl değiştireceğini açıklamaktadır. Tıbbın kalbini oluşturan doktor-hasta ilişkisi bozulmuştur: Hekimler hastalarıyla gerçekten bağlantı kuramayacak kadar dikkatleri dağılmış ve aşırı iş yükü altındadır; buna bağlı olarak tıbbi hatalar ve yanlış tanılar yaygın şekilde görülmektedir (2).

Sağlık hizmetlerinde yapay zekâ, temelde büyük ölçekli hasta verisi birikimine/entegrasyonuna bağımlıdır. Tanısal doğruluk, öngörü performansı ve kişiselleştirme kapasitesi; elektronik sağlık kayıtlarına, genomik veri tabanlarına, görüntüleme depolarına ve gerçek zamanlı fizyolojik izlem sistemlerine sürekli erişime dayanır. Sağlık hizmetlerinde Yapay zekânın entegrasyonu; tanı, tedavi ve hasta bakım protokollerinde çeşitli gelişmeleri tetiklemiştir. Yapay zekâ, sağlık hizmetlerinin birçok alanında dönüştürücü bir etki yaratmaktadır. Bu etki özellikle tanı süreçleri, kişiselleştirilmiş tedavi yaklaşımları, ilaç keşfi ve geliştirme, cerrahi uygulamalar ve klinik karar destek sistemleri gibi sağlık hizmetlerinin temel bileşenlerinde belirgin biçimde gözlemlenmektedir. Yapay zekâ tabanlı sistemler, büyük ölçekli klinik veri setlerini analiz etme kapasitesi sayesinde tıbbi karar alma süreçlerini destekleyerek sağlık hizmetlerinin doğruluk, hız ve etkinliğini artırma potansiyeline sahiptir (3).

Tanısal süreçlerde yapay zekâ uygulamaları, özellikle görüntüleme verilerinin analizi ve klinik veri entegrasyonu yoluyla hastalıkların erken tespiti ve doğru sınıflandırılmasını mümkün kılmaktadır. Bu teknolojiler, hastalıkların daha erken evrelerde belirlenmesine katkıda bulunarak zamanında müdahaleyi kolaylaştırmakta ve böylece tedavi başarısını artırma potansiyeli taşımaktadır(3).

Kişiselleştirilmiş tıp alanında ise yapay zekâ algoritmaları, genomik veriler, klinik kayıtlar ve yaşam tarzı verileri gibi çok boyutlu veri kaynaklarını analiz ederek bireyselleştirilmiş tedavi stratejilerinin geliştirilmesini desteklemektedir. Bu yaklaşım, tedavi etkinliğinin optimize edilmesine ve advers etkilerin azaltılmasına katkı sağlayarak hasta sonuçlarının iyileştirilmesine olanak tanımaktadır.

Cerrahi uygulamalarda ise yapay zekâ destekli robotik sistemler, cerrahlara daha yüksek düzeyde hassasiyet, kontrol ve görüntüleme desteği sunmaktadır. Bu sistemler, minimal invaziv cerrahi tekniklerin uygulanmasını kolaylaştırarak operasyonel doğruluğu artırmakta; aynı zamanda komplikasyon oranlarının azalmasına ve hastaların daha hızlı iyileşmesine katkıda bulunmaktadır(3).

Tıbbi görüntülerin analizinde, özellikle derin öğrenme (deep learning) temelli makine öğrenmesi algoritmalarının kullanılması, yapay zekânın tanısal görüntüleme alanındaki başlıca uygulama yöntemini oluşturmaktadır. Bu yaklaşım; röntgen (X-ray), bilgisayarlı tomografi (BT), manyetik rezonans görüntüleme (MR) ve ultrasonografi gibi farklı görüntüleme teknolojilerinden elde edilen verilerin analizini kapsamaktadır (4).

Yapay zekânın bu alanda kullanımı, tıbbi görüntülerin analiz edilme ve yorumlanma biçiminde köklü bir dönüşüm yaratmaktadır. Derin öğrenme modelleri, büyük ölçekli görüntü veri setlerinde karmaşık örüntüleri tanıyabilme kapasitesi sayesinde patolojik bulguların tespitinde yüksek doğruluk oranlarına ulaşabilmektedir. Bu durum, tanı süreçlerinin hızlanmasına, tanısal doğruluğun artmasına ve sonuç olarak hasta bakım kalitesinin iyileşmesine önemli katkılar sağlamaktadır. Ayrıca yapay zekâ destekli görüntü analizi, klinisyenlere karar destek mekanizması sunarak tanı süreçlerinde insan hatasını azaltma potansiyeline de sahiptir (4,5).

Yapay zekâ modelleri, hastaların tıbbi geçmişi, laboratuvar sonuçları ve yaşam tarzı verilerindeki örüntüleri analiz ederek diyabet veya kardiyovasküler hastalıklar gibi kronik hastalıkların gelişme olasılığını öngörebilmektedir. Bu tür öngörüsel analitik yaklaşımlar, risk altındaki bireylerin erken dönemde belirlenmesine olanak sağlayarak koruyucu sağlık hizmetlerinin etkinliğini artırmaktadır.

Erken risk belirleme sayesinde zamanında klinik müdahalelerin planlanması, yaşam tarzı değişikliklerinin uygulanması ve uygun koruyucu stratejilerin geliştirilmesi mümkün hâle gelmektedir. Bu durum, kronik hastalıkların görülme sıklığının ve hastalık yükünün azaltılmasına katkı sağlayarak hem bireysel sağlık sonuçlarını iyileştirmekte hem de sağlık sistemleri üzerindeki uzun vadeli ekonomik ve klinik yükü azaltma potansiyeli taşımaktadır (6,7).

Yapay zekânın kişiselleştirilmiş tedavi süreçlerine entegrasyonu, daha hedefe yönelik, etkili ve hasta merkezli sağlık hizmetleri geliştirme çabasında önemli bir ilerleme olarak değerlendirilmektedir. Kişiselleştirilmiş tedavi, diğer bir ifadeyle hassas tıp (precision medicine), tıbbi bakımın her hastanın genetik özellikleri, yaşam tarzı ve çevresel faktörleri gibi bireysel özelliklerine göre uyarlanmasını amaçlayan bir yaklaşımı ifade etmektedir.

Yapay zekâ, karmaşık ve çok boyutlu veri setlerini analiz etme kapasitesi sayesinde bu dönüşümde kritik bir rol üstlenmektedir. Yapay zekâ tabanlı sistemler, genomik veriler, klinik kayıtlar ve gerçek yaşam verileri gibi farklı veri kaynaklarını entegre ederek yüksek derecede bireyselleştirilmiş tedavi planlarının geliştirilmesine olanak tanıyan öngörüler üretmektedir. Bu sayede tedavi stratejileri yalnızca hastalığın genel özelliklerine değil, aynı zamanda hastaya özgü biyolojik ve klinik parametrelere dayandırılabilmektedir (8,9).

Yapay zekâ destekli robotik sistemler, cerrahi alanında giderek artan bir şekilde dönüşüm yaratarak cerrahi hassasiyeti artırmakta, komplikasyon oranlarını azaltmakta ve hasta sonuçlarını iyileştirmektedir. Yapay zekânın robotik sistemlerle entegrasyonu, cerrahi teknolojilerde önemli bir ilerlemeyi temsil etmekte; geleneksel cerrahi yöntemlerin çoğu zaman sağlayamadığı yüksek düzeyde kontrol, doğruluk ve operasyonel verimlilik sunmaktadır.

Bu tür sistemler, cerrahın hareketlerini yüksek doğrulukla aktarabilen robotik mekanizmalar ile gelişmiş veri analizine dayanan yapay zekâ algoritmalarını bir araya getirerek cerrahi işlemlerin daha güvenli ve öngörülebilir biçimde gerçekleştirilmesine olanak tanımaktadır (10).

Yapay zekâ temelli öngörüsel analitik (predictive analytics) uygulamaları, hastane yönetimi ve sağlık kaynaklarının planlanması süreçlerini önemli ölçüde geliştirmektedir. Hastaneler, hasta ihtiyaçları ile mevcut kaynaklar arasında denge kurmak zorundadır; bu kaynaklar arasında yatak kapasitesi, sağlık personeli ve tıbbi ekipman gibi unsurlar yer almaktadır. Yapay zekâ sistemleri, geçmiş veriler ile güncel eğilimleri analiz ederek hasta kabul oranları, hastanede kalış süreleri ve taburculuk zamanları hakkında öngörülerde bulunabilmektedir.

Bu tür öngörüsel kapasite, hastanelerin yatak tahsisini, personel planlamasını ve genel kaynak kullanımını optimize etmelerine olanak tanımaktadır. Örneğin, öngörü modelleri influenza mevsimi veya pandemi dönemleri gibi hasta yoğunluğunun arttığı dönemlerdeki olası başvuru artışlarını tahmin edebilmekte; böylece sağlık kurumlarının gerekli hazırlıkları yaparak kaynaklarını daha etkin ve verimli biçimde dağıtmalarını mümkün kılmaktadır (11).

Bu veri odaklı mimari, klinik yeniliği mümkün kılarken, aynı zamanda benzeri görülmemiş etik ve hukuki zorluklar yaratmaktadır. Mevcut sağlık düzenlemeleri yapay zekâyı büyük ölçüde tıbbi cihaz kategorisi olarak ele almaktadır. Sertifikasyon süreçleri genellikle kullanıma alınmadan önceki güvenliği, doğruluğu ve güvenilirliği kontrollü koşullar altında değerlendirir. Ancak makine öğrenmesi sistemleri durağan (statik) teknolojilerden temelde farklıdır. Klinik yapay zekâ sistemleri, yeni veriler aracılığıyla sürekli evrilir; yerel hasta popülasyonlarına uyum sağlar. Onay sonrası performansını değiştirir; ortaya çıkan acil durumlar için karar mekanizmaları üretir. Geleneksel düzenleyici modeller bu tür dinamik sistemleri denetlemek için yeterli donanıma sahip değildir. Birden çok derleme, yapay zekâ sistemleri klinik uygulamaya girdikten sonra devam eden öğrenmenin düzenleyici onay sırasında hiç değerlendirilmemiş çıktılar üretebileceğini vurgulamaktadır. Popülasyon demografisi değiştikçe zaman içinde önyargı ortaya çıkabilir. Yeni klinik bağlamlarda performans bozulması meydana gelebilir ( 12 ). Mevcut yasal mevzuat ve tıbbi kılavuzlar, yapay zekâ-entegre sağlık hizmetleri için tasarlanmamıştır. Bu bölümde, uluslararası uygulamalar gözden geçirilmekte ve sağlık hizmetlerinde yapay zekâ kullanımından doğabilecek adli-tıbbi sorunlara ilişkin hukuki düzenlemeler tartışılmaktadır. Makine öğrenmesinin (Machine learning-ML) teknik ayrıntıları, ekonomik değerlendirmeler, hasta bakış açıları, belirli uzmanlık alanlarının çok ayrıntılı incelemeleri ise farklı başlıklar altında değerlendirilebileceğinden, bu bölümde yer verilmeyecektir.

2. Hukuki Sorunlar

Çağdaş sağlık sistemi, yapay zekânın tanısal, terapötik ve idari süreçlere entegrasyonu tarafından yönlendirilen yapısal bir dönüşüm geçirmektedir. Önceki teknolojik yeniliklerin, tamamen klinisyenler tarafından işletilen pasif araçlar olarak işlev görmesinden farklı olarak, yapay zekâ sistemleri giderek hasta bakımını doğrudan şekillendiren otonom veya yarı otonom klinik çıktılar üretmektedir. Bu değişim yalnızca teknolojik bir ilerlemeyi değil, tıbbi bilginin nasıl üretildiği, yorumlandığı ve uygulandığına ilişkin temel bir yeniden yapılandırmayı temsil etmektedir ( 13 ).

Sağlıkta yapay zekâ tabanlı erken uyarı sistemleri (AI-Early Warning Systems) genellikle hastane bilgi sistemi (HIS), laboratuvar sonuçları, vital bulgular ve klinik notları analiz ederek klinik kötüleşmeyi erken fark etmeye çalışır. Örneğin sepsis erken uyarı sisteminde şu adımlar kullanılır:

• Veri Toplama (Data Ingestion) Hastane bilgi sistemi sürekli olarak aşağıdaki verileri yapay zekâ modeline gönderir: Ateş, nabız, solunum sayısı, kan basıncı. oksijen satürasyonu, laboratuvar sonuçları (Laktat, CRP, Prokalsitonin, Lökosit) Klinik veriler
• Yapay Zekâ Analizi Yapay zekâ algoritması (örneğin gradient boosting / deep learning modeli) verileri analiz eder. Her hasta için sepsis riski skoru üretir.
• Risk Eşiği ve Alarm
• Klinik Uyarı
• Klinik Değerlendirme Hekim hastayı değerlendirir
• Klinik Karar: Bunun sonucunda sepsis dışlanır ise,
• Geri Besleme (Learning Loop) Bu veriler model güncellemesinde kullanılır (14).

Marinelli ve çalışma arkadaşları bu geçişi “algoritmik tıp”ın ortaya çıkışı olarak kavramsallaştırmaktadır; burada makine öğrenmesi ve derin öğrenme modelleri geniş veri setlerini sentezleyerek, belirli alanlarda insan analitik kapasitesini sıklıkla aşan olasılıksal tahminler üretmektedir. Bu sistemler; sürekli öğrenme, uyarlanabilir örüntü tanıma ve otomatik klinik akıl yürütme kapasitesine sahiptir ve bu nitelikler onları geleneksel tıbbi cihazlardan keskin biçimde ayırır. Bu tür kabiliyetler tanısal hatayı, idari yükü ve tedavi verimsizliğini azaltma vaat ederken, aynı zamanda benzeri görülmemiş etik ve hukuki karmaşıklıkları da beraberinde getirmektedir ( 15 ).

2.1 Tıpta Yapay Zekâda Mahremiyet Sorunları

Sağlık hizmetleri için tasarlanmış yapay zekâ modelleri, içine beslenen milyonlarca hastanın veri setlerine dayanır. Örneğin, yeni bir hastada hangi tedavi seçeneğinin işe yaramasının muhtemel olduğunu ve hangi tedavinin en iyi sonuçları vereceğini belirlemek için bir yapay zekâ modeli, benzer tıbbi durumlara sahip geçmiş hastaların verilerine bakacaktır. Her bireyin farklı bir DNA seti olduğundan ve yapay modelleri benzerlikleri ve farklılıkları saptayabildiğinden, genomik veriler yapay zekânın tanı ve tedavi açısından son derece bilgili kararlar vermesine yardımcı olur ( 16 ). Sağlık endüstrisi, büyük ölçüde, demografik bilgiler (cinsiyet, yaş ve medeni durum), finansal bilgiler (sağlık sigortası), tıbbi işlemler, genomik ve ilişkili bilgiler gibi hassas kişisel veriler dâhil olmak üzere kişisel bilgi verilerine dayanır ( 17 ). Bu veriler dijital ve fiziksel çok sayıda temas noktasında toplanır ve sağlık hizmeti sunumunda tanı merkezlerinden hastanelere kadar çeşitli platformlarda paylaşılır. Yapay zekâ destekli sağlık hizmetlerinde veriler, çıktı üretmek üzere yapay zekâ sistemine sağlanır; örneğin genom verisi, bir kişinin belirli ilaçlara karşı anti-mikrobiyal direnç durumunu saptaması için yapay zekâya verilir ( 18 ). Verinin bu şekilde kullanımı, onu hem bir varlık yapar, hem de kırılgan olmasına yol açar.

Yapay zekâ, konuşlandırıldığı ortamda zaman içinde daha zeki ve daha uygun hale gelebileceğinden, geleneksel olarak yerleşmiş onam ve özerklik anlayışlarını zorlamaktadır. Yapay zekâ destekli sağlık hizmetlerinin gelişmesi için, veri paylaşımına izin veren ve aynı zamanda hasta mahremiyetini koruyan bir hukuka ihtiyaç vardır. Örneğin bir Apple Watch, gerçek zamanlı kullanıcı kalp ritimlerini izlemek için yapay zekâ kullanır. Yapay zekânın veri toplayıp nihayetinde algoritmasını eğitmek için kullandığı bu süreç, ciddi veri güvenliği ve mahremiyet riskleri doğurur ve inovasyon amaçlı paylaşım söz konusu olduğunda risk katlanarak artar ( 19 ).

Genel Veri Koruma Tüzüğü (General Data Protection Regulation – GDPR), Avrupa Birliği’nde kişisel verilerin korunması ve mahremiyetin güvence altına alınmasına odaklanan kapsamlı bir düzenlemedir. GDPR yalnızca Avrupa Birliği sınırları içinde faaliyet gösteren kuruluşları değil, aynı zamanda AB ve Avrupa Ekonomik Alanı (EEA) dışına yapılan kişisel veri transferlerini ve AB vatandaşlarıyla iş yapan AB dışındaki kuruluşları da kapsayan geniş bir uygulama alanına sahiptir. Bu düzenlemenin temel amacı, bireylerin kişisel verileri üzerindeki kontrolünü güçlendirmek ve Avrupa Birliği genelinde yeknesak bir veri koruma çerçevesi oluşturarak uluslararası ticaret açısından daha sade ve öngörülebilir bir düzenleyici ortam sağlamaktır (20).

Yapay zekâ sistemleri açısından GDPR’a uyum, özellikle makine öğrenmesi modellerinin eğitim ve çıkarım (inference) süreçlerinde kişisel veri kullanımı nedeniyle kritik bir önem taşımaktadır. Bu kapsamda yapay zekâ uygulamalarının şeffaflık, amaçla sınırlılık (purpose limitation) ve veri minimizasyonu gibi temel veri koruma ilkelerine uygun şekilde tasarlanması gerekmektedir. GDPR çerçevesinde yapay zekâ sistemleri için öne çıkan başlıca gereklilikler arasında veri işlemenin hukuki dayanağının belirlenmesi, Veri Koruma Etki Değerlendirmelerinin (Data Protection Impact Assessment – DPIA) yapılması, otomatik karar verme süreçlerinde açıklanabilirliğin sağlanması ve veri sahiplerinin haklarına saygı gösterilmesi yer almaktadır (20).

Dünya Sağlık Örgütü (World Health Organization – WHO), bu tür endişelerin giderilmesi gerektiğini ve yapay zekâ uygulamalarının rutin sağlık hizmetlerinde ve tıpta yaygın biçimde kullanılmadan önce açık ve ölçülebilir faydalarının ortaya konulmasının gerekli olduğunu vurgulamaktadır. Bu gereklilik yalnızca bireysel kullanıcılar için değil; aynı zamanda sağlık hizmeti sunucuları, sağlık sistemi yöneticileri ve politika yapıcılar açısından da geçerlidir (21).

WHO, sağlık alanında yapay zekânın tasarımı, geliştirilmesi ve uygulanması süreçlerinde, örgütün sağlık için yapay zekânın etik ve yönetişimine ilişkin rehberinde belirtilen etik ilkelerin ve uygun yönetişim mekanizmalarının uygulanmasının önemini tekrar vurgulamaktadır. Bu bağlamda WHO tarafından belirlenen altı temel etik ilke şu şekilde sıralanmaktadır: 1) Özerkliğin korunması– Bireylerin karar verme özgürlüğünün ve veri mahremiyetinin korunması. 2) İnsan refahının, güvenliğinin ve kamu yararının teşvik edilmesi 3) Şeffaflık, açıklanabilirlik ve anlaşılabilirliğin sağlanması 4) Sorumluluk ve hesap verebilirliğin teşvik edilmesi 5) Kapsayıcılık ve eşitliğin sağlanması 6) Yanıt verebilir ve sürdürülebilir yapay zekâ sistemlerinin geliştirilmesi.

Bu ilkeler, sağlık alanında yapay zekâ uygulamalarının etik, güvenli ve toplumsal açıdan sorumlu bir şekilde geliştirilmesi ve uygulanması için temel bir çerçeve sunmaktadır (21).

2.2 Sağlık Alanında Kullanılan Yapay Zekâda Önyargı

Yapay zekâ modelleri klinik karar destek amacıyla gerçek dünya ortamlarında giderek daha fazla uygulanmakta; erken uyarılar sağlamakta, tanıyı kolaylaştırmakta, tedavi yanıtlarını öngörmekte ve daha fazlasını yapmaktadır ( 22 ). Sağlık alanında yapay zekânın öne çıkarılan vaadi, nesnelliği ve tekrarlanabilirliği sayesinde, sağlayıcı önyargılarını ve klinik eşitsizlikleri ortadan kaldırarak tüm hastalar için optimize ve kişiselleştirilmiş bakıma ulaşılmasıdır ( 23 ).

Translasyonel yapay zekâ (Translational AI), yapay zekâ araştırmalarında geliştirilen algoritmaların ve modellerin, laboratuvar veya deneysel ortamdan gerçek klinik uygulamaya aktarılması sürecini ifade eden bir kavramdır. Bu kavram, biyomedikal araştırmalarda yaygın olarak kullanılan translasyonel tıp (translational medicine) yaklaşımından türetilmiştir. Translasyonel tıp, temel bilim bulgularının klinik uygulamaya aktarılmasını amaçlarken, translasyonel yapay zekâ ise, bu teknolojilerin klinik pratikte güvenli, etkili ve uygulanabilir hale getirilmesini hedeflemektedir.

Translasyonel yapay zekâ yaklaşımında temel amaç, yalnızca yüksek doğruluk oranına sahip algoritmalar geliştirmek değil; aynı zamanda bu algoritmaların gerçek dünya klinik ortamlarında kullanılabilirliğini, güvenliğini ve klinik faydasını ortaya koymaktır (24).

Translasyonel yapay zekâ, özellikle radyoloji, dermatoloji, patoloji ve oftalmoloji gibi görüntü temelli tanı alanlarında önemli bir rol oynamaktadır. Örneğin, derin öğrenme algoritmalarının dermatolojik lezyonları sınıflandırması veya diyabetik retinopatiyi otomatik olarak tespit etmesi gibi uygulamalar, translasyonel yapay zekâ yaklaşımının klinik uygulamaya geçmiş örnekleri arasında yer almaktadır. Algoritmanın atfedilebilir diyabetik retinopatiyi (RDR) tespit etmedeki duyarlılık ve özgüllük değerleri, referans standart olarak oftalmolog çoğunluk kararı temel alınarak hesaplanmıştır. RDR; orta derecede ve daha ileri evrede diyabetik retinopati, diyabetik maküler ödem veya bu iki durumun birlikte bulunması şeklinde tanımlanmıştır (25).

Diyabetik retinopatinin tespitine yönelik bu otomatik sistem, çeşitli önemli avantajlar sunmaktadır. Bunlar arasında, bir makinenin belirli bir görüntü üzerinde her seferinde aynı tahmini üretmesi nedeniyle yorumlamada tutarlılık, yüksek duyarlılık ve özgüllük değerleri ile sonuçların neredeyse anlık olarak raporlanabilmesi yer almaktadır.

Buna ek olarak, algoritmaların birden fazla çalışma noktasına sahip olabilmesi, duyarlılık ve özgüllük değerlerinin belirli klinik kullanım senaryolarına göre ayarlanabilmesine olanak tanımaktadır. Örneğin, tarama programlarında yüksek duyarlılığın tercih edilmesi gibi durumlarda bu parametreler uygun şekilde optimize edilebilmektedir. Bu çalışmada algoritmanın duyarlılık değerleri sırasıyla %97,5 ve %96,1 olarak elde edilmiştir (25).

Andre Esteva ve arkadaşları, deri hastalıklarının sınıflandırılması amacıyla 129. klinik deri lezyonu görüntüsünü kullanarak bir derin evrişimsel sinir ağı (deep convolutional neural network – CNN) eğitmiştir. Bu çalışma sonucunda geliştirilen algoritma, mobil telefonlarla çekilen fotoğraflara benzer görüntüler üzerinden deri lezyonlarını sınıflandırabilen bir sistem ortaya koymuştur (26).

Geliştirilen sistemin malign melanom ve diğer deri karsinomlarını tespit etmedeki doğruluk düzeyi, deneyimli dermatologların tanısal performansıyla karşılaştırılabilir düzeyde bulunmuştur. Bu bulgular, derin öğrenme temelli yapay zekâ uygulamalarının dermatolojik görüntülerin analizinde yüksek doğruluk sağlayabileceğini ve klinik karar destek sistemleri açısından önemli bir potansiyel taşıdığını göstermektedir (26, 27).

Gerçek klinik ortamlarda uygulanmadan önce, translasyonel yapay zekânın titiz doğrulanması klinik çalışmalar yoluyla yapılır. Yapay zekâ yalnızca performans, kullanılabilirlik ve güvenlik riskleri ölçütlerini karşılamakla kalmamalı, aynı zamanda önyargısız uygulamayı raporlamalı ve göstermelidir ( 23 ). Bununla birlikte translasyonel yapay zekânın başarılı bir şekilde uygulanabilmesi için etik, hukuki ve düzenleyici çerçevelerin, veri güvenliği ilkelerinin ve klinik sorumluluk mekanizmalarının da dikkate alınması gerekmektedir.

Klinik karar verme için sağlık alanında yapay zekâ bağlamında önyargı, bir yapay zekâ algoritmasının farklılaştırılmış veya adaletsiz çıktılar ve sonuçlar üretmesine yol açan herhangi bir örnek, etken olarak tanımlanmıştır ( 28 ).

Yapay zekâ geliştirme hattının farklı aşamalarında ortaya çıkabilecek potansiyel önyargılar, eğitim verisindeki önyargılar, model geliştirme, model uygulama ve yayın süreçlerindeki önyargıları içermektedir. Örneğin, yapay zekâ dışında konulan melanom tanılarındaki mevcut farklılıklar detaylı olarak belgelenmiştir; tanı konulduğu dönemde koyu tenli hastaların hastalığın daha ileri evrelerinde başvurduğu ve açık tenli hastalara göre daha düşük sağkalım oranlarına sahip olduğu tıbbi literatürde tanımlanmıştır. Melanomun erken tanısı etkili tedavi için kilittir ve bu nedenle yapay zekâ tabanlı melanom öngörüsü klinik kullanım için büyük potansiyel taşımaktadır. Ne yazık ki, yapay zekâ tabanlı melanom öngörü modellerinde farklılıklar yaygındır. Bu modellerin çoğu, ABD, Avrupa ve Avustralya’daki hastalardan elde edilen açık tenli görüntülerden yoğun biçimde oluşan veri setleriyle eğitilmiştir (dengesiz örneklem önyargısı). Bu modeller koyu ten tonlarındaki lezyon görüntülerinde daha kötü performans sergiler ve klinik ortamlarında kullanıldığında daha kötü öngörü gücüne yol açar ( 29 ). Bu dengesiz örneklem önyargısı nedeniyle tanı gecikirse, bundan kim sorumlu olacaktır? Yalnızca hekim mi? Bir kurumda eğitilen modeller başka bir kurumun verilerine uygulandığında (örneklem seçimi önyargısı), klinik ortamlarda potansiyel olarak zararlı kararlara yol açabilir ( 30 ).

Örneklem seçimi önyargısına ilişkin iyi bilinen bir başka örnek, klinisyenlere hastalarda sepsis gelişmekte olabileceğine dair otomatik uyarılar üretmek için elektronik hasta kayıtları verileri üzerinde geliştirilen Epic Sepsis Modeli (ESM)’dir. Çalışmacılar, ESM’nin konuşlandırma sonrası başlangıç raporlarına kıyasla anlamlı ölçüde daha kötü AUC (Area Under the Curve, özellikle makine öğrenmesi ve tıbbi tanı testlerinde kullanılan, bir sınıflandırma modelinin ayırt edici performansını ölçen istatistiksel bir metriktir) , duyarlılık ve özgüllüğe sahip olduğunu, sepsis vakalarının üçte ikisini kaçırdığını ve sık sık yanlış alarm verdiğini bulmuştur ( 14 ).

Büyük Dil Modelleri (Large Language Models – LLM), çok büyük hacimli metin veri setleri üzerinde eğitilen ve doğal dili anlama, üretme, özetleme, çeviri yapma ve içerik oluşturma gibi görevleri gerçekleştirebilen gelişmiş yapay zekâ modelleridir. Bu modeller genellikle derin öğrenme ve özellikle Transformer mimarisi temelinde geliştirilir ve milyarlarca hatta trilyonlarca parametre içerebilir. Sağlık alanında LLM’lerin kullanımı özellikle klinik metin analizi, elektronik sağlık kayıtlarının işlenmesi ve tıbbi bilgiye erişimin kolaylaştırılması açısından önemli fırsatlar sunmaktadır. Bununla birlikte, bu modellerin kullanımı doğruluk, güvenilirlik, veri gizliliği, etik sorumluluk ve hukuki düzenleme gibi konularda dikkatli bir değerlendirmeyi de gerektirmektedir. Büyük dil modelleri (LLM), ürettiği klinik kılavuzların doğru mu zararlı mı, güncel mi eski mi olduğunu bilmez; dolayısıyla LLM çıktılarının olasılıksal üretim doğası nedeniyle LLM’ler aynı talimatlarla birden fazla kez uyarılsa bile farklı çıktılar üretebilir ( 31 ). Klinik ortamda bu tutarsızlık, güvenilmez veya tutarsız önerilere yol açabilir ve potansiyel olarak hasta bakımını etkileyebilir.

2.3 Dar Kapsamlı Yapay Zekânın Güvenilmezliği

Yapay zekâ çok dar bir kapsam ve ölçekte çalışacak şekilde eğitilmiş olsa bile yine de güvenilmez olabilir. Pasquale, polipleri saptamak üzere eğitilmiş bir “dar yapay zekâ” nın bir gastroenteroloğun kaçırabileceği sorunlu bir polipi doğru şekilde tanımlayabileceğini, ancak o spesifik anormallik için yeterli eğitim verisine sahip olmadığı için bir insanın kolayca fark edebileceği diğer patolojileri göremeyebileceğini açıklar. Bu nedenle ideal bir sistem, yapay zekâ desteğiyle birlikte çalışan bir uzman olacaktır ( 32 ).

2.4 Tıbbi Sorumluluk

Yapay zekânın sağlık hizmetlerinde kullanıldığı durumlarda sorumluluğun belirlenmesi, geleneksel hukuki ilkelerin uygulanabilir olmaması nedeniyle yasa koyucular ve hakimler için önümüzdeki dönemde zorlu bir görevdir ( 33 ). Yapay zekânın bir hasta için hatalı tanı ürettiği vakalarda sorumluluk sorusu ortaya çıkar. Sorumlu kim olacaktır—hekim mi, yapay zekâ geliştiricisi mi yoksa ilgili sağlık kuruluşu mu?

Yapay zekânın etik ve adli-tıbbi sonuçlarını anlamak, bu sistemlerin farklı klinik alanlarda nasıl işlediğinin yakından incelenmesini gerektirir. Her uzmanlık alanı, benzersiz riskler, sorumluluk yapıları ve ahlaki gerilimler ortaya koyar; bu unsurlar birlikte sağlık hizmetlerinde daha geniş normatif sarsıntıyı görünür kılar.

Ungureanu ve ark., özellikle gelişmekte olan düzenleyici ortamlarda radyolojik uygulamada yapay zekânın kullanıma alınmasına ilişkin kapsamlı bir adli-tıbbi analiz sunmaktadır. Bulguları merkezi bir paradoksu göstermektedir: Yapay zekâ sistemleri tanısal sonuçları doğrudan etkileyen otonom analitik görevleri giderek daha fazla yerine getirirken, hukuki sorumluluk büyük ölçüde radyologlara yüklenmeye devam etmektedir ( 34 ).

Doğal dil işleme sistemleri artık minimal insan girdisiyle taburculuk özetleri, klinik raporlar ve eğitim materyalleri üretmektedir. Bu durum idari yükü azaltmakla birlikte, uydurma klinik bilgi, önyargının yeniden üretilmesi ve mahremiyet sızıntısı tehlikelerini beraberinde getirir ( 35 ). Geleneksel dokümantasyon hatalarının tekil klinisyenlere atfedilmesinden farklı olarak, üretken yapay zekâ hataları eğitim verisi çarpıtmalarından, algoritmik halüsinasyondan veya optimizasyon dengelerinden kaynaklanabilir. Bu tür hatalar için sorumluluğun kime ait olduğunun belirlenmesi hukuken ve etik olarak karmaşıktır.

Kapsamlı etik yönetim ve hukuki reform olmaksızın klinik yapay zekâ, tıbbı şeffaf, hesap verebilirlikten yoksun otomatik bir otorite alanına dönüştürme riski taşır. Bu nedenle etik sağlık hizmetlerinin geleceği yalnızca teknolojik iyileştirmeye değil, açıklanabilir sistemlerin geliştirilmesi, adil algoritmalar, kolektif sorumluluk çerçeveleri, Yapay zekâya özgü düzenleme ve güçlü hasta hakkı korumaları ile şekillendirmeye bağlıdır ( 36 ).

Sağlık hukukunda giderek tartışılan önemli bir durum Yapay zekâ klinik karar destek sistemi uyarısı ile hekimin klinik kararı arasındaki çatışmadır. Yapay zekâ alarmı sonrası müdahale edilmemesi nedeniyle ortaya çıkan bir malpraktis dava senaryosu örnek olarak hazırlanmıştır.

Olayın Özeti

• 58 yaşındaki erkek hasta göğüs ağrısı şikayetiyle acil servise başvurur. Özgeçmişinde Hipertansiyon, Hiperlipidemi mevcut olup sigara içicisidir.
• Fizik muayene bulguları: Kan basıncı:150/90 mmHg, Nabız: 95 /dk, EKG: nonspesifik ST değişiklikleri
• Laboratuvar: Troponin normal

Yapay Zekâ Karar Destek Sistemi Hastanede kullanılan yapay zekâ destekli akut koroner sendrom risk algoritması verileri analiz eder. Probability of NSTEMI: 74% Kardiyoloji Uzmanı muayenesi önerir. AI CLINICAL ALERT High probability acute coronary syndrome Consider admission and serial troponin monitoring

Acil servis hekimi ise, EKG bulgularını düşük riskli değerlendirir. Troponin normal olduğu için hastayı taburcu eder.

6 saat sonra hasta tekrar başvurur. Bu kez Troponin yükselmiştir; EKG ST depresyonu bulguları mevcuttur. Tanı: NSTEMI Hasta acil anjiyografiye alınır; LAD %95 tıkalı bulunarak PTCA+STENT uygulanır.

Hasta yakınları şu iddiayla dava açar:

• Yapay Zekâ sistemi yüksek risk uyarısı vermiştir; hekim bu uyarıyı dikkate almamıştır.
• Taburculuk kararı hatalıdır; geç müdahale nedeniyle kalp hasarı gelişmiştir.

Hakim değerlendirmesi :

• Yapay zekâ sistemi güvenilir mi? Bilirkişi raporu: Sensitivite %89, Spesifite %78, Sonuç: Yapay Zekâ sistemi klinik karar destek aracı olarak kabul edilebilir.
• Yapay zekâ uyarısı bağlayıcı mıdır? Klinik karar destek aracıdır; hekim yerine karar vermez. Ancak hekim yapay zekâ uyarısını makul şekilde değerlendirmelidir.
• Hekimin kararı doğru mu? Troponin normal, EKG spesifik değil ancak yüksek klinik risk, Yapay Zekâ yüksek risk uyarısı mevcut ve seri troponin incelemesi yapılmamış. Taburculuk kararı erken verilmiştir. Bu bulgularla yapay zekâ uyarısının dikkate alınmaması standart bakım ihlali oluşturabilir.

Bir başka senaryoda ise, Troponin düşük düzeyde ve EKG de spesifik bulgu olmamasına rağmen yapay zekânın uyarısıyla Kardiyoloji Uzmanının hiç klinik değerlendirme yapmadan yapay zekâ uyarısına güvenip gereksiz anjiyo uygulaması da görülebilir. Bu durumda da hem hekim, hem hastane, hem de yazılım üreticisi kusurlu bulunabilecektir.

3. Hukuki Düzenlemeler

3.1 Uluslararası düzenlemeler

Amerika Birleşik Devletleri’nde FDA, Federal Food, Drug, and Cosmetic Act (FDCA) isimli yasayı uygular; bu yasa, bazı tıbbi yazılım biçimleri de dâhil olmak üzere ilaçların ve tıbbi cihazların güvenliğini ve etkinliğini düzenler. FDA’nın Software as a Medical Device (SaMD) Action Plan’ı, yapay zekâ modellerinin gerçek dünya klinik kullanımına çevrilmesini (sıklıkla “translasyonel yapay zekâ” olarak adlandırılır) düzenler ( 37 ). Tıbbi yapay zekâ çıktılarında adalet veya önyargıyı inceleyen açık FDA düzenlemeleri yoktur ve birçok yapay zekâ güdümlü SaMD, ırksal ve etnik azınlıklarda standart altı performans göstermiştir.

Nisan 2021’de Avrupa Komisyonu AB Yapay Zekâ Yasası’nı (EU Artificial Intelligence Act) önermiş ve 9 Aralık 2023’te Avrupa Parlamentosu ile Konsey tarafından onaylanmıştır ( 38 ). AB Yapay Zekâ Yasası kapsamında güvenilir yapay zekânın sağlanması tutarlı ve ileri düzey koruma önlemleri gerektirir. Yapay zekâ sistemlerinin ve yapay zekâ destekli ürünlerin serbest dolaşımını, inovasyonunu, konuşlandırılmasını ve tedarikini engelleyen farklılıkların önüne geçilmelidir. Yapay zekâ insan merkezli kalmalıdır: insanın yerini almamalı veya bireysel özgürlükleri ortadan kaldırmamalı, toplumsal ihtiyaçlara ve ortak iyiliğe hizmet etmelidir. Yeniliği desteklerken sağlık, güvenlik ve temel hakların korunmasının önemi vurgulanmaktadır 28 Eylül 2022’de Komisyon ayrıca, yapay zekâ sistemlerinin dâhil olduğu zararlar bakımından sözleşme dışı özel hukuk sorumluluğunun belirli yönlerine ilişkin yeknesak kurallar getirerek iç pazarın işleyişini iyileştirmek amacıyla Yapay Zekâ Sorumluluk Direktifi (AILD) Teklifini de sunmuştur ( 39 ).

Geliştiriciler, sağlayıcılar ve sağlık sistemleri arasında sorumluluğun belirsiz dağılımı benimsemeyi caydırabilir. Birleşik Krallık’ta Medicines & Healthcare products Regulatory Agency, yazılım ve yapay zekâ için düzenleyici gerekliliklerin açık olmasını ve hastaların korunmasını sağlamak amacıyla “Software and AI as a Medical Device Change Programme”i duyurmuştur. Bu Program, Birleşik Krallık’ta tıbbi cihazların gelecekteki düzenlenmesine ilişkin istişareye verilen hükümet yanıtında ayrıntılandırılan daha geniş tıbbi cihaz reformları üzerine inşa edilmiştir ( 40 ).

“Software as a Medical Device (SaMD): Definition and Classification” 18.12.2019 tarihinde Kanada’da bir Kılavuz dokümanı olarak yürürlüğe girmiştir. Kılavuz dokümanlar, endüstri ve sağlık profesyonellerine yürürlükteki kanun ve düzenlemelere nasıl uyulacağı konusunda yardımcı olmayı amaçlar. Yapay zekâ teknolojileri artık bu kılavuzun bir parçasıdır ( 41 ).

HIPAA (ABD) ve GDPR (AB), kimliksizleştirme, ikincil kullanım, veri aktarımı ve hasta onamı için sıkı kurallar belirler. Uyum gereklilikleri çeşitli veri setlerine erişimi sınırlayabilir ve bu da temsil edilmeyen popülasyonlarda model performansını etkileyebilir. “FDA 21st Century Cures Act” gibi birlikte çalışabilirlik yükümlülükleri, veri paylaşımını iyileştirmeyi hedefler; bu da yapay zekâ eğitimi/doğrulamasını kolaylaştırabilir ( 42 ).

3.2 Ulusal mevzuat

Ülkemizde mevcut düzenlemelerimiz ve yasalarımız yapay zekâ entegre sağlık hizmetleri için tasarlanmamıştır. Türkiye’de temel araçlar, “6698 sayılı Kişisel Verilerin Korunması Kanunu” ( 43 ) ile 21.06.2019 tarih ve 30808 sayılı Resmî Gazete’de yayımlanan “Kişisel Sağlık Verileri Hakkında Yönetmelik”tir ( 44 ). Yönetmeliğin 15. Maddesi, kişisel sağlık verilerinin aktarımını düzenlemekte, “Yurt içi aktarımlarda Kanun’un 8. maddesi, yurt dışına aktarımlarda ise Kanun’un 9. maddesi uygulanır” hükmünü içermektedir. Kişisel verilerin aktarılacağı ülke, ülke içerisindeki sektörler veya uluslararası kuruluşlar ile Türkiye arasında kişisel veri aktarımına ilişkin karşılıklılık durumu, ilgili ülkenin mevzuatı ve uygulaması ile kişisel verilerin aktarılacağı uluslararası kuruluşun tâbi olduğu kurallar, ülkenin veya uluslararası kuruluşun, kişisel verilerin korunmasıyla ilgili uluslararası sözleşmelere taraf veya uluslararası kuruluşlara üye olma durumu, Türkiye’nin taraf olduğu uluslararası sözleşmeler gibi hususlar dikkate alınmaktadır.

16.Maddede ise, “Bilimsel amaçlarla işleme” başlığı altında, Kanun’un 28(1)(b) bendi kapsamında veri sorumlusu tarafından anonim hâle getirilen kişisel sağlık verileri ile bilimsel çalışma yapılabilir.” Hükmü mevcuttur. Yapay Zekâ uygulamalarında kullanılan ses, görüntü ve genetik bilgiler gibi kişisel verilere ilişkin koruma tedbirleri ile ihlaller hâlinde uygulanacak yaptırımlar, bu mevzuatta daha ayrıntılı biçimde açıklanmalıdır.

24 Haziran 2024’te “Yapay Zekâ Kanun Teklifi” başlıklı bir taslak kanun teklifi Türkiye Büyük Millet Meclisi’ne sunulmuştur ( 45 ). Bu teklifte yapay zekâ, “öğrenme, akıl yürütme, problem çözme, algılama ve dil anlama gibi yeteneklere sahip, insan benzeri bilişsel işlevleri yerine getirebilen bilgisayar tabanlı sistemler” olarak tanımlanmaktadır. Amacı, yapay zekâ teknolojilerinin güvenli, etik ve adil biçimde kullanılmasını sağlamak, kişisel verileri korumak ve mahremiyet ihlallerini önlemek ve yapay zekâ sistemlerinin geliştirilmesi ve kullanımına yönelik düzenleyici bir çerçeve oluşturmaktır. Teklifin kapsamının, yapay zekâ sistemlerinin sağlayıcılarını, dağıtıcılarını, kullanıcılarını, ithalatçılarını ve distribütörlerini ve yapay zekâ sistemlerinden etkilenen kişileri içerdiği belirtilmektedir. AB Yapay Zekâ Yasası ile karşılaştırıldığında teklifin nispeten genel ve kapsam bakımından sınırlı olduğu görülmektedir. Türkiye’de, taslakta hâlihazırda bulunmayan sağlık hizmetlerinde yapay zekâ kullanımına ilişkin kapsamlı hükümlerin kanun teklifine dahil edilmesi, ayrıca gerekli oldukça Kişisel Verilerin Korunması Kanunu ve Kişisel Sağlık Verileri Hakkında Yönetmeliğin uyumlu biçimde güncellenmesi uygun olacaktır.

Sağlık Bakanlığı Türkiye İlaç ve Tıbbi Cihaz Kurumu (TİTCK) tarafından hazırlanan “GMP-EK 22 Yapay Zekâ Taslağı” kapsamında yapay zekâ entegrasyonu, dijital denetim sistemleri ve veri bütünlüğü konularında yurtdışı düzenlemelere paralel çalışmalar gerçekleştirilmektedir. Bununla ilgili olarak 16 Ekim 2025 tarihinde, “Yapay Zekânın İlaç Üretiminde Kullanımı EU GMP Annex 22 Çalıştayı” yapılmış, amacı, Yapay zekânın GMP süreçlerine doğru, güvenli ve denetlenebilir biçimde nasıl entegre edilebileceğini tartışmak, ortak riskleri ve fırsatları görünür kılmak, uygulamada karşılaşılabilecek zorlukları birlikte öngörmek ve çözüm üretmek olmuştur. Katılımcılar, yapay zekânın GMP süreçlerine entegrasyonunun önemli fırsatlar sunduğunu belirtmekle birlikte, ürün güvenliği, hasta sağlığı ve regülasyon uyumu açısından dikkatle sınırlandırılması gereken alanlar bulunduğunu vurgulamıştır (46).

Farklı ülkelerde yapaya zekâya ilişkin yasal düzenlemeler Tablo:1 de gösterilmektedir.

Tablo1: Farklı ülkelerde yapay zekâya ilişkin yasal düzenlemeler

Ülke / Bölge	Düzenleme modeli	Temel yaklaşım	Mevcut durum (Mart 2026)
Türkiye	Henüz AB AI Act benzeri Yapay Zekâ kanunu yürürlükte yok; KVKK, Tüketicinin Korunması Hakkında Kanun gibi mevzuat üzerinden değerlendiriliyor. TBMM’de Yapay Zekâ Kanun Teklifi komisyonda inceleniyor. Kişisel Verileri Koruma Kurumu 24.11.2025 tarihinde Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberini yayımladı. (https://www.kvkk.gov.tr/Icerik/8547/uretken-yapay-zeka-ve-kisisel-verilerin-korunmasi-rehberi-15-soruda)	Veri koruma ve genel hukuk temelli yaklaşım.	Yapay Zekâ Kanunu değerlendirme aşamasında; kurumsal çalışmalar artıyor.
Avrupa Birliği	EU Artificial Intelligence Act	Risk temelli model: yasaklı uygulamalar, yüksek riskli sistemler, şeffaflık ve GPAI yükümlülükleri. (digital-strategy.ec.europa.eu)	AI Act 1 Ağustos 2024’te yürürlüğe girdi; European Commission Digital Strategy 30 Haziran 2022'de yayımlandı.
ABD	Federal düzeyde tek bir genel Yapay Zekâ Yasası bulunmuyor. Ulusal Standartlar ve Teknoloji Enstitüsü (National Institute of Standards and Technology – NIST), gönüllülük esasına dayanan Yapay Zekâ Risk Yönetimi Hukuki Çerçevesi’ni (AI Risk Management Framework – AI RMF) uzlaşmaya dayalı, açık, şeffaf ve iş birliğine dayanan bir süreç aracılığıyla geliştirmiştir. (https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-engage)	İnovasyon + sektör/eyalet bazlı müdahale	Federal yasa için hazırlık var. Eyaletlerdeki düzenlemelerin daha hızlı olabileceği düşünülüyor.
Birleşik Krallık	Yeni bir Yapay Zekâ Kanunu hazırlamak yerine mevcut yasalarla yürütülmeye çalışılıyor.	Güvenlik, şeffaflık, adillik, hesap verebilirlik üzerinden sektör düzenleyicileriyle uygulama. (GOV.UK)	Halen bir kanun hazırlığı bulunmuyor. (GOV.UK)
Çin	Çin Halk Cumhuriyeti Yapay Zekâ Kanunu, Çin Halk Cumhuriyeti sınırları içinde gerçekleştirilen yapay zekâ geliştirme, temin ve kullanım faaliyetleri ile bunların denetimi için uygulanır. Bu Kanun ayrıca, ülke dışında gerçekleştirilen ancak ulusal güvenliği veya kamu yararını etkileyebilecek ya da Çin’deki bireylerin veya kuruluşların meşru hak ve menfaatlerine zarar verebilecek yapay zekâ geliştirme, sağlama ve kullanım faaliyetleri için de uygulanmaktadır. (https://cset.georgetown.edu/publication/china-ai-law-draft/)	İçerik kontrolü, güvenlik, kayıt/uyum ve platform sorumluluğu ağırlıklı model.	Çin, dünyadaki en erken bağlayıcı rejimlerden birini kurmuş durumda.
Kanada	Federal düzeyde Yapay Zekâ ve Veri Yasası tasarlanmış ancak Bill C-27 (Dijital Şartın Uygulanması Yasası, 2022), Kanada'nın özel sektör gizlilik yasalarını modernize etmeyi, yapay zekâyı düzenlemeyi ve veri korumasını güçlendirmeyi amaçlayan kapsamlı bir yasa tasarısı olup henüz yasalaşmamıştır. (https://www.justice.gc.ca/eng/csj-sjc/pl/charter-charte/c27_1.html)	Yüksek etkili	Yürürlüğe giren bir yasa bulunmuyor.

Bir hekim, bakım standardını ihlal etmesi sonucunda hastanın zarar görmesi veya ölmesi hâlinde ihmal/taksir nedeniyle sorumlu olabilir. Bakım standardı belirlenirken mahkemeler, hekimin eylemlerini uluslararası tıbbi kılavuzlarda tanımlanan standart davranış ile karşılaştırır; uzmanlık alanı, eğitim düzeyi ve hastanede mevcut kaynaklar dikkate alınır. Yapay zekâ büyük ölçüde klinik bir araç olarak çalışır ve bu değerlendirmeye dâhil edilmelidir. Veri seti, belirli popülasyon özelliklerinin temsili bakımından değişkenlik gösterebilir ve bu durum değerlendirme doğruluğunu etkileyebilir. Yapay zekâ algoritmalarının karmaşıklığı anlaşılmayı zorlaştırdıkça, şeffaflık eksikliğini yansıtmak üzere “kara kutu” olarak anılırlar ( 47 ). Yapay zekâ süreçlerinin kara kutu niteliği, bir değerlendirme üretirken hangi özelliklere dayanarak algoritma oluşturduğunun saptanamamasına yol açabilir. Bir hekim yapay zekâ bulgularına dayanırsa ve bu bulgular yanlış veya hatalıysa, hastaya gereksiz tedavi uygulanması, gereksiz takip işlemleri yapılması veya malignite tanısı konulamaması gibi sonuçlar doğabilir. Yapay zekânın benzersiz kara kutu niteliği ve artan otonomi potansiyeli, onu yaygın kullanılan diğer klinik karar destek araçlarından ayırabilir ve uygulamada yapay zekâ kullanırken geçerli bakım standardı dâhil olmak üzere yeni hukuki sorular doğurabilir ( 48 ). Léger-Riopel ve Sénéchal bu olguyu yalnızca teknik bir sınırlılık olarak değil, tıpta epistemik bir kopuş olarak tanımlar. Klinik yapay zekânın, sağlık hizmetlerinde yeni bir normatiflik biçimi ortaya koyduğunu savunurlar; kararlar nedensel tıbbi akıl yürütme yerine istatistiksel korelasyonlar üzerinden üretilmektedir. Önceki nesillerin sembolik yapay zekâ sistemlerinde klinisyenler mantık kurallarını izleyebilir ve tanısal yolları anlayabilirdi. Ancak çağdaş bağlanıcı modeller, insanın anlamlandırmasına dirençli yüksek boyutlu örüntü tanıma süreçleriyle öğrenir ( 22 ). Tanı ve tedavi önerilerinde yapay zekâ kullanıldığında, usulüne uygun bilgilendirilmiş onam alınabilmesi için hastalarla hangi bilgilerin paylaşılması gerektiği belirsizdir.

4. Öneriler

Sağlık hizmeti sunucuları şu konularda dikkatli olmalıdır:

a) Olası sorumluluk paylaşımının farkında olmak: Tedaviyi veren klinisyen (nihai karar verici). Sağlık kurumu (müteselsil/kusursuz sorumluluk/istihdam eden sorumluluğu), yetkilendirme, yönetim) yapay zekâ geliştiricisi/tedarikçisi (ürün sorumluluğu, tasarım/bakımda ihmal). Froicu ve ark., onkoloji tedavi önerilerinin genomik veriler, geçmiş tedavi sonuçları ve klinik parametreleri birleştiren çok değişkenli öngörü motorlarından nasıl türediğini göstermektedir. Advers reaksiyonlar meydana geldiğinde, sorumluluk kısmen modelin eğitim varsayımlarına, kısmen kurumsal yapay zekâya güven eşiklerine ve kısmen de klinisyen takdirine dayanabilir ( 49 ). Tıbbi malpraktis davalarında da temel soru şu olacaktır: Yapay zekâ uyarısını göz ardı etmek standart hekim uygulamasına aykırı bir davranış mıdır? Yapay zekâ klinik sistemleri için önerilen standart, “Human-in-the-loop responsibility (Yapay zekâ uygulamalarında, insanların doğruluk, güvenlik, hesap verebilirlik veya etik karar alma süreçlerini sağlamak için yapay zekâ iş akışının bir aşamasında yer alması anlamına gelir)” olarak tanımlandığı şekilde karar hekime ait olmalı ancak hekim karar verdiği aşamada yapay zekâ uyarısını da dikkate almalıdır.

b) Bilgilendirilmiş onam ve şeffaflık: Hastalara, tanı ve tedaviye yapay zekânın dahil olduğu, sınırlılıkları ve olası risk/yararları açıklanmalıdır. Şeffaflık eksikliği (“kara kutu” algoritmalar) geçerli onamı zayıflatabilir ve hizmet sağlayıcıları açıklamama iddialarına maruz bırakabilir.

c) Veri koruma ve ikincil kullanım: Yasal mevzuat, veri minimizasyonu, hukuki dayanak, sınır ötesi aktarım ve ihlal bildirimine ilişkin sıkı kurallar getirmelidir. Uyumsuzluk ciddi para cezalarına ve itibar kaybına yol açabilir; güçlü veri yönetişimi, şifreleme ve anonimleştirme süreçleri zorunludur.

d) Dokümantasyon ve denetim kayıtları: Yapay zekâ çıktıları, klinisyen tarafından geçersiz kılmalar ve karar gerekçeleri kayıt altına alınmalıdır (elektronik hasta kaydı entegrasyonu). Kapsamlı loglar, hem olası davada savunmayı hem de kalite iyileştirme faaliyetlerini destekler.

e) İzleme ve kalite iyileştirme: Gerçek zamanlı performans panoları uygulanmalı; advers olaylar ve “neredeyse hata”lar takip edilmelidir. Modeller özellikle popülasyon veya iş akışı değişikliklerinden sonra periyodik olarak yeniden doğrulanmalıdır (50,51,52).

5. Sonuç

Teknoloji geliştikçe ve yapay zekâ sağlık sistemine daha fazla entegre oldukça, uğranılan zararlara ilişkin sorumluluk bakımından mediko-legal sorunlar ortaya çıkacaktır. Yapay zekâ, verimliliği artırmak için bir araç olarak tercih edilmeli, hekimi dışlayarak tanı ve tedavi sürecinde nihai karar verici olarak kullanılmamalıdır. Yapay zekânın istenmeyen etkilerinin ve kötüye kullanımının insan sağlığına zarar vermesini önlemek için bu alanda yasal düzenlemeler mümkün olan en kısa sürede hazırlanmalı ve uygulanmalıdır.

Kaynakça

1. Morley, Jessica and Floridi, Luciano, The Ethics of AI in Health Care: An Updated Mapping Review (October 12, 2024). doi.org/10.2139/ssrn.4987317
2. Topol, E. (2019). Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again. Basic Books.
3. Shah Zeb, Nizamullah FNU, Nasrullah Abbasi, & Muhammad Fahad. (2024). AI in Healthcare: Revolutionizing Diagnosis and Therapy. International Journal of Multidisciplinary Sciences and Arts, 3(3), 118–128. https://doi.org/10.47709/ijmdsa.v3i3.4546).
4. Khalifa M, Albadawy M. AI in diagnostic imaging: revolutionising accuracy and efficiency. Comput Methods Programs Biomed Update. 2024;5:100146. doi:10.1016/j.cmpbup.2024.100146.
5. Chamola, V., Hassija, V., Gupta, V., & Guizani, M. (2020). A comprehensive review of the COVID-19pandemic and the role of IoT, drones, AI, blockchain, and 5G in managing its impact. IeeeAccess, 8, 90225–90265 )
6. Hussain, M., Koundal, D., & Manhas, J. (2023). Deep learning-based diagnosis of disc degenerativediseases using MRI: a comprehensive review. Computers and Electrical Engineering, 105,108524
7. Dash, S. S., Tiwari, S., & Nahak, K. (2023). Revolutionizing Cardiovascular Diseaseprevention With Machine Learning: A Comprehensive Review. Journal of DataAcquisition and Processing, 38(2), 2429
8. Khezr, S., Moniruzzaman, M., Yassine, A., & Benlamri, R. (2019). Blockchain technology in healthcare: A comprehensive review and directions for future research. Applied Sciences, 9(9), 1736.
9. Kırboğa, K. K., Küçüksille, E. U., & Utku, K. (2021). The Impact of Artificial Intelligence on the Medical Area: Detailed Review. Journal of Multidisciplinary Developments, 6(1), 54–73).
10. Pal, P., & Taqi, S. A. A. (2020). Advancements in Data Mining andMachine Learning Techniques forPredicting Human Diseases: A Comprehensive Review. International Journal of Research in Informative Science Application & Techniques (IJRISAT), 4(11), 19–35).
11. Johnson, K. B., Wei, W., Weeraratne, D., Frisse, M. E., Misulis, K., Rhee, K., Zhao, J., & Snowdon, J. L.(2021). Precision medicine, AI, and the future of personalized health care. Clinical andTranslational Science, 14(1), 86–93).
12. Smith, H. Clinical AI: opacity, accountability, responsibility and liability. AI & Soc 36, 535–545 (2021). doi.org/10.1007/s00146-020-01019-6
13. Alhejaily AG. Artificial intelligence in healthcare (Review). Biomed Rep. 2024 Nov 12;22(1):11. doi: 10.3892/br.2024.1889.
14. Wong A, Otles E, Donnelly JP, Krumm A, McCullough J, DeTroyer-Cooley O, Pestrue J, Phillips M, Konye J, Penoza C, Ghous M, Singh K. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients. JAMA Intern Med. 2021 Aug 1;181(8):1065-1070. doi: 10.1001/jamainternmed.2021.2626.
15. Marinelli S, De Paola L, Stark M, Montanari Vergallo G. Artificial intelligence in the service of medicine: current solutions and future perspectives. Clin Ter. 2025;176 (Suppl 1):77–82. doi:10.7417/CT.2025.5192.
16. Dias R, Torkamani A. Artificial intelligence in clinical and genomic diagnostics. Genome Med. 2019 Nov 19;11(1):70. doi: 10.1186/s13073-019-0689-8.
17. Nasir M, Siddiqui K, Ahmed S. Ethical-legal implications of AI-powered healthcare in critical perspective. Front Artif Intell. 2025 Jul 2;8:1619463. doi: 10.3389/frai.2025.1619463.
18. Ali T, Abid Imam H, Maqsood B, Jawed I, Khan I, Haque MA. Artificial intelligence-powered intraoperative nerve monitoring: a visionary method to reduce facial nerve palsy in parotid surgery: an editorial. Ann Med Surg (Lond). 2023 Dec 15;86(2):635-637. doi: 10.1097/MS9.0000000000001612.
19. Maliha G, Gerke S, Cohen IG, Parikh RB. Artificial Intelligence and Liability in Medicine: Balancing Safety and Innovation. Milbank Q. 2021 Sep;99(3):629-647. doi: 10.1111/1468-0009.12504.
20. https://www.exabeam.com/explainers/gdpr-compliance/the-intersection-of-gdpr-and-ai-and-6-compliance-best-practices/ Erişim: 03.03.2026
21. Ethics and governance of artificial intelligence for health WHO guidance https://www.who.int/publications/i/item/9789240029200 Erişim:03.03.2026
22. Léger-Riopel N, Sénéchal C. A note on certain implications of clinical artificial intelligences for the field of medico-legal semiotics. Comparative Legilinguistics. 2025;62:175–185. doi: 10.14746/cl.2024.62.4.
23. Cross JL, Choma MA, Onofrey JA. Bias in medical AI: Implications for clinical decision-making. PLOS Digit Health. 2024 Nov 7;3(11):e0000651. doi: 10.1371/journal.pdig.0000651.
24. Brogi S, Calderone V. Artificial Intelligence in Translational Medicine. International Journal of Translational Medicine. 2021; 1(3):223-285. https://doi.org/10.3390/ijtm1030016
25. Gulshan V, Peng L, Coram M, et al. Development and Validation of a Deep Learning Algorithm for Detection of Diabetic Retinopathy in Retinal Fundus Photographs. JAMA. 2016;316(22):2402–2410. doi:10.1001/jama.2016.17216
26. Esteva, A., Kuprel, B., Novoa, R. et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature 542, 115–118 (2017). https://doi.org/10.1038/nature21056
27. Zin Mar Soe. (2025). From Innovation to Inclusion: The Role of Equitable Technology in Society. International Journal of Biotechnology and Biomedicine (IJBB), 2(1), 23-31. https://doi.org/10.31674/ijbb.2025.v02i01.003
28. Sutton RT, Pincock D, Baumgart DC, et al. An overview of clinical decision support systems: benefits, risks, and strategies for success. NPJ Digital Medicine. 2020;3:17. doi:10.1038/s41746-020-0221-y
29. Adamson AS, Smith A. Machine Learning and Health Care Disparities in Dermatology. JAMA Dermatology. 2018;154(11):1247-1248. doi:10.1001/jamadermatol.2018.2348
30. Chauhan VK, Clifton L, Salaün A, Lu HY, Branson K, Schwab P, et al. Sample Selection Bias in Machine Learning for Healthcare. arXiv [preprint]. 2024. arXiv:2405.07841. https://arxiv.org/abs/2405.07841
31. Harrer S. Attention is not all you need: the complicated case of ethically using large language models in healthcare and medicine. EBioMedicine. 2023 Apr;90:104512. doi: 10.1016/j.ebiom.2023.104512.
32. Ali O, Abdelbaki W, Shrestha A, Elbasi E, Alryalat MAA, Dwivedi YK. A systematic literature review of artificial intelligence in the healthcare sector: Benefits, challenges, methodologies, and functionalities. Journal of Innovation & Knowledge. 2023;8(1):100333. doi:10.1016/j.jik.2023.100333
33. Jassar S, Adams SJ, Zarzeczny A, Burbridge BE. The future of artificial intelligence in medicine: Medical-legal considerations for health leaders. Healthc Manage Forum. 2022 May;35(3):185-189. doi: 10.1177/08404704221082069.
34. Ungureanu AM, Matei SC, Malita D. Controversies in the application of artificial intelligence in radiology: medico-legal perspectives. Diagnostics. 2025;15:230.
35. Ando K, Okumura T, Komachi M, Horiguchi H, Matsumoto Y. Is artificial intelligence capable of generating hospital discharge summaries from inpatient records? PLOS Digit Health. 2022 Dec 12;1(12):e0000158. doi: 10.1371/journal.pdig.0000158.
36. Liang M. Ethical application of generative artificial intelligence in medical text generation. Front Public Health. 2025;13:1583507.
37. U.S. Food & Drug Administration. Software as a Medical Device (SaMD) Action Plan. https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-software-medical-device
38. van Kolfschooten H, van Oirschot J. The EU Artificial Intelligence Act (2024): Implications for healthcare. Health Policy. 2024 Nov;149:105152. doi: 10.1016/j.healthpol.2024.105152.
39. Duffourc MN, Gerke S. The proposed EU Directives for AI liability leave worrying gaps likely to impact medical AI. NPJ Digit Med. 2023 Apr 26;6(1):77. doi: 10.1038/s41746-023-00823-w.
40. Software and AI as a Medical Device Change Programme roadmap. https://www.gov.uk/government/publications/software-and-ai-as-a-medical-device-change-programme/software-and-ai-as-a-medical-device-change-programme-roadmap
41. Ingvar Å, Oloruntoba A, Sashindranath M, Miller R, Soyer HP, Guitera P, Caccetta T, Shumack S, Abbott L, Arnold C, Lawn C, Button-Sloan A, Janda M, Mar V. Minimum labelling requirements for dermatology artificial intelligence-based Software as Medical Device (SaMD): A consensus statement. Australas J Dermatol. 2024 May;65(3):e21-e29. doi: 10.1111/ajd.14222.
42. 21st Century Cures Act. Pub L No. 114-255. 130 Stat 1033 (2016). https://www.fda.gov/regulatory-information/selected-amendments-fdc-act/21st-century-cures-act
43. Kişisel Verilerin Korunması Kanunu https://www.mevzuat.gov.tr/mevzuat?MevzuatNo=6698&MevzuatTur=1&MevzuatTertip=5
44. Kişisel Sağlık Verileri Hakkında Yönetmelik https://www.saglik.gov.tr/TR-28791/kisisel-saglik-verileri-hakkinda-yonetmelik.html
45. Yapay Zekâ Kanun Teklifi https://regulations.ai/regulations/RAI-TR-NA-YZKTAXX-2024 https://cdn.tbmm.gov.tr/KKBSPublicFile/D28/Y2/T2/WebOnergeMetni/e50ccc8a-ab90-45fa-a553-76b880c78fb8.pdf
46. https://www.tiysat.org/yapay-zekanin-ilac-uretiminde-kullanimi/ Erişim:03.03.2026
47. Bathaee Y. The artificial intelligence black box and the failure of intent and causation. Harvard Journal of Law & Technology. 2018;31(2):890–938. https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Intelligence-Black-Box-and-the-Failure-of-Intent-and-Causation-Yavar-Bathaee.pdf
48. Jassar S, Adams SJ, Zarzeczny A, Burbridge BE. The future of artificial intelligence in medicine: Medical-legal considerations for health leaders. Healthc Manage Forum. 2022 May;35(3):185-189. doi: 10.1177/08404704221082069.
49. Froicu EM, Creangă-Murariu I, Afrăsânie VA, et al. Artificial intelligence and decision-making in oncology: ethical and legal challenges. Curr Oncol Rep. 2025;27:1002–1012. doi:10.1007/s11912-025-01698-8.
50. Roberts L, et al. Challenges for implementing generative artificial intelligence into clinical healthcare. Intern Med J. 2025. doi:10.1111/imj.70035.
51. Ferreres AR. Ethical and legal issues regarding artificial intelligence (AI) and management of surgical data. Eur J Surg Oncol. 2025 Jan;51(1):108279. doi:10.1016/j.ejso.2024.108279.
52. Alkhatib AJ, Darabseh RS. Ethical Challenges in AI-Driven Healthcare Innovations. International Journal of New Medicine. 2025;1(1):11–27. doi:10.0000/ijnm/797.