Sağlıkta Yapay Zeka Krizi: Hataların Sorumlusu Kim Olacak?

Sağlık sektörü, yapay zeka destekli araçların yaygınlaşmasıyla birlikte büyük umutlar barındırıyor: teşhis süreçlerinin hızlanması, hataların azaltılması, verimlilik artışı gibi avantajlar… Ancak bu gelişme, tıp hatası veya kötü sonuç yaşandığında “kim suçlanacak” sorusunu yeniden gündeme getiriyor. Uzmanlara göre, yapay zekanın karar alma süreçlerine dahil edilmesi, hastaların zarar gördüğü durumlarda sorumluluğu net biçimde tespit etmeyi zorlaştırabilir. Bu belirsizlik, sadece hukuk sistemleri için değil, hekimler, teknoloji şirketleri ve hastalar için de riskler barındırıyor.

Journal of the American Medical Association (JAMA) tarafından düzenlenen zirvede ele alınan bu konu, yalnızca teorik bir tartışma değil; pratikte gelecekteki tıbbi davalar açısından kritik önemde bir sınav olacak. Makalenin odaklandığı rapor, yapay zeka sağlık araçlarının değerlendirilmesinden sorumluluk paylaşımına kadar çok sayıda soruyu gündeme taşıyor.

Yapay Zekanın Kullanımı ve Tıbbi Hataların Tanımı

Yapay zeka sistemleri, radyolojik görüntü analizinden teşhise kadar farklı işlevlere sahip olabiliyor. Örneğin bir yazılım göğüs tomografilerini analiz ederek olası tümörleri önerebilir, başka bir sistem ise hasta verilerini baz alarak tedavi planları sunabilir.

Ancak tıbbi hata tanımı geleneksel sistemlerde açıklık taşırken, yapay zeka katkısı olan vakalarda “hata kimin?” sorusu bulanıklaşabiliyor. İnsan hekim kararını mı yükseltmeli, yoksa yazılımın bir yanılgısını mı suçlamalı? Yazılımı geliştiren firmadan mı, hekimi kullanan kurumdan mı, yoksa yapay zeka modelinin eğitildiği veri setine kadar uzanan zincirde mi? Bu tür belirsizlikler, mevcut hukuk sistemlerini zorluyor.

Sorumluluk Paylaşımı: Hekim, Yazılım Firması, Kurum

Raporun yazarlarından Derek Angus, olası hatalı sonuçlarda bir suçlama zincirinin başlayacağını belirtiyor: “Algı olarak bir şey yanlış gittiğinde, çevredeki herkes birbirine bakacak.”

Hekim Sorumluluğu: Geleneksel tıpta, hekim standardına uygun davranmadığı takdirde hatadan sorumlu tutulur. Fakat yapay zeka sisteminde hekim, modelin önerisini izleyebilir ya da onu reddedebilir — bu tercihinin doğru olduğu nasıl ispatlanacak?

Yazılım/Developer Sorumluluğu: Bir algoritmanın nasıl eğitildiği, hangi verilerle beslendiği, test süreci ve açıklanabilir (explainable) nitelik taşımaması gibi faktörler tartışmaya açılıyor. Davada bu teknik unsurları mahkemeye sunmak karmaşık olabilir.

Kurum Sorumluluğu: Hastane, sağlık kuruluşu ya da klinik, kullanılan sistemi sağlayan altyapıdan teknik güvenliğe kadar pek çok noktadan sorumlu olabilir. Sözleşmelerde sorumlulukların nasıl paylaşılacağı kritik hale geliyor.

Harvard Hukuk’tan Glenn Cohen durumu şöyle özetliyor: “Hastalar, yapay zeka ürünü kullanımında kusuru gösteremeyebilir; iç işleyişine erişim zor olabilir, alternatif tasarımı iddia etmek güç olabilir.”

Değerlendirme Süreci ve Düzenleyici Boşluklar

Rapor, yapay zeka sağlık araçlarının etkinlik ve güvenilirliğinin değerlendirilmesinde ciddi sorunlar olduğunu belirtir. Bir sistemin klinik ortamda ne kadar başarılı olacağı, modelin test edildiği laboratuvar ortamında gösterdiği başarıdan büyük ölçüde farklı olabilir.

FDA gibi kurumların denetimi dışında gelişen birçok sistem bulunuyor. Burada göze çarpan risk: düzenleyici süreçten geçmeyen bir sistemin yanlış tedavi önerisi vermesi durumunda hukuki süreç ne olacaktır? Rapor yazarları, değerlendirme süreçlerinin pahalı, karmaşık ve pratik uygulamaya uyarlanmasının zorlu olduğuna dikkat çekiyorlar.

Ayrıca, “en iyi test edilen sistemlerin en az benimsenen, en çok kullanılanların ise en az test edilen sistemler olması” yönünde bir paradoks da raporda vurgulanıyor. Bu durum, düzenleyicilerin güvenliğe dair beklentileriyle sağlık kurumlarının hızlı adaptasyon talepleri arasında bir gerilim yaratıyor.

Davaların Zorlukları ve Gelecek Riskler

Prof. Michele Mello’ya göre mahkemeler bu konulara adapte olabilecek kapasitede; ancak belirsizlik süreci maliyetleri artırıyor. Davalar arasında çelişkiler olası, önceki kararlar bağlayıcı mı olacak, hangi ölçütlerle karar verilecek gibi sorular belirsiz.

Bir başka sorun da “kötü sonuç – başarısızlık” ayrımında yatıyor: her olumsuz sonuç hatalı sistem ya da kullanım mı demektir? Yapay zeka sistemleri istatistiksel sonuçlara dayanır; bazı hatalar modelin doğasından kaynaklanabilir. Bu durumda, hatalı sonuç ile “hata” kavramı birbirine karışabilir.

Etik, Sigorta ve Politikalar

Bu hukuki tartışma aynı zamanda etik ve sigorta konularını da içeriyor. Kim, yapay zeka kaynaklı bir zarardan doğan tazminatı ödeyecek? Sigorta şirketleri bu yeni riskleri nasıl fiyatlayacak? Hekimler ve klinikler yapay zeka kullandıklarında artan risklere karşı nasıl korunacak?

Politika yapıcılara da görev düşüyor. Rapor, devletlerin dijital altyapıya yatırım yapması; yapay zeka sistemlerinin öngörülebilirliğini, açıklanabilirliğini artıracak düzenleyici çerçeveler oluşturması gerektiğini vurguluyor.

Yapay Zekanın Fırsatları ve Hukuki Düğüm Noktası

Yapay zekanın tıp dünyasına getirdikleri tartışmasız büyük: teşhis ve tedavide hız, maliyet düşüşü, sağlık eşitsizliklerini azaltma potansiyeli gibi. Ancak bu gelişmenin yanında gelen hukuki ve etik tartışmalar da göz ardı edilemez.

Rapor, yapay zeka destekli tıbbi sistemlerin güvenilirliğini, değerlendirilmesini, sorumluluk paylaşımını ve yasal süreçlerin yeniden yapılandırılması gerektiğini net biçimde ortaya koyuyor. Sağlık profesyonelleri, teknoloji firmaları, sigorta sektörü ve hukuk dünyası; bu yeni alanda iş birliği yapmazsa, ortaya çıkacak davalar sadece kayıplar üzerinden değil, teknolojik ilerlemenin itibarını da zedeleyebilir.

Sorumluluğu netleştirecek düzenlemeler, test süreçlerinin standartlaştırılması, sözleşmelerde açık yükümlülüklerin tanımlanması, “açıklanabilir yapay zeka” ve şeffaflık gibi yaklaşımlar kritik önemde. Geleceğe dönük olarak, bu adımların atılması yalnızca teknolojik ilerlemenin değil, güvenin de teminatı olabilir.

Derleyen: Merve Tuncel