Algoritma Kimi Görüyor? Yapay Zeka Sağlıkta Eşitsizliği Derinleştirebilir

Bir algoritma, gördüğü veriyle öğrenir. Bu basit gerçek, tıbbi YZ'nin en tartışmalı sorunlarından birini doğuruyor: Algoritmanın gördüğü veri kimin bedeninden geldi? Çünkü hasta kayıtları, klinik çalışmalar ve görüntü veri tabanları eşit temsil içermiyor. Bunların büyük çoğunluğu Batılı, beyaz, erkek ve görece genç popülasyonlardan toplandı. Geri kalan herkes bu verinin dışında kaldı — çoğu zaman bunun farkında bile olmadan.

Bu bir ayrıntı değil. Bir model eğitim verisindeki popülasyon için iyi çalışır, farklı bir popülasyona uygulandığında performansı düşer — ve bu düşüşün boyutu çoğunlukla raporlanmaz. YZ sağlıkta eşitsizliği azaltacak bir araç olarak sunuluyor. Ama yanlış veriyle eğitilmiş bir model bu eşitsizliği azaltmak bir yana, daha hızlı ve daha ölçekli biçimde yeniden üretir.

Tablonun Boyutu

Hussain ve arkadaşlarının sağlık algoritmalarındaki ırk ve etnik köken önyargısını inceleyen scoping review'u 23 kaynağı derleyerek şunu ortaya koyuyor: YZ sağlık algoritmaları tanı doğruluğu konusunda zaman zaman insan performansını aşıyor, ama aynı zamanda hasta mahremiyeti, kurumsal şeffaflık ve sağlık eşitliği açısından ciddi sorunlar barındırıyor.¹ Mevcut kanıtlar, bu algoritmaların sağlık eşitsizliklerini sürdürme potansiyeli taşıdığını gösteriyor.

Haider ve arkadaşlarının sistematik derlemesi daha kapsamlı bir tablo sunuyor: 1.272 makale tarandı, 30 çalışma analize dahil edildi. Bulgular tutarlı: YZ kullanımı ırk eşitsizliklerini artırıyor; Siyah ve Hispanik popülasyonlarda etki en belirgin.² Aynı derleme önyargının kaynaklarını da sınıflandırıyor; bu dört kaynağa aşağıda ayrıca değineceğiz.

Sahadan Bir Örnek: İnme Riski

Hong ve arkadaşlarının JAMA'da yayımlanan çalışması bu farkı sayıyla gösteriyor. 62.482 katılımcı, dört büyük ABD kohortu, 1983'ten 2019'a uzanan veriler. Amaç, mevcut inme riski tahmin modellerinin farklı ırk, cinsiyet ve yaş gruplarında ne kadar doğru çalıştığını ölçmekti.³

Modellerin diskriminasyon performansını gösteren C-indeksi, Beyaz kadınlarda 0,76 iken Siyah kadınlarda 0,69'a düştü. Siyah erkeklerde ise 0,64-0,66 arasında kaldı — Beyaz erkeklerin 0,71-0,72 değerinin belirgin altında. Araştırmacılar yeni makine öğrenmesi algoritmalarını da denedi; bu fark kapanmadı.

C-indeksi 1'e ne kadar yakınsa model o kadar güvenilir ayırım yapıyor. Siyah erkeklerde 0,64 değeri, modelin bu popülasyon için inme riskini güvenilir biçimde ayırt edemediğini gösteriyor. Aynı hastane, aynı yazılım — ama hastanın kim olduğuna göre farklı doğrulukta çalışan bir araç. Yeni makine öğrenmesi teknikleri bu farkı kapatmadı — yazarlar bunu açıkça vurguluyor. Sorun algoritmada değil, altta yatan veride.

Bir Uygulama, 46 Veri Noktası

Vandersluis ve Savulescu'nun Bioethics dergisindeki çalışması bu soruyu Google'ın DermAssist uygulaması üzerinden tartışıyor.⁴ 2021'de Avrupa'da piyasaya çıkan bu cilt hastalığı tanı uygulaması, dermatologlara denk performans sergilediği öne sürülen Google algoritmasını kullanıyor.

Modelin eğitim verisi incelendiğinde tablo şu: 16.530 eğitim görüntüsünden yalnızca 46 tanesi Fitzpatrick skalasında en koyu cilt tonuna (Tip VI) ait. Doğrulama setinde ise bu sayı 4.146 görüntü içinde 1. Bu kadar seyrek örneklemeyle 26 farklı cilt hastalığı için model eğitildi. Yani pek çok cilt hastalığı için koyu tenli hastalardan hiç eğitim verisi kullanılmamış.

Melanom koyu tenli hastalarda daha nadir görülür, ama ortaya çıktığında çok daha geç teşhis edilir ve prognozu daha kötüdür. DermAssist bu popülasyonda düzgün çalışmıyorsa — ya da daha kötüsü, yanlış negatif üretiyorsa — bu bir teknik kusur değil, doğrudan hasta güvenliği sorunudur.

Önyargının Dört Kaynağı

Haider ve arkadaşlarının sistematik derlemesi, YZ'deki ırk önyargısını dört kategoride ele alıyor. Her kaynağın çözümü de farklı:

Önyargılı veri: Az temsil edilen popülasyonlardan toplanan veri hem nicelik hem nitelik açısından yetersiz. Klinik çalışmalara Siyah ve Hispanik hastaların katılım oranı düşük; görüntü veri tabanları Batılı hastalara ait. Model bu veriyle öğrendiyse, farklı bir popülasyonda performansının düşmesi kaçınılmaz.

Algoritma tasarımı: Model mimarisinde hangi değişkenlerin dahil edildiği, nasıl ağırlıklandırıldığı tasarımcının kararlarını yansıtır. Bu kararlar da çoğunlukla baskın popülasyonun verisiyle test edilir. Az temsil edilen gruplar için ayrı doğrulama çoğu çalışmada yoktur.

Adil olmayan dağıtım: Bir model doğru eğitilse bile kaynakların az olduğu, altyapının yetersiz kaldığı bölgelere ulaşmıyorsa teknolojiyi eşitsizliği pekiştirir. Hangi hastaneler bu araçlara erişiyor, hangileri erişemiyor?

Tarihsel ve sistemik eşitsizlikler: Verinin kendisi tarihsel eşitsizlikleri içeriyor. Belirli gruplara eksik, geç ya da yanlış tanı koyulmuştu; bu kayıtlar eğitim verisinin parçası. Model bu geçmişten öğrenirse geçmişi yeniden üretir.

Etik İkilem: Dağıtmak mı, Geciktirmek mi?

Vandersluis ve Savulescu burada işin karmaşık kısmına giriyor. Az temsil edilen grup için iyi çalışmayan bir model, iyi temsil edilen grup için gerçekten işe yarıyor olabilir. Bu durumda ne yapılmalı?

Üç seçenek var: herkese dağıtmak, geciktirmek ya da seçici dağıtmak. Herkese dağıtmak az temsil edilen grubu yanlış sonuçlar yüzünden zarara uğratma riskini taşıyor. Geciktirmek iyi temsil edilen grubun yarar sağlamasını engelliyor — bu da etik açıdan savunulamaz. Seçici dağıtım ise bir grubu geçici olarak dahil ederken diğerini dışarıda tutuyor.

Yazarlar bu ikilemi meme kanseri ve melanom vakaları üzerinden tartışıyor. Cambridge Üniversitesi'nin meme kanseri prognostik algoritması yaklaşık 1 milyon kadın verisiyle eğitildi ve yalnızca kadınlara uygulandı — erkek meme kanseri verisi yetersiz olduğundan. Bu seçici dağıtım etik olarak savunulabilir mi? Yazarlara göre evet: erkekler daha kötü bir konuma düşmüyor, kadınlar ise gecikme olmaksızın yararlanıyor.

DermAssist senaryosu ise daha çetrefilli. Koyu tenli hastalar yalnızca az temsil edilmekle kalmıyor — tarihsel haksızlığa da uğramış bir grup. Tuskegee gibi araştırma istismarları bu toplulukların sağlık sistemine olan güvensizliğini bugün de besliyor. Bu bağlamda "geçici dışlama" savunulabilir mi?

Yazarların cevabı koşullu: eğer uygulama koyu tenli hastalara gerçekten zarar veriyorsa, seçici dağıtım genel dağıtımdan daha etik olabilir. Ama bu ancak şeffaflıkla, hariç tutulan gruba alternatif hizmet sunularak ve kısa vadede veri boşluğunu kapatmaya yönelik somut taahhütlerle birlikte yapılabilir. Gizlice gerçekleştirilen bir seçici dışlama ise ayrımcılıktan farklı değil.

Coğrafya Boyutu: Türkiye Nerede Duruyor?

Bu tartışma büyük ölçüde ABD merkezli yürütülüyor. Siyah ve Hispanik popülasyonlar öne çıkıyor çünkü veri orada toplanıyor. Ama asıl temsil sorunu çok daha geniş bir coğrafyayı kapsıyor.

Orta Doğu, Güney Asya, Afrika ve Latin Amerika'daki popülasyonların büyük kısmı küresel YZ eğitim veri tabanlarında ya yok denecek kadar az ya da hiç yok. Bu ülkelerdeki klinisyenler, Batılı hastalara göre optimize edilmiş araçları kendi hastalarına uyguluyor. Performans farkını çoğunlukla raporlayacak mekanizma da yok.

Türkiye bu tabloda net bir konumda: Türk hasta popülasyonuna ait büyük ölçekli veri tabanları kısıtlı, uluslararası çalışmalardaki temsil düşük. Kullanılan tanı destek araçları, görüntü analiz sistemleri ya da risk tahmin modelleri büyük ölçüde Batılı veriyle eğitilmiş. Bu araçların Türk popülasyonunda bağımsız doğrulanması için yeterli çalışma henüz yok.

Bu bir kaygı değil, tespit. Ve fark, görünür olmadan kapanmıyor.

Klinisyenin Rolü Ne?

Hussain ve arkadaşları çözüm için şunları sıralıyor: kapsamlı önyargı tespit araçları, azaltma stratejileri ve hekimlerin aktif denetimi. Denetim olmadan YZ dağıtımı etik değil.

Bunu somutlaştıralım. Bir radyoloji kliniği göğüs BT görüntülerini analiz eden bir YZ sistemi satın alıyor. Sistem hangi veriyle eğitildi? Eğitim popülasyonunun yaş, cinsiyet ve etnik dağılımı nedir? Türk hastalardan oluşan bir doğrulama seti kullanıldı mı? Bu soruların yanıtı ürün katalogunda yer almıyorsa — ki çoğunlukla almıyor — o aracı eleştirel bir gözle değerlendirmeden kullanmak sorun. Satıcıdan bu bilgileri talep etmek hem yasal hem etik bir hak.

Pratikte yapılabilecekler var. Kullandığınız YZ aracının hangi popülasyonla eğitildiğini sorun. Bu bilgiyi talep etmek hem mesleki hem etik bir hak; çoğu ürün bunu katalogunda açıklamıyor. Az temsil edilen popülasyonlardan gelen hastalarda araç çıktısını daha dikkatli okuyun. Klinik gözleminiz ile algoritmik öneri çeliştiğinde gözleminizi devre dışı bırakmayın. Algoritma destek aracı, son karar klinisyende.

Kurumsal düzeyde ise politika geliştirme kritik. Hangi YZ araçlarının hangi koşullarda kullanılacağı, bu araçların hangi demografik alt gruplarda doğrulandığı ve nasıl izleneceği — bunlar hastane yönetiminin ve etik kurulların gündemine girmesi gereken başlıklar.

Sonuç

Bir algoritmanın önyargısı, onu geliştiren ekibin kötü niyetinden kaynaklanmıyor. Çoğunlukla veri toplama sürecindeki yapısal eşitsizlikleri yansıtıyor — bu eşitsizlikler onlarca yıllık ihmalin, eksik finansmanın ve sistematik dışlamanın ürünü. YZ bu mirası devraldığında, daha hızlı ve çok daha ölçeklenebilir biçimde yeniden üretiyor.

Sağlık alanında YZ'nin gerçek anlamda adil bir araç olabilmesi için veri toplama süreçlerinin çeşitlendirilmesi, modellerin farklı popülasyonlarda ayrı ayrı doğrulanması, performans farklarının şeffaf biçimde raporlanması ve dağıtım kararlarının etik bir çerçevede alınması gerekiyor. Bunlar teknik tercihler değil — etik ve hukuki zorunluluklar. Türkiye gibi ülkeler için bu zorunluluk aynı zamanda pratik bir aciliyet taşıyor: Batılı verilerle eğitilen araçların yerelde doğrulanması beklenmeden sisteme girmesi, sessizce devam eden bir risk.

Klinisyen olarak bu sorunu tek başına çözemeyiz. Ama ne zaman daha temkinli olacağımızı, hangi soruları sormamız gerektiğini ve hangi çıktıları olduğu gibi kabul etmememiz gerektiğini bilebiliriz. Bu da küçümsenemeyecek bir yer.