İSTANBUL — Sağlık sektöründe devrim yaratan yapay zekâ teknolojilerinin güvenilirliği masaya yatırıldı. Uzmanlar, sistemlerin ürettiği yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirterek, kararların hangi verilere dayandırıldığının acilen incelenmesi gerektiği konusunda kritik bir uyarıda bulundu.
- Yüksek doğruluk oranları tek başına tıbbi güvenilirlik sağlamıyor.
- Derin öğrenme modellerindeki ‘kara kutu’ sorunu hasta güvenliğini tehdit ediyor.
- Yapay zekânın kararlarını hangi verilere dayandırdığı mutlaka denetlenmeli.
- Doğru tahmin ile güvenilir tahmin kavramlarının birbirinden ayrılması gerekiyor.
Yapay Zekâ Sağlıkta Hangi Alanlarda Kullanılıyor?
Günümüzde sağlık alanında giderek yaygınlaşan yapay zekâ sistemlerinin güvenilirliği sektörde sıcak bir tartışma konusu olmaya devam ediyor. Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirterek yapay zekânın kararlarını hangi verilere dayandırdığının da incelenmesi gerektiğini vurguladı. Yapay zekâ teknolojilerinin sağlık hizmetlerinde kullanımı hızla artarken uzmanlar, bu sistemlerin ürettiği sonuçların yalnızca doğruluk oranlarına göre değerlendirilmemesi gerektiğine dikkat çekiyor. Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekânın doğru tahminlerde bulunsa bile bu sonuçlara klinik açıdan anlamlı olmayan veriler üzerinden ulaşabileceği uyarısında bulundu. Baydar, yapay zekâ modellerinin karar alma süreçlerinin anlaşılabilir ve denetlenebilir olmasının insan hayatı ve hasta güvenliği açısından kritik bir önem taşıdığını belirtti. Yapay zekânın tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemleri gibi birçok kritik alanda aktif olarak kullanıldığını belirten Baydar, bu modern teknolojilerin sağlık profesyonellerine ve hekimlere tanı ve tedavi süreçlerinde önemli katkılar sunabildiğini ifade etti.
Kara Kutu Sorunu ve Doğru Tahmin Yanılgısı
Sistemlerin başarısının çoğunlukla sadece tahmin doğruluğu üzerinden değerlendirildiğine dikkat çeken Dr. Öğr. Üyesi Damla Övek Baydar, konuya ilişkin şu çarpıcı ifadeleri kullandı: ‘Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir.’ Derin öğrenme modellerinin çok karmaşık veri ilişkilerini başarılı bir şekilde analiz edebildiğini ancak kararlarını tam olarak hangi bilgilere dayanarak oluşturduklarının her zaman anlaşılamadığını belirten Baydar, tıp ve bilişim dünyasında bu durumun ‘kara kutu’ sorunu olarak tanımlandığını ifade etti. Özellikle genetik araştırmalar, yeni ilaç keşfi ve kritik hastalıkların incelenmesinde kullanılan gelişmiş modellerin karar süreçlerinin tamamen şeffaf ve açıklanabilir olması gerektiğinin altını çizdi.
Gelişmeler ve Beklentiler
Sağlık sektöründe yapay zekâ entegrasyonu derinleşirken, uzmanlar ve akademisyenler karar mekanizmalarının denetlenebilirliği konusunda çağrılarını yineliyor. Gelecekte yapay zekâ destekli tıbbi uygulamaların yaygınlaşmasıyla birlikte, ‘kara kutu’ sorununu ortadan kaldıracak şeffaf algoritmaların geliştirilmesi ve yasal denetim mekanizmalarının bu doğrultuda güncellenmesi bekleniyor.
Kaynak: Cumhuriyet Son Dakika