Sağlıkta yapay zekâ kullanılmasının değerlendirilmesi

Abstract

Yapay zekâ teknolojileri birçok sektörde yaygın bir şekilde kullanılmakta olup bu durum sağladığı avantajların yanında birtakım endişeler barındırmaktadır. Sağlık hizmetinin her aşamasında yapay zekâ sistemlerinden yararlanılmaktadır. Bu kullanımlar ile hem sağlık merkezleri hem hastalar hem de hekimler yönünden pek çok avantaj ortaya çıkmaktadır. Ancak yapay zekânın genel kullanımından doğan kaygılar, sağlık alanındaki uygulamalar açısından da geçerli olup bazen bu riskler genel kullanımdan çok daha ciddi sorunlara yol açabilmektedir. Bu riskler çalışmamızda; gizlilik ve güvenlik, algoritmik hata ve önyargı, etik ve hukuki problemler, yapay zekâ sistemlerine uyum, insan-makine etkileşiminden kaynaklanabilecek sorunlar şeklinde gruplandırılmış ve detaylıca açıklanmıştır. Yapay zekânın risklerinden doğacak zararların önlenmesi için önceleri bazı düzenleyici ilkeler getirilirken Avrupa Birliği’nin ilk Yapay Zekâ Yasası’nı kabul etmesi, sonrasında ABD’nin Colorado eyaletinde ve Güney Kore Ulusal Meclisi’nde kabul edilen düzenlemelerle bu alanda bağlayıcı kurallar benimsenmiştir. Bu bağlayıcı regülasyonların yer bakımından ve uygulanacak ürünler açısından en kapsamlı olanı Avrupa Birliği Yapay Zekâ Yasası’dır. Bu düzenleme risk temelli bir yaklaşım benimsemiş, yapay zekâ sistemlerini risk düzeyine göre gruplandırarak her bir risk grubu için farklı yükümlülükler öngörmüştür. Bu yükümlülükler, yapay zekâ sistemlerinin kullanımı açısından öngörülen koşullara ilişkin olup kullanımdan doğan sorumluluğu kapsamamaktadır. Bu tezde; yapay zekâya ilişkin temel kavramlar açıklandıktan sonra öncelikle sağlık alanında kullanılan yapay zekâ sistemleri örneklendirilmiş, bu kullanımlara ilişkin riskler ile risklerin azaltılması yahut önlenmesi için alınabilecek önlemlere yer verilmiştir. Daha sonra yapay zekâ alanında yapılan yasal düzenlemeler ve ilkeler incelenerek sağlık alanındaki yapay zekâ kullanımlarından doğan risklerin, risk temelli yaklaşımı esas alan bu düzenlemeler kapsamında giderilmesinin mümkün olup olmadığı hakkında değerlendirme yapılmıştır.Artificial intelligence (AI) technologies, while advantageous across sectors, present notable concerns. In healthcare delivery, AI systems offer benefits to institutions, patients, and physicians, yet the risks can exceed those in other domains. This study categorizes these risks under: privacy and security, algorithmic errors and bias, ethical and legal issues, adaptation challenges, and human-machine interaction problems. While some guiding principles were initially introduced to mitigate the potential harms of AI-related risks, the adoption of the European Union's first Artificial Intelligence Act, followed by similar binding regulations in the state of Colorado in the United States and in the National Assembly of South Korea, marked a shift towards enforceable rules in this area. Among these, the EU Artificial Intelligence Act stands out as the most comprehensive regulation in terms of geographical scope and range of applicable AI systems. This regulation adopts a risk-based approach by classifying AI systems according to their risk levels and imposing different obligations for each category. These obligations address AI systems' operational conditions but exclude liability considerations arising from their implementation. In this thesis, after elucidating fundamental artificial intelligence concepts, healthcare AI applications are exemplified, followed by an analysis of associated risks and potential preventive or mitigative measures. Subsequently, the legal regulations and principles established in the field of artificial intelligence are examined, and an assessment is conducted regarding whether it is possible to address the risks arising from the use of artificial intelligence in healthcare within the framework of these regulations that adopt a risk based approach.