TIBBİ CİHAZ HUKUKU BAĞLAMINDA TEŞHİS VE TEDAVİDE KULLANILAN YAPAY ZEKÂ SİSTEMLERİ

Öz

Teşhis ve tedavi amacıyla kullanılan yapay zekâ sistemleri tıbbi cihaz niteliği taşımaktadır. Bu nedenle teşhis ve tedavide kullanılan yapay zekâ sistemlerinin piyasaya arz edilebilmesi Tıbbi Cihaz Yönetmeliği ve İn Vitro Tanı Amaçlı Tıbbi Cihaz Yönetmeliği’nde yer alan hükümlere tabidir. Yapay zekâ sistemlerinin taşıdıkları çeşitli özellikler nedeniyle, tıbbi cihazlara ilişkin düzenlemelerin tıbbi cihaz niteliğindeki yapay zekâ sistemlerinin güvenli bir şekilde piyasaya arz edilmeleri için uygun olup olmadığının değerlendirilmesi gerekir. Bu kapsamda, çalışmada Türk Hukuku bakımından teşhis ve tedavide kullanılan yapay zekâ sistemlerinin piyasaya arzı ve mevzuatta değişiklik yapılması ihtiyacının bulunup bulunmadığı ele alınmıştır. Ayrıca Türk Hukuku bakımından önem arz ettiği için tıbbi cihazları da kapsamına alan Yapay Zekâ Tüzüğü’nün ilgili hükümleri çalışma kapsamında incelenmiştir.

Anahtar Kelimeler

• Yapay Zekâ Sistemleri
• Tıbbi Cihaz
• Tıbbi Cihazların Piyasaya Arzı
• Tıbbi Cihaz Yönetmeliği
• Yapay Zekâ Tüzüğü

ARTIFICIAL INTELLIGENCE SYSTEMS USED FOR DIAGNOSIS AND TREATMENT IN THE CONTEXT OF MEDICAL DEVICE LAW

Öz

Artificial intelligence systems used for diagnostic and treatment purposes are classified as medical devices. Therefore, the placement of AI systems used in diagnosis and treatment on the market is subject to the provisions outlined in the Medical Device Regulation and the In Vitro Diagnostic Medical Device Regulation. Given the various characteristics of AI systems, it is necessary to assess whether the regulations concerning medical devices are sufficient to ensure the safe market introduction of AI systems classified as medical devices. In this context, the study examines the placing on the market of AI systems used in diagnosis and treatment, and whether there is a need to amend the legislation under Turkish law. Additionally, since it is significant under Turkish law, the relevant provisions of the Artificial Intelligence Act, which also encompasses medical devices, are examined within the scope of the study.

Anahtar Kelimeler

• Artificial Intelligence Systems
• Medical Device
• Placing on the Market of Medical Devices
• Medical Device Regulation
• Artificial Intelligence Act

Kaynakça

1. Akal, Afşar: “Kanser Tedavisinde Yapay Zekâ Kullanımı”, Sağlık Bilimlerinde Yapay Zekâ, Ed. Melih Bulut ve diğerleri, Çağlayan Yayıncılık, İstanbul, 2019, s. 28-56.
2. Akalın, Betül: Sağlık Hizmetleri ve Yönetiminde Yapay Zekâ, Hiperyayın, İstanbul, 2020.
3. Batache, Djamila: Künstliche Intelligenz in der Medizin aus haftungsrechtlicher Perspektive, Dike Verlag, Baden-Baden, 2023.
4. Blechschmitt, Lisa: Die straf und zivilrechtliche Haftung des Arztes beim Einsatz roboterassistierter Chirurgie, Nomos Verlag, Baden-Baden, 2017.
5. Bomhard, David/Merkle, Marieke: “Europäische KI-Verordnung - Der aktuelle Kommissionsentwurf und praktische Auswirkungen”, RDi, 2021, s. 276-283.
6. COCIR: Artificial Intelligence in EU Medical Device Legislation, May 2021, https://www.cocir.org/fileadmin/Publications_2021/COCIR_Analysis_on_AI_in_medical_Device_Legislation_-_May_2021.pdf, (Erişim Tarihi: 15.8.2024), (Artificial Intelligence).
7. Dettling, Heinz-Uwe: “Künstliche Intelligenz und digitale Unterstützung ärztlicher Entscheidungen in Diagnostik und Therapie”, PharmR, 2019, s. 633-642.
8. Ebers, Martin: “Regulating AI and Robotics: Ethical and Legal Challenges”, Algorithms and Law, Ed. Martin Ebers ve Susana Navas, Cambridge University Press, 2020, p. 37-99.

9. Eckhoff, Jennifer A./Fuchs, Hans F./Meireles, Ozanan R.: “Anwendung von künstlicher Intelligenz in der onkologischen Chirurgie des oberen Gastrointestinaltrakts”, Die Onkologie, 2023, s. 515-521.
10. FDA: Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device (SaMD) - Discussion Paper and Request for Feedback, 2019, https://www.fda.gov/media/122535/download?attachment, (Erişim Tarihi: 15.8.2024).
11. Frost, Yannick/Steininger, Manuela/Vivekens, Sabrina: “Nutzen, Chancen, Risiken und Haftung bei der Verwendung von Künstlicher Intelligenz im Kontext der KI-Verordnung und KI-Haftungsrichtlinie”, MPR, 2024, s. 4-20.
12. Fuderer, Markus: “Doppelte Konformitätsbewertung bei Kl-basierten Medizinprodukten?”, MPR, 4/2022, s. 121-125.
13. Gassner, Ulrich M.: “MedTech meets M-Health”, MPR, 3/2015, S.73-82, (M-Health).
14. Gassner, Ulrich M.: “Menschliche Aufsicht über intelligente Medizinprodukte”, MPR, 2023, S. 5-11, (Menschenliche Aufsicht).
15. Gassner, Ulrich M./Juknat, Ulrich: “Künstliche Intelligenz in der Medizin”, E-Health/Dijital Health, Hrsg. Wolfgang A. Rehmann/Christian Tillmanns, C.H.Beck, München, 2022, s. 240-282.
16. Gassner, Ulrich M./Schreiegg, Tobias: “Software als Medizinprodukt”, MPR, 6/2019, s. 198-201.
17. Haftenberger, Anna: Die Produkthaftung für künstlich intelligente Medizinprodukte, Nomos Verlag, Baden-Baden, 2023.
18. Heil, Maria: “Die neue Kl-Verordnung (E) - Regulatorische Herausforderungen für Kl-basierte Medizinprodukte-Software”, MPR, 1/2022, S.1-11.
19. Hoos, Katja: “KI trifft auf Medizinprodukte – Das zukünftige Zusammenspiel von AI-Act und MDR”, ZfPC, 2024, s. 168-175.
20. Ilkou, Eleni/Koutraki, Maria: “Symbolic Vs Sub-symbolic AI Methods: Friends or Enemies?”, Workshop on Combining Symbolic and Sub-symbolic Methods and their Applications (CSSA), 2020, https://ceur-ws.org/Vol-2699/paper06.pdf, (Erişim Tarihi: 28.8.2024).
21. International Organization for Standardization: ISO 9000:2015 Quality management systems — Fundamentals and vocabulary, https://www.iso.org/obp/ui/en/#iso:std:iso:9000:ed-4:v1:en, (Erişim Tarihi:15.8.2024).
22. Jabri, Sarah: “Artificial Intelligence and Healthcare: Products and Procedures”, Regulating Artificial Intelligence, Ed. Thomas Wischmeyer ve Timo Rademacher, Springer, 2020, p. 307-335.
23. Kassel, Kristin/Pfannstiel, Mario A.: “Einsatzgebiete künstlicher Intelligenz bei chronischen Erkrankungen – Ein erster Überblick im Diagnostik- und Therapiebereich”, Künstliche Intelligenz im Gesundheitswesen, Hrsg. Mario A. Pfannstiel, Springer, Wiesbaden, 2022, s. 431-450.
24. Kibar, Ahmet Fevzi: Ürün Sorumluluğu Bağlamında Hatalı Tıbbî Cihazdan Doğan Hukukî Sorumluluk, Adalet Yayınevi, Ankara, 2020.
25. Lücker, Volker: Spickhoff Medizinrecht, 4. Auflage, C.H. Beck, München, 2022, (Gesetz zur Durchführung unionsrechtlicher Vorschriften betreffend Medizinprodukte (Medizinprodukterecht-Durchführungsgesetz – MPDG).
26. Medical Device Coordination Group: MDCG 2019-11 Guidance on Qualification and Classification of Software in Regulation (EU) 2017/745 – MDR and Regulation (EU) 2017/746 –IVDR, https://health.ec.europa.eu/system/files/202009/md_mdcg_2019_11_guidance_qualification_classification_software_en_0.pdf, (Erişim Tarihi: 20.9.2024), (Guidance on Qualification and Classification of Software).
27. Medical Device Coordination Group: Guidance on MDSW intended to work in combination with hardware or hardware components, https://health.ec.europa.eu/system/files/2023-10/md_mdcg_2023-4_software_en.pdf, (Erişim Tarihi: 20.8.2024).
28. Merkle, Marieke Luise: “Transparenz nach der KI-Verordnung – von der Blackbox zum Open-Book?”, RDi, 2024, S. 414-419.
29. Niederée, Claudia/Nejdl, Wolfgang: “Technische Grundlagen der KI”, Künstliche Intelligenz und Robotik, Hrsg.Martin Ebers/Christian Heinze/Tina Krügel/Björn Steinrötter, C.H. Beck, München, 2020.
30. Nilsson, Nils J.: The Quest for Artificial Intelligence: A History of Ideas and Achievements, Cambridge University Press, 2009.
31. Ortner, Robert: Medizin-Apps als Medizinprodukt: Regulierung eines Risikoprodukts, Peter Lang, Berlin, 2018.
32. Polat, Cemre: Sözleşme Dışı Sorumluluk Hukukunda Otonom Sistemler, Yetkin Yayınları, Ankara, 2022.
33. Prütting, Jens/Wolk, Tom: “Software unter dem Regime der europäischen Medizinprodukteverordnung (2017/745/EU)”, MedR, (2020) 38, s. 359-365.
34. Reitebuch, Lukas: Mobile Health Applications-Rechtliche Rahmenbedingungen von Gesundheits-Apps, Springer Verlag, Berlin, 2022.
35. Saeidi, H./Opfermann, J. D./Kam, M./Wei, S./Leonard, S./Hsieh, M. H./Kang, J. U./Krieger, A.: “Autonomous robotic laparoscopic surgery for intestinal anastomosis”, Science Robotics, Vol:7, Issue:62, January 2022, https://www.science.org/doi/epdf/10.1126/scirobotics.abj2908, (Erişim Tarihi:11.7.2024).
36. Saliba, Jean L.: “Medizinprodukte unter dem Einfluss Künstlicher Intelligenz”, Medizinprodukterecht im Wandel, Festschrift für Ulrich M. Gassner zum 65. Geburtstag, Ed. Roman Grinblat, Sibylle ve Scholtz Sophy, Nomos Verlag, Baden-Baden, 2022, s. 487-506.
37. Scherer, Matheww U.: “Regulating Artifıcial Intelligence Systems: Risks, Challenges, Competencies, And Strategies”, Harvard Journal of Law & Technology, Vol:29, No:2, Spring 2016, p. 353-400.
38. Schreitmüller, Zeynep: Regulierung intelligenter Medizinprodukte, Nomos Verlag, Baden-Baden, 2023.
39. Thiermann, Arne/Böck, Nicole: “Künstliche Intelligenz in Medizinprodukten: Regulatorisches Regelwerk und Haftungsvorgaben”, RDi, 2022, s. 333-339.
40. Webel, Dirk: Nomos Kommentar-Gesamtes Medizinrecht, 3. Auflage, Hrsg. Karl Otto Bergmann/Burkhard Pauge/Heinz-Dietrich Steinmeyer, Nomos Verlag, Baden-Baden, 2018, (Medizinproduktegesetz, Medizinprodukte-Betreiberverordnung).
41. Wildhaber, Isabelle: “Eine Einführung in die ausservertragliche Haftung für Künstliche Intelligenz (KI)”, Haftpflichtprozess 2021, Haftung für Künstliche Intelligenz, (teil-)automatisierte Fahrzeuge, Drohnen und Software, Entwicklungen im Dienstleistungs-, Privatversicherungs-, Prozess, Staatshaftungs- und Haftpflichtrecht, Hrsg. Walter Fellmann, Zürich/Basel/Genf, 2021, s. 15-70.
42. Yünlü, Semih: “Güncel Tıbbi Cihaz ve Ürün Mevzuatı Bağlamında Hukuki Sorumluluk Genel Çerçevesi”, Terazi Hukuk Dergisi, Cilt: 16, Sayı: 184, Aralık 2021, s. 2412-2432.