An Ethical Examination of ChatGPT Use in the Field of Medicine

Abstract

Chat Generative Pre-Trained Transformer (ChatGPT) is a language model developed by OpenAI and released on November 30, 2022. This artificial intelligence (AI)-powered chatbot is increasingly significant in medicine and other sectors. Studies show that ChatGPT helps individuals make informed health decisions about themselves. and healthcare professionals to identify and design research topics, determine diagnostic methods and predict disease outcomes. In addition, studies are showing that ChatGPT is used in various fields of medical education. This study aims to examine the ethical issues associated with ChatGPT’s use across different fields of medicine. It is crucial to analyze the benefits, risks, and ethical issues related to ChatGPT, which has rapidly become a global topic of discussion in clinical applications, academic research, and educational processes in medicine. One of the important ethical theory for resolving value conflicts in medicine is Principlism, which encompasses fundamental ethical principles. This study explores solutions to ethical problems and addresses responses to the appropriate use of ChatGPT. It emphasizes that researchers and healthcare professionals should adhere to professional ethical standards when utilizing AI applications like ChatGPT.

Keywords

• ChatGPT
• Artificial Intelligence (AI)
• Medicine
• Ethics
• Ethical Issues

Tıp Alanında ChatGPT Kullanımının Etik Açıdan İncelenmesi

Abstract

Chat Generative Pre-Trained Transformer, (ChatGPT) OpenAI tarafından geliştirilen ve 30 Kasım 2022 tarihinde piyasaya sürülen bir dil modelidir. Yapay zekâ (YZ) destekli bu chatbot, tıp ve diğer sektörlerde giderek daha önemli hale gelmektedir. Yapılan çalışmalar, ChatGPT'nin bireylerin kendileri hakkında bilinçli sağlık kararları almalarına ve sağlık profesyonellerine araştırma konularını belirleme, tasarlama, teşhis yöntemlerini belirleme ve hastalık sonuçlarını tahmin etme gibi konularda yardımcı olduğunu göstermektedir. Bunun yanında ChatGPT'nin tıp eğitiminin çeşitli alanlarında kullanıldığını gösteren araştırmalar bulunmaktadır. Bu çalışma, ChatGPT'nin tıbbın farklı alanlarında kullanımıyla ilgili etik sorunları incelemeyi amaçlamaktadır. Klinik uygulamalarda, akademik çalışmalarda ve eğitim süreçlerinde küresel bir tartışma konusu haline gelen ChatGPT ile ilgili faydaları, riskleri ve etik sorunları analiz etmek önem taşımaktadır. Tıp alanındaki değer çatışmalarını çözmeye yönelik önemli etik yaklaşımlardan biri, temel etik ilkeleri kapsayan İlkecilik’tir. Bu çalışma, etik sorunlara yönelik çözümleri araştırmakta ve ChatGPT'nin doğru kullanımına ilişkin yanıtları ele almaktadır. Araştırmacıların ve sağlık çalışanlarının ChatGPT gibi YZ uygulamalarını kullanırken mesleki etik kurallara uymaları gerektiğini vurgulamaktadır.

Keywords

• ChatGPT
• Yapay Zeka (YZ)
• Tıp
• Etik
• Etik Sorunlar

References

1. 1. Wong RSY, Ming LC, Raja Ali RA. The Intersection of ChatGPT, Clinical Medicine, and Medical Education. JMIR Medical Education 2023;9:1-8.
2. 2. Roumeliotis KI, Tselikas ND. ChatGPT and open-AI models: A Preliminary Review. Future Internet 2023;15(6): 192.
3. 3. Sumbal A, Sumbal R, Amir A. Can ChatGPT-3.5 Pass a Medical Exam? A Systematic Review of ChatGPT’s Performance in Academic Testing. Journal of Medical Education and Curricular Development 2024;11:1-12.
4. 4. Salvagno M, Taccone F, Gerli AG. Can Artificial Intelligence Help for Scientific Writing? Critical Care 2023;27(75):2-5.
5. 5. Malik A, Khan ML, Hussain K. How is ChatGPT Transforming Academia? Examining its Impact on Teaching, Research, Assessment, and Learning. SSRN Electronic Journal 2023. Available from https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4413516#paper-citations-widget (accessed on 17 May 2024).
6. 6. Altamimi I, et al. Artificial Intelligence (AI) Chatbots in Medicine: A Supplement, Not a Substitute. Cureus 2023;15(6):e40922.
7. 7. Samuel G, Chubb J, Derrick G. Boundaries Between Research Ethics and Ethical Research Use in Artificial Intelligence Health Research. Journal of Empirical Research on Human Research Ethics 2021;16(3):325-337.
8. 8. Bendel O. Image Synthesis from an Ethical Perspective. AI & Society 2023.

9. 9. Oğuz NY, Tepe H, Büken NÖ, Kucur DK. Dictionary of Bioethical Terms. Philosophical Society of Türkiye 2005. Ankara.
10. 10. Varkey B. Principles of Clinical Ethics and Their Application to Practice. Medical Principles and Practice 2021;30(1):17-28.
11. 11. Keeling M, Bellefleur O. “Principlism” and Frameworks in Public Health Ethics. Montréal, Québec: National Collaborating Centre for Healthy Public Policy 2016. Available from chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.ncchpp.ca/docs/2016_Ethics_Principlism_En.pdf (accessed on 7 May 2024).
12. 12. Uygun İlikhan S, et al. How to Mitigate the Risks of Deployment of Artificial İntelligence in Medicine? Turkish Journal of Medical Sciences 2024;54(3):483-492.
13. 13. Liebrenz M, et al. Generating scholarly content with ChatGPT: ethical challenges for medical publishing. Lancet Digit Health 2023;5(3):e105-e106.
14. 14. Wen J, Wang W. The Future of ChatGPT in Academic Research and Publishing: A Commentary for Clinical and Translational Medicine. Clinical and Translational Medicine 2023;13(3):e1207.
15. 15. Wang C, et al. Ethical Considerations of Using ChatGPT in Health Care. Journal of Medical Internet Research 2023;25:e48009.
16. 16. Abràmoff MD, et al. Considerations for Addressing Bias in Artificial İntelligence for Health Equity. npj Digital Med 2023;6(1):170.
17. 17. Özparlak BO, Çetin M. ChatGPT ve Üretici Yapay Zekâ Modellerinde Mahremiyet ve Güvenliğin Hukuki Boyutu. Marmara Üniversitesi Hukuk Fakültesi Hukuk Araştırmaları Dergisi 2023;29(2):1003-1040.
18. 18. Mbakwe AB, et al. ChatGPT Passing USMLE Shines a Spotlight on the Flaws of Medical Education. PLOS Digital Health 2023;2(2):e0000205
19. 19. Gilson A, et al. How does ChatGPT Perform on the United States Medical Licensing Examination? The implications of large language models for medical education and knowledge assessment. JMIR Medical Education 2023;9:e45312.
20. 20. Rahimi F, Abadi ATB. ChatGPT and Publication Ethics. Archives of Medical Research 2023;54(3):272-274.
21. 21. ChatGPT, Zhavoronkov A. Rapamycin in the Context of Pascal's Wager: Generative Pre-trained Transformer Perspective. Oncoscience 2022;9:82-84.
22. 22. O’Connor S, ChatGPT. Open Artificial Intelligence Platforms in Nursing Education: Tools for Academic Progress or Abuse? Nurse Education in Practice 2023;66:1-2.
23. 23. Stokel-Walker C. ChatGPT Listed as Author on Research Papers: Many Scientists Disapprove. Nature 2023;613(7945):620–621.
24. 24. International Committee of Medical Journal Editors, ICMJE. Defining the Role of Authors and Contributors. 2024. Available from https://www.icmje.org/recommendations/browse/roles-and-responsibilities/defining-the-role-of-authors-and-contributors.html (accessed on 4 April 2024).
25. 25. Yılmaz K. Etik Dışı Davranış Olarak Haksız Yazarlık. Eğitim Bilimleri Araştırmaları Dergisi 2012;2(1).
26. 26. Aşar H. Hayvan Haklarına Yönelik Temel Görüşler ve Yanılgıları. Kaygı 2018;30:239-251.
27. 27. Birden B. Çevre Etiğinde Bireyin Ahlaki Sorumluluğuna Kısa Bir Bakış. Türkiye Biyoetik Dergisi 2016;3(1):4-14.