Ethical Principles for the Use of Artificial Intelligence in Scientific Research

Abstract

Artificial intelligence is now widely used in many fields, such as daily life, education, health, science, engineering, technology, security, communication, art, marketing, business, and public administration. With the widespread use of artificial intelligence, some ethical issues have also come to the fore. The aim of this study is to make an evaluation of the ethical principles that should be considered when using artificial intelligence in scientific research, based on the reports, policies, legal texts and documents prepared by international and national organizations on the ethics of artificial intelligence. The technique of document analysis was used in the study. As a result of the review, 28 documents published by international organizations and 26 documents prepared by national level organizations of different countries were examined. As a result of the review, similar principles regarding the ethics of artificial intelligence were identified in the reports and an attempt was made to propose a general framework based on them. As a result of the analysis, all texts focus on eight main principles: “Human element and oversight; Privacy and data management; Diversity, non-discrimination and fairness; Transparency; Social and environmental welfare; Human rights; Technical robustness and safety; Accountability”. The principles were illustrated by taking into account the risk factors identified in the literature review. During the research process, various artificial intelligence systems were deliberately and purposefully used for information and illustration. The goal is to test and exemplify the principles established through the identified principles such as human factor, automation bias, non-discrimination, and transparency.

Keywords

• Artificial Intelligence
• Ethics
• Scientific Research and Publication Ethics
• Document Analysis

Bilimsel Araştırmalarda Yapay Zekâ Kullanımı Etik İlkeleri

Abstract

Yapay zekâ günümüzde gündelik hayat, eğitim, sağlık, bilim, mühendislik, teknoloji, güvenlik, iletişim, sanat, pazarlama, ekonomi, kamu yönetimi gibi birçok alanda yaygın bir şekilde kullanılmaktadır. Yapay zekânın bu kadar yaygın bir şekilde kullanılmasıyla birlikte bir takım etik sorunlar da gündeme gelmeye başlamıştır. Bu araştırmanın amacı uluslararası ve ulusal kuruluşların yapay zekâ etiği üzerine hazırlamış oldukları rapor, strateji, yasal metin ve belgelerden yola çıkarak bilimsel araştırmalarda yapay zekâ kullanılırken dikkat edilmesi gereken etik ilkeler ile ilgili bir değerlendirme yapmaktır. Araştırmada doküman analizi tekniği kullanılmıştır. Yapılan taramalar sonucunda uluslararası kuruluşlarca yayınlanan 28 belge ile farklı ülkelerin ulusal düzeydeki kuruluşlarınca hazırlanan 26 belge incelenmiştir. İnceleme sonucunda, hazırlanan raporlarda yapay zekâ etiğine yönelik benzer ilkeler tespit edilmiş ve buna dayalı olarak genel bir çerçeve ortaya konulmaya çalışılmıştır. Yapılan incelemeler sonucunda tüm metinlerde “İnsan Unsuru ve Gözetim; Gizlilik ve Veri Yönetimi; Çeşitlilik ve Adillik; Şeffaflık; Toplumsal ve Çevresel Refah; İnsan Hakları; Teknik Sağlamlık ve Güvenlik; Hesapverebilirlik” olmak üzere sekiz ana ilkeye odaklanıldığı tespit edilmiştir. Ortaya konulan ilkeler alanyazında yapılan taramalar sonucunda tespit edilen risk faktörleri göz önüne alınarak örneklendirilmiştir. Araştırma sürecinde bilgi, örneklendirme gibi hususlarda çeşitli yapay zekâ sistemlerine bilinçli ve amaçlı olarak başvurulmuştur. Bu yolla ortaya konulan ilkelerin insan faktörü, otomasyon önyargısı, ayrımcılık yapmama, şeffaflık gibi yine tespit edilen ilkeler aracılığı ile test edilmesi ve örneklendirilmesi amaçlanmıştır.

Keywords

• Yapay Zekâ
• Etik İlkeler
• Bilimsel Araştırma ve Yayın Etiği
• Doküman Analizi

References

1. ACM Technology Policy Council (2023). Principles for the development, deployment, and use of generative AI technologies.
2. AI Alliance Russia. (2023). AI ethics code. https://ethics.a- ai.ru/assets/ethics_files/2023/05/12/AI_ETHICS_CODE_10_01_1.pdf
3. Aközer, M. ve Aközer, E. (2015). Bilim ahlakı normlarının etik temellendirilmesi: Bilim insanlarının dışsal sorumlulukları. Yükseköğretim ve Bilim Dergisi, 2, 109-124.
4. Al Afnan, M. A., Dishari, S., Jovic, M. ve Lomidze, K. (2023). ChatGPT as an educational tool: Opportunities, challenges, and recommendations for communication, business writing, and composition courses. Journal of Artificial Intelligence and Technology, 3(2), 60-68.
5. ALLEA (2023). The European code of conduct for research integrity – Revised edition.
6. ALLISTENE (2018). Research ethics in machine learning.
7. Angwin, J., Larson, J., Mattu, S. ve Kirchner, L. (2016, May 23). Machine bias. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
8. Arf, C. (1959). Makine düşünebilir mi ve nasıl düşünebilir? Erzurum: Atatürk Üniversitesi - Üniversite Çalışmalarını Muhite Yayma ve Halk Eğitimi Yayınları Konferanslar Serisi.

9. Avrupa Araştırma Alanı - European Research Area (2005). The European Charter for Researchers: The Code of Conduct for the Recruitment of Researchers.
10. Avrupa Komisyonu - European Commission (2018a). Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions - Artificial Intelligence for European.
11. Avrupa Komisyonu - European Commission (2018b). Komisyondan Avrupa Parlamentosu’na, Avrupa Konseyi’ne, Konsey’e, Avrupa Ekonomik ve Sosyal Komitesi’ne ve Bölgeler Komitesi’ne ileti - Yapay zekâ üzerine koordineli plan.
12. Avrupa Komisyonu - European Commission (2020a). Komisyondan Avrupa Parlamentosu’na, Konsey’e ve Avrupa Ekonomik ve Sosyal Komitesi’ne raporu - Yapay zekâ, nesnelerin interneti ve robotiklerin güvenlik ve sorumluluk etkilerine ilişkin rapor.
13. Avrupa Komisyonu - European Commission (2020b). White paper on artificial intelligence - A European approach to excellence and trust.
14. Avrupa Komisyonu - European Commission (2021a). Avrupa Parlamentosu ve Konseyinin yönetmeliği yapay zekâ hakkında uyumlu kuralların konuşulması (Yapay Zekâ Kanunu) ve belirli birlik yasalarının değiştirilmesi.
15. Avrupa Komisyonu - European Commission (2021b). Yapay zekâya ilişkin uyumlaştırılmış kurallara (Yapay Zekâ Düzenlemesi) ve Birlik’in belirli yasal düzenlemelerinin değiştirilmesine yönelik Avrupa Parlamentosu ve Avrupa Birliği Konseyi Tüzüğü.
16. Avrupa Komisyonu - European Commission (2024a). Horizon Europe (HORIZON).
17. Avrupa Komisyonu - European Commission (2024b). Living guidelines on the responsible use of generative AI in research - ERA Forum Stakeholders’ document.
18. Avrupa Konseyi - Council of Europe (2024). Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.
19. Avrupa Parlamentosu - European Parliament (2017). European Parliament resolution of 16 February 2017 with recommendations to the Commission on civil law rules on robotics (2015/2103(INL)).
20. Avrupa Parlamentosu - European Parliament (2019). Artificial intelligence ante portas: Legal & ethical reflections.
21. Avrupa Parlamentosu - European Parliament (2020). The ethics of artificial intelligence: Issues and initiatives.
22. Avrupa Parlamentosu - European Parliament (2024). Artificial Intelligence Act.
23. Baloğlu, G. ve Çakalı, K. R. (2023). Is artificial intelligence a new threat to the academic ethics? Enron scandal revisited by ChatGPT. İşletme, 4(1), 143-165. https://doi.org/10.57116/isletme.1244633
24. Başaran, R. ve Yeşilbaş-Özenç, Y. (2024). Bilimsel araştırma sürecinde yapay zekâ araçlarının kullanımı. Uluslararası Eğitimde Mükemmellik Arayışı Dergisi (UEMAD), 4(1), 35-53.
25. Berkman Klein Center for Internet & Society at Harvard University (2018). Artificial intelligence & human rights: Opportunities & risks.
26. Berkman Klein Center for Internet & Society at Harvard University (2020). Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI.
27. Bilgisayar Mühendisleri Odası (2025). Yapay zekâ ve etik ilkeleri. BM Dergi. https://dergi.bmo.org.tr/bmo- tmmob/yapay-zeka-ve-etik
28. Birleşmiş Milletler - United Nations (2023a). Governing AI for humanity: Interim report.
29. Birleşmiş Milletler - United Nations (2023b). Resolution adopted by the Human Rights Council on 14 July 2023.
30. Birleşmiş Milletler - United Nations (2024a). Governing AI for humanity: Final report.
31. Birleşmiş Milletler - United Nations (2024b). Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development.
32. Braun, V. ve Clarke, V. (2006). Using thematic analysis in psychology. Qualitative Research in Psychology, 3(2), 77-101. https://doi.org/10.1191/1478088706qp063oa
33. Büyükada, S. (2024). Akademik yazımda yapay zekâ kullanımının etik açıdan incelenmesi: ChatGPT örneği. Rize İlahiyat Dergisi, 26, 1-12.
34. China The Foundation for Law and International Affairs (2017). Notice of the State Council issuing the new generation of artificial intelligence development plan. https://www.gov.cn/zhengce/content/2017- 07/20/content_5211996.htm
35. Çin Halk Cumhuriyeti Bilim ve Teknoloji Bakanlığı (2019). Yeni nesil yapay zekâ için etik kod. https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html
36. Department for Science, Innovation & Technology (DSIT) (2023a). A pro-innovation approach to AI regulation. https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach/white-paper
37. Department for Science, Innovation & Technology (DSIT) (2023b). Capabilities and risks from frontier AI. https://assets.publishing.service.gov.uk/media/65395abae6c968000daa9b25/frontier-ai-capabilities-risks- report.pdf
38. Deutscher Ethikrat (2023). Mensch und Maschine – Herausforderungen durch künstliche Intelligenz. https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und- maschine.pdf
39. Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) (2020). Etik ile ilgili bilgi notu. https://www.dfki.de/fileadmin/user_upload/DFKI/Medien/Ueber_uns/DFKI_im_UEberblick/DFKI_Ethik_Handrei chung.pdf
40. Doshi-Velez, F. ve Kortz, M. (2017). Accountability of AI under the law: The role of explanation. Berkman Klein Center Working Group on Explanation and the Law, Berkman Klein Center for Internet & Society working paper.
41. Efe, A. (2021). Yapay zeka risklerinin etik yönünden değerlendirilmesi. Bilgi ve İletişim Teknolojileri Dergisi, 3(1), 1- 24.
42. European Data Protection Supervisor (2016). Artificial intelligence, robotics, privacy and data protection - Room document for the 38th International Conference of Data Protection and Privacy Commissioners.
43. Gemini (2024). Toplumsal ve çevresel refah ilkesi konuşması. https://gemini.google.com/app/8eafdc99935e469d?hl=tr
44. Guo, X. (2024). Legal and ethical principles in the internationalization (social) norms of artificial intelligence. Journal of Education, Humanities and Social Sciences, 42, 527-532. https://doi.org/10.54097/av2rwh40
45. Gür, R. ve Özbaş, M. (2021). Bilim, araştırma ve yayın etiği. İçinde K. Yılmaz ve R. S. Arık (Edt..), Bilim ve araştırma etiği (ss. 45-60). Ankara: Pegem Akademi.
46. Haenlein, M. ve Kaplan, A. (2019). A brief history of artificial intelligence: On the past, present, and future of artificial intelligence. California Management Review, 61(4), 5-14. https://doi.org/10.1177/0008125619864925
47. IEEE (2018). Ethically aligned design: A vision for prioritizing human well-being with autonomous and intelligent systems.
48. Independent High-Level Expert Group on Artificial Intelligence set up by the European Commission (2019). Ethics guidelines for trustworthy AI.
49. Independent High-Level Expert Group on Artificial Intelligence set up by the European Commission (2018). The assessment list for trustworthy artificial intelligence (ALTAI) for self-assessment.
50. INRIA (2021). Artificial intelligence: Current challenges and Inria’s engagement.
51. Japan Ministry of Economy, Trade and Industry (2021). Yapay zeka ilkelerinin uygulanmasına yönelik yönetim ilkeleri. https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20210709_6.pdf
52. Karafil, B. ve Uyar, A. (2025). Exploring knowledge, attitudes, and practices of academics in the field of educational sciences towards using ChatGPT. Education and Information Technologies, 1–44.
53. Keskin, D. ve Sevli, O. (2024). Eğitimde yapay zekâ ve etik. In International Topkapı Congress III (ss. 38-43).
54. Kır, B. ve Yılmaz, A. (2024). ChatGPT ve bilimsel araştırmalar: Yapay zeka kullanımının nasıl olması gerektiği üzerine bir literatür taraması. In III. BİLSEL International Ahlat Scientific Researches Congress (ss. 297-305).
55. Kıral, B. (2020). Nitel bir veri analizi yöntemi olarak doküman analizi. Siirt Üniversitesi Sosyal Bilimler Enstitüsü Dergisi, 8(15), 170-189.
56. Kritikos, M. (2019). Artificial intelligence ante portas: Legal & ethical reflections. European Parliament. https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2019)634427
57. Kumandaş-Öztürk, H. (2021). Araştırma sürecinde etik ilkeler, etik dışı davranışlar ve etik ihlaller. İçinde K. Yılmaz ve R. S. Arık (Edt.), Bilim ve araştırma etiği (ss. 66-77). Ankara: Pegem Akademi.
58. Küçükvardar, M., Aslan, A. ve Bayrakcı, S. (2020). Yapay zekâ ve etik üzerine bir araştırma. Atlas Journal, 6(36), 1065-1077.
59. Leslie, D. (2019). Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector. The Alan Turing Institute. https://doi.org/10.5281/zenodo.3240529
60. Madiega, T. (2024). Artificial Intelligence Act. European Parliament. https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792
61. Mahama, I., Baidoo-Anu, D., Eshun, P., Ayimbire, B. ve Eggley, V. E. (2023). ChatGPT in academic writing: A threat to human creativity and academic integrity? An exploratory study. Indonesian Journal of Innovation and Applied Sciences, 3(3), 228–239.
62. Maral, T. (2024). Sosyal bilimlerin kesişim noktası: Yapay zekâ ve etik. Ankara Uluslararası Sosyal Bilimler Dergisi (Yapay Zekâ ve Sosyal Bilimler Öğretimi Özel Sayısı), 17-33.
63. Mason, P. (2016, March 29). The racist hijacking of Microsoft’s chatbot shows how the internet teems with hate. The Guardian. https://www.theguardian.com/world/2016/mar/29/microsoft-tay-tweets-antisemitic-racism
64. Microsoft 'deeply sorry' for racist and sexist tweets by AI chatbot. (2016, March 26). The Guardian. https://www.theguardian.com/technology/2016/mar/26/microsoft-deeply-sorry-for-offensive-tweets-by-ai- chatbot (Erişim tarihi: 14 Ocak 2025)
65. NIST - National Institute of Standards and Technology, U.S. Department of Commerce (2024). A plan for global engagement on AI standards.
66. Oçak, Z. (2023). ChatGPT-4’ün bilimsel özgünlük, yazarlık ve etik üzerine etkisi: Araştırmacı-yapay zekâ iş birliği önerileri. İçinde C. Bilgici (Edt.), Dijital evrenin yeni iletişim kodları IV (ss. 173-196). Ankara: Nobel Bilimsel Eserler.
67. OECD (2019). Artificial intelligence in society.
68. OECD (2023). Initial policy considerations for generative artificial intelligence - OECD artificial intelligence papers.
69. Okun, O., Yüksel, M., Karahan, M. O. ve Bozkurt, R. (2023). Akademik yayıncılığın yeni yüzü: ChatGPT ve etik tartışmaları. International Journal of Commerce, Industry and Entrepreneurship Studies, 3(1), 39–50.
70. OSCE (2022). Challenges and opportunities at the intersection of data protection and artificial intelligence. https://www.osce.org/files/f/documents/b/c/536548.pdf
71. OSCE (2024). New frontiers: The use of generative artificial intelligence to facilitate trafficking in persons.
72. Özdemir, L. ve Bilgin, A. (2021). Sağlıkta yapay zekanın kullanımı ve etik sorunlar. Sağlık ve Hemşirelik Yönetimi Dergisi, 8(3), 439–445.
73. Pieper, A. (1999). Etiğe giriş (Çeviri: V. Atayaman ve G. Sezer). İstanbul: Ayrıntı Yayınları.
74. Pratt, I. (1994). Artificial intelligence. UK: Pearson Education.
75. Puran, A. (2024). Dimensions of artificial intelligence ethics from an international and EU perspective. Agora International Journal of Juridical Sciences, 18(2), 245-251. https://doi.org/10.15837/aijjs.v18i2.6994
76. Russell, S. ve Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson Education.
77. Seniutis, M., Gružauskas, V., Lileikienė, A. ve Navickas, V. (2024). Conceptual framework for ethical artificial intelligence development in social services sector. Human Technology, 20(1), 6-24. https://doi.org/10.14254/1795-6889.2024.20-1.1
78. Sok, S. ve Heng, K. (2024). Generative AI in higher education: The need to develop or revise academic integrity policies to ensure the ethical use of AI. Preprint.
79. Solak, E. (2024). Exploring the efficiency of ChatGPT and artificial intelligence in advancing academic writing pedagogy. International Journal of Education in Mathematics, Science, and Technology, 12(6), 1525-1537. https://doi.org/10.46328/ijemst.4373
80. STM (2021). AI ethics in scholarly communication.
81. STM (2023). Generative AI in scholarly communications.
82. T.C. Kamu Görevlileri Etik Kurulu (2024, 10 Eylül). Yapay zeka sistemlerinin kullanımında kamu görevlilerinin uyması gereken etik davranış ilkeleri (Sayı 2024/108).
83. Taylor, T. (1946, Aralık 9). Tuğgeneral Telford Taylor'ın Doktorlar davasındaki açılış konuşması. Famous Trials. https://www.famous-trials.com/nuremberg/1912-doctoropen
84. The Bletchley Declaration by countries attending the AI Safety Summit, 1–2 November 2023. (2025, Şubat 13). GOV.UK. Erişim: 2 Aralık 2023, https://www.gov.uk/government/publications/ai-safety-summit-2023-the- bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2- november-2023
85. The Danish Government (2019). National strategy for artificial intelligence.
86. The White House (2024a). Framework to advance AI governance and risk management in national security.
87. The White House (2024b). Memorandum on advancing the United States’ leadership in artificial intelligence; harnessing artificial intelligence to fulfill national security objectives; and fostering the safety, security, and trustworthiness of artificial intelligence.
88. TRAI - Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay zekâ etik ilkeleri ve hukuki düzenlemeler raporu. https://turkiye.ai/wp-content/uploads/2024/06/TRAI-Yapay-Zeka-Etik-Ilkeleri-ve-Hukuki-Duzenlemeler- Raporu-Mayis-2024-5.pdf
89. Turan, T., Turan, G. ve Küçüksille, E. (2022). Yapay zekâ etiği: Toplum üzerine etkisi. Mehmet Akif Ersoy Üniversitesi Fen Bilimleri Enstitüsü Dergisi, 13(2), 292-299.
90. Türkiye Bilişim Derneği (2020). Türkiye’de yapay zekânın gelişimi için görüş ve öneriler.
91. Türkiye Cumhuriyeti Cumhurbaşkanlığı Dijital Dönüşüm Ofisi (2021). Ulusal yapay zekâ stratejisi 2021-2025.
92. UNESCO (2021). Recommendation on the ethics of artificial intelligence.
93. UNESCO (2023). Ethical impact assessment: A tool of the Recommendation on the Ethics of Artificial Intelligence.
94. Uyan, U. (2023). Yapay zekânın bilimsel yayın amaçlı kullanımına ilişkin etik kaygılar: Sistematik bir yazın incelemesi. İş Ahlakı Dergisi, 16(2), 173-199.
95. van Uffelen, N., Lauwaert, L., Coeckelbergh, M. ve Kudina, O. (2024). Towards an environmental ethics of artificial intelligence. https://doi.org/10.48550/arxiv.2501.10390
96. Wechsler, P. (2005). La Faculté de Medecine de la "Reichsuniversität Straßburg" (1941-1945) à l’heure nationale-socialiste (Doctoral dissertation). University of Strasbourg.
97. Yeşilkaya, N. (2022). Yapay zekâya dair etik sorunlar. Şarkiyat, 14(3), 948-963.
98. Yıldırım, A. ve Şimşek, H. (2011). Sosyal bilimlerde nitel araştırma yöntemleri (8. Baskı). Ankara: Seçkin Yayıncılık.
99. Yılmaz, G. (2020). Yapay zekânın yargı sistemlerinde kullanılmasına ilişkin Avrupa etik şartı. Marmara Üniversitesi Avrupa Araştırmaları Enstitüsü Avrupa Araştırmaları Dergisi, 28(1), 27-55.
100. Yılmaz, K. (2024). Türkiye’de yayınlanan bilimsel araştırma ve yayın etiği konulu makalelerin incelenmesi (1993–2022). Manas Sosyal Araştırmalar Dergisi, 13(1), 85-100. https://doi.org/10.33206/mjss.1340104
101. YÖK - Yükseköğretim Kurulu (2024). Yükseköğretim kurumları bilimsel araştırma ve yayın faaliyetlerinde üretken yapay zekâ kullanımına dair etik rehber.