Manufacturer’s Design Obligation within the Framework of Ethical Dilemmas Arising in Autonomous Vehicles

Öz

Autonomous vehicles have become one of the significant innovations that simplify human lives with the rapidly advancing technology. However, the development and use of these vehicles also bring about ethical questions and dilemmas. Since autonomous vehicles operate without human intervention in decision-making processes, the ethical implications of the decisions they make in emergency situations are of great importance. This raises the ethical responsibilities of the manufacturers responsible for the design of these vehicles. Manufacturers must consider not only safety and technical adequacy but also their societal responsibilities when designing the software and hardware of autonomous vehicles. This article will address the ethical dilemmas encountered in autonomous vehicles, how manufacturers should handle these dilemmas, and the product liability of manufacturers in this context.

Anahtar Kelimeler

• Autonomous vehicles
• ethical dilemmas
• fault
• design obligations
• product liability
• strict liability

OTONOM ARAÇLARDA ORTAYA ÇIKAN ETİK İKİLEMLER ÇERÇEVESİNDE ÜRETİCİNİN TASARIM YÜKÜMLÜLÜĞÜ

Öz

Otonom araçlar, hızla gelişen teknolojiyle birlikte insanların hayatını kolaylaştıran önemli yeniliklerden biri olmuştur. Ancak bu araçların geliştirilmesi ve kullanımı, etik soruları ve ikilemleri de beraberinde getirmektedir. Otonom araçlar, karar verme süreçlerinde insan müdahalesine ihtiyaç duymadan çalıştıkları için, acil durumlar karşısında alacakları kararların etik yönleri büyük önem taşımaktadır. Bu durum, araçların tasarımından sorumlu üreticilerin etik yükümlülüklerini de gündeme getirmektedir. Üreticiler, otonom araçların yazılım ve donanım tasarımlarını yaparken sadece güvenlik ve teknik yeterlilikleri değil, aynı zamanda toplumsal sorumluluklarını da göz önünde bulundurmalıdır. Bu makale, otonom araçlarda karşılaşılan etik ikilemleri, üreticilerin bu ikilemlerle nasıl başa çıkması gerektiğini ve bu bağlamda üreticinin ürün sorumluluğunu ele alacaktır.

Anahtar Kelimeler

• Otonom araçlar
• etik ikilemler
• hata
• tasarım yükümlülükleri
• ürün sorumluluğu
• kusursuz sorumluluk

Kaynakça

1. Abdul Hamid U Z ve Mehndiratta M, ‘Adopting Aviation Safety Knowledge into the Discussions of Safe Implementation of Connected and Autonomous Road Vehicles’ (2021) SAE Technical Papers (SAE WCX Digital Summit)
2. Altunyaldız Z, Legal Aspects of “Autonomous” Vehicles Report, Committee on Legal Affairs and Human Rights, Parliamentary Assembly
3. Awad E ve diğerleri, ‘The Moral Machine Experiment’ (2018), 1-91, Son Erişim Tarihi: 13.01.2025
4. Barringer K L, ‘Code Bound and Down A Long Way to Go and Short Time to Get There: Autonomous Vehicle Legislation in Illinois’ (2013) 38(1) Southern Illinois University Law Journal, 121-142
5. BASt, Rechtsfolgen zunehmender Fahrzeugautomatisierung, Berichte der Bundesanstalt für Straßenwesen, Fahrzeugtechnik Heft F 83
6. Bayındır S, ‘Otonom Araçlarda Sözleşme Dışı Hukuki Sorumluluk Hallerinin Değerlendirilmesi’ (2021) 7(2) İstanbul Aydın Üniversitesi Hukuk Fakültesi Dergisi, 383-410
7. Beiker S A, ‘Legal Aspects of Autonomous Driving’ (2012) 52(4) Santa Clara Law Review, 1145-1156
8. Bonnemains V ve Saurel C ve Tessier C, ‘Embedded Ethics: Some Technical and Ethical Challenges’ (2018) Ethics and Information Technology, 1-34

9. Carr N K, ‘As The Role of the Driver Changes With Autonomous Vehicle Technology, So, Too, Must the Law Change’ (2019) St. Mary’s Law Journal, 817-843.
10. Çekin M S, ‘Otonom Araçlar ve Hukuki Sorumluluk’ (2018) 33, Türkiye Adalet Akademisi Dergisi, 283-345
11. Ebers M, Autonomes Fahren: Produkt- und Produzentenhaftung (Autonomes Fahren - Rechtsfolgen, Rechtsprobleme, technische Grundlagen, 2017), 93-125
12. Ensthaler J ve Gollrad M, Rechtsgrundlagen des automatisierten Fahrens: Standardessentielle Patente und Fahrzeugvernetzung, Zulässigkeit und Zulassung, Haftungsrecht, Datenschutz, Datensicherheit und Datenhoheit, InTeR – Zeitschrift zum Innovations- und Technikrecht (Berlin 2019)
13. Foot P, ‘The Problem of Abortion and the Doctrine of the Double Effect’ (1967) 5 Oxford Review, 1-6
14. Gasser T M, ‘Rechtsfolgen Zunehmender Fahrzeugautomatisierung’ (2012) Berichte der Bundesanstalt für Strassenwesen (BASt)
15. Gomille C, ‘Herstellerhaftung für automatisierte Fahrzeuge’ (2016) 71(2) JuristenZeitung, 76-82
16. Gurney J K, ‘Crashing Into The Unknown: An Examination Of Crash-Optimization Algorithms Through The Two Lanes Of Ethics And Law’ (2016) 79 Albany Law Review, 183-267
17. Hey T, Die Außervertragliche Haftung des Herstellers Autonomer Fahrzeuge bei Unfällen im Straßenverkehr, Springer Gabler, Wiesbaden (2018)
18. Hilgendorf E, ‘The Dilemma of Autonomous Driving: Reflections on the Moral and Legal Treatment of Automatic Collision Avoidance Systems’ in Eric Hilgendorf/Jochen Feldle (Hg.), Digitization and the law. Nomos Verlagsgesellschaft, Baden-Baden, Robotik und Recht 15, 2018, 57-89
19. Himmelreich J, ‘Never Mind the Trolley: The Ethics of Autonomous Vehicles in Mundane Situations’, 1-19
20. Hörnle T ve Wohlers W, ‘The Trolley Problem Reloaded, Wie sind autonome Fahrzeuge für Leben-gegen-Leben-Dilemmata zu programmieren?’, GA, (2018), 12–34
21. Kupferschmied B D, ‘Autonome Fahrzeuge - Die Haftung im Strassenverkehr der Zukunft’ (2015) HAVE, 356-366
22. Lim H S M ve Taeihagh A, ‘Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities’ (2019) 11(20) Sustainability, 1-28.
23. Lin P, ‘Why Ethics Matters for Autonomous Cars’ in Autonomous Driving: Technical, Legal and Social Aspects (Springer, Berlin/Heidelberg 2016), 69–85.
24. Lohmann M F, ‘Mobilität von Morgen – Die Zulässigkeit Automatisierter Fahrzeuge im Ländervergleich’ (2021) AJP, 617-627
25. Okur S, Otonom Araçlarda Sözleşme Dışı Hukuki Sorumluluk- Yapay Zekâ Sorumluluk Doktrinine Mukayeseli Bir Katkı, Ankara: Adalet Yayınevi (2021)
26. Özkan S, Otonom Sürüşte Zorunluluk Halinden Doğan Sorumluluk, Doktora Tezi, Bahçeşehir Üniversitesi Lisansüstü Eğitim Enstitüsü Kamu Hukuku Ana Bilim Dalı (2024)
27. Pekmez C, ‘Alman Karayolları Trafik Kanunu’nda 20 Haziran 2017’de Yapılan Değişiklikler Çerçevesinde Türk/İsviçre Hukuku’nda Araçların Otonomlaştırılmasının İşletenin Sorumluluğuna Etkisi’ (2019) 77(1) İstanbul Hukuk Mecmuası, 153-184
28. Probst T, ‘Die Benutzung (teil)autonomer Motorfahrzeuge im Strassenverkehr aus Haftpflichtrechtlicher Sicht/I.-V.’ in Thomas Probst and Franz Werro (eds), Strassenverkehrsrechts-Tagung 21.- 22. Juni 2016 (Schulthess 2016), 1-83
29. Sütfeld, L R ve Gast R ve König P ve Pipa G, ‘Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure’ (2017) Frontiers in Behavioral Neuroscience, 1-13
30. Thomson J J, ‘The Trolley Problem’ (1985) 94, Yale Law Journal, 1395-1415
31. Wagner G, ‘Produkthaftung für autonome Systeme’ (2017) 217 AcP, 707-765
32. Yazıcı A N M, Otonom Araçların Sebep Olduğu Zararlardan Üreticinin Kusursuz Sorumluluğu, Ankara: Adalet Yayınevi (2023)
33. İnternet Kaynakları
34. Allgemeiner Deutscher Automobil-Club, Son Erişim Tarihi: 09.01.2025
35. Allgemeiner Deutscher Automobil-Club, Son Erişim Tarihi: 17.02.2025
36. BASt, Rechtsfolgen zunehmender Fahrzeugautomatisierung, Berichte der Bundesanstalt für Straßenwesen, Fahrzeugtechnik Heft F 83, 31, Tablo 1, Son Erişim Tarihi: 13.01.2025
37. Bundesministerium für Digitales und Verkehr (BMDV), Son Erişim Tarihi: 10.01.2025.
38. BMVI, Ethik-Kommission Automatisiertes und Vernetztes Fahren, Bericht, Haziran 2017, (Ethik-Kommission), Son Erişim Tarihi: 02.01.2025
39. Boudette N E, ‘Tesla’s Autopilot Technology Faces Fresh Scrutiny’ The New York Times, Son Erişim Tarihi: 11.01.2025
40. Bundesanstalt für Straßenwesen, Son Erişim Tarihi: 09.01.2025
41. Son Erişim Tarihi: 03.01.2025
42. Deutsches Patent- und Markenamt, Son Erişim Tarihi: 10.01.2025
43. National Highway Traffic Safety Administration, Preliminary Statement of Policy Concerning Automated vehicles, Son Erişim Tarihi: 10.01.2025
44. SAE, Chart, Son Erişim Tarihi: 11.01.2025
45. SAE International, Son Erişim Tarihi: 09.01.2025
46. SAE International, Son Erişim Tarihi: 09.01.2025
47. SAE, Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles J3016_202104, Son Erişim Tarihi: 10.01.2025
48. Straßenverkehrsgesetz, StVG- Straßenverkehrsgesetz> Son Erişim Tarihi: 08.01.2025
49. Tesla Motors, Model S Owner’s Manual, Son Erişim Tarihi: 11.01.2025
50. Verband der Automobilindustrie, Son Erişim Tarihi: 09.01.2025
51. Wikipedia, Son Erişim Tarihi: 10.01.2025
52. Wikipedia, Son Erişim Tarihi: 03.01.2025