پژوهش های نوین در مطالعات علوم انسانی اسلامی

پژوهش های نوین در مطالعات علوم انسانی اسلامی

شناسایی مسئولیت کیفری هوش مصنوعی بر اساس موقعیت‌های اضطراری یا دفاع مشروع

نوع مقاله : مقاله پژوهشی

نویسندگان
1 گروه حقوق جزا و جرم‌شناسی، واحد ساوه، دانشگاه آزاد اسلامی، ساوه، ایران
2 گروه جرم‌شناسی، دانشگاه علوم انتظامی امین، تهران، ایران
3 گروه حقوق کیفری و جرم‌شناسی، واحد کرج، دانشگاه آزاد اسلامی، کرج، ایران
10.22034/api.2025.2081092.1606
چکیده
هدف: پژوهش حاضر با هدف تبیین چارچوب مسئولیت کیفری در قبال تصمیمات سامانه‌های هوش مصنوعی خودمختار در موقعیت‌های حساس دفاع مشروع و حالت اضطرار انجام شده است. مسئله اصلی، ناکارآمدی الگوهای سنتی مسئولیت کیفری (مبتنی بر اراده و نیت انسانی) و نیز محدودیت رویکردهای نوینی چون مسئولیت مبتنی بر پیش‌بینی یا ریسک در مواجهه با پیچیدگی و خودآموزی این سامانه‌هاست.
روش پژوهش: این پژوهش با رویکرد توصیفی-تحلیلی و با بهره‌گیری از مطالعه تطبیقی در نظام‌های حقوقی پیشرو، به واکاوی این چالش پرداخته است.
یافته‌ها: یافته‌ها نشان می‌دهد که راه‌حل کارآمد، خروج از دوگانه «انسان یا ماشین» و اتخاذ الگوی مسئولیت چندلایه است. این مدل، مسئولیت را به‌صورت توزیع‌شده در سه لایه پی می‌گیرد: لایه طراحی و تولید (مسئولیت اخلاقی و تضمینی طراح)، لایه بهره‌برداری و نظارت (مسئولیت احتیاطی و نظارتی کاربر) و لایه تنظیم‌گری و جبران (مسئولیت تضمینی نهاد ناظر و صندوق جبران خسارت). این چارچوب ضمن مدیریت پیچیدگی فناورانه و تأکید بر پاسخگویی نهایی انسان، امکان تحلیل منصفانه حوادث و تطبیق معیارهای دفاع مشروع و اضطرار با تصمیمات الگوریتمی را فراهم می‌سازد.
نتیجه‌گیری: در بستر حقوق کیفری ایران، این پژوهش ضرورت گذار از «بهت تقنینی» موجود را گوشزد کرده و دو مسیر تفسیر پویا از نهادهای فعلی (مانند مسئولیت ناشی از تسبیب) و تقنین پیش‌نگر بر مبنای الگوی چندلایه را برای تضمین عدالت کیفری و امنیت حقوقی پیشنهاد می‌دهد. در نتیجه، آینده حقوق کیفری در گرو پذیرش چنین الگوهای انعطاف‌پذیر و توزیع‌شده‌ای است تا بتواند در عصر فناوری‌های خودمختار، از کرامت انسانی و حاکمیت قانون حراست نماید.

چکیده تصویری

شناسایی مسئولیت کیفری هوش مصنوعی بر اساس موقعیت‌های اضطراری یا دفاع مشروع
کلیدواژه‌ها
موضوعات

عنوان مقاله English

Assessment of Criminal Liability for Artificial Intelligence in Emergency Situations or Legitimate Defense

نویسندگان English

MohammadAli Abbaszadeh Dibavar, 1
Ebrahim Rajabi TajAmir, 2
Sajad Akhtari 3
1 Department of Criminal Law and Criminology, Sav. C., Islamic Azad University, Saveh, Iran
2 Department of Criminology, Amin Police University, Tehran, Iran
3 Department of Criminal Law and Criminology, Ka. C., Islamic Azad University, Karaj, Iran
چکیده English

Objective: This study aims to elucidate a framework for criminal liability regarding the decisions of autonomous artificial intelligence systems in sensitive situations involving self-defense and the state of necessity. The core issue lies in the inadequacy of traditional criminal liability models (based on human will and intent) as well as the limitations of novel approaches, such as foreseeability-based or risk-based liability, in addressing the complexity and self-learning capabilities of these systems.
Method: The research adopts a descriptive-analytical approach and utilizes a comparative study of advanced legal systems to analyze this challenge.
Results: The findings indicate that an effective solution requires moving beyond the "human or machine" dichotomy and adopting a multi-layered liability model. This model distributes responsibility across three distinct layers: the design and production layer (involving the moral and warranty liability of the designer), the operation and supervision layer (involving the precautionary and supervisory liability of the user), and the regulation and compensation layer (involving the warranty liability of the regulatory body and a compensation fund). This framework, while managing technological complexity and emphasizing ultimate human accountability, enables a fair analysis of incidents and facilitates the adaptation of self-defense and necessity criteria to algorithmic decisions.
Conclusions: Within the context of Iranian criminal law, this research highlights the necessity of moving beyond the existing "legislative paralysis" and proposes two pathways: the dynamic interpretation of existing legal institutions (such as liability arising from indirect causation) and proactive legislation based on the multi-layered model to ensure criminal justice and legal security. Consequently, the future of criminal law depends on embracing such flexible and distributed models to safeguard human dignity and the rule of law in the age of autonomous technologies.

کلیدواژه‌ها English

Artificial intelligence
criminal liability
self-defense
state of emergency
multi-layered liability
Iranian criminal law
شاهیده، فرهاد؛ قوانلو، طاهره.(1402). مسئولیت کیفری ربات‌ها. چاپ سوم. تهران: بنیاد حقوقی میزان
            حسین زاده,جواد , احمدی,فرید و کلب خانی,هاشم . (1403). ارائه یک مدل جامع برای سنجش آمادگی کشورها در مواجهه با انقلاب صنعتی چهارم. آینده‌پژوهی دفاعی, 9(32), 161-190
 doi: 10.22034/dfsr.2024.2019174.1761
            بنافی, فرشته . (1402). حفاظت از حقّ حریم خصوصی اطلاعاتی در مقابل تهدیدات ناشی از هوش مصنوعی نظامی. پژوهش حقوق خصوصی, 12(45), 149-176
doi: 10.22054/jplr.2024.68659.2691
            ترکی, هادی. (1403). رهیافت جدید قدرت مبتنی بر هوش مصنوعی (مطالعه موردی رقابت آمریکا و چین از ۲۰۱۰ تا ۲۰۲۳). مطالعات راهبردی آمریکا, 4(2), 91-114
doi: 10.47176/asr.2024.1206
            ذاکری‌نیا، حانیه. (۱۴۰۲). «ماهیت و مبنای مسئولیت مدنی ناشی از هوش مصنوعی در حقوق ایران و کشورهای اتحادیه اروپا». فصلنامه حقوق تطبیقی.20(1):135-152
 doi: 10.22059/jolt.2023.356703.1007186
       
شاهیده، فرهاد؛ قوانلو، طاهره.(1402). مسئولیت کیفری ربات‌ها. چاپ سوم. تهران: بنیاد حقوقی میزان
            حسین زاده,جواد , احمدی,فرید و کلب خانی,هاشم . (1403). ارائه یک مدل جامع برای سنجش آمادگی کشورها در مواجهه با انقلاب صنعتی چهارم. آینده‌پژوهی دفاعی, 9(32), 161-190
 doi: 10.22034/dfsr.2024.2019174.1761
            بنافی, فرشته . (1402). حفاظت از حقّ حریم خصوصی اطلاعاتی در مقابل تهدیدات ناشی از هوش مصنوعی نظامی. پژوهش حقوق خصوصی, 12(45), 149-176
 doi: 10.22054/jplr.2024.68659.2691
            ترکی, هادی. (1403). رهیافت جدید قدرت مبتنی بر هوش مصنوعی (مطالعه موردی رقابت آمریکا و چین از ۲۰۱۰ تا ۲۰۲۳). مطالعات راهبردی آمریکا, 4(2), 91-114. doi: 10.47176/asr.2024.1206
            ذاکری‌نیا، حانیه. (۱۴۰۲). «ماهیت و مبنای مسئولیت مدنی ناشی از هوش مصنوعی در حقوق ایران و کشورهای اتحادیه اروپا». فصلنامه حقوق تطبیقی.20(1):135-152. doi: 10.22059/jolt.2023.356703.1007186
            رستمی، محسن. (۱۴۰۱). ناسایی و معرفی ظرفیت‌های کاربردی هوش مصنوعی در توسعه مضمون‌های راهبردی در سازمان‌های نظامی. فصلنامه مطالعات دفاعی و امنیتی، دانشگاه عالی دفاع ملی. 78(20):34-73. https://ds.sndu.ac.ir/article_2167.html
            السان, مصطفی و دهستانی, سوور . (1401). جنبه‌های حقوقی جعل عمیق. فصلنامه تحقیقات حقوقی, 25(ویژه نامه حقوق و فناوری), 193-218
 doi: 10.52547/jlr.2022.229466.2369
            قاسمی, محمدهادی , رحیمی, مهدی و عیوضی, محمدرحیم . (1404). کاربست قابلیت‌های هوش مصنوعی در فرایند آینده‌نگاری راهبردی. آینده پژوهی ایران, 10(1), 66-104
 doi: 10.30479/jfs.2023.18401.1463
            نوری‌سوا، احمد. (۱۴۰۴). بررسی آثار مسئولیت کیفری هوش مصنوعی. فصلنامه حقوق جزا و جرم‌شناسی
رستمی، محسن. (۱۴۰۱). ناسایی و معرفی ظرفیت‌های کاربردی هوش مصنوعی در توسعه مضمون‌های راهبردی در سازمان‌های نظامی. فصلنامه مطالعات دفاعی و امنیتی، دانشگاه عالی دفاع ملی. 78(20):34-73
 https://ds.sndu.ac.ir/article_2167.html
            السان, مصطفی و دهستانی, سوور . (1401). جنبه‌های حقوقی جعل عمیق. فصلنامه تحقیقات حقوقی, 25(ویژه نامه حقوق و فناوری), 193-218
 doi: 10.52547/jlr.2022.229466.2369
            قاسمی, محمدهادی , رحیمی, مهدی و عیوضی, محمدرحیم . (1404). کاربست قابلیت‌های هوش مصنوعی در فرایند آینده‌نگاری راهبردی. آینده پژوهی ایران, 10(1), 66-104
 doi: 10.30479/jfs.2023.18401.1463
            نوری‌سوا، احمد. (۱۴۰۴). بررسی آثار مسئولیت کیفری هوش مصنوعی. فصلنامه حقوق جزا و جرم‌شناسی
 https://civilica.com/doc/2336426/