كتاب المسؤولية الجنائية عن أضرار الذكاء الاصطناعي

‫المقدم ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ــة‬
‫املسؤولية اجلنائية‬
‫عن أضرار الذكاء االصطناعي‬
‫‪CRIMINAL LIABILITY‬‏‬
‫‪FOR DAMAGES‬‬
‫‪FROM ARTIFICIAL INTELLIGENCE‬‬
‫حممد علي أبو علي‬

‫ماجستيرفي القانون الجنائي‬
‫الناشر‬
‫دار النهضة العربية للنشر والتوزيع‬
‫‪ 32‬شارع عبد الخالق ثروت – القاهرة‬
‫‪1‬‬
‫المسؤولية الجنائية عن أضرار الذكاء االصطناعي‬
‫مجيع احلقوق حمفوظة للمؤلف‬
‫وال يجوزنشرأي جزء من هذا الكتاب أو اختزان مادته بطريقة االسترجاع أو‬
‫نقله على أي نحو أو بأية طريقة سواء كانت إلكترونية أو ميكانيكية أو خالف ذلك‬
‫ً‬
‫ومقدما‪.‬‬ ‫إال بمو افقة املؤلف على هذا كتابة‬
‫املسؤولية اجلنائية عن أضرار الذكاء االصطناعي‬ ‫اسم الكتــاب‪:‬‬
‫حممد علي أبو علي‬ ‫إعـــــــــــــداد‪:‬‬

‫األوىل‬ ‫الطبعـــــــــة‪:‬‬
‫‪2024‬‬ ‫سنة الطبــع‪:‬‬
‫‪2023 / 30578‬‬ ‫رقم اإليــداع‪:‬‬
‫‪I.S.B.N. 978-977-04-9712-8‬‬ ‫الرتقيم الدولي‪:‬‬

‫‏‬
‫‏‬
‫الناشر‬
‫دار‏النهضة‏العربية‏للنشر‏والتوزيع ‏‬
‫‪32‬‏شارع‏عبد‏الخالق‏ثروت‏–‏القاهرة ‏‬
‫تليفون‪:‬‏‪ 0020223926931‬‏‬
‫‏فاكس‪:‬‏‪0020223956150‬‬
‫‪info@daralnahda.com‬‬
‫‪www.daralnahda.com‬‬
‫‪2‬‬
‫‪3‬‬
‫‪4‬‬
‫االهداء و الشكر‬
‫إىل من صدق الوعد فينا رسولنا حممد ﷺ‬
‫إىل من وقفا جبواري منذ كنت اتعثر يف خطاي‬
‫إىل من تنار الطريق بهم أوالدي و زوجيت‬
‫إىل وطننا احلبيب و نفع العلم فيه‬
‫اللهم يا منزل الكتاب يا من علمتنا «إقرأ»‪،‬‬

‫اللهم احتسب لنا يف هذا العلم صدقة و أنه لوجهك الكريم‬
‫‪5‬‬
‫‪6‬‬
‫‪F‬‬
‫يعتبر الذكاء االصطناعي موضوع العصر الحالي بناء على ما وصل إليه العلم من‬
‫الثورة الصناعية الرابعة التي نقلت العالم من عصر الصناعة إلى عصر املعلومات‬
‫ً‬
‫الحديث‪ ،‬وتعتبر تقنياته من أهم ضروريات املجتمع‪ ،‬كما أنها التكنولوجيا األكثر تطورا‬
‫في السوق اآلن‪.‬‬
‫يساور العالم القلق ازاء الذكاء االصطناعي‪ ،‬حتى وإن كان يحمل في طياته بعض‬
‫النعم والثروات التقنية إال أنه قد يكون نقمة واداة تشكل ضررا وتهديدا على جميع‬
‫الكائنات الحية على هذه الحياة‪ ،‬واكثرها تهديدا على حياة البشر من األشخاص‪،‬‬
‫واالفراد واملجتمعات على غرار الغريزة والفطرة التي أوجد هللا وخلق هذا االنسان ألجلها‬
‫في أن يجعله خليفة في هذه األرض قائما على إعمارها وبنائها ال إفسادها وهدمها‪.‬‬
‫ويشهد العالم هذه السنوات تطورات متتالية في عالم التكنولوجيا الغير مسبوق‪،‬‬
‫وما يصاحبه من انتاج‪ ،‬وايجاد تقنيات تكنولوجية متنوعة‪ ،‬وأصبح الحديث ما إذا كان‬
‫استخدام هذه التقنيات التكنولوجية يشكل ضررا وتهديدا خاصة على األمن االلكتروني‪،‬‬
‫وفي الحقيقة مع وجود التطور التكنولوجي في مجال الذكاء االصطناعي ظهرت العديد من‬
‫املشاكل فنحن نتحدث اليوم عن قدرات غير مسبوقة في اختراق البيانات والوصول الى‬
‫مراكز املعلومات واستخدام خوارزميات الذكاء االصطناعي في انتاج محتويات كاذبة أو‬
‫مضللة بعدة اشكال سواء كانت على شكل صور‪ ،‬نصوص‪ ،‬فيديو وغيرها وقدرة الذكاء‬
‫االصطناعي في تشتيت الرأي العام العالمي كل هذه االمور تشكل خطورة في امننا‬
‫االلكتروني مما دفع االمين العام لألمم املتحدة في أكثر من تصريح أن يتحدث عن أضرار‬
‫وخطورة الذكاء االصطناعي وأنه سوف يسبب مشاكل باملستقبل سواء في تضليل الرأي‬
‫العام العالمي‪ ،‬ووصول الخوارزميات إلى مراكز معلومات حساسة ولربما ادعت بعض‬
‫دول العالم الكبرى برغبتها عن االنفصال عن شبكة العالم اإلنترنت؛ ملا تعرضت من‬
‫‪7‬‬
‫التجسس عليها وعلى مراكز معلومات حساسة فيها وكل ما سبق لربما بشكل أو بآخر‬
‫يشكل تهديدا ألمننا االلكتروني‪ .‬فعلى الصعيد الشخص ي على مستوى بياناتنا الشخصية‬
‫التي نستخدمها بشكل يومي فقد أصبحت مهددة باالختراق وبالوصول إلى حواسيبنا‬
‫الشخصية‪ ،‬تضليل الحقيقة بالرغم من قول مصنعو الذكاء االصطناعي على انهم‬
‫يقدمون خدمات جديدة للبشرية على سبيل املثال‪ Google :‬أضافت إلى خدمات‬
‫‪ Google Meet‬مساعد الذكاء االصطناعي(‪ )AI‬الذي يمثل ويحضر عن املستخدمين أي‬
‫اجتماعات ويقدم له الخالصة واملختصر وكل ما جاء في تلك االجتماعات وما إلى ذلك‬
‫بالتفصيل‪ .‬بحيث يتساءل املرء إلى أي مدى ممكن أن تساعد أو إلى أي مدى ممكن ان‬
‫تكون لصالح البشرية مستقبال؟‬
‫يقسم هذا البحث إلى ثالثة مباحث‪ ،‬أولها يتناول الذكاء االصطناعي من ناحية‬
‫ماهية الذكاء االصطناعي‪ ،‬ومفهومه‪ ،‬وتعريفه‪ ،‬ونموذجه وخصائصه‪ ،‬وأهميته وكل ذلك‬
‫في مبحث مستقل‪ .‬ويشكل املبحث الثاني جوهر البحث وإجابة عن قواعد املسؤولية‬
‫الجنائية عن أضرار الذكاء االصطناعي‪ ،‬واالساس القانوني للمسؤولية الجنائية عن‬
‫أضرار الذكاء االصطناعي‪ ،‬والطبيعة القانونية للذكاء االصطناعي‪ ،‬والشخصية القانونية‬
‫للذكاء االصطناعي‪ ،‬واملسؤولية الجنائية عن أضرار الذكاء االصطناعي من ناحية‬
‫مسؤولية الغير عن أضرار الذكاء االصطناعي‪ ،‬ومسؤولية الذكاء االصطناعي عن اضراره‪.‬‬
‫واملبحث الثالث يتناول نموذج جرائم الذكاء االصطناعي وجرائم الذكاء االصطناعي‬
‫الذاتية‪ ،‬والجريمة العمدية الناتجة عن الذكاء االصطناعي والجريمة الغير عمدية‬
‫الناتجة عن الذكاء االصطناعي واستخدام الذكاء االصطناعي في ارتكاب الجريمة‪،‬‬
‫والجريمة العمدية في استخدام الذكاء االصطناعي والجريمة الغير عمدية في استخدام‬
‫الذكاء االصطناعي وأخيرا الخاتمة‪.‬‬
‫‪8‬‬
‫مشكلة الدراسة‪-:‬‬
‫تثور إشكالية الدراسة حول قيام أركان املسؤولية الجنائية على األضرار و األفعال‬
‫الجرمية التي تتم بواسطة الذكاء االصطناعي‪ ،‬و كيف يتم تحقق أركان و قواعد‬
‫املسؤولية الجنائية على كيانات الذكاء االصطناعي‪ ،‬بالتالي تحمله نتيجة عقاب أفعاله‬
‫التي يرتكبها سيما أن هذا الكيان هو نتاج بشري ال يمكنه تحمل العقاب كالحبس و‬
‫الحجز وال يملك استقالال ذمة مالية من أجل مواجهته بواسطة دعوى حقوقية أو‬
‫تنفيذيا أو غيره من أشكال املطالبات القانونية من أجل التعويض املادي أو املعنوي عن‬
‫الضرر الناش ئ عن أفعال كيانات الذكاء االصطناعي الضارة املجرمة قانونا‪.‬‬
‫أهمية الدراسة‬
‫األهمية من الناحية النظرية‬
‫لقد جاءت أهمية الدراس من الناحية النظرية من أجل تحليل القواعد النظرية‬
‫املتعلقة باملسؤولية الجنائية عن األضرار التي يرتكبها الذكاء االصطناعي و تحليل‬
‫النصوص املتعلقة بها و اسقاطها على األفعال التي يرتكبها الذكاء االصطناعي‪.‬‬
‫األهمية العلمية‪:‬‬
‫أما من الناحية العلمية فهي من أجل وضع قواعد فقهية في موضوع املسؤولية‬
‫الجنائية ألضرار الذكاء االصطناعي و تحليل أركان املسؤولية الجنائية على أفعال كيانات‬
‫الذكاء االصطناعي الضارة و تحليل مدى تحمل الذكاء االصطناعي نتيجة فعله و‬
‫التعويض الناش ئ عن أفعاله من الناحية الجزائية‪.‬‬
‫أهداف الدارسة‪:‬‬
‫تهدف هذه الدراسة إلى‪:‬‬
‫‪ )1‬الظهور بتعريف للذكاء االصطناعي و ماهيته و مفهومه بصورة عامة‬
‫‪9‬‬
‫‪ )2‬فهم و بيان أهمية و خصائص الذكاء االصطناعي‬

‫‪ )3‬الظهور بماهية شخصية الذكاء االصطناعي‬
‫‪ )4‬استنباط قيام أركان املسؤولية الجنائية عن أضرار الذكاء االصطناعي‬
‫‪ )5‬استيضاح نماذج جرائم الذكاء االصطناعي‬
‫تساؤالت الدراسة‪:‬‬
‫‪ )1‬ما هو تعريف الذكاء االصطناعي؟‬
‫‪ )2‬ما هي خصائص و أهمية الذكاء االصطناعي؟‬
‫‪ )3‬هل يتحمل كيان الذكاء االصطناعي املسؤولية الجنائية عن أفعاله الضارة؟‬
‫‪ )4‬من يتحمل املسؤولية الجزائية عن األضرار التي يرتكبها الذكاء االصطناعي؟‬
‫‪ )5‬ما هي الجرائم التي يرتكبها الذكاء االصطناعي (نموذجا)؟‬
‫منهج الدراسة‪:‬‬
‫اعتمد الباحث على املنهج التحليلي الوصفي (االستقرائي واالستنباطي) للنصوص‪ .‬و‬
‫ذلك بقراءة القواعد الفقهية املتعلقة بموضوع الدراسة وتحليلها‪ ،‬وتفسيرها‪ ،‬واملقارنة‬
‫ُ‬
‫فيما بينها كما و استرشد الباحث باملنهج املقارن من خالل استعارة بعض الحلول التي‬
‫تناولتها التشريعات املقارنة كلما دعت الحالة الى ذلك‪.‬‬
‫‪10‬‬
‫المبحث األول ‪ -‬الذكاء االصطناعي (‪)AI‬‬
‫املبحث األول‬
‫الذكاء االصطناعي (‪)AI‬‬
‫‪11‬‬
‫‪12‬‬
‫الذكاء االصطناعي (‪)AI‬‬
‫بات الذكاء االصطناعي يشكل أهم املواضيع واألمور التي تخص علوم الحاسب اآللي‬
‫في القرن الواحد والعشرين الحالي‪ ،‬ويشكل أداة فاعلة ووسيلة قوية والتي اصبحت‬
‫حاضرة‪ ،‬وال يقتصر على جهاز الحاسوب بل هو موجود في العديد من املجاالت‬
‫ً‬
‫والقطاعات املختلفة بدءا من الصحة إلى الصناعة والتجارة وليس انتهاء بالتعليم‬
‫والتعلم واإلدارة‪ .‬وتتمثل تكنولوجيا الذكاء االصطناعي في محاكاة الذكاء اإلنساني من‬
‫خالل برمجة الحاسوب واآللة بحيث تصبح مشابهة ومقاربة لبعض خصائص وجوانب‬
‫الذكاء اإلنساني‪ ،‬فتتم برمجة الحاسوب من خالل تزويده باملدخالت ليقوم بمعالجتها‬
‫ً‬
‫على نحو معين وفق ما تمت برمجته عليه ويخرج حلوال للمشكالت على نمط معين‬
‫ً‬
‫معروف لدى املبرمج غالبا(‪.)1‬‬
‫إن أول دولة عربية اهتمت بالذكاء االصطناعي هي دولة اإلمارات العربية املتحدة‪،‬‬
‫بل تعتبر األولى في العالم التي استثمرت الذكاء االصطناعي بمختلف قطاعاتها الحيوية‪،‬‬
‫ً‬ ‫ً‬
‫واعطته اهتماما خاصا‪ ،‬حيث عملت على‪ :‬استحداث وزارة جديدة باسم استراتيجية‬
‫االمارات للذكاء االصطناعي والتي تهدف إلى تحقيق أهداف مئوية اإلمارات ‪،2071‬‬
‫وتعجيل تنفيذ البرامج واملشروعات التنموية لبلوغ املستقبل‪ ،‬االعتماد على الذكاء‬
‫االصطناعي في الخدمات وتحليل البيانات بمعدل ‪ %100‬بحلول عام ‪ ،2031‬االرتقاء‬
‫باألداء الحكومي وتسريع اإلنجاز وخلق بيئات عمل مبتكرة‪ ،‬وسوق جديدة واعدة في‬
‫املنطقة ذات قيمة اقتصادية عالية(‪.)2‬‬
‫(‪ )1‬عمار البابلي‪ ،‬توظيف تقنيات الذكاء االصطناعي في العمل األمني‪ ،‬مجلة األمن والقانون‪ ،‬أكاديمية‬
‫شرطة دبي‪ ،‬املجلد ‪ ،28‬عدد ‪2020 ،1‬م‪ ،‬ص ‪.16‬‬
‫(‪ )2‬انظر إلى املوقع االلكتروني استراتيجية االمارات للذكاء االصطناعي‪ ،2023 ،‬تاريخ الزيارة ‪12-10-2023‬‬
‫‪https://u.ae/ar-AE/about-the-uae/strategies-initiatives-and-‬‬
‫‪13‬‬
‫املطلب األول‬
‫ماهية الذكاء االصطناعي‬
‫للتعرف على ماهية الذكاء االصطناعي‪ ،‬البد أوال ً من التعرف على مفهوم الذكاء‬
‫البشري‪ ،‬حيث يعرف الذكاء البشري «‪ »Human Intelligence‬بأنه‪« :‬املقدرة واملهارة على‬
‫وضع وإيجاد الحلول للمشكالت باستخدام الرموز‪ ،‬وطرق البحث املختلفة للمشكالت‪،‬‬
‫والقدرة على استخدام الخبرة املكتسبة في اشتقاق معلومات ومعارف جديدة‪ ،‬تؤدي إلى‬
‫وضع الحلول ملشاكل ما في مجال ٍ معين»‪ ،‬ويتفاوت مستوى الذكاء من شخص إلى آخر‪،‬‬
‫ً‬
‫ويعتبر الذكاء البشري املسؤول عن التطور واإلبداع في نمو الحضارات املختلفة‪ .‬ونظرا‬
‫ألهميته فإن اإلنسان كان وال يزال دائم البحث عن طبيعة هذا الذكاء وكيف يمكن‬
‫قياسه ووضع الخطوات ملحاكاة أساليبه في شكل برامج باستخدام الحاسبات(‪.)1‬‬
‫ولقد اقتصرت دراسة الذكاء البشري لفترة طويلة على علماء النفس‪ ،‬إال أن التقدم‬
‫السريع في جميع فروع العلوم في النصف األخير من القرن املنصرم أدى إلى مساهمة وتالحم‬
‫علوم كثيرة في دراسة ومحاكاة نظم الذكاء اإلنساني وتطويرها‪ ،‬وراود الباحثين األمل في انتقال‬
‫أساليب الذكاء الفطري والخبرة املكتسبة لإلنسان إلى نظم البرمجة للحاسبات حتى يتمكن‬
‫ً‬
‫االستفادة منها في مجاالت الحياة املختلفة‪ ،‬والتي تتطلب قدرا من الذكاء والخبرة الالزمة‬
‫ملسايرة التطور لدى التطبيقات الزراعية‪ ،‬والصناعية والتجارية(‪.)2‬‬
‫‪awards/strategies-plans-and-visions/government-services-and-digital-‬‬
‫‪transformation/uae-strategy-for-artificial-intelligence‬‬
‫(‪ )1‬فايز النجار‪ ،‬نظم املعلومات اإلدارية‪ :‬منظور إداري‪ ،‬دار الحامد للنشر والتوزيع‪ ،‬األردن‪ ،‬الطبعة الرابعة‪،‬‬
‫‪2010‬م‪ ،‬ص ‪.169‬‬
‫(‪ )2‬محمد الخطيب‪ ،‬املسئولية املدنية والذكاء االصطناعي وإمكانية املساءلة‪ ،‬دراسة تحليلية معمقة‬
‫لقواعد املسؤولية املدنية في القانون املدني الفرنس ي‪ ،‬مجلة كلية القانون الكويتية العاملية‪ ،‬السنة‬
‫الثامنة‪ ،‬العدد األول‪ ،‬الدوحة‪ ،‬قطر‪2020،‬م‪ ،‬ص ‪.120‬‬
‫‪14‬‬
‫يقصد بماهية الذكاء االصطناعي‪ :‬أي من ناحية حقيقته‪ ،‬وطبيعته‪ ،‬وما به من صور‬
‫وصفات جوهرية إذ يعتبر الذكاء االصطناعي كيان واكتشاف بشري وتقنية تكنولوجية‬
‫جديدة تتمثل في قدرة اآللة على تقليد السلوك البشري والتعلم من البيئة التي حولها‬
‫وتعويض اليد العاملة كالقيام ببعض املهام واألعمال التي يقوم بها البشر بنفس املستوى‬
‫وأحيانا تكون بشكل أفضل منهم سواء كانت مهام ذهنية كالتفكير‪ ،‬واملنطق‪ ،‬وايجاد‬
‫حلول للعديد من املشاكل‪ ،‬بل واألهم من ذلك كله قد تصل لدرجة اتخاذ القرارات‬
‫بشكل ذاتي‪.‬‬
‫يعتبر البعض أن الحديث عن الذكاء االصطناعي يعني أن الحديث عن أجهزة‬
‫ُ‬
‫الكمبيوتر‪ ،‬إال أن أجهزة الكمبيوتر ليست محور املوضوع‪ ،‬بل تعتبر أدوات تستخدم في‬
‫هذا الشأن‪ ،‬وعلى الرغم من حاجة الذكاء االصطناعي إلى أجهزة مادية مثل أجهزة‬
‫الكمبيوتر‪ ،‬لذلك فاألحرى أن تنصرف األذهان إلى ما يسميه علماء الكمبيوتر باألجهزة‬
‫اإلفتراضية(‪.)1‬‬
‫«إن الذكاء االصطناعي نتاج ‪ 2000‬سنة من تقاليد الفلسفة‪ ،‬واإلدراك والتعلم‪،‬‬
‫و‪ 400‬سنة من الرياضيات التي قادت إلى امتالك نظريات في النطق‪ ،‬واالحتمال‬
‫والحوسبة‪ ،‬وهو تاريخ عريق في تطور علم النفس وما كشفت عن قدرات وطريقة عمل‬
‫الدماغ اإلنساني»(‪.)2‬‬
‫ويعتبر جون ماكارتي ‪ John McCarthy‬أول من أسهم في وضع مصطلح الذكاء‬
‫االصطناعي ألول مرة في عام ‪1956‬م‪ ،‬في جامعة دارتموث ‪ Dartmouth‬في الواليات‬
‫(‪ )1‬مارجريت بودين‪ ،‬الذكاء االصطناعي مقدمة قصيرة جدا‪،‬اململكة املتحدة‪ ،‬جامعة إكسفورد‪2018 ،‬م‪ ،‬ص‬
‫‪.12‬‬
‫(‪ )2‬أمينة عثامنية ‪ ،‬املفاهيم األساسية للذكاء االصطناعي‪ ،‬كتاب جماعي‪ ،‬اشراف وتنسيق أبو بكر خوالد‪،‬‬
‫تطبيقات الذكاء االصطناعي كتوجه حديث لتعزيز تنافسية منظمات األعمال‪ ،‬املركز الديمقراطي‬
‫العربي للدراسات اإلستراتيجية والسياسية واالقتصادية‪ ،‬برلين‪-‬أملانيا‪ ،‬الطبعة األولى بدون عدد‪،2019 ،‬‬
‫ص‪.11‬‬
‫‪15‬‬
‫ً‬
‫املتحدة األمريكية‪ ،‬وبعجد ذلك قام ماكارتي وزميله ميرفن منسكي بتأسيس مخبرا للذكاء‬
‫االصطناعي باملعهد التكنولوجي بماساشوستس (‪ ،)MIT‬وبعد ذلك انتشر علم الذكاء‬
‫االصطناعي في بقية جامعات العالم(‪.)1‬‬
‫أما من ناحية أساس الذكاء االصطناعي فهو موجود بفعل الذكاء البشري الذي‬
‫تسبب في وجوده عن طريق العقل البشري والذكاء الذي وهبه هللا لإلنسان وبالبحث‬
‫والقراءة والتفكير استطاع برمجة تقنيات الذكاء االصطناعي ووضع أوامر برمجية‬
‫محدودة مع عدم اتاحة كافة الخيارات أمامه‪.‬‬
‫يتمثل جوهر الذكاء االصطناعي في القدرة على تحليل البيانات وأداء وظائف معينة‪،‬‬
‫فو فئة من برامج الكمبيوتر املصممة لحل العديد من املشكالت التي تتطلب التفكير‬
‫االستداللي‪ ،‬وصنع القرارات بناء على تحليل البيانات‪ ،‬والتصنيف والتحسين(‪.)2‬‬
‫وللذكاء االصطناعي صور عديدة ولعل أهمها ما يعرف بالروبوتات الصناعية‪ ،‬وهذه‬
‫الروبوتات تمثل في عالم الصناعة ما يعرف بالثورة الصناعية الرابعة‪« ،‬وقد جسدت‬
‫الروبوت صوفيا الواقع الفعلي الذي وصل إليه الذكاء االصطناعي وتطبيقاته‪ ،‬فقد كانت‬
‫ً‬ ‫ً‬
‫اول روبوت صنعته مؤسسة هانسون روبوتيكس حيث أظهرت صوفيا ذكائا اصطناعيا‬
‫أبهر الجميع من خالل تعرفها على الوجوه‪ ،‬والتحاور مع الناس خالل جلسات مؤتمر‬
‫مبادرة مستقبل االستثمار في الرياض ‪2017‬م‪ ،‬حيث تعتبر أول روبوت حصلت على‬
‫جنسية(السعودية) في التاريخ(‪.)3‬‬
‫(‪ )1‬خليفة امليساوي‪ ،‬الذكاء االصطناعي وحوسبة اللغة العربية‪ :‬الو اقع واآلفاق‪ ،‬مجلة مدارات في اللغة‬
‫واألدب الصادرة عن مركز مدارات للدراسات واألبحاث تبسة ‪-‬الجزائر‪ ،‬مجلد ‪ ،1‬عدد ‪2021 ،5‬م‪،‬‬
‫ص‪.14‬‬
‫‪(2) Yavar Bathae- Harvard- THE ARTIFICAL INTELLIGENCE BLACK BOX AND THE FAILUR OF‬‬
‫‪INTENT AND CAUSATION – Journal of Law & Technology Volume 31, 2018, p901.‬‬
‫(‪ )3‬بن عثمان فريدة‪ ،‬الذكاء االصطناعي مقاربة قانونية‪ ،‬مجلة دفاتر السياسة والقانون‪ ،‬جامعة لونيس ي‬
‫علي‪ ،‬الجزائر‪ ،‬املجلد ‪ ،12‬العدد ‪2020 ،2‬م‪ ،‬ص ‪.159‬‬
‫‪16‬‬
‫في الحقيقة «أدى التطور الهائل في التكنولوجيا من جهة وبرامج الذكاء االصطناعي‬
‫من جهة أخرى إلى إحداث كائن كائن جديد وهو اإلنسآلة أو الروبوت»(‪.)1‬‬
‫ينبغي اإلشارة إلى أن الذكاء االصطناعي هو نظام من نظم البرمجيات‪ ،‬أما الروبوت‬
‫ً‬
‫فهو جهاز قد يكون الذكاء االصطناعي عنصرا فيه‪ ،‬وحينئذ يطلق عليه الروبوت الذكي‪،‬‬
‫ً‬
‫أي يتجسد الذكاء االصطناعي ماديا في هيئة الروبوت الذكي‪ ،‬وعلى ضوء ذلك فالذكاء‬
‫االصطناعي نوعان‪ :‬نوع يتجسد بهيئة الروبوت‪ ،‬ونوع آخر ال يتجسد في هيئة مادية‪ ،‬إنما‬
‫يكون على شكل خدمة تستخدم الذكاء االصطناعي‪ ،‬مثل‪ :‬برامج محاكاة املحادثة‬
‫الطبيعية املستخدمة من قبل الشركات لتقيم خدماتها املختلفة(‪.)2‬‬
‫(‪ )1‬أعراب كميلة‪ ،‬مسؤولية الروبوت في ضل الذكاء االصطناعي‪ ،‬مقال منشور في كتاب أعمال ملتقى‬
‫االستثمار املالي والصناعي في الذكاء االصطناعي‪ ،‬جامعة مولود معمري‪ ،‬الجزائر ‪ ،2022‬ص ‪.115‬‬
‫(‪ )2‬محمد عبد اللطيف‪ ،‬املسؤولية عن الذكاء االصطناعي بين القانون الخاص والقانون العام‪ ،‬بحث‬
‫مقدم إلى مؤتمر الجوانب القانونية واالقتصادية للذكاء االصطناعي وتكنولوجيا املعلومات‪ ،‬كلية‬
‫الحقوق‪ ،‬جامعة املنصورة‪2021 ،‬م‪ ،‬ص‪.4‬‬
‫‪17‬‬
‫الفرع األول‬
‫مفهوم الذكاء االصطناعي‬
‫وبالتحديد املفاهيمي للذكاء االصطناعي فإنه يتكون من كلمتين «الذكاء» و‬

‫«االصطناعي»‪ .‬فكلمة «الذكاء ‪ »Intelligence‬تعني‪:‬‬
‫لغة‪ :‬ذكا يذكو ذكاء‪ ،‬وذكو فهو ذكي‪ ،‬فيقال صبي ذكي إذا كان سريع الفطنة‪ ،‬وقال‬
‫ثعلبة بن صعير املازني يصف ظليما ونعامة‪ :‬فتذكرا ثقال رثيدا‪ ،‬بعدما ألقت ذكاء يمينها‬
‫في كافر والذكاء‪ ،‬ممدود‪ :‬حدة الفؤاد‪ .‬والذكاء‪ :‬سرعة الفطنة(‪.)1‬‬
‫أما اصطالحا‪ :‬فهي القدرة على فهم الظروف أو الحاالت الجديدة (أو املتحولة)‪ ،‬أو‬
‫ً‬
‫بتعريف أكثر شموال‪ ،‬يعني الذكاء القدرة على إدراك وفهم وتعلم الحاالت أو الظروف‬
‫الجديدة‪ ،‬أي أن مفاتيح الذكاء هي اإلدراك‪ ،‬الفهم‪ ،‬والتعلم(‪.)2‬‬
‫أما كلمة االصطناعي‪:‬‬
‫ً‬ ‫َ‬ ‫َ‬ ‫ََ َ َُْ ُْ ً‬
‫وص ْن ٌع‪َ :‬ع ِمله‪ ،‬ويقال‪ :‬اصط َن َع فالن خاتما‬ ‫ص ٌ‬
‫نوع ُ‬ ‫عا‪ ،‬فهو َم ْ‬ ‫لغة‪ :‬صنعه يصنعه صن‬
‫صنع له خاتما‪ ،‬وقال تعالى‪ :‬ﱣﳘﳙﳚﳛﳜﳝﱢ(‪.)3‬‬ ‫إذا سأل رجال أن َي ْ‬
‫وقوله تعالى‪ :‬ﱣ ﲆﲇﱢ(‪.)4‬‬
‫ابن منظور‪« :‬معجم لسان العرب»‪ ،‬ج‪ ،14‬ص‪.287‬‬ ‫(‪)1‬‬

‫هاجر بو عوة‪ ،‬تطبيقات الذكاء االصطناعي الداعمة للقرارات اإلدارية في منظمات األعمال‪ ،‬مقال‬ ‫(‪)2‬‬
‫منشور في الكتاب الجماعي املعنون ب «تطبيقات الذكاء االصطناعي كتوجه حديث لتعزيز تنافسية‬
‫منظمات األعمال»‪ ،‬الناشر املركز الديمقراطي العربي للدراسات االستراتيجية والسياسية‬
‫واالقتصادية‪ ،‬برلين‪ ،‬أملانيا‪ ،‬ط‪ ،2019 ،1‬ص‪.25‬‬
‫القران الكريم‪ ،‬سورة النمل‪ ،‬اآلية ‪ ،88‬ص‪.384‬‬ ‫(‪)3‬‬
‫املرجع السابق‪ ،‬سورة طه‪ ،‬اآلية ‪ ،41‬ص‪.314‬‬ ‫(‪)4‬‬
‫‪18‬‬
‫أما التعريف االصطالحي فيعرف بأنه‪« :‬يتكون الذكاء االصطناعي من كلمتين األولى‬
‫ذكاء والثانية اصطناعي‪ ،‬حيث أن الذكاء وحسب قاموس ‪ Webste‬ويعني القدرة على‬
‫فهم الظروف والتطورات الجديدة وإدراكها مع تعلمها‪ ،‬وبالتالي مفاتيح الذكاء متمثلة في‬
‫اإلدراك‪ ،‬الفهم والتعليم‪ ،‬أما بالنسبة لكلمة اصطناعي فهي ناتج األشياء التي تنشأ من‬
‫خالل النشاط أو الفعل الذي يتم من خالل اصطناع وتشكيل األشياء»(‪.)1‬‬
‫أيضا يقصد بمفهوم الذكاء االصطناعي‪ :‬أي عموم املصطلح ويعرف بأنه «املقدرة‬
‫على اكتساب وتطبيق املعرفة على ما اصطنع اإلنسان‪ .‬لذلك فإن الذكاء االصطناعي هو‬
‫الذكاء الذي يصنعه اإلنسان في االلة أو الحاسوب»(‪.)2‬‬
‫أي أنه القيام ببرمجة اآللة ملضاهاة العقل البشري أي جعلها تقوم بنفس األعمال‬
‫التي يقوم بها اإلنسان‪.‬‬
‫بصفة عامة الذكاء االصطناعي‪ :‬هو الذكاء الذي يصنعه أو يصطنعه اإلنسان بيده‬
‫في اآللة أو الحاسوب‪ ،‬بمعنى أنه علم يعرف على أساس هدفه وهو جعل اآلالت‬
‫(منظومات حاسوب) تعمل أشياء تحتاج ذكاء(‪.)3‬‬
‫«ويتكون الذكاء االصطناعي من مفهومين يتم دمجهما ولكنهما مفصوالن من‬
‫الناحية النظرية ويتطوران في بيئة لتكييف السلوك أال وهما‪ ،‬الذاكرة‪ :‬يمثلها التخزين‬
‫وهو شكل من أشكال الذكاء تسمى أيضا الذكاء السلبي ‪.‬واالستدالل‪ :‬وهي القدرة على‬
‫التحليل مع إدراك العالقات بين األشياء واملفاهيم من أجل فهم الحقائق وذلك يكون عن‬
‫طريق استعمال الذاكرة‪ ،‬واملنطق ووسائل أخرى مستسقاة من العلوم الرياضية»(‪.)4‬‬
‫أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش‪ ،6‬ص ‪.11‬‬ ‫(‪)1‬‬

‫ممدوح العدوان‪ ،‬دراسات حول املسؤولية الجنائية عن أفعال كيانات الذكاء االصطناعي غير‬ ‫(‪)2‬‬
‫املشروعة‪ ،‬علوم الشريعة والقانون‪ ،‬املجلد ‪ ،48‬عدد ‪ ،2021 ،4‬صفحة ‪.151‬‬
‫ياسين سعد غالب‪ ،‬أساسيات نظم املعلومات اإلدارية وتكنولوجيا املعلومات‪ ،‬دار املناهج للنشر‬ ‫(‪)3‬‬
‫والتوزيع‪ ،‬ط‪ ،2019 ،1‬عمان‪ ،‬ص‪.114‬‬
‫شهيبي سامية وآخرون‪ ،‬الذكاء االصطناعي بين الواقع واملأمول‪ :‬دراسة تقنية وميدانية‪ ،‬امللتقى =‬ ‫(‪)4‬‬
‫‪19‬‬
‫يرى بعض املختصون أن كلمة أن كلمة ذكاء في عبارة الذكاء االصطناعي هي مجرد‬
‫تعبير مجازي‪ ،‬وذلك أن الذكاء االصطناعي رغم أن لديه القدرة على الحساب بما يتجاوز‬
‫قدرة اإلنسان‪ ،‬إال أن ليس باستطاعته إعطاء مدلول للحسابات التي ينتجها‪ ،‬وبالتالي ال‬
‫تزال وتبقى فكرة أن تحل اآللة محل اإلنسان والتعويض عنه من باب الالمعقول(‪.)1‬‬
‫والبعض يراه ويعتبر الذكاء املوجود في الذكاء االصطناعي ذكاء كمي تراكمي هائل‬
‫يتجاوز إلى حد كبير الذكاء املعرفي لدى عقل البشر اإلنساني في حياته بمتوسط عمر‬
‫ً‬ ‫ً‬
‫بشري ال يتجاوز التسعون عاما بأبسط األحوال‪ ،‬إال أنه ال يزال الذكاء االصطناعي عاجزا‬
‫عن امتالك مقومات التحليل البشري للمفاهيم الفلسفية واالجتماعية التي تتضارب‪،‬‬
‫ُ‬
‫كالتي تتعلق باملماحكة الفلسفية واملحاججة القانونية‪ ،‬وبالتالي يعتبر ذكاء قائم ذكاء‬
‫قائم يتصف بالوجود واالستقالل‪ ،‬ولكنه يعتبر ذكاء غير عاقل أي غير مدرك وغير‬
‫مكتمل‪ ،‬وقد أثار ذلك الكثير من التحفظات القانونية في إطار حماية ذلك الذكاء(الذكاء‬
‫االصطناعي) (‪.)2‬‬
‫= الدولي حول الذكاء االصطناعي‪ :‬تحد جديد للقانون‪ ،‬جامعة الجزائر‪ ،‬الجزائر‪ ،‬ص‪.6‬‬
‫(‪ )1‬محمد مشعل‪ ،‬الذكاء االصطناعي وآثاره على حرية التعبير في مواقع التواص االجتماعي‪ ،‬مجلة البحوث‬
‫القانونية واإلقتصادية‪ ،‬عدد‪ ،77‬كلية الحقوق جامعة الزقاقيق‪2021 ،‬م‪ ،‬ص‪.499‬‬
‫(‪ )2‬محمد الخطيب‪ ،‬الذكاء االصطناعي والقانون‪-‬دراسة نقدية مقارنة في التشريعين املدني الفرنس ي‬
‫والقطري‪-‬في ضوء القواعد األوروبية في القانون املدني لإلنسآلة لعام ‪2017‬والسياسة الصناعية‬
‫األوروبية للذكاء االصطناعي واإلنسآالت لعام ‪ ،2019‬مجلة جامعة بيروت العربية‪ ،‬مجلة الدراسات‬
‫القانونية‪ ،‬املادة ‪2020 ،4‬م‪ ،‬بدون رقم صفحة‪.‬‬
‫‪20‬‬
‫الفرع الثاني‬
‫تعريف الذكاء االصطناعي‬
‫إن مصطلح الذكاء االصطناعي ليس بحديث العهد‪« ،‬فقد تنبأ له الفيلسوف‬
‫الفرنس ي «بول فاليري ‪ »poul Valery‬دفاتره الشهيرة في بداية القرن التاسع عشر بقوله‪:‬‬
‫«كل إنسان هو في الحقيقة طور التحول ليصبح آلة‪ ،‬ال بل األصح هو أن اآللة هي التي‬
‫بصدد تطورها لتتحول إلى إنسان»‪ ،‬فكانت هذه املقولة أول طرح فعلي إلشكالية‬
‫مستقبل اآللة في تعايشها مع اإلنسان‪ ،‬وسجل هذا التساؤل أول طرح في مجال الذكاء‬
‫االصطناعي»(‪.)1‬‬
‫أما بخصوص تناول مصطلح الذكاء االصطناعي في األبحاث فقد ظهر مصطلح‬
‫الذكاء االصطناعي أول مرة في بحث لعالم الحاسوب جون مكارثي‪ ،‬وقد اقترح فيه أنه‬
‫يمكن تحقيق تقدم كبير إذا أمكن لآلالت أن تحل املسائل التي ال يحلها سوى البشر‪،‬‬
‫وقد عرف الذكاء االصطناعي بأنه‪« :‬علم وهندسة صنع اآلالت الذكية»(‪.)2‬‬
‫ويمكن تعريفه كتقنية بأنه عبارة عن استحداث آلة حتى تتمكن من ميكنة‬
‫النشاطات يتطلب الذكاء اإلنساني لتنفيذها‪ ،‬مثل‪ :‬اتخاذ القرارات والقدرة على حل‬
‫املشكالت(‪.)3‬‬
‫ثم سرعان ما زاد استخدام املصطلح بعد ذلك في ظل النهضة التقنية التي شهدها‬
‫(‪ )1‬صابر الهدام‪ ،‬رسالة دبلوم ماستر تحت عنوان القانون في مواجهة الذكاء االصطناعي (دراسة‬
‫مقارنة) ‪ ،‬جامعة سيدي محمد بن عبد هللا بفأس‪ ،‬كلية العلوم القانونية واالقتصادية واالجتماعية‪،‬‬
‫‪ ،2021‬ص‪.6‬‬
‫(‪ )2‬إيناس الخالدي‪ ،‬حوكمة استخدام الذكاء االصطناعي في العمل القضائي‪ ،‬مجلة البحوث والدراسات‬
‫الشرعية‪ ،‬مجلد ‪ ،10‬عدد ‪2021 ،116‬م‪ ،‬ص ‪.160‬‬
‫‪(3) Gabrile Hallevy-Liability for Crimes Involving Artificial Intelligence Systems-Springer‬‬
‫‪International publishing Switzerland,2015 -2014,p7.‬‬
‫‪21‬‬
‫العالم في مجال تطوير اآلالت‪ ،‬وأصبحت أبحاث الذكاء االصطناعي في القرن الواحد‬
‫والعشرين على درجة عالية من التخصص بحيث يخدم في العديد من املجاالت(‪.)1‬‬
‫يعرف الذكاء االصطناعي بأنه «علم يهتم بصناعة آالت تقوم بتصرفات يعتبرها‬
‫االنسان تصرفات ذكية أو ببساطة أكثر يعرفه رسل بيل‪-‬أحد العاملين في مجال الذكاء‬
‫االصطناعي على انه محاولة جعل اآلالت العادية تتصرف كاآلالت التي نراها في الخيال‬
‫العلمي»(‪.)2‬‬
‫وأيضا يعرف الذكاء االصطناعي بأنه «هو محاولة جعل الكمبيوتر أو اآللة التي‬
‫تعمل بالبرمجة مثل‪ :‬اإلنسان سواء في تفكيره‪ ،‬أو تصرفاته‪ ،‬أو حل ملشكالته‪ ،‬وممارسته‬
‫لكافة حياته اليومية‪ ،‬وذلك عن طريق دراسات تجرى على اإلنسان وتستخلص منها نتائج‬
‫تساعد في تفسير سلوك اإلنسان وبرمجة ذلك لتطبيقه على اآللة»(‪.)3‬‬
‫ويمكن تلخيص التعريفات السابقة للذكاء االصطناعي بأنه‪« :‬فرع من علوم‬
‫الحاسوب يمكن بواسطته خلق وتصميم برامج الحاسبات التي تحاكي أسلوب الذكاء‬
‫ً‬
‫اإلنساني‪ ،‬لكي يتمكن الحاسوب من أداء بعض املهام بدال من اإلنسان‪ ،‬والتي تتطلب‬
‫التفكير والتفهم والسمع والتكلم والحركة بأسلوب منطقي ومنظم»(‪.)4‬‬
‫وبحسب أبسط العبارات يشير مصطلح الذكاء االصطناعي إلى األجهزة أو األنظمة‬
‫التي تحاكي الذكاء البشري للقيام بأداء املهام والتي تتمكن من اصالح والتحسين من‬
‫عائشة عبد الحميد‪ ،‬اإلطار القانوني والتشريعي للرقمنة والذكاء االصطناعي‪ ،‬جمعية التنمية‬ ‫(‪)1‬‬
‫التكنولوجية والبشرية‪ ،‬الجزائر‪2020 ،‬م‪ ،‬ص ‪.93‬‬
‫عادل عبد النور‪ ،‬مدخل إلى عالم الذكاء االصطناعي‪ ،‬اململكة العربية السعودية‪ ،‬مدينة امللك عبد‬ ‫(‪)2‬‬
‫العزيز للعلوم والتقنية‪ ،2005 ،‬صفحة ‪.7‬‬
‫يحيى دهشان‪ ،‬املسؤولية الجنائية عن أضرار الذكاء االصطناعي‪ ،‬مجلة الشريعة والقانون كلية‬ ‫(‪)3‬‬
‫القانون جامعة اإلمارات‪ ،‬اإلمارات العربية املتحدة‪ ،2019 ،‬ص‪.14‬‬
‫محمود مختار‪ ،‬تطبيقات الذكاء االصطناعي‪ ،‬املجلة الدولية للبحوث في العلوم التربوية‪ ،‬املؤسسة‬ ‫(‪)4‬‬
‫الدولية آلفاق املستقبل‪ ،‬مجلد ‪ ،3‬عدد ‪2020 ،4‬م‪ ،‬ص ‪.183‬‬
‫‪22‬‬
‫ً‬
‫نفسها استنادا إلى املعلومات التي تقوم بجمعها(‪.)1‬‬
‫لم يتعرض الفقهاء في كتاباتهم عن الذكاء االصطناعي أو تقنياته أو كياناته‪ ،‬فقد‬
‫ُعرف عصر الفقه اإلسالمي بأنه ليس عصر التصنيع واآلالت والتطور الذي يشهده‬
‫عصرنا الحالي ولم يتعرضوا حتى عن املسؤولية الناتجة عن أفعال اآلالت(‪.)2‬‬
‫ويتبين من التعريفات السابقة أن الذكاء االصطناعي‪ :‬علم اآللة الحديثة‪ ،‬وفرع من‬
‫فروع علم الحاسوب وهو عبارة عن قيام االنسان بمحاولة برمجة‪ ،‬وتطوير اآللة‪ ،‬أو‬
‫الحاسوب أو األنظمة‪ ،‬وإيجاد وصنع تقنيات حديثة‪ ،‬بحيث تصبح قادرة ولديها إمكانية‬
‫على أداء بعض املهام التي يقوم بها البشر كالتعلم‪ ،‬والتفكير‪ ،‬واالستنباط‪ ،‬والتنفيذ على‬
‫أرض الواقع وحل املشكالت‪ ،‬والتفهم‪ ،‬والسمع‪ ،‬والتكلم‪ ،‬والحركة بأسلوب منطقي‬
‫ومنظم‪ ،‬والقدرة على محاكاة السلوك البشري املتسم بالذكاء والتكيف مع مرور الوقت‬
‫ً‬
‫وهو موجود في كل مكان حولنا بداية من السيارات ذاتية القيادة‪ ،‬والطيارات املسيرة‬
‫بدون طيار‪ ،‬وبرمجيات الترجمة واالستثمار وغيرها من التطبيقات الكثيرة املنشرة‪.‬‬
‫وال مجال للشك والحديث أنه ومهما حاول اإلنسان إال أنه لن يستطيع إيجاد‬
‫قدرات وخصائص في هذه التقنيات واآلالت إلى درجة اإلتقان الكامل في أن يجعلها‬
‫مطابقة لقدرات اإلنسان؛ فصنع يد البشر يتصف بالنقص‪ ،‬وتبقى مجرد جمادات بال‬
‫ً‬
‫روح أو إحساس أو مشاعر‪ ،‬ودائما وأبدا الكمال لصنع هللا عز وجل الذي أتقن كل ش يء‬
‫أوجده وخلقه ثم هدى‪.‬‬
‫(‪ )1‬طاهر أبو العيد‪ ،‬مقال قانوني حول الذكاء االصطناعي والقانون‪ ،‬مصر‪2023 ،‬م‪ ،‬بدون رقم صفحة‪.‬‬
‫(‪ )2‬إبراهيم‪ ،‬ريهان السيد‪ ،‬مارك‪ ،‬موقع إلكتروني املنظومة ‪« ،ALMANDUMAH‬أساس املسئولية عن فعل‬
‫األشياء غير الحية في الفقه اإلسالمي»‪ ،‬مجلة الدراسات القانونية‪ ،‬جامعة مدينة السادات‪ ،‬مصر‪،‬‬
‫‪ ،2022 ،https://search.mandumah.com‬بدون رقم صفحة‪ ،‬تاريخ الزيارة ‪.12-10-2023‬‬
‫‪23‬‬
‫املطلب الثاني‬
‫منوذج الذكاء االصطناعي‬
‫وميكن تقسيمه إىل ثالثة مناذج‪:‬‬

‫ً‬
‫‪ -‬نموذج ذكاء اصطناعي بسيط محدود (الضيق)‪ :‬ويعرف أيضا باسم الذكاء‬
‫االصطناعي الضعيف‪ ،‬وهو من أبسط أشكال وأنواع الذكاء االصطناعي املصممة ألداء‬
‫مهام فردية‪ ،‬متخصص في مجال واحد‪ ،‬ويكون في مجال معين ويحل مشكلة محددة‪،‬‬
‫ً‬ ‫ً‬
‫وحيث «أن الذكاء االصطناعي ليس شيئا واحدا‪ ،‬فتطبيقاته متعددة وإمكانياتها مختلفة‬
‫ومتباينة‪ ،‬فالغالب على تطبيقات الذكاء االصطناعي أنها ال تعمل باستقالل وإنما تعمل‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬
‫بتحكم اإلنسان فيها‪ ،‬سواء أكان مصنعا أم مبرمجا لها‪ ،‬أم مالكا أم مستخدما غير‬
‫املالك»(‪.)1‬‬
‫وفي هذا النموذج يقوم املبرمج بتعيين وبرمجة املهام داخل بيئة محددة‪ ،‬ويقوم بها‬
‫وال يخرج عن هذه املهام املكلفة بها‪ .‬ومن األمثلة على ذلك االلة الحاسبة‪ ،‬الهاتف‬
‫املحمول‪ ،‬محركات البحث في االنترنت‪ ،‬اآلالت في املصانع وفي الزراعة وغيرها‪.‬‬
‫ً‬
‫ومن أشهر األمثلة أيضا على تطبيقات الذكاء االصطناعي الضيق الروبوت (ديب‬
‫بلو‪ )DEEP BLUE‬صنع شركة ‪ IBM‬وقد قام بهزيمة بطل العالم للشطرنج غاري‬
‫كاسباروف‪ ،‬ومثال آخر املساعدة االفتراضية سيري )‪ )Siri‬على أجهزة (االيفون ‪،)iPhone‬‬
‫وتعتبر سيري مساعد شخص ي ذكي ومتصفح يعمل كتطبيق لشركة أبل‪ ،‬على نظامه‬
‫التشغيلي أي أو إس‪ ،‬لتنفيذ إجراءات مجموعة من خدمات االنترنت‪ ،‬والرد على األسئلة‬
‫(‪ )1‬سارة إطميزي‪ ،‬الذكاء االصطناعي في ظل القانون الجزائي‪ ،‬رسالة ماجستير‪ ،‬قدمت استكماال‬
‫ملتطلبات درجة املاجستير في القانون العام من كلية الدراسات العليا‪ ،‬جامعة القدس‪ ،‬فلسطين‪،‬‬
‫‪2022‬م‪ ،‬ص‪.21‬‬
‫‪24‬‬
‫وتقديم التوصيات(‪.)1‬‬
‫ً‬
‫‪ -‬نموذج ذكاء اصطناعي متقدم (القوي)‪ :‬ويعرف أيضا باسم الذكاء االصطناعي‬
‫العام‪« ،‬وهو نوع من الذكاء االصطناعي يعمل باستقالل إلى حد ما‪ ،‬وله القدرة على جمع‬
‫املعلومات وتحليلها ومن ثم اتخاذ قرارات بشكل مستقل وذاتي‪ ،‬لكن هذا االستقالل‬
‫ً‬
‫ليس تاما‪ ،‬فهذه األنظمة التي تخوله العمل باستقالل من صنع اإلنسان‪ ،‬الذي صنع‬
‫ً‬ ‫ً‬
‫الذكاء االصطناعي وبرمجه وفقا لنظام خاص يعمل به ووفقا له‪ ،‬حتى فيما يزعمه‬
‫البعض من أنها تعمل فيه باستقالل؛ فهي ال تعمل إال وفق النظام الذي تم برمجتها‬
‫عليه»(‪.)2‬‬
‫يعتبر النموذج املتقدم أكثر شمولية من الذكاء االصطناعي البسيط وال يقتصر‬
‫فقط على تكليف االلة بالقيام بأوامر معينة ومعطاة لها بل ويتم تمكينها وبرمجتها على‬
‫إمكانية االلة من التفكير ذاتيا وتطوير ذلك بناء على خوارزميات برمجية وقواعد بيانات‬
‫ضخمة مما يمكنها من تطوير نفسها واتخاذ قرارات ذاتية وتنفيذ هذه القرارات فبالتالي‬
‫أصبحت شبيهة بالبشر‪ .‬ومن االمثلة على هذا النوع‪ :‬الحواسيب‪ ،‬ماكينات الصرف لدى‬
‫البنوك‪ ،‬الطيارات بدون طيار‪ ،‬والسيارات ذاتية القيادة وغيرها‪.‬‬
‫‪ -‬الذكاء االصطناعي الفائق الخارق‪ :‬وهو نموذج يسعى ملحاكاة االنسان تحتوي‬
‫على نمطين األول‪ :‬يفهم األفكار البشرية وتأثيرها على سلوك البشر ولديه القدرة على‬
‫التفاعل االجتماعي‪ .‬وأما النمط الثاني‪ :‬نموذج لنظرية العقل‪ ،‬للتعبير والتبؤ بمشاعر‬
‫االخرين وهذا النموذج ال زال تحت التجربة‪ ،‬ومن املتوقع عند التوصل لصناعتها على‬
‫أرض الواقع أن تكون هي الجيل القادم من اآلالت الفائقة الذكاء(‪.)3‬‬
‫يعتبر نموذج الذكاء االصطناعي الخارق مشروع افتراض ي‪ ،‬غير موجود حتى اآلن‪،‬‬
‫(‪ )1‬عمر إدلبي‪ ،‬املسؤولية الجنائية الناتجة من أعمال الذكاء االصطناعي‪ ،‬رسالة ماجستير في القانون‬
‫العام‪ ،‬كلية القانون‪ ،‬جامعة قطر‪ ،2023 ،‬ص ‪.24‬‬
‫(‪ )2‬إطميزي‪ ،‬املرجع السابق‪ ،‬هامش‪ ،31‬ص‪.21‬‬
‫(‪ )3‬أدلبي‪ ،‬املرجع السابق‪ ،‬هامش‪ ،32‬ص‪.25-24‬‬
‫‪25‬‬
‫ويتوقع العلماء أن يكون موجود على أرض الواقع بحلول عام ‪ ،2060‬إال أنه ثار جدل‬
‫ً‬
‫حاد حوله بين مؤيد ومعارض وانتقادات العتباره خطرا على حيات األفراد واملجتمعات‬
‫ً‬
‫وستكون اآللة تعوض اإلنسان وتحل محله في كل ش يء تقريبا(‪.)1‬‬
‫يتسلل الخوف من املجهول إلينا عندما يصبح الذكاء االصطناعي خارج نطاق‬
‫السيطرة‪ ،‬بمعنى أننا ال نستطيع فهم العمليات التي تحرك نظام أو كيان الذكاء‬
‫االصطناعي ألن عنصر التعلم الذاتي والتدريس يتجاوز فهمنا البشري وهذا ما يسمى‬
‫أيضا في تطوير الذكاء بالوسائل االصطناعية‪،‬‬‫بـالذكاء الفائق‪ ،‬وقد تظهر هذه الزيادة ً‬
‫مما أدى إلى ظهور كيانات فائقة الذكاء ذات طابع رقمي حيوي أو‪ ،‬بالطبع‪ ،‬مظهر لم‬
‫تعرفه البشرية بعد‪ ،‬وقد عرف نيك بوستروم أنظمة الذكاء الفائق بأنها‪« :‬أي عقل يتفوق‬
‫بشكل جذري على أفضل العقول البشرية في كل مجال‪ ،‬بما في ذلك اإلبداع العلمي‬
‫والحكمة العامة واملهارات االجتماعية»(‪.)2‬‬
‫ً‬
‫ديناميكيا بدأ‬ ‫ً‬
‫متطورا‬ ‫ً‬
‫مفهوما‬ ‫الروبوت ليس فائق الذكاء بعد‪ ،‬ولكن يمكن اعتباره‬
‫كآلة‪ ،‬مدعومة بالذكاء االصطناعي ويتطور باستمرار إلى روبوت معقد يعمل بشكل‬
‫مستقل‪ ،‬وربما في مرحلة الحقة‪ ،‬فائق الذكاء أو نظام شبه بشري‪ ،‬وإن طبيعة هذا‬
‫ً‬ ‫ً‬ ‫ً‬
‫عضويا كيميائيا أقل صلة بتوصيفه القانوني وستكون حالة‬ ‫إلكترونيا أو‬ ‫الكيان‬
‫االستقاللية الذكية ووظيفتها في املجتمع أكثر أهمية في تحديد وضعها القانوني‪.‬‬
‫(‪ )1‬امليساوي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،7‬ص ‪.16‬‬

‫‪(2) Marcelo Corrales, Mark Fenwick, Robotics, AI and the Future of Law, KYUSHU‬‬
‫‪UNIVERSITY, Springer Nature Singapore, 2018, P 32.‬‬
‫‪26‬‬
‫خصائص الذكاء االصطناعي‬
‫يتمتع الذكاء االصطناعي بالعديد من الخصائص والسمات األساسية‪ ،‬ومنها‪:‬‬

‫ً ً‬
‫‪ )1‬التمثيل الرمزي‪ :‬أي أنها تستخدم أساسا رموزا غير رقمية في برامجها‪ ،‬فعلى املستوى‬
‫القاعدي فإن الحاسب يتكون من نبائط ثنائية ال تتخذ إال أحد الوضعين يرمز لهما‬
‫ب «‪ 1‬أو صفر»‪.‬‬
‫‪ )2‬التواصل‪ :‬فيمكن لألشخاص التواصل مع كيانات الذكاء االصطناعي‪ ،‬وكلما كان‬
‫التواصل أسهل كلما دل على درجة الذكاء أنها أكبر‪.‬‬
‫‪ )3‬والقدرة على االدراك‪ ،‬واالبداع‪ :‬كأنظمة الرياضة والرسم‪ ،‬والقدرة على التعلم من‬
‫األخطاء وتحسين األداء من خالل اإلفادة من األخطاء السابقة بمعنى التعلم من‬
‫املحاولة والخطأ‪ ،‬واالبداع والسلوك املدفوع بالهدف كاتخاذ اإلجراءات بالترتيب‬
‫لتحقيق أهدافه(‪.)1‬‬
‫‪ )4‬إمكانية تمثيل املعرفة‪ :‬وذلك عن طريق احتوائها على أسلوب لتمثيل املعلومات‬
‫باستخدام هيكلية خاصة لوصف املعرفة‪ ،‬وهذه الهيكلية تجمع بين الحقائق‬
‫والقواعد املعرفية(‪.)2‬‬
‫‪ )5‬استخدام األسلوب التجريبي املتفائل‪ :‬من خالل اقتحام برامج الذكاء االصطناعي‬
‫للمسائل التي ليس لها طريقة حل عامة معروفة والتركيز على الحلول الوافية‪ ،‬وال‬
‫تستخدم البرامج خطوات متسلسلة تؤدي للحلول الصحيحة‪ ،‬إنما تختار طريقة‬
‫تبدو جيدة مع احتمالية تغييره إذا اتضح أن الخيار األول ال يعطي الحل‬
‫(‪ )1‬العدوان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،17‬ص ‪.151‬‬

‫(‪ )2‬أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،6‬ص‪.13‬‬
‫‪27‬‬
‫الصحيح(‪.)1‬‬
‫‪ )6‬البيانات الغير كاملة‪ :‬للذكاء االصطناعي القدرة على التوصل لحل املسائل في حال‬
‫عدم توافر جميع بياناتها الالزمة وقت الحاجة(‪.)2‬‬
‫‪ )7‬البيانات املتضاربة‪ :‬للذكاء االصطناعي القدرة على التعامل مع البيانات املتضاربة‬
‫والتي يشوبها الخطأ والتناقض مع بعضها البعض(‪.)3‬‬
‫‪ )8‬القابلية على التعلم‪ :‬باستطاعة الذكاء االصطناعي التعلم من الخبرات السابقة‬
‫والقدرة والقابلية لها نحو تحسين اآلداء(‪ ،)4‬وتوظيفها في مواقف جديدة‪ .‬القدرة‬
‫على االستنتاج واالستدالل التعلم واملعرفة الخارجية‪ ،‬القدرة على التعلم واملعرفة‬
‫الداخلية كأن يكون لكيانه معرفة عن نفسه‪ ،‬والتعليم واملعرفة الخارجية كأن‬
‫يعرف العالم الخارجي أو يتعلم عنه ويعمل على استخدام تلك املعلومات‪.‬‬
‫‪ )9‬االستدالل‪ :‬عن طريق امتالك القدرة على اكتشاف ش يء ما أو فكرة من خالل‬
‫مستندات ومعطيات إرشادية(‪.)5‬‬
‫‪ )10‬الغموض‪ :‬وذلك عن طريق استخدام تقنيات الذكاء في حل املشكالت املعروضة‪،‬‬
‫والتعامل مع الحاالت الصعبة واملعقدة‪ ،‬املواقف الغامضة في ظل غياب املعلومة‬
‫الكاملة عنها(‪ .)6‬وتعتبر هذه الخاصية ما تميز الذكاء االصطناعي عن اآللة التقليدية‬
‫(‪ )1‬أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش‪ ،6‬ص ‪.13‬‬

‫(‪ )2‬آالن بونيه‪ ،‬الذكاء االصطناعي و اقعه ومستقبلية‪ ،‬مطابع السياسة‪ ،‬الكويت‪ ،‬بدون طبعة‪،1993 ،‬‬
‫ص‪.17‬‬
‫(‪ )3‬آالن بونيه‪ ،‬املرجع السابق‪ ،‬هامش‪ ،40‬ص ‪.17‬‬
‫(‪ )4‬أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش‪ ،6‬صفحة ‪.14‬‬
‫‪(5) Pradipta kumar Das, Clandrasekhar Rao, Kishore kumar sahu, Artificial intellence lecture‬‬
‫‪Notes, Bachelor, Departement of computer science and engineering & information‬‬
‫‪technology, veer surendra Sai university of technology, (without a year).‬‬
‫(‪ )6‬إطميزي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،31‬ص‪.6‬‬
‫‪28‬‬
‫أو البرنامج العادي‪ ،‬وعبر بعض املعلقين عن هذه الخاصية بخاصية الصندوق‬
‫األسود ‪ BlackBox‬وتتسم بعدم الشفافية في عملية صنع القرارات وعدم القدرة‬
‫على التنبؤ بقرارات ومخرجات الذكاء االصطناعي حتى من قبل املصمم أو املبرمج‬
‫لهذه األنظمة ألن خوارزمياتها لديها القدرة على التعلم من ممارساتها(‪.)1‬‬
‫‪ )11‬جعل العالم قرية صغيرة‪ :‬وذلك عن طريق تقنية االنترنت التي دمجت العالم بأسره‬
‫مع البعض‪ ،‬وحررتهم من قيود املكان ونشرت املعلومات في كافة أنحاء العالم‪.‬‬
‫‪ )12‬ثمرة من ثمار العقود الزمنية التي بذل فيها اإلنسان كل ما يمكن من معرفة وأموال‬
‫حتى تمكن من الوصول إلى خلق عقل اصطناعي يفكر مع االنسان‪ ،‬يساعده وينوب‬
‫عنه في بعض املهام(‪.)2‬‬
‫وللذكاء االصطناعي العديد من الخصائص واملميزات في املجال الجنائي(‪ ،)3‬ومنها‪:‬‬
‫ً‬
‫‪ )1‬تصنيف املجرمين والقبض عليهم بعيدا عن األهواء الشخصية مثل البشر‬
‫(الشرطة الرقمية)‪.‬‬
‫ً‬
‫‪ )2‬والتنبؤ بالجرائم ووقوعها ونسب اإلجرام واألماكن والبؤر اإلجرامية مستقبال‬
‫(الشرطة االستباقية)‪.‬‬
‫‪ )3‬واملساعدة في إجراءات التفتيش في سبيل الحصول على األدلة الجنائية‪ ،‬مثل‪ :‬رادار‬
‫قياس األرض املستخدم للكشف عن املوجود تحت األرض للبحث عن األسلحة‪،‬‬
‫املخدرات وجثث القتلى دون الحاجة للحفر والتنقيب‪ ،‬الرادار املحمول عبر موجات‬
‫الراديو للكشف عن الحركة والتنفس ملسافة أكثر من ‪50‬قدم‪.‬‬
‫‪ )4‬وكذلك جهاز نقار الخشب في املراقبة السمعية والتنصت عن بعد وغيرها‪.‬‬
‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص‪.37‬‬

‫(‪ )2‬فريدة‪ ،‬مرجع سابق‪ ،‬هامش‪ ،9‬ص‪.156‬‬
‫(‪ )3‬أدلبي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،32‬ص‪.31-30‬‬
‫‪29‬‬
‫‪ )5‬وإعادة بناء مسرح الجريمة عبر نموذج شبكة القرار للتنبؤ‪.‬‬

‫«ولعل أبرز ما يميز برامج الذكاء االصطناعي عن غيرها من البرامج األخرى هو قدرتها‬
‫الفائقة على التعلم‪ ،‬واكتساب الخبرة‪ ،‬واتخاذ القرار باستقاللية دون االشراف البشري‬
‫املباشر‪ ،‬فضال عن تمتعها بمهارات التسبيب واالستنباط والتكييف مع البيئة‬
‫املحيطة»(‪.)1‬‬
‫وعلى الرغم من الخصائص‪ ،‬والسمات‪ ،‬واملزايا املتنوعة واملتعددة لتقنيات الذكاء‬
‫االصطناعي إال أن هذه التقنيات تثير العديد من املشكالت والتحديات‪ ،‬وخاصة فيما‬
‫يتعلق بمدى مالءمة التشريعات الحالية لتنظيمها وتوفير الحماية القانونية لألطراف‬
‫أصحاب العالقة‪ ،‬ومدى قدرتها على استيعاب الخصائص الفريدة لهذه التكنولوجيا(‪.)2‬‬
‫ً‬
‫فضال عما يحتويه الذكاء االصطناعي من سلبيات متعددة ويمكن ذكر هذه‬
‫السلبيات‪ ،‬وبدون حصرها في جانبين‪:‬‬
‫األول‪ :‬أن يحل الذكاء االصطناعي محل األيدي البشرية العاملة مما يشكل خطرا‬
‫على شغل الوظائف وتفش ي البطالة‪ ،‬زيادة معدل الجريمة في املجتمع‪ ،‬فاليوم نجد في‬
‫معظم الدول املتقدمة قد استغنت عن موظفيها العمال العاديين من البشر‪ ،‬وانخفض‬
‫الطلب على أصحاب الخبرات واملهارات وأصبحت تعتمد على تقنيات وأجهزة الذكاء‬
‫االصطناعي ففي نظرهم هذه التقنيات توفر وقت وجهد وتؤدي املهام بشكل أسرع وهو‬
‫أكثر إنتاجية وجودة من العمال وجراء هذا حل للذكاء االصطناعي مكان األيدي العاملة‪.‬‬
‫إن الجمع بين تحسين القدرات في تكنولوجيا الذكاء االصطناعي وفضول اإلنسان‬
‫واحتياجات الصناعة هو املسؤول عن التوسع العالمي في استخدام تكنولوجيا الذكاء‬
‫االصطناعي‪ ،‬ويستمر هذا االتجاه حتى األلفية الثالثة‪ ،‬حيث يتم استبدال الوظائف‬
‫(‪ )1‬عماد الدحيات‪ ،‬نحو تنظيم قانوني للذكاء االصطناعي في حياتنا‪ :‬إشكالية العالقة بين البشر واآللة‪،‬‬
‫مجلة االجتهاد للدراسات القانونية واالقتصادية‪ ،‬مجلد ‪ ،8‬عدد ‪ ،2009 ،5‬ص ‪.16‬‬
‫(‪ )2‬الدحيات‪ ،‬املرجع سابق‪ ،‬هامش ‪ ،48‬ص ‪.16‬‬
‫‪30‬‬
‫البشرية التقليدية بتقنيات الذكاء االصطناعي‪ .‬على سبيل املثال‪ ،‬تستخدم حكومة كوريا‬
‫الجنوبية اآلن روبوتات الذكاء االصطناعي كجنود لحراسة الحدود مع كوريا الشمالية‪،‬‬
‫وكمعلمين في املدارس؛ ومنذ عام ‪ ،2012‬كحراس سجن(‪.)1‬‬
‫والثاني‪ :‬زيادة انتهاك الذكاء االصطناعي وتقنياته للحياة الشخصية لآلخرين والحق‬
‫في الخصوصية بأشكال مختلفة سواء عن طريق االختراق‪ ،‬والتجسس على بيانات‬
‫األشخاص اآلخرين‪ ،‬من ِقبل أشخاص متخصصين في علوم الحاسوب والبرمجة ومن‬
‫يسمون بالقراصنة اإللكترونيين‪ ،‬أو قد يتم تهديد وابتزاز صاحب البيانات املسروقة‬
‫سواء صور أو مقاطع فيديو خاصة‪ ،‬أو اإلضرار به من خالل إتالف وحذف‪ ،‬أو تعطيل‬
‫البيانات املوجودة على أجهزة حاسوبه أو هاتفه الشخص ي‪.‬‬
‫وعلى الرغم مما سبق تبقى هناك عدة عواقب سلبية إلدخال الذكاء االصطناعي‬
‫والروبوتات في جميع أنحاء املجتمع‪ ،‬والخوف من فقدان الوظائف وفقدان السيطرة‬
‫والخوف في نهاية املطاف على مستقبل البشرية‪ ،‬لدينا ً‬
‫أيضا ميل إلى إبراز الجوانب‬
‫السلبية ألي تقنية جديدة‪ ،‬وبالتأكيد عندما ال نفهم التكنولوجيا وعواقبها بشكل كامل‪،‬‬
‫وكما ذكر أحد املفكرين الغربيين آرثر كالرك في روايته «ملحات عن املستقبل‪ :‬تحقيق في‬
‫حدود املمكن» ما يسمى بقانونه الثالث‪ :‬أي تكنولوجيا متقدمة بما فيه الكفاية ال يمكن‬
‫تمييزها عن السحر ‪.‬والسحر غير مفهوم‪ ،‬وبالتالي فهو خطير‪ ،‬كما حذرنا ستيفن هوكينج‬
‫وإيلون ماسك وآخرون أن الذكاء االصطناعي هو «أكبر خطر نواجهه كحضارة» و«الذكاء‬
‫ً‬
‫االصطناعي هو حالة نادرة حيث نحتاج إلى أن نكون استباقيين في التنظيم بدال من‬
‫ذلك»(‪.)2‬‬
‫رد الفعل ألنه إذا كنا نريد رد الفعل في تنظيم الذكاء االصطناعي فقد فات األوان‪،‬‬
‫ً‬ ‫ً‬
‫وبالتالي فإن الذكاء االصطناعي يشكل خطرا أساسيا على وجود الحضارة ككل‪ ،‬كما أكد‬
‫‪(1) GabRiel hallevy, WHEN ROBOTS KILL ARTIFICAL INTELLIGENCE UNDER CRIMINAL‬‬
‫‪LAW, Northastern University Press, Boston,2013 ,p4.‬‬
‫‪(2) Marcelo Corrales, Mark Fenwick, previous reference, footnote 36, p 16.‬‬
‫‪31‬‬
‫ً‬
‫فالديمير بوتين على كيف يمكن أن يكون الذكاء االصطناعي موضوعا لـسباق تسلح‬
‫جديد في خطاب ألقاه بمناسبة افتتاح العام الدراس ي في روسيا أن‪« :‬الذكاء االصطناعي‬
‫هو املستقبل‪ ،‬ليس فقط بالنسبة لروسيا‪ ،‬بل للبشرية جمعاء ألنه يأتي مع فرص هائلة‪،‬‬
‫ولكن أيضا تهديدات يصعب التنبؤ بها ومن يصبح القائد في هذا املجال سيصبح حاكم‬
‫ً‬
‫العالم‪ ».‬رغم ذلك‪ ،‬وفقا لبوتين‪ ،‬ال داعي للقلق‪« :‬إذا أصبحنا قادة في هذا املجال‪،‬‬
‫فسوف نشارك هذه املعرفة مع العالم أجمع‪ ،‬بنفس الطريقة التي نشارك بها تقنياتنا‬
‫ً‬
‫النووية اليوم»‪ .‬إن كالم بوتين لم يرض ي إيلون ماسك الذي غرد بما يلي ردا عليه‪« :‬مثل‬
‫الصين وروسيا ً‬
‫وقريبا جميع الدول التي تتمتع بعلوم كمبيوتر قوية‪ ،‬ومن املرجح أن تكون‬
‫املنافسة على تفوق الذكاء االصطناعي على املستوى الوطني هي السبب وراء الحرب‬
‫العاملية الثالثة»(‪.)1‬‬
‫‪(1) Marcelo Corrales, Mark Fenwick ,previous reference, footnote 36, p 16-17.‬‬
‫‪32‬‬
‫أهمية الذكاء االصطناعي‬
‫تعتمد تقنيات الذكاء االصطناعي على عدة تخصصات مثل‪ :‬علم الكمبيوتر‪،‬‬
‫والبيولوجيا‪ ،‬وعلم النفس‪ ،‬والرياضيات‪ ،‬واللغويات‪ ،‬والهندسة حيث يتمثل الهدف‬
‫الرئيس ي للذكاء االصطناعي في تطوير وظائف الكمبيوتر املرتبطة بالذكاء البشري‬
‫كالتعليم‪ ،‬والتفكير‪ ،‬وحل املشكالت(‪.)1‬‬
‫ولحصر تلك الجوانب‪ ،‬وعلينا االعتراف بأن الذكاء االصطناعي قد يكون أكثر قدرة‬
‫حتى على البحوث العلمية فقد يتسلم القيادة حتى يتم التوصل للعديد من االكتشافات‬
‫املفيدة في حياتنا وبالتالي املساهمة في التطور والنمو في شتى ميادين الحياة العلمية‬
‫والعملية‪.‬‬
‫في الحقيقة ال يكاد يخلو أي مجال من مجاالت حياتنا اليومية من الذكاء‬
‫االصطناعي كونه يعتبر احدى ضروريات العصر مما يحقق العديد من الفوائد التي‬
‫تسهل وتبسط الحياة اليومية للناس وتحقق الكفاءة العالية في انجاز معظم املهام‬
‫واألعمال التي يصعب على االنسان القيام بها‪ ،‬فيمكن االستفادة من الذكاء االصطناعي‬
‫في مجاالت أساسية‪:‬‬
‫في املجال الصحي وذلك بتشخيص األمراض ووصف األدوية بتقليل نسبة األمراض‬ ‫‪-‬‬
‫املزمنة والخطيرة واجراء العمليات الجراحية‪.‬‬
‫في املجال الطبي الجيني وذلك باملساعدة في الرفع من كفاءة التشخيص والعالج‬ ‫‪-‬‬
‫للمرض ى‪ ،‬والتعامل مع مجموعة كبيرة من البيانات الصحية‪ ،‬والقدرة الكبيرة على‬
‫تتبع السريع للجينوم بأكمله في الجينات وجمع أكبر قدر من املعلومات عنها‪ ،‬ومن‬
‫ثم تطوير العالجات وتحديد أهداف جديدة لألدوية بما يمتلك مقدار أكبر من‬
‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص ‪.12‬‬
‫‪33‬‬
‫التأثير لها‪ ،‬ويوفر الوقت والتكاليف(‪.)1‬‬

‫في قطاع النقل من خالل تقليل الحوادث والتكاليف التشغيلية‪.‬‬ ‫‪-‬‬
‫في املجال التعليمي في تعلم العلوم والتقليل من التكاليف وزيادة الرغبة في التعلم‬ ‫‪-‬‬
‫واملهارات واللغات املختلفة‪.‬‬
‫في قطاع الفضاء بإجراء التجارب الدقيقة وتقليل نسب األخطاء املكلفة‪ ،‬وقطاع‬ ‫‪-‬‬
‫الطاقة املتجددة عبر إدارة املرافق واالستهالك الذكي‪.‬‬
‫في قطاع املياه عبر إجراء التحليل والدراسات الدقيقة لتوفير املوارد وقطاع‬ ‫‪-‬‬
‫التكنولوجيا من خالل رفع نسبة اإلنتاج واملساعدة في الصرف العام‪.‬‬
‫في قطاع البيئة عبر زيادة نسبة التشجير وزراعة النباتات املناسبة وتحسين الغطاء‬ ‫‪-‬‬
‫النباتي وإدخال تقنيات الزراعة الحديثة‪.‬‬
‫في قطاع املرور تطوير آليات وقائية كالتنبؤ بالحوادث واالزدحام املروري‪ ،‬ووضع‬ ‫‪-‬‬
‫سياسات مرورية أكثر فاعلية‪ ،‬وفي مراقبة أنماط حركة املرور لتفادي‬
‫اإلصطدامات‪.‬‬
‫في مجال العمل الخيري‪ ،‬يمكن استخدام الكثير من ادوات الذكاء االصطناعي في‬ ‫‪-‬‬
‫فهم حاجات االنسان‪ ،‬وتسهيل االستجابة لألزمات‪.‬‬
‫في تسهيل عملية البحث العلمي من ناحية ترجمة النصوص‪ ،‬وتحديد املصادر‬ ‫‪-‬‬
‫القانونية وتحليلها وإعادة منهجيتها وفق املستوى العلمي‪ ،‬وتقديم النصح القانوني‬
‫التحليلي‪ ،‬وليس االحصائي اإلستبياني ألطراف الخصومة‪ ،‬وهناك الهديد من‬
‫ً‬
‫محركات البحث التي تقدم نصائح قانونية للناس في إطار إرشادي بعيدا عن الصفة‬
‫الرسمية مما يتوجب تعديل القوانين والتشريعات‪ ،‬ففي املستقبل سيقوم الذكاء‬
‫(‪ )1‬زهرة الجابري‪ ،‬إسماعيل العيساوي‪ ،‬الذكاء االصطناعي ودوره في مشروع الجينوم البشري اإلماراتي‬
‫(دراسة في ضوء الفقه األسالمي)‪ ،‬الصراط‪ ،‬املجلد ‪ ،22‬العدد‪ ،1‬جامعة الشارقة‪ ،‬كلية الشريعة‬
‫والدراسات اإلسالمية‪ ،‬اإلمارات‪2020 ،‬م‪ ،‬ص ‪.212‬‬
‫‪34‬‬
‫االصطناعي بدور كبير وما يعرف اليوم بالعدالة التنبئية ووضع مؤشرات تحليلية‬
‫تبين مدى النسب املتوقعة لكسب الدعوى أو خسارتها(‪.)1‬‬
‫وأيضا تحقيق فائدة عظيمة في مجال الدعوة الى الدين االسالمي فال بد للدعاة‬ ‫‪-‬‬
‫واملؤسسات الدعوية من املسارعة إلى فهم واستيعاب الذكاء االصطناعي وأدواته‬
‫ومعرفة مجاالته وتوظيفها لصالح الدعوة إلى هللا وإيصال دين هللا تعالى إلى كافة‬
‫الناس إن إتقان استخدام تقنيات الذكاء االصطناعي سيوفر على االنسان الكثير‬
‫من الوقت والجهد واملال وسيوصل الرسالة بطرق مبتكرة وفعالة‪.‬‬
‫أيضا للذكاء االصطناعي دور مهم جدا في مساهمته في «تصنيف املجرمين بسهولة‬ ‫‪-‬‬
‫بعيدا عن االهواء الشخصية‪ ،‬وإنجاز املهام القضائية ومساعدة العدالة في طرق‬
‫االثبات الجنائي وفحصها وتحديد الحقيقي منها واملزور بسهولة ويسر‪ ،‬مما يكون له‬
‫عظيم األثر في سرعة تحقيق العدالة»(‪.)2‬‬
‫في النظام القضائي عبر انشاء السجالت‪ ،‬واألنظمة االلكترونية ومثال ذلك‪ :‬نظام‬ ‫‪-‬‬
‫إدارة سير الدعوى االلكتروني(امليزان) بما يرتب تحقيق العدالة واملساواة‪ .‬في بعض‬
‫الدول تساعد تقنيات الذكاء االصطناعي في النظام القضائي الجنائي وكشف‬
‫الغموض في أي جريمة أو واقعة معينة‪ ،‬تصوير موقع الجريمة‪ ،‬دراسة وفحص‬
‫الحالة الصحية والعقلية للمتهم‪ ،‬تطوير تقنيات التعرف على الوجه والبصمات‬
‫ووضع قواعد كاميرات مراقبة متنوعة والكثير من الفوائد‪.‬‬
‫في علم الذكاء االصطناعي هناك العديد من التطبيقات املهمة واألكثر شيوعا به‬ ‫‪-‬‬
‫ومنها‪« :‬تطبيقات األلعاب‪ ،‬وتطبيقات مكينة التعليل‪ ،‬واثبات النظريات‪ ،‬تطبيقات‬
‫(‪ )1‬الخطيب‪ ،‬مرجع سابق‪ ،‬هامش‪ ،21‬بدون رقم صفحة‪.‬‬

‫‪(2) Dorola Jelonek Agata Mesjas-Iechcezary Stepniak Tomasz Turekleszek Ziora, The Artifical‬‬
‫‪Intelligence Application in the Management of Contemporary Organization,‬‬
‫‪Theoretical Assumptions, Current practices and Research Review Spiring, Cham 2019,‬‬
‫‪p.24.‬‬
‫‪35‬‬
‫األنظمة الخبيرة‪ ،‬باإلضافة إلى تطبيقات ُ‬

‫تعرف الصوت‪ ،‬تطبيقات الرؤية عن طريق‬
‫اآللة‪ ،‬صياغة أداء اإلنسان‪ ،‬التخطيط‪ ،‬تعليم اآلالت‪ ،‬والحوسبة الظاهرة‪،‬‬
‫واملعالجة املوزعة املتوازية»(‪.)1‬‬
‫ومن التطبيقات املهمة األخرى األكثر شيوعا مثل‪ :‬السيارات ذاتية القيادة‪،‬‬ ‫‪-‬‬
‫والروبوتات الطبية التي تقوم بالعمليات الجراحية الخطرة‪ ،‬والروبوتات‬
‫االصطناعية‪ ،‬واملنزلية وروبوتات العناية التي منحت األمل ملعاقي الحركة باملش ي‬
‫مجددا‪ ،‬روبوت املرور مثل املوجودة في اليابان‪ ،‬أما الطائرات بدون طيار فما زال‬
‫ً‬
‫اعتبارها روبوتا محل للنقاش ألنها تسير بتوجه بشري(‪.)2‬‬
‫للذكاء االصطناعي أهمية عند استخدامه على نحو محمود ومثال على ذلك‪ :‬على‬ ‫‪-‬‬
‫الصعيد الطبي «عمدت بعض املستشفيات العاملية إلى استخدام الروبوتات‬
‫الجراحية على نحو محمود في العمليات السريرية التي تتطلب دقة متناهية وسرعة‬
‫فائقة‪ ،‬أما على الصعيد التعليمي فقد ظهر الروبوت املعلم القادر على تمييز الطلبة‬
‫والتفاعل معهم من خالل قراءة تعبيرات وجوههم وتحليل نشاطهم الدماغي ومن ثم‬
‫تعليمهم مساقات جديدة حسب مسار كل تلميذ»(‪.)3‬‬
‫كما للذكاء االصطناعي أهمية في وضع أنظمة املؤسسات الرقابية واألمنية ككاميرات‬ ‫‪-‬‬
‫املراقبة‪ ،‬وأجهزة اإلنذار‪ ،‬والتسجيل وحتى في األنظمة الوقائية كأنظمة اإلنذارات‬
‫وإطفاء الحرائق‪.‬‬
‫ً‬ ‫ً‬
‫وللذكاء االصطناعي أهمية كبيرة جدا في ميدان اللغات وخصوصا اللغة العربية‬ ‫‪-‬‬
‫وذلك في استخدام تطبيقات الذكاء االصطناعي في مجال املعالجة اآللية للغة في‬
‫العديد من املستويات‪ ،‬منها‪ :‬في مستوى الكتابة الرقمية‪ ،‬ومستوى معالجة‬
‫(‪ )1‬العدوان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،17‬ص‪.152‬‬

‫(‪ )2‬العدوان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،17‬ص ‪.153‬‬
‫(‪ )3‬أعراب كميلة‪ ،‬مرجع سابق‪ ،‬هامش‪ ،10‬ص ‪.115‬‬
‫‪36‬‬
‫األصوات‪ ،‬ومستوى معالجة النظام الفونولوجي‪ ،‬ومستوى معالجة النظام املعجمي‪،‬‬

‫ومستوى معالجة النظام الصرفي‪ ،‬ومستوى معالجة النظام النحوي‪ ،‬ومنصات‬
‫التعليم االلكتروني التعلم عن بعد وغيرها(‪.)1‬‬
‫دور الذكاء االصطناعي وتقنياته الكبير في مواقع التواصل االجتماعي‪ ،‬ويعتر أكثر‬ ‫‪-‬‬
‫كفاءة في تحديد املحتوى غير املناسب وغير القانوني أو الضار الواجب إزالته‪،‬‬
‫وإزالة املحتوى املتطرف وخطاب الكراهية بما يشمله من خطاب تحريض ي وترويج‬
‫للعنف وااليذاء بأشكاله املختلفة‪ ،‬ومواجهة املعلومات والشائعات املضللة‪،‬‬
‫والكشف عن الخروقات التي تنتهك حرية التعبير عبر املواقع‪ ،‬وحسب التقارير فقد‬
‫طورت اململكة املتحدة أداة تكشف وتزيل املحتوى اإلرهابي في نقطة التحميل(‪.)2‬‬
‫للذكاء االصطناعي وتقنياته أهمية كبيرة في استخدامه لدى مؤسسات اإلصالح‪،‬‬ ‫‪-‬‬
‫وتسهيل تنفيذ العقاب‪ ،‬وتسهيل التنفيذ الفعال لدوريات الشرطة‪ ،‬وكذلك‬
‫ُ‬
‫تستخدم تقنياته في التقارير الخاصة بالسجناء‪ ،‬في مجال تحليل البيانات املجمعة‬
‫عليهم في مؤسسات اإلصالح‪ ،‬وتقييم تطور السلوك‪ ،‬والوصول لقرارات سليمة‬
‫ً‬
‫لإلفراج الشرطي(‪ .)3‬أيضا من ناحية إعتماد أنظمة الشرطة للتطبيقات الذكية فيما‬
‫يخص برنامج السالمة املرورية‪ ،‬وأنظمة املراقبة عبر الفيديو باستخدام الذكاء‬
‫االصطناعي القائم عليه‪ ،‬والتحليل اآللي للصور وكل هذه األمور خير دليل أننا‬
‫قائمون على ما يعرف باملدن الذكية وغيرها(‪ .)4‬وكذلك في تطبيقات التنبؤ الشرطي‪.‬‬
‫ً‬
‫وأيضا األهمية الكبيرة في مجال اإلعالم والصحافة وخاصة في جمع األخبار‪ ،‬وكتابتها‬ ‫‪-‬‬
‫وقرائتها‪ ،‬للتقليل من عدد العاملين في هذا املجال‪ ،‬وأصبح هناك صحف الكترونية‬
‫امليساوي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،7‬ص ‪.20-18‬‬ ‫(‪)1‬‬

‫مشعل‪ ،‬مرجع سابق‪ ،‬هامش‪ ،20‬ص‪.560‬‬ ‫(‪)2‬‬
‫دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص ‪.16‬‬ ‫(‪)3‬‬
‫مراد حسكر‪ ،‬إشكالية تطبيق أحكام املسؤولية الجنائية على جرائم الذكاء االصطناعي‪ ،‬مجلة‬ ‫(‪)4‬‬
‫الحقوق والعلوم اإلنسانية‪ ،‬مجلد ‪ ،15‬عدد‪ ،1‬جامعة تلمسان‪ ،‬الجزائر‪2022 ،‬م‪ ،‬ص ‪.203‬‬
‫‪37‬‬
‫مزودة بتقنات عديدة منها‪ :‬تقنية القراءة والكتابة اآللية بدون حاجة للمذيعين مما‬
‫أتاح القدرة على التفاعل مع الجمهور‪ ،‬وجمع البيانات الالزمة منهم التي تخص إبداء‬
‫الرأي مما يحدد االتجاهات لألفراد‪ ،‬وامليول املختلفة واستخدام هذه البيانات في‬
‫األغراض الدعائية(‪.)1‬‬
‫للذكاء االصطناعي أهمية كبيرة في فهم اللغات الطبيعية والتحدث إلى الحاسب اآللي‬ ‫‪-‬‬
‫مشافهة مما يسهل التواصل مع اآللة والحاسب ال سيما من ال يستطيع التعامل‬
‫معه‪ ،‬باإلضافة للسرعة الفائقة في كتابة مئات الكلمات في الدقيقة الواحدة(‪.)2‬‬
‫األهمية الكبيرة في التخفيف على اإلنسان للعديد من املخاطر والضغوطات‬ ‫‪-‬‬
‫النفسية الكثيرة‪ ،‬وخاصة في امليادين التي توصف بالتعقيد‪ ،‬وتحتاج لتركيز وجهد‬
‫عقلي متعب‪ ،‬وحضور ذهني دائم ومتواصل‪ ،‬والتوجيه لإلنسان وتركيزه إلى ما هو‬
‫أكثر أهمية وإنسانية(‪.)3‬‬
‫قام عدد من الباحثين في عام ‪2018‬م بنشر دراسة ًاستشرافية عن تأثير الذكاء‬
‫ً‬
‫االصطناعي على وظائف املستقبل‪ ،‬حيث تضمنت تحليال ً آلراء ‪ ١٦٣٤‬خبيرا‪ ،‬اتفق ‪٣٥٢‬‬
‫ً‬ ‫ً‬
‫شخصا منهم على أن الذكاء االصطناعي سيغير شكل الحياة مستقبال‪ ،‬وتوقعوا أن شكل‬
‫وظائف النقل والصحة والعلوم والقوات املسلحة سيتغير بنسب مختلفة على مدد زمنية‬
‫ً‬
‫مختلفة‪ ،‬ولكنها جميعا ليست بالبعيدة‪ ،‬فالسمة الغالبة على هذا التغير هي السرعة‬
‫الفائقة بسبب التطور السريع للذكاء االصطناعي‪ ،‬وتوقعوا أن يفوق الذكاء االصطناعي‬
‫ذكاء البشر خالل السنوات العشر القادمة‪ ،‬فعلى سبيل املثال‪ :‬بحلول عام ‪٢٠٢٤‬‬
‫ستكون الروبوتات املترجمة أكثر دقة وسرعة من األشخاص العاملين في مجال الترجمة‪،‬‬

‫(‪ )2‬أروى الجلعود‪ ،‬أحكام تطبيقات الذكاء االصطناعي في القضاء‪ ،‬دراسات قضائية‪ ،‬الجمعية العلمية‬
‫القضائية السعودية‪ ،‬مكتبة امللك فهد الوطنية‪ ،‬الرياض‪ ،‬الطبعة األولى‪ ،‬مركز قضاء للبحوث‬
‫والدراسات‪2023-2022 ،‬م‪ ،‬ص ‪.46‬‬
‫(‪ )3‬الجلعود‪ ،‬مرجع سابق‪ ،‬هامش‪ ،65‬ص ‪.46‬‬
‫‪38‬‬
‫ومع حلول عام ‪ 2026‬ستستطيع الروبوتات كتابة املقاالت‪ ،‬ومع حلول عام ‪2027‬‬
‫ستقتحم الروبوتات مجال السيارات‪ ،‬وبحلول عام ‪ 2031‬ستدخل الروبوتات مجال البيع‬
‫ً‬
‫بالتجزئة‪ ،‬ومع قدوم عام ‪ 2049‬سيكون الكتاب األكثر مبيعا في العالم من تأليف‬
‫روبوت‪ ،‬وفي عام ‪ 2053‬سوف يستطيع الروبوت إجراء العمليات الجراحية‪ .‬وهناك‬
‫ً‬
‫اعتقادا أن هناك فرصة بنسبة ‪ %50‬لتفوق الذكاء االصطناعي على البشر في جميع‬
‫ً‬ ‫ً‬
‫املهام خالل ‪ 45‬عاما‪ ،‬والقدرة على أتمته جميع الوظائف البشرية خالل ‪ 120‬عاما‪ ،‬حيث‬
‫يتوقع املشاركون اآلسيويون هذه التواريخ في وقت أقرب بكثير من األمريكيين‬
‫الشماليين(‪.)1‬‬
‫تبدو الحاجة املاسة اآلن في الدول العربية إلى إجراء تدخالت تشريعية تنظم‬
‫الروبوتات أكثر من أي وقت مض ى‪ ،‬حيث غدت العديد من الدول العربية منفتحة بشكل‬
‫الفت على االستخدام املدني للروبوتات في العديد من القطاعات الخدمية واملجتمعية‬
‫كما في املشافي‪ ،‬والطرقات‪ ،‬واملطارات وغيرها‪ ،‬وتعتبر دولة اإلمارات العربية املتحدة من‬
‫أوائل الدول العربية التي استخدمت الروبوتات في العديد من املجاالت‪ ،‬مثل‪ :‬مترو دبي‬
‫ً‬
‫اآللي‪ ،‬والذي ُيصنف كأطول شبكة مترو مؤتمنه بالكامل حول العالم‪ ،‬وتسعى أيضا‬
‫للوصول بنسبة رجال الشرطة اآلليين إلى ‪ %25‬من قوى الشرطة بحلول ‪2030‬م(‪.)2‬‬
‫ً‬
‫ولربما يوجد حاليا بعض الجهود املتنامية في العالم العربي نحو االهتمام بالذكاء‬
‫االصطناعي وتقنياته وخاصة علم الروبوتات وصناعته‪ ،‬حيث قامت دولة اإلمارات‬
‫ً‬
‫العربية املتحدة باالنضمام إلى املجلس االستشاري العالمي للروبوت كعضو دائما فيه‪،‬‬
‫كما أعلنت مطلع عام ‪ 2019‬عن أول مختبر عالمي من نوعه لصناعة تشريعات ضابطة‬
‫(‪ )1‬أحمد فولى‪ ،‬مواجهة القانون الدولي للروبوتات املقاتلة وضبط استخدام الذكاء االصطناعي في‬
‫صناعة األسلحة‪ ،‬أكاديمية شرطة دبي‪ ،‬مجلد ‪ ،29‬عدد‪2021 ،1‬م‪ ،‬ص ‪.10‬‬
‫(‪ )2‬أيوب البلغيتي‪ ،‬املسؤولية القانونية لروبوتات الذكاء االصطناعي‪ ،‬رسالة لنيل شهادة املاستر في‬
‫القانون الخاص‪ ،‬جامعة سيدي محمد بن عبد هللا بفاس‪ ،‬كلية العلوم القانونية واالقتصادية‬
‫واالجتماعية‪2022-2021 ،‬م ص ‪.34‬‬
‫‪39‬‬
‫لتقنيات الذكاء االصطناعي‪ ،‬وفي اململكة العربية السعودية تم إنشاء املركز الوطني‬
‫ً‬
‫للروبوت واألنظمة الذكية‪ ،‬أيضا في مصر تم انشاء أول كلية للذكاء االصطناعي في الشرق‬
‫األوسط بجامعة كفر الشيخ‪.)1( .‬‬
‫وعلى الرغم من الفوائد وامليزات التي تحققت وتتحقق كل يوم بفضل الذكاء‬
‫اإلصطناعي وتقنياته في مختلف مجاالت وميادين الحياة املعاصرة‪ ،‬إال أن ظهور الثورة‬
‫التكنولوجية املتنامية صاحبها عدة سلبيات وانعكاسات خطيرة بسبب سوء استخدام‬
‫الذكاء االصطناعي وتقنياته‪ ،‬واالنحراف عن األغراض املتواخاة منه مما أدى إلى تفش ي‬
‫طائفة من الظواهر اإلجرامية املستحدثة مثل الجرائم املعلوماتية واالعتداء على أمن‬
‫املعلومات الحكومية رغم انها تكون محمية بشيفرة بالرغم من ذلك يدخل املجرم الى‬
‫أنظمة الكمبيوتر دون الحصول على تصريح مسبق من الجهات املختصة وذلك‬
‫بالقرصنة(‪.)2‬‬
‫وباإلضافة ملا سبق‪ ،‬إن التطور والتقدم لتقنيات الذكاء االصطناعي لم يأت على‬
‫البشرية بالخير فقط‪ ،‬بل يحمل في طياته العديد من املخاطر‪ ،‬أي أنه حتى لو كان يعمل على‬
‫مواز يعرقل هذه الحياة‬
‫تيسير حياة البشر‪ ،‬وتسهيلها وتنمية املجتمعات‪ ،‬إال أنه في نطاق ٍ‬
‫واملجتمع‪ ،‬ويزيد من مصاعبها ويدمرها‪ ،‬فعندما قام الفرد نوبل باختراع الديناميت كان بهدف‬
‫مساعدة عمال املناجم‪ ،‬والتخفيف عنهم وتقليل مشقة عملهم‪ ،‬إال أنه سرعان ما أصبح‬
‫ً‬ ‫ً‬
‫ذلك الديناميت أخطر أسلحة الحروب وأشدها ضررا وتدميرا لها(‪.)3‬‬
‫وفي نهاية املطاف وبالرغم من كل املزايا واألهمية الكبيرة للذكاء االصطناعي‪ ،‬إال أنه‬
‫هناك شخص ما مسؤول عن إيجاد‪ ،‬وتصنيع وتشغيل هذه التقنيات التكنولوجية‬
‫وبالتالي قد ينتج عن خطئه في تشغيلها جرائم تحتم املسؤولية الجنائية‪.‬‬
‫(‪ )1‬البلغيتي‪ ،‬املرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.34‬‬

‫(‪ )2‬عبد هللا الفالس ي‪ ،‬املسؤولية الجنائية الناتجة عن أخطاء الذكاء االصطناعي‪ ،‬املجلة القانونية‪،،‬‬
‫‪2021‬م‪ ،‬ص ‪.2890‬‬
‫(‪ )3‬فولى‪ ،‬مرجع سابق‪ ،‬ص‪.10‬‬
‫‪40‬‬
‫المبحث الثاني ‪ -‬قواعد المسؤولية الجنائية عن أضرار الذكاء االصطناعي‬
‫املبحث الثاني‬
‫قواعد املسؤولية اجلنائية‬
‫‪41‬‬
‫‪42‬‬
‫قواعد املسؤولية اجلنائية عن أضرار الذكاء االصطناعي‬
‫يعتبر ما حدث في منتصف القرن املاض ي وما شهد من ثورة معلوماتية في ظهور‬
‫مجال افتراض ي للمعامالت ومسرح الكتروني للجرائم بما يتجاوز مادية السلوك وعبر‬
‫حدود الزمان واملكان‪ ،‬وعلى الرغم من ذلك ظل اإلنسان هو الالعب الرئيس ي للسلوك‪،‬‬
‫وظلت ارادته هي أساس املسؤولية الجنائية(‪.)1‬‬
‫حيث يثور الجدل حول القواعد التقليدية للمسؤولية الجنائية والتي تعتمد على‬
‫اإلرادة املوجودة لدي األنسان وقصده الجنائي(‪.)2‬‬
‫تبرز أهمية البحث عن املسؤولية الجنائية عن أضرار الذكاء االصطناعي الناتجة‬
‫عن استخدام تقنياته واآلتة‪ ،‬فمن الضروري بحث املسؤول عنها فيما إذا كان املصنع‬
‫واملبرمج أو املستخدم أو تقنية الذكاء االصطناعي ذاتها أو الغير‪.‬‬
‫ُيقصد باملسؤولية الجنائية أنها‪« :‬تلك الرابطة التي تقوم بين الواقعة اإلجرامية التي‬
‫تعد جريمة في نظر القانون من جهة‪ ،‬واملتهم بتلك الواقعة من جهة أخرى»(‪.)3‬‬
‫وحتى تقوم املسؤولية الجنائية ويتم إسنادها يجب أن يكون هناك مجرم وجريمة‬
‫تقوم بينهما روابط وهي الرابطة السببية تجعل املتهم يتحمل تبعية الفعل املنسوب له‬
‫ً‬ ‫ً‬
‫وتبين أن املتهم نفسه هو الذي تسبب سلبا أو إيجابا بالواقعة‪ ،‬وكذلك الروابط املعنوية‬
‫التي تكون الصورة التي تسند الواقعة اإلجرامية إلى عقالنية املتهم‪ ،‬بل وأكثر من ذلك وقد‬
‫(‪ )1‬رحاب عميش‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي‪ ،‬أكاديمية العربية للعلوم والتكنولوجيا‬
‫القرية الذكية‪ ،‬كلية الحقوق لغة انجليزية‪ ،‬املنصورة‪2021 ،‬م‪ ،‬ص‪.1‬‬
‫(‪ )2‬عميش‪ ،‬مرجع سابق‪ ،‬ص‪.1‬‬
‫(‪ )3‬الفالس ي‪ ،‬املرجع السابق‪ ،‬ص ‪.2839‬‬
‫‪43‬‬
‫ال يمكن إسناد املسؤولية رغم قيامها‪ ،‬إال إذا توافرت في املتهم شروط تتكون منهت ما‬
‫يسمى بأهلية التكليف باملسؤولية الجنائية(‪.)1‬‬
‫ً‬
‫ويمكن تعريف املسؤولية الجنائية أيضا على أنها «ذاك األثر القانوني املترتب عن‬
‫الجريمة‪ ،‬كواقعة قانونية أي يعتد بها القانون وتقوم على أساس تحمل الفاعل للجزاء‬
‫الذي تفرضه القواعد القانونية الجنائية بسبب خرقه لألحكام التي تقررها هذه‬
‫القواعد(‪.)2‬‬
‫واملسؤولية فكرة فلسفية اقبل على دراستها كافة أقطاب العلم الجنائي في القرنين‬
‫األخيرين من دون أن يعرفوا غوامضها بصورة نهائية‪ ،‬وال يزالون حتى هذا اليوم‬
‫يتناقشون دون الوصول إلى مفهوم واحد يتفقون عليه‪.‬‬
‫يقول الكثير من العاملين في مجال الذكاء االصطناعي أنه وحسب اتجاههم وتيارهم‬
‫الفكري أن الروبوت اآللة يجب أن يتحلى بالعديد من الصفات والقوانين حتى ال تنقلب‬
‫عليهم التقنية بعواقب وخيمة ويجب القيام ببرمجة وصناعة الروبوتات وفقها‪ ،‬ومن هذه‬
‫القوانين‪ :‬القانون األول أنه ال يجوز للروبوت إيذاء البشر أو حتى أن يسمح بذلك‪،‬‬
‫وبالنسبة للقانون الثاني فإنه يتوجب على الروبوت طاعة أوامر البشر باستثناء ما‬
‫يتعارض مع ما ذكر في القانون األول‪ ،‬أما القانون الثالث فإنه على الروبوت أن يحافظ‬
‫على استمراريته في العمل وسالمته من العطل إال إذا تعارض هذا مع القانون األول‬
‫والثاني(‪.)3‬‬
‫علينا التسليم بحقيقة التحول الكبير الذي أحدثه الذكاء االصطناعي في مجال‬
‫ُ‬
‫املسؤولية‪ ،‬ومثال على ذلك برامج املساعدة في التشخيصات الطبية والتي تظهر املدى‬
‫الكبير الذي يمكن ألجهزة الحاسب اآللي تنفيذ أعباء مركبة‪ ،‬مثل‪ :‬التحليل‪ ،‬املساعدة في‬
‫(‪ )1‬الفالس ي‪ ،‬املرجع السابق‪ ،‬ص ‪.2840-2839‬‬

‫(‪ )2‬الفالس ي‪ ،‬مرجع سابق‪ ،‬ص ‪.2840‬‬
‫(‪ )3‬أبو العيد‪ ،‬مرجع سابق‪ ،‬بدون رقم صفحة‪.‬‬
‫‪44‬‬
‫القرار‪ ،‬ومن ثم يتحول املستخدم إلى مجرد مالحظ‪ ،‬ولم يعد األمر ينحصر في جزئية‬
‫مساندة النشاط البشري‪ ،‬بل ربما تعديله والحلول محله‪ ،‬وثم تأخذ املسؤولية الناتجة‬
‫ً‬ ‫ً‬
‫عن تدخل الذكاء االصطناعي بعدا جديدا(‪.)1‬‬
‫إن الجرائم الجنائية أو أي سلوكيات إنسانية األساس فيها أنها مباحة لجميع البشر‬
‫لكن من أجل انتظام الحياة واملجتمعات ومن أجل حدوث استقرار في االوضاع‬
‫االجتماعية نجد أن بعض هذه السلوكيات التي تضر باملجتمع يجب القيام بتجريمها‬
‫وبالتالي فإن الحكم بأن األساس اإلباحة واالستثناء التجريم فال نستطيع القول عن أي‬
‫سلوك أنه مجرم إال إذا نص القانون على ذلك والجرائم باملجمل تخضع ملبدأ الشرعية‬
‫الجنائية بأنه ال جريمة وال عقوبة إال بنص فبالتالي فإننا ال نستطيع القول عن جرائم‬
‫الذكاء االصطناعي مجرم ونعاقب عليه إال إذا نص القانون على ذلك واملشرع ينص على‬
‫ذلك من خالل الدراسات البحثية التي يتم تقديمها وبعد البيان للمشرع السلوكيات التي‬
‫تشكل جرائم وتمس باملجتمع يتم الطلب من املشرع بوضع هذه السلوكيات في تشريع‬
‫معين بحيث يمكن من معاقبة أي من يرتكب هذه السلوكيات مستقبال‪.‬‬
‫وحسب توقعات أنصار الذكاء االصطناعي في الدول الغربية أنه يجب علينا كمجتمع‬
‫أن نقاوم االستسالم للحتمية التكنولوجية (وهي نظرية تقول باختصار أن التكنولوجيا‬
‫ال رجعة فيها‪ ،‬وال مفر منها) وانهم حتى لو آمنو بهذه النظرية فإنه كلما كان فهمنا لتأثيرات‬
‫تلك التكنولوجيا على املجتمع وحقوقهم بشكل أفضل كلما تمكنا بشكل أكثر فعالية من‬
‫محاولة كيفية انشاء هذه التكنولوجيا وتنفيذها(‪.)2‬‬
‫للمسؤولية الجنائية متطلبات محددة‪ ،‬ال أكثر وال أقل‪ ،‬بحيث أنه إذا استوفى كيان‬
‫ما جميع هذه املتطلبات‪ ،‬فال يوجد سبب يمنع فرض املسؤولية الجنائية عليه‪ ،‬بالرغم‬
‫من قدرة الذكاء االصطناعي على تلبية املتطلبات بنفس الطريقة التي يفعلها املخالفون‬
‫(‪ )1‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬ص‪.3‬‬

‫‪( 2 ) Ryan calo,A.Michael Froomkin and Ian Kerr, ROPOT LAW, Edward Elagar‬‬
‫‪PUPLISHING,USA,2016,p.210.‬‬
‫‪45‬‬
‫من البشر‪ ،‬والشركات لكن ليس الحيوانات‪ ،‬بحيث يمكن فرض املسؤولية الجنائية على‬
‫كيانات الذكاء االصطناعي‪ ،‬فإما أن نفرض املسؤولية الجنائية على كيانات الذكاء‬
‫االصطناعي‪ ،‬أو يتعين علينا أن نغير التعريف األساس ي للمسؤولية الجنائية كما تطور‬
‫على آالف السنين‪ ،‬ونتخلى عن الفهم التقليدي للمسؤولية الجنائية(‪.)1‬‬
‫‪(1) GabRiel hallevy ،previous reference, footnote 50, p177-178.‬‬
‫‪46‬‬
‫األساس القانوني للمسؤولية اجلنائية‬
‫ُ‬
‫«تعتبر املسؤولية هي األساس القانوني التي ُيبنى عليها توجيه أصابع االتهام بالجريمة‬
‫إلى شخص معين‪ ،‬لذلك ال بد أن يكون هناك عناصر معينة تقوم عليها‪ ،‬كوجود نص‬
‫قانوني (يصور الجريمة)‪ ،‬أو ارتكاب فعل أو عدة أفعال مادية‪ ،‬والحالة العقلية بأن تقع‬
‫من شخص ُمكلف‪ ،‬وقيام الركن املعنوي الالزم الرتكاب جريمة والعقاب عليها في أغلب‬
‫األنظمة اإلجرامية‪ ،‬كذلك العنصر الذهني الذي يدفع الرتكاب الجريمة»(‪.)1‬‬
‫ومن املعلوم أن املسؤولية الجنائية ال تقوم على فكرة الضرر بخالف املسؤولية‬
‫املدنية التي تقوم عليها‪ ،‬كون املسؤولية الجنائية ال تحدد العقوبة على أساس أهمية‬
‫الضرر وجسامته‪ ،‬إنما على أساس جسامة الفعل املؤثم من الناحية األدبية‪ ،‬وال تتدخل‬
‫فكرة الضرر عند وقوعه إال بصفة تبعية في هذه املؤاخذة‪ ،‬فاملسؤولية الجنائية تبقى‬
‫مستقلة عن الضرر الذي نشأ عن الفعل‪ ،‬واملتهم في أغلب األحيان يحاسب عن خطئه‬
‫فحسب مجرد عن الضرر‪ ،‬وبالرغم من ذلك ال يعني أن املشرع الجنائي ال يأخذ بنظر‬
‫االعتبار الضرر عندما يعاقب على التصرفات اإلجرامية‪ ،‬إال أنه ينظر إلى الضرر نظرة‬
‫ُ‬
‫متميزة أطلق عليها فقهاء القانون اسم الجسامة املادية للخطأ الجنائي(‪.)2‬‬
‫وقد عرفت محكمة النقض الفلسطينية في الدعوى الحقوقية رقم (‪)2014/1076‬‬
‫الضرر على أنه‪...« :‬الضرر وفق أحكام الفقه واملجلة هو ذلك األذى الذي يلحق الشخص‬
‫(‪ )1‬هبة الزهراني‪ ،‬املوقع االلكتروني املسؤولية الجنائية للذكاء االصطناعي‪ ،‬شركة مال اإلعالمية الدولية‪،‬‬
‫صحيفة مال‪ ،2020 ،/ https://maaal.com/2020/12/167055-2،‬بدون رقم صفحة‪ ،‬تاريخ الزيارة‬
‫‪.2023/10/20‬‬
‫(‪ )2‬الفالس ي‪ ،‬مرجع سابق‪ ،‬ص ‪.2891‬‬
‫‪47‬‬
‫في حق أو في مصلحة مشروعة له‪.)1(»...‬‬

‫وعلى كل حال ومن أجل فرض املسؤولية الجنائية على أي شخص ما يجب أن يكون‬
‫هناك عنصران رئيسيان‪ ،‬األول‪ :‬هو العنصر الخارجي أو العنصر الواقعي أي السلوك‬
‫اإلجرامي (الفعل اإلجرامي)‪ ،‬والعنصر الثاني‪ :‬هو العنصر الداخلي أو العقلي أي وهو‬
‫املعرفة أو القصد العام تجاه عنصر السلوك اإلجرامي‪ ،‬حيث أنه إذا كان عنصر واحد‬
‫ً‬
‫مفقودا من أحد تلك العناصر‪ ،‬فال يمكن فرض أي مسؤولية جنائية‪ ،‬ويتم التعبير عن‬
‫شرط الفعل الفعلي بشكل أساس ي عن طريق األفعال أو السهو في بعض األحيان‪ ،‬هناك‬
‫حاجة لعناصر خارجية أخرى باإلضافة إلى السلوك‪ ،‬مثل النتائج املحددة لهذا السلوك‬
‫والظروف املحددة التي تكمن وراء هذا السلوك(‪.)2‬‬
‫يجب على الجاني أن يبدأ السلوك لتحقيق النتائج‪ ،‬وعلى هذا األساس فإن‬
‫تكنولوجيا الذكاء االصطناعي قادرة على تلبية متطلبات مكون النتيجة للعنصر الواقعي‪،‬‬
‫ويشكل ارتكاب السلوك النتائج‪ ،‬ويتم فحص النتائج بشكل موضوعي لتحديد ما إذا‬
‫كانت مستمدة من ارتكاب السلوك‪ ،‬وهكذا عندما يرتكب الجاني السلوك‪ ،‬وقد تم تنفيذ‬
‫السلوك‪ ،‬فإنه السلوك‪ ،‬وليس الجاني‪ ،‬الذي هو سبب النتائج‪ ،‬إذا كانت هناك نتيجة(‪.)3‬‬
‫في الحقيقة وال ُيطلب من مرتكب الجريمة أن يتسبب‪ ،‬بشكل منفصل‪ ،‬في أية نتائج‪،‬‬
‫بل فقط أن يرتكب السلوك‪ ،‬وعلى الرغم من أن الجاني يبدأ العملية الفعلية التي تشكل‬
‫ً‬
‫النتائج‪ ،‬إال أن هذه العملية ال تبدأ إال من خالل تكليف عنصر السلوك‪ ،‬ونظرا ألن‬
‫تكنولوجيا الذكاء االصطناعي قادرة على ارتكاب جميع أنواع السلوكيات‪ ،‬فإنها في سياق‬
‫القانون الجنائي قادرة على التسبب في نتائج مستمدة من هذا السلوك(‪.)4‬‬
‫(‪ )1‬محكمة النقض الفلسطينية‪ ،‬الدعوى الحقوقية‪ ،‬القضية رقم (‪ ،)2014/1076‬تاريخ الفصل‪:‬‬
‫‪2017/12/12‬م‪ ،‬قسطاس‪.‬‬
‫(‪ )2‬حسكر‪ ،‬مرجع سابق‪ ،‬ص‪.197‬‬
‫‪(3) GABRIEL HALLEVY ,previous reference, footnote 50, p 44.‬‬
‫‪48‬‬
‫وعلى سبيل املثال‪ ،‬عندما يقوم الروبوت بتشغيل سالح ناري ويجعله يطلق رصاصة‬
‫باتجاه فرد بشري‪ ،‬فإن هذا يفي بمتطلبات عنصر السلوك في جرائم القتل عند هذه‬
‫النقطة‪ ،‬يتم استخدام اختبار العالقة السببية لفحص السلوك وتحديد ما إذا كان قد‬
‫تسبب في وفاة ذلك الفرد‪ .‬فإذا حدث ذلك‪ ،‬فسيتم استيفاء متطلبات مكون النتيجة‬
‫ً‬ ‫ً‬
‫جسديا سوى ارتكاب السلوك ونظرا‬ ‫والسلوك‪ ،‬على الرغم من أن الروبوت «لم يفعل»‬
‫ألن تلبية متطلبات مكون السلوك تقع ضمن قدرات األجهزة كما تمت مناقشتها بالفعل‪،‬‬
‫أيضا ضمن قدراتها(‪.)1‬‬‫أيضا هي ً‬‫فإن تلبية متطلبات مكون النتائج ً‬
‫ً‬
‫يتم التعبير عن أعلى مستوى عن طريق املعرفة‪ ،‬ويكون أحيانا مصاحب بمتطلب‬
‫نية أو نية محددة‪ ،‬وال يلزم لفرض املسؤولية الجنائية معايير أو قدرات أخرى‪ ،‬وليس من‬
‫البشر‪ ،‬وال أي نوع آخر من الكيانات‪ ،‬بما في ذلك الشركات والكيانات املسئولة‪ ،‬ال يكفي‬
‫أن يكون الشخص قادر على العمل حتى تقوم املسؤولية الجنائية‪ ،‬فالعنكبوت قادر على‬
‫العمل إال أنه غير قادر على صياغة متطلبات تفاعلية لهذا الفعل لذلك ال تحمل لدغة‬
‫العنكبوت أي مسؤولية جنائية‪ ،‬وكذلك الببغاء فهو يقدر على تكرار الكلمات التي‬
‫يسمعها‪ ،‬لكنه غير قادر على صياغة متطلبات جديدة من تلقاء نفسه‪ .‬ولكي يتم فرض‬
‫املسؤولية الجنائية على أي نوع من كيانات الذكاء االصطناعي يجب إثبات وجود‬
‫العنصرين القدرة على العمل واإلرادة الفعلية فيها(‪.)2‬‬
‫ومع ذلك‪ ،‬فمن الواضح أن هيكل املسؤولية الجنائية مصمم للبشر‪ ،‬مع وضع‬
‫قدرات البشر‪ ،‬وليس املخلوقات األخرى في االعتبار‪ .‬ويعتمد متطلب العنصر العقلي على‬
‫روح اإلنسان ونفسه وعقله‪ .‬فهل يمكن بالتالي فحص اآلالت على أساس املعايير البشرية‬
‫للروح والنفس والعقل؟ في ضوء هذه الرؤى‪ ،‬كيف يمكن فرض املسؤولية الجنائية على‬
‫كيانات فاقدة للروح والروح؟ ومع ذلك‪ ،‬من املهم أن نتذكر أنه على الرغم من أن الرؤى‬
‫املتعلقة باملسؤولية الجنائية تعتمد على الروح اإلنسانية والروح‪ ،‬فإن فرض املسؤولية‬

‫(‪ )2‬حسكر‪ ،‬مرجع سابق‪ ،‬ص ‪.197‬‬
‫‪49‬‬
‫الجنائية في حد ذاته ال يعتمد على هذه املصطلحات التي تحمل معنى نفسيا عميقا(‪.)1‬‬
‫فإذا استوفى كيان ما‪ ،‬أي كيان‪ ،‬متطلبات الركن الفعلي والعقلي للجريمة‪ ،‬فيمكن‬
‫ً‬
‫فرض املسؤولية الجنائية بالروح أو بدونها‪ ،‬في الحقيقة إن هذا الفهم ليس جديدا‪ ،‬وربما‬
‫ً‬
‫ال يكون جديدا إلى حد كبير في القرن الحادي والعشرين‪ ،‬فقد وتم التوصل إلى فهم‬
‫مماثل في القرن السابع عشر‪ ،‬قبل وقت طويل من ظهور تكنولوجيا الذكاء االصطناعي‬
‫الحديثة‪ ،‬ولكن في وقت ارتكبت فيه كائنات أخرى غير بشرية جرائم وكان من الضروري‬
‫إخضاعها للقانون الجنائي‪ .‬هذه املخلوقات ليس لها روح وال روح‪ ،‬لكن لديها القدرة على‬
‫موضوعا للمسؤولية الجنائية التي تفرض عليها حتى يومنا هذا‪ ،‬وإن هذه‬ ‫ً‬ ‫أن تكون‬
‫املخلوقات هي الشركات(‪.)2‬‬
‫يتطلب فرض املسؤولية الجنائية عن الجرائم املتعمدة استيفاء متطلبات العناصر‬
‫الوقائعية والعقلية‪ .‬الشرط العقلي للجرائم املتعمدة هو القصد العام‪ ،‬املعروف بشكل‬
‫ً‬
‫أكثر دقة باسم القصد الجنائي‪ ،‬ويعني «العقل الشرير» في الالتينية‪ ،‬ونظرا ألنه يمكن في‬
‫بعض األحيان الخلط بين مصطلح العمدية العامة والقصد أو القصد املحدد‪ ،‬فإننا‬
‫نفضل استخدام املصطلح األكثر دقة‪ ،‬وهو القصد الجنائي‪ ،‬فإذا كانت تكنولوجيا‬
‫الذكاء االصطناعي قادرة على تلبية متطلبات القصد الجنائي‪ ،‬فمن املمكن فرض‬
‫املسؤولية الجنائية على كيانات الذكاء االصطناعي عن الجرائم املتعمدة(‪.)3‬‬
‫يتسارع الذكاء االصطناعي املتقدم في االنتشار في هذه اآلونة كالسيارات ذاتية‬
‫القيادة والطائرات بدون طيار وغيرها فأصبحت هناك إشكاليات عديدة في تحديد‬
‫املسؤولية الجنائية عن األضرار الناتجة من خاللها ألن الذكاء االصطناعي تطور وأصبح‬
‫قادرا على اتخاذ قرارات ذاتية وتنفيذها مما يسمح بافتراض حصول مسؤولية جنائية‬
‫ذاتية لها‪.‬‬

‫‪(3) GABRIEL HALLEVY ,previous reference, footnote 50, p 44- 45.‬‬
‫‪50‬‬
‫إن اعتماد الذكاء االصطناعي وتقنياته في معظم مجاالت الحياة املتعددة يؤثر على‬
‫النظام القانوني‪ ،‬فالقانون هو مجموعة من القواعد التي تنظم للعالقات اإلنسانية في‬
‫املجتمع‪ ،‬وتشمل هذه العالقات كافة مجاالت الحياة‪ ،‬وكلما ظهرت تقنيات واختراعات‬
‫جديدة ثار النقاش حول مدى التنظيم القانوني لها‪ ،‬ومدى شمول النصوص القانونية‬
‫ً‬
‫لها‪ ،‬ونظرا ألن تكنولوجيا الذكاء االصطناعي لها تأثير على أغلب مجاالت الحياة التي‬
‫دخلتها‪ ،‬كاملجاالت الطبية‪ ،‬والتعليمية‪ ،‬واالقتصادية والصناعية والعسكرية وغيرها؛‬
‫فقد استدعى هذا األمر ضرورة السؤال عن التنظيم القانوني للذكاء االصطناعي‪ ،‬وعن‬
‫اإلشكاليات القانونية الناتجة عن إدخال تكنولوجيا الذكاء االصطناعي لهذه املجاالت‪،‬‬
‫والتحديات القانونية التي تترتب عليه(‪.)1‬‬
‫ولعل أبرز وأهم املوضوعات املطروحة للنقاش فيما يخص التنظيم القانوني للذكاء‬
‫االصطناعي وطبيعته القانونية واإلشكاليات الناتجة عنه؛ مسألة الشخصية القانونية‬
‫للذكاء االصطناعي‪ ،‬وكذلك املسؤولية الجنائية حين تشكل األفعال التي يقوم بها هذا‬
‫الذكاء االصطناعي جرائم ُيعاقب عليها في القانون‪ ،‬وال سيما وأن مجاالت الذكاء‬
‫االصطناعي قد تعددت وشملت العديد من املجاالت‪ ،‬وخاصة الطبية والعسكرية التي‬
‫ً‬
‫تؤثر سلبا على حيات اإلنسان وسالمة صحته((‪.)2‬‬
‫وحيث أنه أصبح من الضروري بيان التكييف القانوني الذي تقوم عليه املسؤولية‬
‫الجنائية في حالة خطأ الذكاء االصطناعي ال بل أصبح أمر ضروري تحتمه متطلبات‬
‫التقدم التكنولوجي‪ ،‬باعتبار املسؤولية الجنائية أثر قانوني مترتب عن الجريمة كواقعة‬
‫يعتد بها القانون‪ ،‬وبالتالي تحميل الجزاء للفاعل الذي تفرضه هذه القواعد القانونية‬
‫ً‬
‫الجزائية‪ ،‬إال أنه مع وجود تقنيات الذكاء االصطناعي ُيفترض أحيانا وجود أشخاص‬
‫يتدخلون به وبداية من الشركة املنتجة‪ ،‬ومن ثم املالك املستخدم واملستفيد من هذه‬
‫التقنيات مما يؤدي ذلك للتأثير على املسؤولية القانونية لكيانات الذكاء االصطناعي‪،‬‬
‫(‪ )1‬الدحيات‪ ،‬مرجع سابق‪ ،‬ص ‪.20-19‬‬

‫(‪ )2‬فريدة‪ ،‬مرجع سابق‪ ،‬ص ‪.163‬‬
‫‪51‬‬
‫ً‬ ‫ً‬
‫والطبيعة الخاصة للذكاء االصطناعي‪ ،‬والذي نجده أحيانا فاعال للجريمة أو أداة لها في‬
‫أحيان أخرى(‪.)1‬‬
‫إن فرض املسؤولية يعتمد على استيفاء متطلباتها‪ .‬بحيث تنشأ مسألة العقاب فقط‬
‫في حالة استيفاء هذه املتطلبات‪ ،‬إال أن املسؤولية الجنائية ال تتطلب بالضرورة توافر‬
‫ً‬
‫مجرما‪ ،‬ال يحتاج إلى استخدام جميع املهارات‬ ‫كافة املهارات اإلنسانية‪ .‬لكي يصبح املرء‬
‫البشرية‪ ،‬بغض النظر عما إذا كان يمتلك هذه املهارات أم ال(‪.)2‬‬
‫يجب استيفاء نوعين تراكميين من املتطلبات لفرض املسؤولية الجنائية‪ :‬األول‬
‫يتعلق بالقانون‪ ،‬والثاني يتعلق بالجاني‪ .‬ويجب استيفاء كال النوعين من املتطلبات من‬
‫أجل فرض املسؤولية الجنائية‪ ،‬وإذا تم استيفاءهما‪ ،‬فال توجد شروط إضافية مطلوبة ‪.‬‬
‫املتطلبات األساسية ألي جريمة يتضمن أربعة متطلبات منفصلة يجب أن تستوفيها كل‬
‫جريمة‪ ،‬على النحو املحدد في القانون‪ .‬إذا فشلت الجريمة في تلبية حتى واحد من هذه‬
‫املتطلبات‪ ،‬فال يمكن ألي محكمة أن تفرض مسؤولية جنائية على األفراد عن تلك‬
‫الجريمة‪ .‬املتطلبات األربعة هي‪ :‬الشرعية‪ ،‬السلوك‪ ،‬الذنب واملسؤولية الشخصية(‪.)3‬‬
‫ويمثل كل من هذه املتطلبات األربعة مبدأ أساسيا في القانون الجنائي‪ ،‬وهو مبدأ‬
‫الشرعية‪ ،‬ومبدأ السلوك‪ ،‬ومبدأ الذنب‪ ،‬ومبدأ املسؤولية الشخصية ‪.‬الشرعية هي‬
‫شرط العتبار الجريمة قانونية (ال جريمة بقانون)‪ .‬إن الشرعية هي التي تشكل القواعد‬
‫ً‬
‫جنائيا‪ .‬لكي تعتبر الجريمة قانونية‪ ،‬يجب‬ ‫املستخدمة لتحديد ما هو «صحيح» و«خطأ»‬
‫ً‬ ‫ً‬
‫أن تستوفي الشروط األربعة التراكمية التالية‪ :‬أوال مصدر قانوني مشروع‪ ،‬ثانيا قابلية‬
‫ً‬ ‫ً‬
‫التطبيق في الوقت املناسب‪ ،‬ثالثا قابلية التطبيق في مكان واخيرا تفسير مشروع‪ ،‬فقط‬
‫عندما استيفاء جميع الشروط األربعة تعتبر الجريمة قانونية(‪.)4‬‬
‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬ص‪.188‬‬

‫‪(2) GABRIEL HALLEVY ,previous reference, footnote 50, p 19-20.‬‬
‫‪52‬‬
‫أن القانون الجنائي الحالي كاف للتعامل مع تكنولوجيا الذكاء االصطناعي‪ .‬عالوة‬
‫على ذلك‪ ،‬إذا تقدمت التكنولوجيا بشكل كبير‪ ،‬وبشكل كبير نحو إنشاء اآلالت العاقلة‪،‬‬
‫فإن هذا من شأنه أن يجعل القانون الجنائي الحالي أكثر صلة بمعالجة تكنولوجيا الذكاء‬
‫االصطناعي ألن هذه التكنولوجيا تحاكي العقل البشري‪ ،‬والعقل البشري يخضع بالفعل‬
‫للقانون الجنائي الحالي‪ .‬وبالتالي‪ ،‬كلما اقتربت تكنولوجيا الذكاء االصطناعي من التقليد‬
‫الكامل للعقل البشري‪ ،‬كلما أصبح القانون الجنائي الحالي أكثر أهمية(‪.)1‬‬
‫وبناء على ما سبق نالحظ أنه ال يكفي لقيام املسؤولية الجزائية أن يرتكب الجاني أي‬
‫فعل مادي يترتب عليه نتيجة ضارة‪ ،‬بل ال بد أن تتحقق الجريمة بالشروط التي يفرضها‬
‫الفقه الجنائي املعاصر على اعتبار أنها نشاط مادي ونشاط نفس ي مخالفان ألهداف‬
‫الجماعة‪ ،‬وتكسب صفتها الغير مشروعة من تناقضها مع قاعدة قانونية مجرمة تجرم‬
‫ً‬ ‫ً‬
‫هذا النشاط‪ ،‬وبالتالي يلزم لقيام هذه الجريمة دائما توافر الركن املادي واملعنوي معا‪.‬‬
‫تنص املادة (‪ )67‬فقرة ‪ 1‬من قانون التجارة املصري رقم (‪ )17‬لسنة ‪1999‬م على أنه‪:‬‬
‫«يسأل منتج السلع أو موزعها قبل كل من يلحقه ضرر بدني أو مادي يحدثه املنتج إذا‬
‫أثبت هذا الشخص أن الضرر نشأ بسبب عيب في املنتج»(‪.)2‬‬
‫ويتبين من نص املادة أعاله أنه إذا تعذر تحديد الشخص املسؤول عن العيب في‬
‫املنتج فأن بائع املنتج أو املزود أو املورد وفي جميع األحوال يكونوا مسؤولين عن هذا‬
‫العيب مسؤولية تضامنية‪ ،‬إال أنه عندما يتم تطبيق هذه القاعدة على أنظمة الذكاء‬
‫االصطناعي سيترتب على ذلك إشكالية تتعلق في صعوبة تحديد منتج أنظمة الذكاء‬
‫االصطناعي‪ ،‬إذ أن عملية إنتاج تلك األنظمة تتوزع ما بين املصمم واملبرمج واملصنع‪،‬‬
‫لذلك يصعب تحديد املنتج النهائي ألنظمة الذكاء االصطناعي األمر الذي يؤدي إلى تحديد‬

‫(‪ )2‬قانون التجارة املصري‪ ،‬رقم (‪ ،)17‬لسنة ‪ ،1999‬غير منشور في مجلة الوقائع الفلسطينية‪ ،‬ع‪ ،19‬تاريخ‬
‫اإلصدار‪1999/5/17 :‬م‪.‬‬
‫‪53‬‬
‫على من تقع املسؤولية بالكامل(‪.)1‬‬

‫عند الحديث عن ماهية العيب الخفي في كيانات الذكاء االصطناعي وتقنياته فال بد‬
‫أن نتناول بصورة جلية األحكام الخاصة بالعيب الخفية‪ ،‬إذ نجد أن املشرع الفلسطيني‬
‫نظم األحكام الخاصة للعيب الخفي في مجلة األحكام العدلية (‪.)2‬بشكل خاص‪ ،‬وتناول‬
‫بعض األحكام في قانون حماية املستهلك الفلسطيني‪ ،‬والالئحة التنفيذية من ذات‬
‫القانون‪ .)3(،‬كذلك الحال فيما يتعلق بالقانون املدني األردني رقم (‪ )43‬لسنة ‪1976‬م‪.‬‬
‫عالجت مجلة األحكام العدلية في القانون الفلسطيني معظم األحكام الخاصة‬
‫بالعيب في املواد (‪ )336‬حتى (‪ ،)350‬كذلك الحال فيما يتعلق بالقانون املدني األردني‬
‫الذي عالج أحكام العيب في املواد (‪ )512‬حتى (‪ ،)521‬وبالرجوع إلى القانون املدني‬
‫املصري(‪ .)4‬نجد بأنه عالج األحكام الخاصة بالعيب في عدة مواد متفرقة‪ ،‬وكما أن جميع‬
‫القوانين السابقة تحدثت عن األحكام الخاصة املتعلقة بضمان العيوب مما يقودنا هذا‬
‫األمر لبيان تعريف العيب‪ ،‬وباإلضافة لشروط العيب بداية‪ ،‬ومن ثم تطبيق مفهوم‬
‫العيب على أنظمة الذكاء االصطناعي‪.‬‬
‫عرفت املادة (‪ )1‬من قانون حماية املستهلك الفلسطيني رقم (‪ )21‬لسنة ‪2005‬‬
‫العيب على أنه‪« :‬خطأ أو نقص من حيث الجودة والكمية والكفالة‪ ،‬أو عدم مطابقة‬
‫للمعايير واملقاييس التي يتوجب االلتزام بها بموجب القانون أو األنظمة السارية املفعول‬
‫محمد‪ ،‬فتح الباب‪ ،‬الطبيعة القانونية للمسؤولية املدنية عن أضرار الروبوتات‪ :‬دراسة تحليلية‬ ‫(‪)1‬‬
‫مقارنة‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬عدد خاص باملؤتمر الدولي السنوي العشرون‪ ،‬جامعة‬
‫املنصورة‪ ،‬مصر‪2021 ،‬م‪ ،‬ص‪.88‬‬
‫مجلة األحكام العدلية لسنة ‪1876‬م‪.‬‬ ‫(‪)2‬‬
‫قانون حماية املستهلك الفلسطيني‪ ،‬رقم (‪ ،)21‬لسنة ‪ ،2005‬منشور في مجلة الوقائع الفلسطينية‪ ،‬عدد‬ ‫(‪)3‬‬
‫املجلة ‪ ،21‬تاريخ صدور املجلة‪2005/11/1( :‬م)‪ ،‬ص‪ ،30‬قرار بقانون رقم (‪ ،)13‬لسنة ‪ ،2009‬بالالئحة‬
‫التنفيذية لقانون حماية املستهلك‪ ،‬منشور في مجلة الوقائع الفلسطينية‪ ،‬عدد املجلة ‪ ،86‬تاريخ صدور‬
‫املجلة‪2009/11/23( :‬م)‪ ،‬ص‪.88‬‬
‫القانون املدني املصري رقم (‪ )131‬لسنة ‪1948‬م‪.‬‬ ‫(‪)4‬‬
‫‪54‬‬
‫فيما يتعلق باملنتج»‪.‬‬

‫كما عرفت املادة (‪ )20‬فقرة ‪ 3‬من القرار بقانون رقم (‪ )13‬لعام ‪ 2009‬بالالئحة‬
‫التنفيذية لقانون حماية املستهلك العيب الخفي على أنه‪« :‬التي تنقص من قيمة السلعة‬
‫ً‬ ‫ُ‬ ‫ً‬ ‫ً‬
‫أو الخدمة نقصا محسوسا أو تجعلها غير صالحة لالستعمال الذي أعدت له وفقا‬
‫لطبيعتها أو ألحكام العقد»‪.‬‬
‫ً‬
‫وأيضا لقد عرفت محكمة النقض الفلسطينية في الدعوى الحقوقية رقم‬
‫(‪( )2019/1472‬العيب الخفي) على أنه‪« :‬العيوب الخفية التي ال تعرف بشاهد ظاهر‬
‫املبيع وال يكتشفها إال الخبراء بعد الفحص»(‪.)1‬‬
‫باإلضافة إلى أنه قد قضت محكمة النقض الفلسطينية في الدعوى الحقوقية رقم‬
‫(‪ )2019/402‬على أنه‪« :‬والخفي هو الذي ال يعرف بمشاهدة ظاهرة املبيع والذي ال‬
‫يتبينه الشخص العادي او ال يكتشفه غير خبير»(‪.)2‬‬
‫ويعرف من قبل الفقه على أنه‪« :‬علة عارضة متعذر كشفها لدى أواسط الناس‬
‫ً‬
‫يخلو أمثال املبيع منها‪ ،‬تنقص من قيمته أو نفعه أو قانونا عما هو ظاهر من طبيعته‪ ،‬أو‬
‫ً‬ ‫ً‬
‫الغرض الذي أعد له‪ ،‬أو يفوت غرضا صحيحا»(‪.)3‬‬
‫ويتضح من خالل التعاريف السابقة أن األثر الذي يسببه العيب الخفي هو إلحاق‬
‫الضرر بالسلعة والتأثير على قيمتها السوقية دون علم املستهلك عند شرائه املنتج بهذا‬
‫العيب‪ ،‬وينتج عن ذلك وقوع الضمان على صاحب املنتج بتعويض املستهلك عن الضرر‬
‫(‪ )1‬محكمة النقض الفلسطينية‪ ،‬الدعوى الحقوقية‪ ،‬رقم (‪ ،)2019/1472‬تاريخ الفصل (‪2022/5/9‬م)‪،‬‬
‫قسطاس‪.‬‬
‫(‪ )2‬محكمة النقض الفلسطينية‪ ،‬الدعوى الحقوقية‪ ،‬رقم (‪ ،)2019/402‬تاريخ الفصل (‪،)2021/6/13‬‬
‫قسطاس‪.‬‬
‫(‪ )3‬وضاح‪ ،‬عبد القادر‪ ،‬نظرة حديثة إلى التزام البائع بضمان العيوب الخفية‪ ،‬املركز العربي للنشر‪ ،‬ط‪،1‬‬
‫املركز العربي للنشر‪ ،‬مصر‪2019 ،‬م‪ ،‬ص‪.30‬‬
‫‪55‬‬
‫الحاصل من املنتج املعيب(‪.)1‬‬

‫وحتى يرتب العيب الضمان ويحق للمشتري املطالبة بالتعويض عن ذلك العيب‬
‫ً‬
‫الخفي‪ ،‬فأن هناك شروط محددة يجب توافرها‪ ،‬منها‪ :‬أن يكون العيب خفيا‪ ،‬وأن يكون‬
‫ً‬ ‫ً‬
‫العيب مؤثرا‪ ،‬وأن يكون العيب قديما وأال يكون البائع أشترط البراءة من العيب‪.‬‬
‫إن الحديث عن مدى إمكانية تطبيق مفهوم العيب الوارد في املنتجات على أنظمة‬
‫الذكاء االصطناعي مع األخذ بعين االعتبار بأن تلك األنظمة ال يشترط في ذلك أن يحدث‬
‫بها عيب في التصنيع‪ ،‬بمعنى أن هذه األنظمة قد توفر األمان‪ ،‬ورغم ذلك يتسبب تشغيلها‬
‫في إصابة الغير بالضرر أذا لم يتم األخذ باالعتبار للطريقة التي تعمل بها تلك األنظمة(‪.)2‬‬
‫لقد نصت املادة (‪ )20‬من قانون حماية املستهلك الفلسطيني رقم (‪ )21‬لسنة‬
‫‪« :)3(2005‬على كل مزود ضمان العيوب الخفية التي تنقص من قيمة السلعة أو الخدمة‬
‫ً‬ ‫ً‬ ‫ً‬
‫نقصا محسوبا أو تجعلها غير صالحة لالستعمال فيما أعدت إليها وفقا لطبيعتها أو‬
‫ألحكام العقد»‪.‬‬
‫ً‬
‫نالحظ من خالل النص السابق أن املشرع قد ذهب إلى اعتبار املنتج معيبا الذي من‬
‫شأنه أن ينقص من قيمة السلعة أو الخدمة أو جعل تلك السلعة غير صالحة‬
‫لالستخدام الذي أعدت من أجله‪ ،‬مثل‪« :‬الدواء غير صالح لالستعمال بسبب فوات‬
‫الوقت على استعماله»‪ ،‬كما أن النص جاء بشكل مطلق بحيث أنه تناول مصطلح «غير‬
‫صالحة لالستعمال فيما أعدت إليها»‪ ،‬فهذا من شأنه أن يشمل الذكاء االصطناعي فقد‬
‫يكون الذكاء صمم للقيام بالعمليات الجراحية إال أن العيب الحاصل به أدى إلى عدم‬
‫القيام بوظائفه املطلوبة‪ ،‬كما أنه يخلق التز ًاما على املنتج أو املوزع لتجنب عيوب‬
‫(‪ )1‬فارس‪ ،‬الجبوري‪ ،‬العيب الخفي في ضوء قوانين حماية املستهلك‪ ،‬دروب املعرفة للنشر‪ ،‬ط‪ ،1‬مصر‪2022 ،‬م‪،‬‬
‫ص‪.19‬‬
‫(‪ )2‬فتح الباب‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،100‬ص‪.87‬‬
‫(‪ )3‬قانون حماية املستهلك الفلسطيني‪ ،‬رقم (‪ ،)21‬لسنة ‪ ،2005‬منشور في مجلة الوقائع الفلسطينية‪ ،‬عدد‬
‫املجلة ‪ ،21‬بتاريخ ‪2005/11/1‬م‪ ،‬ص‪.37‬‬
‫‪56‬‬
‫التصنيع أو اإلنتاج‪ ،‬ويشمل ذلك املنتجات العادية الغير خطرة أو املنتجات الضارة‬
‫بطبيعتها فتصبح منتجات ضارة أو خطرة بسبب النقص أو الخلل الذي وقع عليها مثل‪:‬‬
‫أنظمة الذكاء االصطناعي‪ ،‬و املنتجات الخطرة بطبيعتها فتصبح منتجات معيبة بسبب‬
‫النقص أو الخلل الذي قد أصابها مما يؤدي إلى عدم أداء املهام التي صنعت من أجلها(‪.)1‬‬
‫وبالرجوع إلى املادة (‪ )73‬فقرة ‪ 2‬من مشروع قانون التجارة الفلسطيني نجد بأنها‬
‫تحدثت عن الحاالت التي تتعلق باملنتج املعيب ومن ضمن هذه الحاالت‪« :‬أذا كان املنتج‬
‫عند صناعته أو تصميمه أو تركيبه لم يتم أتخاذ كافة اجراءات الحيطة والحذر التي‬
‫من شأنها أن تمنع وقوع الضرر‪ ،‬تناول النص سابق عدة مصطلحات من شأنها أن‬
‫تشمل الذكاء االصطناعي «تصميمه أو صنعه أو تركيبه أو إعداده‪ ،»..‬فالصناعة‬
‫والتركيب واإلعداد كلها قد تتضمن املنتجات الصناعية وعلى رأسها الذكاء االصطناعي‬
‫باعتباره أحد املنتجات الذكية الذي صمم ألداء املهام على أعلى مستوى من األبداع(‪،)2‬‬
‫نرى من خالل ذلك أن ما ذهبت إليه املادة (‪ )73‬من مشروع قانون التجارة الفلسطيني‬
‫تختص باملنتجات الخطرة‪ ،‬مما يؤدي إلى أمكانية تطبيق مفهوم العيب على أنظمة الذكاء‬
‫االصطناعي(‪.)3‬‬
‫عرفت املادة األولى من قانون حماية املستهلك املصري رقم (‪ )181‬لسنة ‪2018‬‬
‫العيب على أنه‪« :‬كل نقص في قيمة أو منفعة أي من املنتجات بحسب الغاية املقصودة‬
‫ً‬ ‫ً‬
‫منها‪ ،‬ويؤدي بالضرورة إلى حرمان املستهلك كليا أو جزئيا من االستفادة بها فيما أعدت‬
‫من أجله‪ ،‬بما في ذلك النقص الذي ينتج من خطأ في مناولة السلعة أو تخزينها‪ ،‬وذلك كله‬
‫(‪ )1‬سالم‪ ،‬العزاوي‪ ،‬مسؤولية املنتج في القوانين املدنية واالتفاقيات الدولية‪ ،‬دار الثقافة‪ ،‬عمان‪،‬‬
‫‪2008‬م‪ ،‬ص‪.219‬‬
‫(‪ )2‬املذكرة اإليضاحية ملشروع قانون التجارة الفلسطيني‪ ،‬لسنة ‪ ،2004‬ديوان الفتوى والتشريع‬
‫ً‬
‫الفلسطيني‪ ،‬ص‪ ،47‬نصت املادة(‪ )73‬فقرة ‪ 2‬على أنه‪« :‬يكون املنتج معيبا على وجه الخصوص إذا لم‬
‫تراع في تصميمه أو صنعه أو تركيبه أو إعداده لالستهالك أو حفظه أو تعبئته أو طريقة عرضه أو طريقة‬
‫استعماله الحيطة الكافية ملنع وقوع الضرر أو للتنبيه إلى احتمال وقوعه»‪.‬‬
‫(‪ )3‬العزاوي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،110‬ص‪.116‬‬
‫‪57‬‬
‫ما لم يكن املستهلك قد تسبب في وقوع هذا النقص»(‪.)1‬‬

‫لكل ما سبق يتبين أن مصطلح العيب في التشريع الفلسطيني واملصري جاء بشكل‬
‫مطلق وليس مقيد‪ ،‬بحيث أن قانون حماية املستهلك الفلسطيني قد تناول في نص املادة‬
‫ً‬
‫(‪« :)20‬تجعلها غير صالحة لالستعمال فيما أعدت إليها وفقا لطبيعتها‪ ،»...‬وقانون‬
‫ً‬ ‫ً‬
‫حماية املستهلك املصري تناول في نص املادة (‪« :)1‬حرمان املستهلك كليا أو جزئيا من‬
‫االستفادة بها فيما أعدت من أجله»‪ ،‬فمصطلح «أعدت من أجله» مصطلح واسع‬
‫بحيث أنه يستوعب كافة املنتجات سواء كانت منتجات غير خطرة‪ ،‬أو منتجات خطرة‬
‫مثل‪ :‬املنتجات الصناعية‪ ،‬ومن شان هذا األمر أن يقودنا إلى إمكانية تطبيق مفهوم‬
‫املنتجات املعيبة على أنظمة الذكاء االصطناعي‪.‬‬
‫تعتبر املسؤولية عن أضرار الذكاء االصطناعي في فرنسا قائمة على أساس فعل‬
‫ً‬
‫املنتجات املعيبة استنادا إلى ما ذهب إليه املعهد البرملاني الفرنس ي الصادر في تاريخ‬
‫‪2017/3/15‬م والذي تضمن أن املسؤولية عن أضرار الذكاء االصطناعي تقع على‬
‫املصمم أو املصنع حسب الضرر الذي يقع من قبل ذلك الذكاء(‪.)2‬‬
‫وفي عام (‪ )2018‬اقامت عائلة هوانغ (‪ )Huang‬الذي كان يعمل مهندس شركة أبل‬
‫دعوى قضائية امام محكمة كاليفورنيا العليا على شركة تيسال بعد أن توفي في حادث‬
‫سير‪ ،‬ناتج عن اصطدام سيارة من نوع (‪ )Tesla Model X‬بحاجز خرساني على الطريق‬
‫السريع‪ ،‬وتضمنت موضوع الدعوى القتل الخطأ كون أن نظام مساعد السائق اآللي هو‬
‫ً‬
‫الذي تسبب بوقوع الخطأ‪ ،‬بحيث أنه لم يقم بتحديد موقع الحاجز مسبقا‪ ،‬ولم‬
‫يستخدم نظام املكابح اآللي للسيارة للتوقف‪ ،‬إال أنه تم التوصل ما بين الشركة وعائلة‬
‫(‪ )1‬قانون حماية املستهلك املصري‪ ،‬رقم (‪ )181‬لسنة ‪2018‬م‪ ،‬عدد‪ ،37‬تاريخ اإلصدار‪2018/9/13( :‬م)‪،‬‬
‫ص‪.4‬‬
‫(‪ )2‬معمر بن طرية‪ ،‬قادة شهيدة‪ ،‬أضرار الروبوتات وتقنيات الذكاء االصطناعي‪ :‬تحد جديد لقانون‬
‫املسؤولية املدنية الحالي ملحات في بعض مستجدات القانون املقارن دراسة مقارنة‪ ،‬مجلة كلية‬
‫القانون الكويتية العاملية‪ ،‬العدد ‪2018 ،22‬م‪ ،‬ص‪.130‬‬
‫‪58‬‬
‫هوانغ إلى تعويضهم بناء على قواعد املسؤولية عن املنتجات املعيبة باعتبار أن الضرر‬
‫الحاصل من قبل األنظمة املساعدة اآللية ناتج عن خطأ في تصنيعها واألمر الذي يؤدي‬
‫إلى إلقاء عبئ التعويض على عاتق مصنعها(‪.)1‬‬
‫كذلك الحال في الدعوى الحاصلة ما بين شركة (‪ )VANTAGE POINT‬بصفتها‬
‫مدعى عليها و (‪ )WEISTER JASON‬بصفته املدعي في الواليات املتحدة األمريكية لسنة‬
‫‪ ،2022‬قامت الشركة بالترويج ملؤتمر يتعلق بالذكاء االصطناعي من خالل أرسال أعالن‬
‫إذاعي‪ ،‬أرسل املدعي رسالة نصية إلى املدعى عليها لتجربة اإلعالن األذاعي ملرة واحدة‪،‬‬
‫وبعد ذلك قرر ويستر عدم املشاركة في حضور املؤتمر الخاص بالذكاء االصطناعي‪ ،‬ولم‬
‫يقم في إدخال أية معلومات شخصية له على الصفحة األلكترونية لحضور ذلك املؤتمر‪،‬‬
‫ً‬ ‫ً‬
‫إال أنه حدث ما لم يكن متوقع بالنسبة إلى ويستر بحيث أنه تلقى ‪ 15‬بريدا صوتيا بال‬
‫رنين وبدون أذنه األمر الذي يؤدي إلى وقوع مسؤولية الشركة بموجب قانون حماية‬
‫املستهلك اإللكتروني‪ ،‬كما أنه «يحظر قانون االتصاالت الهاتفية لسنة ‪ 1999‬من اجراء‬
‫أية مكاملة باستخدام أي نظام اتصال هاتفي أو بالذكاء االصطناعي إلى أي رقم هاتف‬
‫باستثناء املكاملات التي خصصت لحاالت الطوارئ أو التي أجريت بمو افقة صريحة‬
‫مسبقة من الشخص املتصل» وقد أقام املدعي دعوى ضد الشركة بسبب أضرار‬
‫الذكاء االصطناعي على أساس املنتجات املعيبة(‪.)2‬‬
‫ومما سبق نجد انه يمكن تطبيق قواعد املسؤولية التقصيرية على أضرار الذكاء‬
‫االصطناعي بفعل املنتجات املعيبة حتى يحين إيجاد قواعد تستوعب تنظم تلك‬
‫التقنيات الذكية‪ ،‬ملا في ذلك من التخفيف على املضرور والتي تسهل عليه مقاضاة‬
‫)‪(1‬‬ ‫‪Jimin Shaw, Tesla's Autopilot System Responsibility Under The California Injury Act,‬‬
‫‪Boston College of Intellectual Property And Technology Forum, 2017, P.17‬‬
‫‪(2) WEISTER v. VANTAGE POINT AI, LLC, Case No. 8:21-cv-1250-SDM-AEP, United States District‬‬
‫‪Court, M.D. Florida, Tampa Division, August 3, 2022‬‬
‫‪https://www.leagle.com/decision/infdco20220808910‬‬
‫‪59‬‬
‫املصمم أو املصنع على األضرار التي لحقت به بسبب تلك األنظمة الذكية‪ ،‬فاملنتج ومن‬
‫ثم املصمم‪.‬‬
‫يرى الباحث‪ ،‬أن كل ما نص عليه املشرع الفلسطيني واملشرع املصري من شأنه أن‬
‫يعمل على حماية املضرور من املنتجات املعيبة‪ ،‬والتي قد تتسبب في إلحاق الضرر‬
‫باملستهلك‪ ،‬وكذلك األمر ينطبق ذلك على أنظمة الذكاء االصطناعي باعتبارها من ضمن‬
‫املنتجات والتي قد يكون بها عيب خفي من شأنها أن تعمل على الحاق الضرر باملستهلك‬
‫مما يسمح للمضرور مطالبة املنتج بالتعويضات التي تعرض لها بسبب الذكاء‬
‫االصطناعي على أساس قواعد املسؤولية التقصيرية بفعل املنتجات املعيبة‪.‬‬
‫‪60‬‬
‫الطبيعة القانونية للذكاء االصطناعي‬
‫يعتبر موضوع الطبيعة القانونية للذكاء االصطناعي موضوعا مهما يحتاج ملعرفة‬
‫على وجه كبير من الدقة‪ ،‬حيث أن التشريعات التي تتناول الذكاء االصطناعي وتقنياته‬
‫وآالته قليلة بشكل عام‪.‬‬
‫يمثل الذكاء االصطناعي تحد جديد في العديد من املستويات في القانون‪ ،‬خصوصا‬
‫من ناحية مدى إمكانية تطبيق القواعد القانونية املوجودة بجميع املسائل القانونية‬
‫املثارة عبر الذكاء االصطناعي‪ ،‬مثل‪ :‬امللكية الفكرية‪ ،‬ونظام املسؤولية العقدية أو‬
‫التقصيرية إلى جانب املسؤولية الجزائية‪ ،‬واملنافسة وحماية املعطيات الشخصية وغيرها‬
‫من املسائل التي عالجها القانون بكون اإلنسان وبحكمه فاعال فيها‪ ،‬فكيف سيكون األمر‬
‫لو كان محركها األساس ي هو الذكاء االصطناعي(‪.)1‬‬
‫دعا العديد من األشخاص الفاعلين في ميدان الذكاء االصطناعين‪ ،‬وحاولوا لفت‬
‫انتباه القانونيين إلى ضرورة استبعاد تطبيق القواعد التقليدية‪ ،‬والعمل على خلق قواعد‬
‫قانونية جديدة خاصة بالذكاء االصطناعي وذلك بحجة الطبيعة الخاصة التي تتميز بها‬
‫تكنولوجيا الذكاء االصطناعي‪ ،‬وقد بدأت بعض االستجابات والبوادر بالسير فعال ولكن‬
‫على خطى بطيئة متخوفة‪ ،‬ومثال علد ذلك‪ :‬قيام السعودية بمنح الجنسية السعودية‪،‬‬
‫للروبوت صوفيا سنة ‪2017‬م‪ ،‬وقيام البرملان األوروبي بإقرار قواعد مدنية خاصة‬
‫بالروبوتات في مجال املسؤولية‪ ،‬وأوص ى بضرورة منح شخصية قانونية خاصة بها وذلك‬
‫ً‬
‫بين مؤيد ومعارض‪ ،‬وأيضا طالبت مجموعة من مصممي الذكاء االصطناعي باالعتراف‬
‫بحقوق امللكية الفكرية للذكاء االصطناعي‪ ،‬باعتباره قد وصل لحد االبتكار واإلبداع(‪.)2‬‬

‫‪61‬‬
‫ً‬
‫ونظرا لحداثة ظهور الذكاء االصطناعي في حياة البشر‪ ،‬فلم تتطرق التشريعات التي‬
‫تناولت الذكاء االصطناعي إلى تحديد طبيعته‪ ،‬فأصبحت هذه املهمة للفقه القانوني‬
‫ً ً‬
‫الذي أثار نقاشا كبيرا حولها(‪.)1‬‬
‫فذهب رأي إلى أنه يتم تحديد الطبيعة القانونية للذكاء االصطناعي بناء على‬
‫الطبيعة القانونية لألموال‪ ،‬وذلك من حيث تقسيمها إلى‪ :‬عقارات ومنقوالت‪ ،‬فاستقر‬
‫رأيهم على اعتبارها من طبيعة خاصة(‪.)2‬‬
‫ً‬
‫وذهب رأي آخر إلى تحديد الطبيعة القانونية للذكاء االصطناعي استنادا إلى أحد‬
‫مجاالتها‪ ،‬وهو املجال العسكري الذي بدأ استخدام الذكاء االصطناعي منه‪ ،‬حيث أوجد‬
‫وصنعوا له الروبوت اآللة املقاتل‪ ،‬والطائرات املقاتلة دون طيار‪ ،‬وغيرها من تطبيقات‬
‫الذكاء االصطناعي في املجال العسكري(‪.)3‬‬
‫أيضا لقد ذهب اتجاه فقهي إلى قياس الطبيعة القانونية للذكاء االصطناعي على‬
‫ً‬
‫الطبيعة القانونية للسفن مع الفارق‪ ،‬فالفقه يعتبر السفينة منقوال لكنها تتمتع ببعض‬
‫ً‬
‫خصائص العقار‪ ،‬أي أنه مال من طبيعة خاصة‪ ،‬فالسفينة وفقا لهذا االتجاه ذات‬
‫طبيعة منقولة وعقارية في آن واحد‪ ،‬ومن ثم تتمتع ببعض خصائص األموال املنقولة‬
‫وبعض خصائص األموال العقارية(‪.)4‬‬
‫تخرج السفينة عن القواعد املقررة للمنقول وتقترب من أحكام العقار في مسائل‬
‫ً‬
‫معينة‪ ،‬ويجوز القيام برهنها رسميا مثل العقار‪ ،‬إال أن نقل ملكيتها ال يتم إال بمحرر‬
‫رسمي‪ ،‬وتتشابه إجراءات حجز السفينة مع إجراءات الحجز العقاري‪ ،‬وللدائن العادي‬
‫إطميزي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،31‬صفحة ‪.10‬‬ ‫(‪)1‬‬

‫دعاء حاتم‪ ،‬ولمى العزاوي‪ ،‬الذكاء االصطناعي واملسؤولية الجنائية الدولية‪ ،‬مجلة املفكر‪ ،‬كلية‬ ‫(‪)2‬‬
‫الحقوق والعلوم السياسية‪ ،‬جامعة محمد بسكرة‪ ،‬عدد ‪2006 ،18‬م‪ ،‬ص‪.28‬‬
‫أحمد إبراهيم‪ ،‬املسؤولية الجنائية الناتجة عن أخطاء الذكاء االصطناعي في التشريع اإلماراتي‪،‬‬ ‫(‪)3‬‬
‫رسالة دكتوراه‪ ،‬جامعة عين شمس‪2020 ،‬م‪ ،‬ص ‪.69‬‬
‫حاتم‪ ،‬العزاوي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،120‬ص ‪.28‬‬ ‫(‪)4‬‬
‫‪62‬‬
‫حق تتبع على السفينة‪ ،‬على الرغم من أن هذا الحق غير مقرر سوى للدائنين املمتازين‬
‫أو املترهنين دون الدائنين العاديين‪ ،‬وقد أدى هذا التشابه بين السفينة والعقار إلى‬
‫اقتراح بعض الفقهاء تسمية السفينة بعقارات البحر(‪.)1‬‬
‫ً‬
‫وبناء على ما سبق فإن تكنولوجيا وتقنيات الذكاء االصطناعي تعد منقوال في أصلها‬
‫ألنها معدة لالنتقال من مكان آلخر بطبيعتها‪ ،‬مثل‪ :‬الروبوت أو الحاسوب أو اآلالت‪.‬إلخ‪،‬‬
‫فتلك التقنيات يستطيع اإلنسان نقلها من مكانها بسهولة حتى لو لم تكن وظيفتها قائمة‬
‫ً‬
‫على االنتقال أصال‪.‬‬
‫ورأي آخر قد تأخذ تكنولوجيا وتقنيات الذكاء االصطناعي صفة العقار إذا تم‬
‫ً‬
‫رصدها لخدمة عقار‪ ،‬فتصبح عقارا بالتخصيص‪ ،‬فتتمتع بصفات العقارات واملنقوالت‬
‫على حد سواء‪ ،‬أو تتمتع ببعض صفات العقار بنص القانون‪ ،‬ومن األمثلة على ذلك‪:‬‬
‫جواز الرهن الرسمي بحقها‪ ،‬أو اشتراط التسجيل لنقل ملكيتها‪ ،‬وهذا الرأي يتفق مع‬
‫ً‬ ‫ً‬
‫الرأي الفقهي الذي اعتبرها ماال ذو طبيعة خاصة قياسا على الطبيعة القانونية‬
‫للسفن(‪.)2‬‬
‫ً‬
‫أما بالنسبة ملن حدد الطبيعة القانونية للذكاء االصطناعي استنادا إلى أحد‬
‫مجاالتها‪ ،‬وهو املجال العسكري فقد اعتبر هذا االتجاه بالذكاء االصطناعي باعتباره‬
‫ً‬ ‫ً‬
‫سالحا أي استخدامه بديال عن اإلنسان في املجال العسكري‪ ،‬فتطبيقات الذكاء‬
‫االصطناعي متعددة ومنها املجال العسكري واألمني‪ ،‬فقد بدأت بعض الدول املتقدمة‬
‫بتسخير تقنيات الذكاء االصطناعي وإدخالها في املجال العسكري وفي الحروب‪ ،‬وذلك من‬
‫خالل الروبوت العسكري القاتل والطائرات املقاتلة بدون طيار أو ما تسمى بالدرونز(‪.)3‬‬
‫والسالح الفتاك كالسالح النووي وأسلحة الدمار الشامل فكل هذه التقنيات املذكورة‬
‫تجعله بطبيعته أنه سالح‪.‬‬
‫(‪ )1‬محمود الشرقاوي‪ ،‬القانون البحري‪ ،‬القاهرة‪ ،‬دار النهضة العربية‪1978 ،‬م‪ ،‬ص ‪.51‬‬
‫(‪ )2‬إطميزي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،31‬ص‪.14‬‬
‫(‪ )3‬إبراهيم‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،121‬ص ‪.69‬‬
‫‪63‬‬
‫بشكل عام إن الذكاء االصطناعي بكافة مسمياته سواء كان كيان‪ ،‬تقنية‪ ،‬نظام أو‬
‫أنظمة‪ ،‬الروبوت اآللة‪ ،‬اإلنسان اآللي(‪ .)1‬أو أي مسمى له إذا اعتبرنا هذا التطبيق (الذكاء‬
‫االصطناعي) أنه عبارة عن ش يء بالتالي معناه أنه سوف ينطبق عليه الطبيعة القانونية‬
‫لألشياء سواء كان ماديا أو معنويا‪.‬‬
‫ّ‬
‫ويثير االستقالل الذاتي للروبوت الذي يمكنه من اتخاذ قرارات بشكل مستقل‬
‫ً‬
‫مسألة الشخصية القانونية لهذا الروبوت‪ ،‬بحيث يثار تساؤال حول ماهية هذه‬
‫الشخصية‪ ،‬أهي شخصية طبيعية أم هو من قبيل األشياء‪ ،‬أم هي شخصية من نوع‬
‫خاص‪ ،‬وهل يمكنها أن تتحمل الحقوق وتؤدي االلتزامات؟(‪.)2‬‬
‫الروبوت بشكل عام لو أخذناه كنموذج هو ال يعتبر بأي حال من األحوال أنه عبارة‬
‫عن انسان وهو ليس بشخص إطالقا وال تحتاج األمور ألي توضيح في ذلك فهل يعتبر‬
‫بش يء؟! هل يفكر؟ هل يستنبط؟ هل يتعلم من تجاربه السابقة؟ هل يتخذ قرارات‬
‫بنفسه وبذاته بمنأى عمن قام ببرمجته أو صنعه أو إنشائه أو استخدامه؟ الجواب‪:‬‬
‫ً‬
‫نعم‪ .‬اذا هذا ليس عبارة عن ش يء!!ولو قلنا انه عبارة عن ش ٍيء لكنا طبقنا عليه نظرية‬
‫الحراسة بمعنى مسؤولية التابع عن أعمال تابعه ومسؤولية الغير مثال‪ .‬لكن في الحقيقة‬
‫ً‬
‫هو ليس بش يء اذا فهو عبارة عن شخصية فريدة يترتب عليها انشاء شخصية جديدة‬
‫وهي الشخص االلكترونية‪.‬‬
‫(‪ )1‬اإلنسان اآللي أو الروبوت‪ :‬هو كل عامل اصطناعي نشيط يكون محيطه العالم الطبيعي‪ ،‬جهاز ميكانيكي‬
‫مبرمج للعمل مستقال عن السيطرة البشرية‪ ،‬ومصمم ألداء األعمال وإنجاز املهارات الحركية واللفظية‬
‫التي يقوم بها اإلنسان‪ ،‬فضال عن استخداماته األخرى املتعددة باملفاعالت النووية‪ ،‬وتمديد السالح‪،‬‬
‫وإصالح التمديدات السلكية التحت أرضية‪ ،‬واكتشاف األلغام‪ ،‬وصناعة السيارات وغيرها من املجاالت‬
‫الدقيقة‪ ،‬وللروبوتات عدة أنواع‪ ،‬منها‪ :‬الروبوتات التشغيلية‪ ،‬والروبوتات الصناعية‪ ،‬والروبوتات‬
‫التعليمية‪ ،‬والروبوتات الطبية‪ ،‬والروبوتات املنزلية‪ ،‬والروبوتات املستخدمة في ميدان العدالة والشرطة‪،‬‬
‫والروبوتات العسكرية وغيرها‪.‬‬
‫إبراهيم‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،121‬ص ‪.74‬‬ ‫(‪)2‬‬
‫‪64‬‬
‫ً‬ ‫ً‬
‫«لقد فرق القانون بين األشخاص واالشياء‪ ،‬فالش يء أكثر التصاقا وأشد ارتباطا‬
‫بالحق العيني منه بالحق الشخص ي‪ ،‬فالحق العيني سلطة قانونية مباشرة على الش يء‬
‫ً‬ ‫ً‬
‫محل الحق ومن ثم يتصل صاحب الحق بالش يء اتصاال مباشرا دون وسيط‪ ،‬فالش يء هو‬
‫ً‬
‫كل ما يصلح أن يكون محال للحقوق املالية(‪.)1‬‬
‫عرفت املادة (‪ )81‬فقرة ‪ 1‬من القانون املدني املصري(‪ .)2‬الش يء على أنه‪« :‬كل ش يء‬
‫يمكن غير خارج عن التعامل بطبيعته أو بحكم القانون يصح أن يكون محال للحقوق‬
‫‪.‬‬
‫املالية»‬
‫ُويعرف الش يء على أنه‪« :‬كل ش يء مادي غير حي وليس معنوي بحاجة إلى حراسة‬
‫خاصة‪ ،‬ويستثنى من ذلك األشياء املعنوية‪ ،‬والحيوان‪ ،‬والبناء‪ ،‬ملا أفرده املشرع من‬
‫قواعد خاصة للحيوان والبناء»(‪ ،)3‬فاألشياء تنقسم إلى عدة أقسام أهمها الثبات‬
‫واالستقرار‪ ،‬وتنقسم إلى‪ :‬عقارات‪ ،‬ومنقوالت‪ ،‬وعقارات بالتخصيص‪ ،‬ومنقوالت بحسب‬
‫ً‬
‫سواء كانت‬ ‫املآل‪ ،‬ويشترط للتعامل في هذه األشياء أن تكون صالحة للتعامل فيها‬
‫بطبيعتها أو بحكم القانون كما وضحت ذلك املادة (‪ )81‬فقرة ‪ 2‬من القانون املدني‬
‫املصري‪ ،‬أما «األشياء الخارجة عن التعامل بطبيعتها فال يستطيع أحد أن يتملكها‪،‬‬
‫ن ً‬
‫محال للحقوق‬ ‫كذلك األشياء الخارجة عن التعامل معها بنص القانون فال تصح أن تكو‬
‫املالية»(‪ ،)4‬فقد ذهب مشروع القانون املدني الفلسطيني إلى األخذ بما ذهب إليه املشرع‬
‫عبد الرزاق السنهوري‪ ،‬الوسيط في شرح القانون املدني‪-‬حق امللكية‪ ،-‬الجزء ‪ ،8‬دار احياء التراث‬ ‫(‪)1‬‬
‫العربي‪ ،‬لبنان‪1952 ،‬م‪ ،‬ص‪.6‬‬
‫القانون املدني املصري‪ ،‬رقم‪ ،131‬سنة‪1948‬م‪.‬‬ ‫(‪)2‬‬
‫قرار محكمة التمييز األردنية‪ ،‬الدعوى الحقوقية‪ ،‬هيئة خماسية‪ ،‬رقم ‪ ،2477‬لسنة ‪ ،2002‬تاريخ‬ ‫(‪)3‬‬
‫الفصل‪2007/4/12:‬م‪ ،‬أشار إليه دواس‪ ،‬أمين‪ ،‬في كتاب مجلة األحكام العدلية وقانون املخالفات‬
‫املدنية «‪ ،»2‬املعهد القضائي الفلسطيني‪ ،‬لسنة ‪ ،2012‬ص‪.281‬‬
‫القانون املدني املصري‪ ،‬رقم (‪ ،)131‬لسنة‪ 1948‬م‪ ،‬نصت املادة (‪ )81‬فقرة ‪« :2‬واألشياء التي تخرج عن‬ ‫(‪)4‬‬
‫التعامل بطبيعتها هي التي ال يستطيع أحد أن يستأثر بحيازتها‪ ،‬وأما الخارجة بحكم القانون فهي التي ال‬
‫يجيز القانون أن تكون محال للحقوق املالية»‪.‬‬
‫‪65‬‬
‫املصري(‪ ،)1‬واملشرع األردني(‪.)2‬‬

‫نصت املادة (‪ )291‬من القانون املدني األردني على أنه‪« :‬كل من كان تحت تصرفه‬
‫ً ُ‬
‫أشياء تتطلب عناية خاصة للوقاية من ضررها أو آالت ميكانيكية يكون ضامنا ملا تحدثه‬
‫هذه األشياء من ضرر إال ما ال يمكن التحرز منه‪ ،‬هذا مع عدم اإلخالل بما يرد في ذلك‬
‫من أحكام خاصة»(‪.)3‬‬
‫يتبين من النص القانوني السابق ّأن املشرع األردني اتجه إلى اعتبار الش يء هو كل‬
‫ش يء مادي غير حي‪ ،‬ولو أردنا تطبيق مفهوم الش يء على الذكاء االصطناعي لوجدنا أنه‬
‫يمكن تصنيفه من ضمن األشياء باعتبار ّأن الذكاء هو ش يء مادي غير حي‪.‬‬
‫يذهب البعض إلى اعتبار الذكاء االصطناعي من ضمن األشياء بحيث أنه يكون‬
‫لذلك الذكاء حارس خاص به‪ ،‬ويتم تحديد هذا الحارس من خالل أحد األشخاص‬
‫القائمين على صناعة ذلك الذكاء حتى يتم حراسة ذلك الذكاء(‪ ،)4‬ويذهب اتجاه آخر إلى‬
‫أنه ال يمكن تصنيفه ضمن مفهوم الش يء من عدة جوانب‪ :‬الجانب الشخص ي‪ :‬ألنه‬
‫يصعب تحديد حارس تلك التقنيات الذكية بسبب تدخل أشخاص عدة في صناعة تلك‬
‫األنظمة وتصميمها(‪ ،)5‬الجانب املوضوعي‪ :‬أنها تعتبر من قبيل األشياء غير املادية أي‬
‫املعنوية ألنها من ضمن العناصر الغير ملموسة كونها تقوم على خوارزمية عالية‬
‫الدقة(‪ ،)6‬الجانب الفعلي‪ :‬ألنه يصعب السيطرة على تلك األنظمة الذكية التي تقوم على‬
‫(‪ )1‬عبد القادر الفار‪ ،‬املدخل لدراسة العلوم القانونية‪ ،‬دار الثقافة للنشر والتوزيع‪ ،‬ط‪ ،1‬عمان‪/‬األردن‪،‬‬
‫‪2008‬م‪ ،‬ص‪.196‬‬
‫(‪ )2‬القانون املدني األردني‪ ،‬رقم (‪ ،)43‬لسنة ‪ ،1976‬نص املادة (‪ ،)55‬تاريخ النفاذ (‪1977/1/1‬م)‬
‫(‪ )3‬القانون املدني األردني‪ ،‬رقم (‪ ،)43‬لسنة ‪ ،1976‬تاريخ النفاذ (‪1977/1/1‬م)‬
‫(‪ )4‬أحمد عثمان‪ ،‬انعكاسات الذكاء االصطناعي على القانون املدني دراسة مقارنة‪ ،‬مجلة البحوث‬
‫القانونية واالقتصادية‪ ،‬العدد‪ ،76‬جامعة املنصورة‪ ،‬كلية الحقوق‪2021 ،‬م‪ ،‬ص‪.1585‬‬
‫(‪ )5‬طرية‪ ،‬شهيدة‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،114‬ص‪.129‬‬
‫(‪ )6‬طرية‪ ،‬شهيدة‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،114‬ص‪.129‬‬
‫‪66‬‬
‫اتخاذ القرارات من تلقاء نفسها بعد االنتهاء من صناعتها(‪.)1‬‬

‫وبناء على ما سبق يتبين أن مفهوم الجمود ال ينطبق على الذكاء االصطناعي‪ ،‬حيث‬
‫ّأن مفهوم الجمود يعني عدم القدرة على الحركة‪ ،‬إال أن الذكاء االصطناعي يبني عمله‬
‫على طبيعة الحركة‪ ،‬وهذا االمر ُيخرجه من أطار الجمود‪ ،‬أما فيما يتعلق بالش يء فأذا‬
‫أردنا وصف الش يء على الذكاء االصطناعي فهو معرض اختالف‪ ،‬من جهة فال يمكن ذلك‬
‫ألن الذكاء االصطناعي قائم على التحليل والتفكير بشكل مستقل عن اإلنسان‪ ،‬ومن‬
‫ألن الش يء هو كل ش يء يدخل‬ ‫جهة أخرى يمكن وصف الش يء على الذكاء االصطناعي ّ‬
‫ضمن املاديات وليس املعنويات‪ ،‬ويكون هذا الش يء غير حي(‪.)2‬‬
‫(‪ )1‬عثمان‪ ،‬املرجع السابق‪ ،‬هامش ‪ ،135‬ص‪.1585‬‬

‫(‪ )2‬الخطيب‪ ،‬مرجع سابق‪ ،‬هامش‪ ،‬ص‪.130-128‬‬
‫‪67‬‬
‫الشخصية القانونية للذكاء االصطناعي‬
‫تتضمن فكرة الشخصية القانونية وضع الكيان كشخص أمام القانون‪ ،‬مما يؤدي‬
‫إلى االعتراف ببعض الحقوق وااللتزامات بموجب القانون‪.‬‬
‫ً‬
‫تقليديا‪ ،‬أشخاص القانون نوعان هما الشخص الطبيعي‪ ،‬والشخص االعتباري‬
‫حيث ال يعترف القانون إال بوجود هذان النوعين من األشخاص القانونيين‪ ،‬وقد منح‬
‫كال من النوعين مركز قانوني يتماش ى مع خصوصيته وطبيعته‪ ،‬فالنوع األول‬ ‫ن ً‬
‫القانو‬
‫يكون مادي ملموس املتمثل باإلنسان بوجوده املادي الحقيقي املفترض‪ ،‬والثاني‬
‫الشخص املعنوي غير املحسوس الذي يفترض القانون وجوده ألغراض معينة مثل‬
‫الكيانات القانونية كالهيئات العامة‪ ،‬الوزارات‪ ،‬شركات‪ ،‬جمعيات‪ ،‬مؤسسات‪ ،‬وغيرها(‪.)1‬‬
‫ولربما بعض تقنيات الذكاء االصطناعي لها وجود مادي محسوس‪ ،‬إال أنه مختلف‬
‫ً‬
‫بفارق كبير جدا مع الوجود املادي الحس ي لإلنسان‪ ،‬ولو أردنا وصف شخصيته أو منحه‬
‫أي مركز قانوني فإن ذلك من املستحيالت حتى لو كان مادي ملموس إال أنه بال روح أو‬
‫لحم أو دم حتى‪ ،‬وال حتى يمكننا اعتباره بكائن اعتباري أو افتراض ي حتى لو نراه أو نشعر‬
‫به كمن حولنا‪.‬‬
‫إن الشخص الطبيعي هو اإلنسان‪ ،‬وهذا هو األصل في الشخصية القانونية‪،‬‬
‫ً‬
‫وهناك أيضا شخص معنوي وهو عبارة عن طائفة مجتمعة من الناس أو مجموعة من‬
‫األموال‪ ،‬ويترتب على وجود الشخصية القانونية العديد من اآلثار‪ ،‬مثل‪ :‬الحق في االسم‪،‬‬
‫والحق في امللكية‪ ،‬والحق في النسب‪ ،‬والحق في املوطن والجنسية(‪.)2‬‬
‫ويمكن تعريف الشخص في املفهوم القانوني هو كل كائن تثبت له صالحية اكتساب‬

‫(‪ )2‬عبد الرزاق السنهوري‪ ،‬علم أصول القانون‪ ،‬مطبعة فتح هللا نوري‪ ،‬مصر‪1936 ،‬م‪ ،‬ص ‪.190- 181‬‬
‫‪68‬‬
‫الحقوق وتحمل الواجبات‪ ،‬وينصرف مدلول مصطلح الشخص ابتداء إلى اإلنسان وهو‬
‫الشخص الطبيعي‪ ،‬وقد ينصرف إلى مجموعة من األشخاص أو األموال التي تتوافر لها‬
‫الشخصية القانونية‪ ،‬وهو ما يسمى بالشخص االعتباري‪ ،‬مثل‪ :‬الدولة‪ ،‬والشركة‬
‫والجمعية(‪.)1‬‬
‫وبالتالي نالحظ أنه وال يمكن إضفاء الشخصية القانونية على الذكاء االصطناعي‬
‫وتقنياته‪ ،‬ألنها مع قدرتها الكبيرة واملتطورة لم تصل بعد إلى درجة من التطور الذي يجعل‬
‫ً‬
‫تحديد أعمالها على وجه الدقة ممكنا‪ ،‬حتى يتم أو يمكن أن نحملها املسؤولية القانونية‬
‫عن أفعالها بمعزل عن مصنعها‪ ،‬ومبرمجها ومستخدمها‪ ،‬إضافة إلى أن هذه التكنولوجيا‬
‫ً‬
‫تفتقد إلى اإلدراك الذي يتمتع به اإلنسان املسؤول قانونيا‪ ،‬وتفتقد كذلك إلى اإلرادة‬
‫الحرة التي هي مناط املسؤولية الجنائية(‪.)2‬‬
‫ً‬
‫تقوم فلسفة القانون على ارتباط فكرة استحقاق الحق ونسبته أوال‪ ،‬وحماية الحق‬
‫ً‬ ‫ً‬
‫ثانيا‪ ،‬واملسؤولية عنه ثالثا‪ ،‬بفكرة الشخصية القانونية التي ال تزال والتي ال تزال بالنسبة‬
‫ً‬
‫للبعض حكرا على اإلنسان دون سواه‪ ،‬باعتباره الكائن الوحيد الذي يمتلك الوعي ملا‬
‫يقوم به من أعمال ومهام(‪.)3‬‬
‫ً‬
‫إن منح الشخصية القانونية للذكاء االصطناعي يتأثر أيضا باالقتناع البشري بأن‬
‫هذا من شأنه أن يزيد من خطر فقدان السيطرة و انتفاضة الروبوتات‪ ،‬بحيث يخاف‬
‫ً‬
‫اإلنسان كما هو الحال دائما من خروج التكنولوجيا عن السيطرة وهو مقتنع بتفوقه‬
‫ً‬ ‫ً‬
‫وبالتالي يريد دائما أن يظل مسيطرا‪ ،‬وفي هذا السياق‪ ،‬تتم مناقشة الحاجة إلى شخصية‬
‫اعتبارية معينة في إطار قانوني مستقبلي‪ ،‬مع األخذ في االعتبار املسؤولية املدنية وحتى‬
‫املسؤولية الجنائية ألنها تخضع ً‬
‫أيضا العتبارات البرملان األوروبي‪ ،‬مما يؤدي في النهاية إلى‬
‫(‪ )1‬أنور سلطان‪ ،‬املبادئ القانونية العامة‪ ،‬دار الجامعة الجديدة‪ ،‬اإلسكندرية‪2005 ،‬م‪ ،‬ص ‪.209‬‬
‫(‪ )2‬الدحيات‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،48‬ص ‪.20‬‬
‫‪69‬‬
‫مقترحات في القانون األوروبي(‪.)1‬‬

‫ال مجال للشك في أن فكرة الذكاء االصطناعي الذي يقترن فيه عمل هذه اآلالت‪ ،‬ال‬
‫سيما اآلالت ذات التعلم العميق والذاتي‪ ،‬هو ما دفع املشرع األوروبي ملنحها هذه‬
‫ً‬
‫الخصوصية ال لحمايتها في ذاتها فقط‪ ،‬ولكن أيضا لحماية املجتمع من االستخدام غير‬
‫العقالني أو غير القانوني لآلالت‪ ،‬كونها لها وجود مادي ملموس ووجود عقلي موجه ال‬
‫يمكن تجاهله(‪.)2‬‬
‫وبالتالي هي ليست مجرد آلة شيئية فحسب‪ ،‬وإنما آالت ذكية لديها مهارات عديدة‬
‫وقدرة هائلة على التفاعل مع محيطها واتخاذ القرارات‪ ،‬واألهم من ذلك أن امتالكها‬
‫ً‬ ‫ً‬
‫ملوهبة التعلم‪ ،‬ما يجعل منها كائنا شيئيا فريدا‪ ،‬يحتاج إلى شخصية قانونية متميزة تمكن‬
‫من تحديد طبيعة املسؤولية الناجمة عنها ال املسؤولية املترتبة عليها‪ ،‬ولعل هذا التحليل‬
‫كان وراء املوقف الذي تبناه املجلس االقتصادي واالجتماعي األوروبي حول منح‬
‫ً‬
‫الشخصية القانونية املستقلة للروبوت مفضال استخدام مصطلح الشخص املنقاد على‬
‫مصطلح الشخصية القانونية والذي رأى فيه وسيلة عقالنية تساعد على تأمين تطور‬
‫منطقي ومتدرج لهذه اآلالت ال يخرج عن هذه املحددات بكونها محكومة حصرا في اإلرادة‬
‫اإلنسانية ومنقادة وفق توجيهات هذه اإلرادة(‪.)3‬‬
‫إن الشخصية القانونية وتجلب معها الحقوق والتزامات‪ ،‬وهو أمر غير ممكن مع‬
‫الذكاء االصطناعي؛ ألنه غير قادر على تحمل هذه الحقوق وااللتزامات‪ ،‬وفي عام ‪2017‬م‬
‫ً‬
‫اتخذ البرملان األوروبي قرارا وشمل هذا القرار عدم منح الشخصية القانونية للذكاء‬
‫االصطناعي ألنه غير مناسب من منطق أخالقي‪ ،‬وقانوني‪.‬‬
‫وألن الذكاء االصطناعي يعمل على نظام آلي قائم على ذكاء متقدم‪ ،‬مما يجعل‬
‫‪(1) Marcelo Corrales, Mark Fenwick ,previous reference, footnote 36, p 15.‬‬
‫(‪ )2‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.34‬‬
‫(‪ )3‬البلغيتي‪ ،‬املرجع السابق‪ ،‬هامش‪ ،68‬ص ‪.35-34‬‬
‫‪70‬‬
‫ً‬
‫التعامل معه أكثر صعوبة‪ ،‬وفي عام ‪2020‬م نشر البرملان األوربي تقريرا تضمن أن كل‬
‫ش يء يتعلق بالذكاء االصطناعي محمي بموجب حقوق النشر‪ ،‬وبالتالي ال يمكن اعتبار‬
‫الذكاء االصطناعي ذات اعتبار شخص ي والقانوني(‪.)1‬‬
‫ً‬
‫وإن كان منح الروبوت الشخصية القانونية في الوقت الراهن يراها البعض شكال‬
‫ً‬
‫من أشكال الترف القانوني غير املبرر معتبرا أن القواعد القانونية املنظمة لألشياء كفيلة‬
‫بالتعامل القانوني الصحيح معها‪ ،‬فإن الجدل القانوني القائم اآلن في األوساط القانونية‬
‫الغربية قد أثير في وقت سابق حول منح الشخصية القانونية للشخص االعتباري‪ ،‬ليجد‬
‫املشرع نفسه بعد حين أمام واقع ال مفر منه تمثل في نقص قانوني و فراغ تشريعي في‬
‫مسائل القانونية عديدة دفعت به إلى تبني هذه الشخصية القانونية‪ ،‬والتأكيد بأن‬
‫ً‬ ‫ً‬
‫الشخصية القانونية هي إقرار قانوني وليس ابتكارا قانونيا‪ ،‬وهو ما حدث بالنسبة ملنح‬
‫ً‬
‫بعض من الصفات الشخصية القانونية للحيوان في التشريعات الغربية في وقت الحقا‪.‬‬
‫وبناء على ما سبق نرى أنه ال يمكننا االعتراف بالشخصية القانونية للذكاء‬
‫االصطناعي وذلك‪ ،‬لعدم وجود وتوافر أي عنصر من عناصر الشخصية القانونية فيه‬
‫سواء اإلدراك أو التمييز‪ ،‬فهو على كل األحوال تقنية أو آلة مصطنعة أو جهاز مبتكر‪،‬أو‬
‫نماذج وعلى فرض احتمال انتاج تقنيات تعمل بشكل مستقل مستقبال فإن هذا اإلنتاج‬
‫مصنع ومبرمج يقوم بصناعته وبرمجته كي يعمل‬ ‫ّ‬ ‫واالستقاللية تعتمد بداية على‬
‫ً‬
‫باستقالل‪ ،‬وهو ما يجعل إمكانية االعتراف له بالشخصية القانونية مستحيال‪.‬‬
‫واستثناء على ما تم ذكره يمكن منح الذكاء االصطناعي شخصية قانونية استثنائية‬
‫ً‬
‫كتلك التي تمنح لألشخاص االعتبارية‪ ،‬وذلك تماشيا مع ضبط الحالة القانونية الناتجة‬
‫عن أفعاله وتصرفاته‪.‬‬
‫(‪ )1‬عائشة‪ ،‬شقفة‪ ،‬الحماية القانونية للمصنفات الناشئة عن برامج الذكاء االصطناعي‪ ،‬رسالة مقدمة‬
‫لنيل درجة املاجستير‪ ،‬كلية القانون‪ ،‬قسم القانون الخاص‪ ،‬جامعة اإلمارات العربية املتحدة‪2021 ،‬م‪،‬‬
‫ص‪.76‬‬
‫‪71‬‬
‫هناك بعض اآلراء التي تعتبر الشخصية القانونية للذكاء االصطناعي قائمة ال يمكن‬
‫نفيها عنه مطلقا‪ ،‬وسيأتي في املستقبل القريب البحث عن إقرارها‪ ،‬وما هي إال رؤية‬
‫استشرافية وبالرغم من عدم وجود إطار قانوني ينص على إمكانية منح الشخصية‬
‫القانونية للكائن الذكي من عدمه‪ ،‬فإن التوجه األوروبي الحالي هو الوحيد الذي نص على‬
‫منح الشخصية للكائن الذكي ولم يكن عندهم أي مانع في ذلك(‪.)1‬‬
‫ً‬
‫وقد أشار القانون املدني األوروبي للروبوتات بإمكانية االعتراف مستقبال للروبوت‬
‫بشخصية مستقلة‪ ،‬وذلك في الحاالت التي يصل فيها إلى القدرة على اتخاذ قرارات بشكل‬
‫مستقل عن مستخدمه‪ ،‬وهذا يعني أن الروبوت يمكنه أن يتمتع بالشخصية القانونية‬
‫ً‬
‫املستقلة مستقبال‪ ،‬وذلك إذا ظهرت أجيال جديدة منه قادرة على التفكير والتعلم‬
‫واتخاذ قرار بشكل مستقل عن اإلنسان ودون تدخل منه(‪.)2‬‬
‫وعلى سبيل املثال فيما يخص الكائن الجديد (الروبوت) لم تتحدد أطره القانونية‬
‫بعد‪ ،‬حيث أنه جمع بين ذكاء اإلنسان وقدرة اآللة‪« ،‬فاملنظومة القانونية لم تنظم هذه‬
‫الحاالت‪ ،‬ومازال القانون في معظم البلدان لم يحدد نظامها في املنظومة القانونية خاصة‬
‫ً‬
‫إذا كانت مصدرا للضرر‪ ،‬وذلك باقتراح إيجاد لها شخصية قانونية وميكانيزم للمسؤولية‬
‫التضامنية بدون خطأ وغيرها من االقتراحات»(‪.)3‬‬
‫ً‬
‫يوص ي املشرع األوروبي أيضا بمجموعة من الضوابط القانونية املحددة ملنح‬
‫الروبوت الشخصية القانونية في املستقبل‪ ،‬وهناك تأكيد على أن يكون لكل آلة شخصية‬
‫ً‬ ‫ً‬
‫إلكترونية تحمل تسلسال رقميا يتضمن االسم‪ ،‬واللقب‪ ،‬والرقم التعريفي وباإلضافة إلى‬
‫وجود علبة سرية تسمى العلبة السوداء‪ ،‬حيث تتضمن هذه العلبة كامل املعلومات‬
‫(‪ )1‬الهدام‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،22‬ص ‪.87‬‬

‫(‪ )2‬الكرار جهلول‪ ،‬وحسام عودة‪ ،‬املسؤولية املدنية عن األضرار التي يسببها الروبوت‪ ،‬مجلة الطريق‬
‫التعليمية واالجتماعية‪ ،‬عدد ‪ ،6‬ص ‪.744‬‬
‫(‪ )3‬فطيمة نساخ‪ ،‬الشخصية القانونية للكائن الجديد‪ :‬الشخص االفتراض ي الروبوت‪ ،‬مجلة األستاذ‬
‫الباحث للدراسات القانونية والسياسية‪ ،‬مجلد ‪ ،5‬عدد‪ ،2020 ،1‬ص ‪.213‬‬
‫‪72‬‬
‫املتعلقة باإلنسان اآللي‪ ،‬وشهادة التأمين التي تغطي أي ضرر يلحقه‪ ،‬وخالصة وصفوة‬
‫القول إن أنصار هذا االتجاه يرون ضرورة اعتماد شخصية قانونية للروبوت‪ ،‬وأنه‬
‫أصبح أمر حتمي بسبب حرية صنع القرار في الروبوتات املزودة بأنظمة الذكاء‬
‫االصطناعي(‪.)1‬‬
‫وفي الحقيقة تزداد املطالبات اليوم باالعتراف بالشخصية القانونية للذكاء‬
‫االصطناعي ويتم اسناد هذه املطالبات إلى حجة أن الذكاء االصطناعي بات يتسم‬
‫بالتحكم الذاتي واالستقاللية في املخرجات بدون أي تدخل بشري‪ ،‬وهناك حجة ثانية أنه‬
‫ومع التطور السريع والواسع لتقنيات الذكاء االصطناعي اقتض ى أن يحدد وضعه‬
‫ً‬
‫القانوني وإن كان على املدى الطويل‪ ،‬وأيضا قد أكد البرملان األوروبي ضرورة منح‬
‫الروبوتات املستقلة مركز األشخاص اإللكترونيين املسؤولين عن إحداث أي ضرر قد‬
‫يتسببون به‪ ،‬وربما تطبيق هذه الشخصية االلكترونية على الروبوتات التي تتخذ قرارات‬
‫مستقلة أو التي تتفاعل مع أطراف ثالثة بشكل مستقل(‪.)2‬‬
‫ومن التوصيات األخرى التي اصدرها البرملان األوروبي في عام ‪2017‬م‪ ،‬والتي تتعلق‬
‫بقواعد القانون املدني بشأن الروبوتات‪ ،‬والتي قد جاء من بينها‪ :‬التوصية بمنح الروبوت‬
‫الشخصية اإللكترونية‪ ،‬وذلك على اعتباره أحد تطبيقات أنظمة الذكاء االصطناعي‪،‬‬
‫وإنشاء وضع قانوني محدد له على املدى الطويل حتى يمكن اثبات أن الروبوتات املستقلة‬
‫ً‬
‫األكثر تعقيدا على األقل لها وضع األشخاص اإللكترونية واملسؤولين عن إحداث أي‬
‫ضرر قد يتسببون فيه‪ ،‬كما أن التوجه القانوني للدول األوروبية عامة يدرك أن هناك‬
‫اتجاه عام إلعادة النظر في القواعد القانونية لآلالت التي تعتمد على الذكاء االصطناعي‬
‫بتمييزها عن مفهوم الش يء امللتصق بها منذ عقد طويل من الزمن‪ ،‬من خالل منحها‬

‫(‪ )2‬نهاية العبيدي‪ ،‬مصنفات الذكاء االصطناعي وإمكانية الحماية بقانون حق املؤلف‪ ،‬مجلة جامعة‬
‫تكريت للحقوق‪ ،‬مجلد‪ ،5‬عدد‪ ،4‬الجزء ‪ ،2‬مركز القانون الدولي للتنمية املستدامة‪ ،‬مونتريال‪ ،‬كندا‪،‬‬
‫‪2021‬م‪ ،‬ص ‪.236‬‬
‫‪73‬‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬

‫مركزا قانونيا مختلفا عن مفهوم الش يء في القانون ربما تمهيدا واستشرافا من املشرعين‬
‫في هذه الدول ملا هو آت في األيام القادمة(‪.)1‬‬
‫وعلى الرغم من اآلراء السابقة التي تدعم وتشجع فكرة منح الشخصية االلكترونية‬
‫ً‬
‫للذكاء االصطناعي وتقنياته والروبوتات مثال‪ ،‬إال أنه هناك اتجاه معارض لهذه الفكرة‪،‬‬
‫يعتبر معظم رجال القانون أن األنظمة اآللية الحالية ليست ذكية بالقدر الكافي لكي‬
‫تستحق منحها الشخصية القانونية‪ ،‬فلم يتطور الذكاء االصطناعي إلى درجة البرمجة‬
‫للوضع املوجود عليه البشر‪ ،‬باإلضافة إلى الوضع الحالي للتشريعات الوضعية عاجزة‬
‫عن قبول أو االعتراف بالروبوت كشخص إلكتروني(‪.)2‬‬
‫ً‬
‫وأيضا يذهب االتجاه املعارض إلى وجود شخصية قانونية للروبوتات إل وجود‬
‫التشكيك في التمييز الثابت بين الناس واألشياء‪ ،‬هذا التمييز الذي يعتبر أساس الحضارة‬
‫واإلنسانية‪ ،‬كما أن الخلط بين الناس واألشياء مم املمكن أن يؤدي إلى قتل الجنس‬
‫البشري وإبادته‪ ،‬مما يعني اختفاء اإلنسان ملصلحة الروبوت‪ ،‬وزوال أو اندثار العلوم‬
‫اإلنسانية مثل الطب أو القانون أو الفنون‪ .‬كما أن أنصار االتجاه الرافض ملنح الروبوت‬
‫الشخصية القانونية يرون أن القائلين بمنحها لديهم بشأنها رؤية خيالية تميزت بروايات‬
‫أو سينما الخيال العلمي في الوقت الذي حذر فيه العديد من الخبراء العاملين في مجال‬
‫الذكاء االصطناعي من خطر منح الروبوتات الشخصية القانونية في رسالة تم توجيهها‬
‫لالتحاد األوروبي في ‪ 14‬ابريل ‪2017‬م‪ ،‬بأن هذا الخطر ال يقتصر فقط على منح حقوق‬
‫وااللتزامات ألداة بسيطة ولكن يتمثل في طمس الحدود بين اإلنسان واآللة‪ ،‬وبالتالي فتح‬
‫الطريق إلى الخلط بين األحياء واألشياء الخاملة أو الجامدة أي بين اإلنسان‬
‫والالإنسان(‪.)3‬‬
‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص‪.33‬‬

‫(‪ )2‬البلغيتي‪ ،‬مرجع سابق هامش‪ ،68‬ص ‪.38‬‬
‫‪74‬‬
‫يرى جانب من بعض الفقهاء أن الروبوت ال يوجد لديه إرادة حرة يمكن من خاللها‬
‫أن تؤدي إلى ارتكاب أفعال محظورة‪ ،‬وبالتالي ال يمكن أن يتم تحمله باملسؤولية عن‬
‫األضرار الناشئة عن تلك األفعال‪ ،‬وقد دعم هذا الفريق رأيه بأمثلة‪ :‬في حالة وقوع حادث‬
‫بسبب سيارة مستقلة‪ ،‬أو األضرار الناشئة عن سوء تصرف من الروبوتات الجراحية‪،‬‬
‫وفي نفس الوقت ذكرت اللجنة العاملية لألخالقيات املعرفة العلمية والتكنولوجية في‬
‫تقاريرها لعام ‪ 2017‬والصادر عن الروبوتات أنه سيكون من العبث وصفها كاألشخاص‬
‫ً‬
‫كون الروبوتات تفتقر إلى بعض الصفات األخرى املرتبطة عموما بالبشر مثل‪ ،‬اإلرادة‬
‫الحرة‪ ،‬والقصد‪ ،‬والوعي الذاتي‪ ،‬واإلحساس األخالقي والشعور بالهوية الشخصية(‪.)1‬‬
‫ً‬
‫ودعما ملا سبق فيرى جانب آخر من الفقه بأن الروبوتات ال تملك إرادة حرة مماثلة‬
‫إلرادة اإلنسان حتى ولو كانت قادرة على التفكير فإنها ستظل مشروطة بالخوارزميات‬
‫التي تمت برمجتها بها‪ ،‬كما أن هناك بعض املعايير املطبقة على البشر ال يمكن تطبيقها‬
‫على الروبوت مثل‪ :‬املشاعر واألحاسيس التي ال يمكن برمجتها عليها واألهم من دلك أن‬
‫الروبوتات هي في األساس خوارزميات تم وضع معايير لها ال تستطيع الهروب منها‪ ،‬وبتالي‬
‫فإن غياب اإلرادة الحرة لها يعيق تأهيلها ملنحها الشخصية القانونية‪ ،‬لذلك يجب البحث‬
‫عن بديل آخر كأساس للمسؤولية التقصيرية للروبوتات الذكية للغاية(‪.)2‬‬
‫كذلك ويرى جانب من الفقه املعارض لفكرة منح الشخصية القانونية لتقنيات‬
‫الذكاء االصطناعي أن االعتراف بالشخصية القانونية االعتبارية للروبوت يفتح الباب‬
‫بمصراعيه أمام املصنعين حتى يتخلصون من املسؤولية عن أفعال أجهزتهم‪ ،‬وعن‬
‫العيوب التي تتعلق ببيانات البرامج والتدريب‪ ،‬وعن الضرر الذي يمكن أن تسببه‬
‫للغير(‪.)3‬‬
‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص‪.39‬‬

‫(‪ )2‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص‪.39‬‬
‫(‪ )3‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص‪.39‬‬
‫‪75‬‬
‫ً ً‬
‫خالصة القول؛ إن منح الشخصية القانونية للروبوتات الذكية يعتبر أمرا مهما ألنه‬
‫يحد من مسؤولية املالك‪ ،‬إال ان هذا الخيال القانوني ال يفي باملعايير التقليدية‬
‫للشخصية القانونية‪ ،‬وذلك للمبالغة في تقدير القدرات الفعلية للروبوتات‪ .‬فضال على‬
‫ً ً‬ ‫ً‬
‫أن منح الشخصية القانونية للروبوتات مثل الشخص الطبيعي أمرا صعبا جدا ألن‬
‫الروبوت سيتمتع بحقوق اإلنسان مثل الحق في الكرامة واملواطنة‪ .‬وهذا األمر يتعارض‬
‫مع ميثاق الحقوق األساسية لالتحاد األوروبي واتفاقية حماية حقوق اإلنسان والحريات‬
‫األساسية ‪.‬كما أنه ال يمكن منحه الشخصية القانونية على غرار الشخص املعنوي‪،‬‬
‫وذلك ألن الشخص املعنوي يخضع لتوجيه األشخاص الذين يمثلونه‪ ،‬وهذا ال ينطبق‬
‫على الروبوتات الذكية‪ ،‬وبالتالي فإن االعتراف بالشخصية القانونية للذكاء االصطناعي‬
‫ككيان قانوني‪ ،‬سيؤدي إلى تخلص املنتجين والجهات املسؤولية األخرى من مسؤوليته(‪.)1‬‬
‫حينما نتحدث عن روبوت الذي يفكر‪ ،‬يستنبط‪ ،‬يتخذ القرارات بنفسه فيجب‬
‫عمل شخصية له (الشخص الذكي) وهي غير الشخصية الطبيعية (االنسان)‪ ،‬وغير‬
‫الشخصية االعتبارية (املعنوية) فمن الضروري انشاء شخصية جديدة لتطبيقات‬
‫وكيانات الذكاء االصطناعي وهي الشخصية االلكترونية لتطبيقات الذكاء االصطناعي‬
‫حتى تتحمل بعض الحقوق وااللتزامات كون هذه االلة أصبحت تتخذ قرارات ذاتيه‬
‫بنفسها فيجب أن يتم إعطائها‪ ،‬الجنسية‪ ،‬اسم‪ ،‬بعض الحقوق املالية‪ ،‬وفرض عليها‬
‫بعض االلتزامات ومن هنا نستطيع ترتيب وفرض عليها قواعد املسؤولية ومن هنا يتوجب‬
‫االعتراف بالشخصية االلكترونية للذكاء االصطناعي‪.‬‬
‫إال أن التوجه ملنح شخصية قانونية للذكاء االصطناعي حتى يتحمل بنفسه هو‬
‫ً‬
‫املسؤولية‪ ،‬فإن األمر يستوجب ذمة مالية خاصة به‪ ،‬فالبعض يقترح أن يكون تأمينا‬
‫ً‬
‫كاف باعتبار التأمين ذو قيمة محددة‪ ،‬ويكون بذات الوقت خدعة قانونية‬
‫عينيا فهو غير ٍ‬
‫ً‬ ‫ً‬
‫للبشر تسمح لهم بالتنصل من املسؤولية إذا كان الذكاء االصطناعي قادرا فعال على‬
‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص ‪.40-39‬‬
‫‪76‬‬
‫االختراع‪ ،‬واالبداع وبالتالي التفكير في منحه حق امللكية‪ ،‬وإن ما توصل إليه في حقيقة‬
‫ً‬
‫األمر هو مجموعة جهود بشرية منحته القدرة‪ ،‬وعليه فإن األمر يبقى مبهما ملن له الحق‬
‫ً‬
‫فعال في حقوق امللكية(‪.)1‬‬
‫ومن األمثلة على بعض الدول التي منحت الشخصية االلكترونية للذكاء االصطناعي‬
‫اململكة العربية السعودية‪ ،‬ففي عام ‪2017‬م تم منح (الروبوت صوفيا) الجنسية‬
‫السعودية‪ ،‬إال أنه تم انتقاده على نطاق واسع والسبب في ذلك هو أن معظم األكاديميين‬
‫متشككون و يتفقون على أن صوفيا ليس لديها معايير كافية ألي أخالقي أو قانوني‪ ،‬على‬
‫ً‬
‫الرغم من االنتقادات‪ ،‬وبالتالي فإن اململكة العربية السعودية هي أول دولة تمنح روبوتا‬
‫ً‬
‫يقوم على الذكاء االصطناعي شكال من أشكال الشخصية القانونية‪ ،‬كما قامت منطقة‬
‫شوبويا في طوكيو بتخصيص محل إقامة للذكاء االصطناعي‪ ،‬ومنحه الحقوق الكاملة‬
‫التي يتمتع بها الشخص الطبيعي(‪.)2‬‬
‫وكما ورد فيما سبق عند تناول تعريف الذكاء االصطناعي ّ‬
‫ومكوناته أنه عبارة عن‬
‫محاولة ملحاكاة الذكاء اإلنساني إلى درجة مقاربة‪ ،‬عن طريق برمجة اآللة أو الحاسوب‬
‫على نمط معين يجعلها قادرة على التعلم والبحث وتحليل البيانات وفق اآللية التي‬
‫يصنعها املصنع لهذه التقنية‪ّ ،‬‬
‫وتبين من لفظ اصطناعي أن هذا النوع من الذكاء ال يوجد‬
‫وحده وإنما هناك من يقوم بتصنيعه وبرمجته على نحو معين ليتمكن من تأدية‬
‫ً‬ ‫ّ ً‬
‫مبرمجا‪،‬‬
‫الوظائف التي هو معد لها‪ ،‬وهذا الشخص هو اإلنسان سواء أكان مصنعا أم ِ‬
‫ً‬
‫كما وأن تطبيقات الذكاء االصطناعي ال تعمل باستقالل ذاتي غالبا‪ ،‬فهناك من يتحكم‬
‫(‪ )1‬حمادي العطرة‪ ،‬نون الزاهر‪ ،‬تحديات الذكاء االصطناعي للقانون‪ ،‬مذكرة مقدمة الستكمال شهادة‬
‫املاستر أكاديمي حقوق‪ ،‬تخصص قانون أعمال‪ ،‬جامعة قاصدي مرباح ورقلة‪ ،‬كلية العلوم الحقوق‬
‫والعلوم السياسية‪2021-2020 ،‬م‪ ،‬ص ‪.67‬‬
‫(‪ )2‬محمد خزيمية‪ ،‬املسؤولية املدنية عن أضرار الذكاء االصطناعي دراسة مقارنة‪ ،‬رسالة قدمت‬
‫ً‬
‫استكماال ملتطلبات درجة املاجستير في القانون املدني‪ ،‬الجامعة العربية األمريكية‪ ،‬كلية الدراسات‬
‫العليا‪ ،‬جنين‪2023 ،‬م‪ ،‬ص ‪.39‬‬
‫‪77‬‬
‫ً‬ ‫ً‬
‫مستخدما فقط‪ ،‬وقد أثارت هذه النقاط فكرة النائب‬
‫ِ‬ ‫بها سواء أكان مالكا لها أم‬
‫اإلنساني املسؤول عن أفعال الذكاء االصطناعي(‪.)1‬‬
‫في املسؤولية املدنية نظرية النائب اإلنساني‪ :‬وهي عبارة عن نظرية انشأها‬
‫األوروبيون سنة ‪2017‬م وتجعل املبرمج‪ ،‬املستخدم‪ ،‬املصنع‪ ،‬نائب عن التطبيق أو‬
‫الكيان أو النظام وضمنيا االعتراف بشخصية جديدة وتمهيد الطريق لالعتراف بوجود‬
‫شخصية ثالثة في القانون اال وهي الشخصية االلكترونية للذكاء االصطناعي أوروبا عن‬
‫طريق هذه النظرية حملت املسؤولية للنائب اإلنساني بقوة القانون عن روبوته النائب‬
‫اإللكتروني‪.‬‬
‫ففي عام ‪2016‬م ذهب القضاء األمريكي إلى العثور على مصطلح النائب االلكتروني‬
‫والذي يدل على برامج الحاسوب املستقلة(‪ .)2‬وفي عام (‪ )2018‬ذهبت محكمة النقض‬
‫ً‬
‫الفرنسية أيضا للعثور على روبوت يطلق عليه (روبوت الرد على رسائل البريد اإللكتروني)‬
‫عرف على أنه‪« :‬برنامج حاسوبي معلوماتي‪ ،‬دون منحه أي صفة نيابية عن مشغله؛ أي‬ ‫ُوي َّ‬
‫مجرد وسيلة تسهم في تدفق البيانات في الفضاء الرقمي خدمة للحاجات العامة من جهة‬
‫أخرى»(‪.)3‬‬
‫ً‬
‫وفي الحقيقة يذهب اتجاه نظرية النائب اإلنساني «للقول بأن الروبوت ليس شيئا أو‬
‫ً‬
‫جمادا‪ ،‬بل إنه كائن آلي بمنطق بشري مبتدئ قابل للتطور والتعقل‪ ،‬وعلى هذا األساس‬
‫برزت فكرة النائب اإلنساني املسؤول عن الروبوت والتي تختلف عن فكرة حارس األشياء‬
‫(‪ )1‬مختار‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،28‬ص ‪.182‬‬

‫‪(2) Newsom V. Branch Banking And Trust Company, United States District Court, E.D, North‬‬
‫‪Carolina, Eastern Division, January 9 ,2019.‬‬
‫(‪ )3‬محمد‪ ،‬املشد‪ ،‬نحو إطار قانوني شامل للمسؤولية املدنية من أضرار نظم الذكاء االصطناعي غير‬
‫املر اقب‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬عدد خاص باملؤتمر الدولي السنوي العشرون‪ ،‬مصر‪،‬‬
‫‪2021‬م‪ ،‬ص‪.331‬‬
‫‪78‬‬
‫وتختلف أيضا عن فكرة القيم أو الوص ي»(‪.)1‬‬

‫ً‬
‫تختلف صور النائب اإلنساني وفقا للقانون األوروبي ويعود ذلك إلى حسب ظروف‬
‫الحادث الذي قد يتسبب به الروبوت من جهة‪ ،‬ودرجة السيطرة الفعلية للنائب عليه‬
‫التي ستقيم وجود خطأ النائب من عدمه من جهة أخرى‪ ،‬بما يخالف نظرية حارس‬
‫األشياء التي افترضت الخطأ‪ ،‬وقد أقر املشرع األوروبي أمثله عن النائب اإلنساني‬
‫املسؤول عن أخطاء تشغيل الروبوت كالتالي‪:‬‬
‫ً‬
‫‪ -‬صاحب املصنع‪ : Manufacturer– fabricant:‬ووفقا لهذه الحالة فإنه ُيسأل صانع‬
‫الروبوت عن قيود أو عيوب اآللة الناتجة عن سوء التصنيع والتي أدت إلى انفالت‬
‫الروبوت وقيامه بأفعال خارجة عن إطار استخدامه الطبيعي‪ ،‬ومن األمثلة على‬
‫ذلك‪ :‬كأن يؤدي عيب في روبوت العناية الطبية إلى تحريك املريض بشكل خاطئ مما‬
‫أثر عليه وأدى لتفاقم حالته الصحية‪ ،‬ومثال أخر اإلضرار باملريض بسبب سوء‬
‫تواصل الروبوت الطبي مع مخبر التحاليل‪ ،‬أو إهمال صيانة الروبوت من الشركة‬
‫الصانعة‪ ،‬وفي جميع األحوال ال يستطيع صاحب املصنع الرجوع على العامل الذي‬
‫ً‬
‫ال يفقه شيئا بالروبوتات(‪.)2‬‬
‫املشغل ‪: Operator‬وهو عبارة عن الشخص املحترف الذي يعمل ويقوم على‬ ‫‪-‬‬
‫استغالل الروبوت مثل‪ :‬إدارة البنك التجاري االفتراض ي الذي يشغل تطبيق ذكي‬
‫يعتمد على الروبوت في إدارة بعض العمليات املصرفية‪ ،‬فمن املمكن أن يحدث خطأ‬
‫في إدارة حسابات العمالء فيقوم ذلك الروبوت بالتزويد العميل ببيانات عميل‬
‫أخر(‪.)3‬‬
‫ً‬
‫املالك‪: Owner‬وهو الشخص الذي يعمل على القيام بتشغيل الروبوت شخصيا‬ ‫‪-‬‬
‫(‪ )1‬همام القوص ي‪ ،‬االفتراضية للروبوت وفق املنهج اإلنساني‪-‬دراسة تأصيلية تحليلية استشرافية في‬
‫القانون املدني الكويتي واألوروبي‪ ،‬مجلة جيل األبحاث القانونية املعمقة‪ ،‬عدد‪ ،2019 ،35‬ص‪.11‬‬
‫(‪ )2‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.31-30‬‬
‫‪79‬‬
‫لخدمه عمالئه‪ ،‬كالطبيب مالك املستشفى الذي يملك ويشغل روبوت طبي للقيام‬
‫بعمليات جراحية ُفيسأل املالك إذا وقع خطأ من الروبوت على سالمة أي شخص أو‬
‫أحد من األشخاص املرض ى(‪.)1‬‬
‫لم يقم قانون الروبوت األوروبي بوضع املالك في بداية الوكالء اإلنسانين بل وضعه‬
‫بعد الصانع واملشغل‪ ،‬وعلى عكس نظرية حارس األشياء التي تفرض املسؤولية على‬
‫املالك حيث تقوم عليه قرينة لحراسة الش يء حتى وإن حصل الحادث مع املشغل وقد‬
‫ذهب جانب من الفقه إلى فرض املسؤولية املحدودة على مالك الروبوت صاحب القرار‬
‫املستقل‪ ،‬فيتم مساءلة املالك في حدود قيمه الروبوت دون أن يتم الرجوع على كامل‬
‫ذمته املالية‪ ،‬وذلك بغرض ان يتم حصر مخاطر تشغيل الروبوت(‪.)2‬‬
‫‪ -‬املستعمل ‪: User-Utilisateur‬وهو الشخص التابع الذي يقوم على استعمال‬
‫ً‬
‫الروبوت شخص غير املالك أو املشغل‪ ،‬ويكون املستعمل مسؤوال عن سلوك الروبوت‬
‫ً‬
‫الذي قد سبب ضررا للناس‪ ،‬في حين اتجاه القانون املدني للروبوتات إلى غير اتجاه نظرية‬
‫حارس األشياء التي كانت تفرض املسؤولية على املالك وحتى إن تسبب التابع بالحادث إثر‬
‫ً‬
‫استعماله للش يء‪ ،‬وذلك خالفا لنظرية مسؤولية املتبوع(املالك) عن أعمال التابع‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬
‫(املستعمل)‪ ،‬وخالفا أيضا لالعتبار املالك حارسا مفترضا في جانبه الخطأ وفقا للقواعد‬
‫العامة(‪.)3‬‬
‫ً‬ ‫ً‬
‫وعلى كل حال يجب التنبيه إلى إمكانية أن يكون املستعمل شخصا منتفعا‬
‫بالروبوت‪ ،‬ومثاله‪ :‬كأن يحدث أن يستعمل الحافلة الروبوت ذاتية القيادة مجموعة من‬
‫األشخاص املسافرين عبر لوحة إلكترونية‪ ،‬فيقوم أحد األشخاص بإرسال أمر خاطئ‬
‫ً‬ ‫ً‬
‫للحافلة ما يتسبب بوقوع حادث مروري‪ ،‬أو قد يتخذ املشغل املحترف مستخدما بشريا‬
‫(‪ )1‬همام القوص ي‪ ،‬إشكالية الشخص املسؤول عن تشغيل الروبوت‪ ،‬مجلة جيل األبحاث القانونية‬
‫املعمقة‪ ،‬العدد ‪2018 ،25‬م‪ ،‬ص ‪.7‬‬
‫(‪ )2‬القوص ي‪ ،‬املرجع سابق‪ ،‬هامش ‪ ،169‬ص‪.7‬‬
‫‪80‬‬
‫ً‬
‫الستعمال الروبوت بحيث يكون مساعدا له‪ ،‬فقد يقاض ي املستعمل وهو مستخدم تابع‬
‫لدى الشركة املشغلة للروبوت بسبب إهمالها في صيانته‪ ،‬وحيث أنه قد اقترح القانون‬
‫األوروبي فرض التأمين اإللزامي على املالك أو الصانع في سبيل نقل املسؤولية املدنية عن‬
‫كاهلهم مهما كانت طبيعتها‪ ،‬لنقل عبء املسؤولية عنهم وحل تلك املشكلة(‪.)1‬‬
‫انتشر في أحد املجالت األجنبية بأن قد وقعت حادثة في شهر فبراير من عام ‪،2016‬‬
‫حيث قامت سيدة من كوريا الجنوبية بشراء مكنسة آلية قد تم برمجة هذه املكنسة على‬
‫ً‬
‫أن تتحرك فورا وتنظف املكان بشكل تلقائي بمجرد سقوط أي ش يء على األرض‪ ،‬وفي‬
‫أحد األيام صادف أن قامت السيدة الكورية بالنوم على األرض فتحركت املكنسة اآللية‬
‫بشكل تلقائي بعد استشعارها بوجود ش يء على األرض وشفطت املكنسة اآللية شعر تلك‬
‫السيدة الكورية مما اضطر األمر االتصال بخدمة الطوارئ لكي يتم إنقاذها(‪.)2‬‬
‫بالتالي فإن فكرة جلب أجهزة آلية للمنزل تبعث لنا رسالة مفادها‪ :‬أنه في الوقت‬
‫الذي تصبح فيه أجهزة الروبوت متصلة باإلنترنت بشكل متزايد‪ ،‬وقادرة على االستجابة‬
‫ً‬
‫للغة البشر الطبيعية‪ ،‬فإن الشخص سيكون في حاجة إلى أن يصبح أكثر حذرا بشأن‬
‫تخمين ماهية ذلك الشخص أو الش يء الذي يتحدث إليه(‪.)3‬‬
‫ً‬ ‫ً‬
‫تبنى قانون العقوبات املغربي اتجاها مغايرا ملوقف القانون املدني االوروبي‬
‫للروبوتات‪ ،‬فقد طبق نظرية حارس األشياء التي تفرض املسؤولية على املالك‪ ،‬إلعتبار أن‬
‫ً‬ ‫ً‬
‫املالك حارسا مفترضا في جانبه الخطأ وفقا للقواعد العامة‪ ،‬أما القانون املدني األوروبي‬
‫فقد استند على فكرة الخطأ الواجب اإلثبات‪ ،‬واعتبر فيه أن النائب هو املسؤول عن‬

‫(‪ )2‬انظر إلى املوقع االلكتروني إيفان سلينغيز‪ ،‬درو هارتزوغ‪ ،‬مخاطر الثقة في أجهزة الروبوت‪2015،‬م‪ ،‬تاريخ‬
‫الزيارة‪2023/11/27:‬م‪ ،‬بدون رقم صفحة‬
‫‪https://www.bbc.com/arabic/scienceandtech/2015/08/150820_vert_fut_dangers_of_trus‬‬
‫‪ting_robots .‬‬
‫(‪ )3‬سيلينغيز‪ ،‬درو هارتزوغ‪ ،‬املرجع السابق‪ ،‬هامش ‪ ،173‬بدون رقم صفحة‪.‬‬
‫‪81‬‬
‫التعويض بسبب تشغيل الروبوت على أساس الخطأ الواجب اإلثبات على النائب الذي‬
‫ً‬ ‫ً‬ ‫ً‬
‫قد يكون صانعا أو مشغال أو مالك أو مستعمال للروبوت(‪.)1‬‬
‫يرى بعض القانونيين أن الحديث عن منح الشخصية القانونية آلالت الذكاء‬
‫ً‬
‫االصطناعي وتقنياته يعتبر شكال من أشكال الترف القانوني الغير مبرر واملثير للجدل‬
‫بشكل كبير‪ ،‬مؤكدين على أنه ال حاجة ملنح هذه الشخصية للذكاء االصطناعي‪ ،‬مع‬
‫االكتفاء بتوصيفه واعتباره القائم أنه بحكم األشياء‪ ،‬مع األخذ باالعتبار أن القواعد‬
‫القانونية الناظمة لهذه األشياء تكفل التعامل القانوني الصحيح معها(‪.)2‬‬
‫«إن فكرة التشخيص القانوني للروبوت كما تقول محكمة استئناف باريس ال تفعل‬
‫سوى نقل املشكلة‪ ،‬بمعنى أن األشخاص الذين يقع عليهم املساهمة في تغذية الذمة‬
‫املالية للروبوت بهدف التمكين من تعويض الضحايا سيكونوا على األرجح نفس‬
‫األشخاص الذين ستنعقد مسؤوليتهم في حال تطبيق القواعد العامة في املسؤولية»(‪.)3‬‬
‫أي أن نقل املسؤولية للروبوت سيؤدي لظهور مشكلة أخرى تتعلق بإعاقة وظيفة‬
‫املسؤولية املدنية في تحقيق الردع والوقاية‪ ،‬كون أن الفاعلين أو األطراف التقليدية لن‬
‫يتحملوا على األرجح عبئ دعاوى املسؤولية التي ستوجه إليهم‪.‬‬
‫كما أن محكمة باريس تذهب بالقول الراجح ّأن فكرة التشخيص القانوني للذكاء‬
‫ألن مسؤولية التعويض ستنسب إلى‬ ‫االصطناعي تسبب مشكلة من حيث التعويض‪ّ ،‬‬
‫األشخاص الطبيعيين وليس على الذكاء االصطناعي‪ ،‬لذلك يرفض هذا االتجاه بشكل‬
‫مطلق منح الشخصية القانونية للذكاء االصطناعي(‪ ،)4‬كما أنه يذهب (املشرع الفرنس ي)‬
‫ُ ً‬
‫إلى اعتبار الذكاء االصطناعي والحيوان واحد بحيث ّأن كال من الحيوان والذكاء‬
‫االصطناعي ال يمكن منحهما الشخصية القانونية‪ ،‬فالحيوان ال يمكن أن يكون قائم على‬
‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص ‪.33‬‬

‫(‪ )3‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬هامش‪ ،11‬ص‪.9‬‬
‫(‪ )4‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬هامش‪ ،11‬ص‪.9‬‬
‫‪82‬‬
‫االعتبار الشخص ي كذلك الحال فيما يتعلق بالذكاء االصطناعي‪ ،‬فاملشرع الفرنس ي يرى‬
‫ّأن ما ينطبق على الحيوان ينطبق على الذكاء االصطناعي(‪.)1‬‬
‫ومع ذلك فإنه قد يقوم الذكاء االصطناعي بالتسبب بحدوث بعض األخطاء التي قد‬
‫تلحق الضرر باآلخرين‪ ،‬والتي يصعب التعامل معها وحسب القوانين الحالية‪ ،‬وأن هذا‬
‫الخطأ من املمكن أن يكون بسبب حقيقة اتخاذ الذكاء االصطناعي لقراراته بنفسه دون‬
‫أن يتلقاها من قبل صاحبه‪ ،‬أو حدوث خلل ما في برمجته‪ ،‬وهذه األسباب التي تجعله‬
‫مصدر خطر على املجتمع‪ ،‬وبالتالي ال يمكن تحديد السبب الذي أدى إلى ظهور هذا‬
‫الخطأ‪ ،‬مما يدفعنا إلى التفكير في شخصية الذكاء االصطناعي‪ ،‬حتى يمكن تحديد‬
‫الشخص املسؤول عن حدوث هذا الضرر والتعويض عنه(‪.)2‬‬
‫وبناء على ما سبق نالحظ أنه ال يتمتع الذكاء االصطناعي وتقنياته بالشخصية‬
‫القانونية‪ ،‬ألنها أنظمة مستقلة‪ ،‬والضرر الذي تحدثه هذه األنظمة يمكن بل ويجب أن‬
‫ينسب إلى أشخاص أو منظمات قائمة‪ ،‬وهناك مخاطر معنوية وغير مقبولة من هذا‬
‫األمر‪ ،‬إال أنه توجد عدة دعوات ووجهات نظر تدعو وترنو إلى املستقبل مضمونها‬
‫االعتراف بالشخصية القانونية لها‪ ،‬وذلك من أجل أن يتم إلقاء املسؤولية عليها‪ ،‬حتى‬
‫يتم التمكن من تعويض الضحايا نتيجة األضرار الناتجة بشكل فعال وسريع‪ ،‬بحيث ال‬
‫يكون هناك أي أعباء إلثبات االضرار بتكلفة كبيرة أو لفترة طويلة حتى إال أنها كانت‬
‫ً‬
‫وجهة محال للنقد وغير مفيدة‪.‬‬
‫(‪ )1‬محمد‪ ،‬مجاهد‪ ،‬املسؤولية املدنية عن الروبوتات ذات الذكاء االصطناعي «دراسة مقارنة»‪ ،‬املجلة القانونية‪،‬‬
‫عدد‪ 2021 ،2‬من ص‪.309‬‬
‫(‪ )2‬خزيمية‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،162‬ص‪.2‬‬
‫‪83‬‬
‫املسؤولية اجلنائية عن أضرار الذكاء االصطناعي‬
‫إن املسؤولية القانونية هي األساس القانوني الذي يتم بناء عليه توجيه االتهام‬
‫بارتكاب الجريمة لشخص معين‪ ،‬وال بد أن تكون هناك عناصر معينة تقوم عليها‪ ،‬ففي‬
‫الركن املادي يكون بارتكاب فعل أو عدة أفعال مادية تمثل الفعل الغير مشروع ويعاقب‬
‫القانون على ارتكابه‪ ،‬والركن املعنوي الالزم الرتكاب الجريمة(‪.)1‬‬
‫تقوم املسؤولية الجنائية على تحمل الشخص لتبعات أفعاله التي تعد جرائم‪،‬‬
‫ً‬
‫وتعتبر هذه املسؤولية ال تطال كمبدأ عام إال اإلنسان املرتكب للفعل الجرمي تكريسا‬
‫ألحد املبادئ املؤطرة للقانون الجنائي الكالسيكي أال وهو مبدأ شخصية العقوبة‬
‫الجنائية‪ ،‬إال أنه وأمام التطورات والتحوالت التي عرفها األفراد واملجتمعات‪ ،‬واستيعابها‬
‫ألنشطة صناعية جديدة‪ ،‬وزيادة مساحة الخطر الذي يهدد األفراد بسبب هذه‬
‫ً‬
‫األنشطة‪ ،‬وتبعا لذلك طرح تساؤل قانوني عن إمكانية مسائلة الروبوت كأحد الفاعلين‬
‫لهذه األنشطة(‪.)2‬‬
‫وال مجال للشك في أنه ال تقتصر املسؤولية الجنائية على الفعل اإليجابي‪ ،‬بل تنتج‬
‫ً‬
‫وتنجم أيضا عن الفعل السلبي كما اإليجابي على حد سواء‪ ،‬ما دام القانون يقوم بتجريم‬
‫ُ‬
‫ذلك الفعل أو تركه‪ ،‬وحتى تفرض املسؤولية الجنائية على شخص ما‪ ،‬فإنه ينبغي توافر‬
‫عنصران رئيسيان‪ ،‬أولهما العنصر الواقعي أو الخارجي أي السلوك اإلجرامي أو الفعل‬
‫االجرامي‪ ،‬ويتمثل العنصر الثاني في العنصر الداخلي أو العقلي أي النية اإلجرامية‪ ،‬وإذا‬
‫تخلف أي عنصر من هذه العناصر فإنه يؤدي النتفاء املسؤولية الجنائية(‪.)3‬‬
‫(‪ )1‬أبو العيد‪ ،‬مرجع سابق‪ ،‬هامش‪ ،29‬بدون رقم صفحة‪.‬‬

‫‪84‬‬
‫فعلى سبيل املثال عندما يفي الروبوت الذكي بجميع عناصر الجريمة على‬
‫الصعيدين الخارجي والداخلي‪ ،‬فال يوجد أي سبب يمنع فرض املسؤولية الجنائية على‬
‫الروبوتات الذكية عن تلك الجريمة املرتكبة‪ ،‬وعندما يعمل الروبوت الذكي من خالل‬
‫البرمجيات والخوارزميات بشكل صحيح‪ ،‬فال يوجد يمنعه من استخدام جميع ملفات‬
‫القدرة على تحليل البيانات الواقعية الواردة من خالل مستقبالته‪ ،‬ومن ثم ُيسأل جنائيا ‪.‬‬
‫وبالنسبة لبعض الدفوع فيجب تعديل النصوص املنظمة لها على نحو يتماش ى مع‬
‫ً‬
‫طبيعة الروبوتات‪ ،‬فمثال يتم تطبيق الدفع بانعدام املسؤولية حال ارتكاب الجريمة تحت‬
‫تأثير مادة مسكرة مثل الكحول واملخدرات أو بسبب الجنون‪ ،‬فمثل هدا التأثير يتشابه‬
‫مع تأثير فيروس إلكتروني على عمل ما لتلك الروبوتات(‪.)1‬‬
‫ً‬ ‫ً‬
‫وانطالقا ملا سبق فإنه ترتبط املسؤولية الجنائية ارتباطا وثيقا بالعقاب وال تنفصل‬
‫ً‬
‫عنه‪ ،‬ونظرا لخطورة األفعال الجنائية ومساسها بالنظام العام فإن العقوبات التي‬
‫حددها املشرع لذلك غالبا ما تكون صارمة تتراوح بين الغرامات الزجرية والعقوبات‬
‫السالبة للحرية قد تصل إلى حد اإلعدام في بعض الحاالت الخاصة(‪.)2‬‬
‫ومن األمثلة على ذلك في مجال الذكاء االصطناعي وجود روبوت يقوم بعمل معين‪،‬‬
‫وحدث عطب أو خطأ ما مما أدى لتعرض شخص إلصابة وتوفي على الفور‪ ،‬ففي هذه‬
‫ً‬ ‫ً‬
‫جدال حول‬ ‫الحالة من الصعب تحديد من هو املسؤول جنائيا‪ ،‬كونه ما زال هناك‬
‫الطبيعة القانونية للذكاء االصطناعي‪ ،‬إال أننا يمكننا تبسيط االمر واعتبار عمل‬
‫الروبوتات وما في حكمها دخل نطاق املسؤولية الجنائية‪.‬‬
‫إن إتاحة فرض املسؤولية الجنائية على الكيانات باعتبارها مرتكبي الجرائم املباشرة‬
‫ً‬
‫يقر أيضا بإمكانية كون الكيانات املستقلة متواطئة‪ ،‬أو مرتكبة مشتركة‪ ،‬أو محرضة‪ ،‬أو‬

‫‪85‬‬
‫شريكة‪ ،‬وما إلى ذلك‪ ،‬طاملا تم استيفاء متطلبات العناصر الفعلية والعقلية بالكامل(‪.)1‬‬
‫إال انه وألهمية التكليف يمكن أن تنعدم أو تصير في حكم العدم فيتعذر إسناد‬
‫املسؤولية الجنائية للروبوتات‪ ،‬هناك حاالت تبطل فيها املسؤولية الجنائية بحكم‬
‫القانون ورغم توفير الشروط املوضوعية لقيامها‪ ،‬وتعرف هذه الحاالت بحاالت اإلباحة‬
‫في التشريع الجنائي(‪.)2‬‬
‫بشكل عام‪ ،‬وعلى املستوى األوروبي فإنه تغطي القواعد الحالية للمسؤولية‬
‫الحاالت التي يمكن فيها إرجاع أفعال الروبوتات أو إغفالها إلى وكيل بشري معين كالشركة‬
‫املصنعة‪ ،‬أو املالك أو املستخدم‪ ،‬بحيث يمكن أن يكون إمكانية لتنبؤ الوكيل بذلك‪،‬‬
‫وقد تم وضع بعض التصورات للمسؤولية الجنائية فيما يخص كيانات وبرامج الذكاء‬
‫االصطناعي‪ ،‬أولها أن تكون املسؤولية الرتكاب الجريمة بواسطة شخص آخر‪ ،‬وستكون‬
‫التهمة حينها موجهة للمنتج‪ ،‬أو املبرمج أو املستخدم النهائي‪ ،‬والتصور اآلخر في حالة‬
‫املسؤولية املحتملة والعواقب غير املتوقعة وهنا يتم استبعاد املبرمج أو العنصر البشري‬
‫من تحمل املسؤولية وذلك لعدم تورطه‪ ،‬ويتم ارجاع السبب إلى وجود خلل بالطريقة التي‬
‫كان يجب أن يفكر بها الكيان(‪.)3‬‬
‫يعتبر القانون الجنائي الفعل أنه أي أداء مادي له مظهر خارجي واقعي‪ ،‬سواء كان‬
‫ذلك بإرادة أو بغير قصد‪ .‬وعلى هذا األساس‪ ،‬فإن تكنولوجيا الذكاء االصطناعي قادرة‬
‫على القيام بأفعال تلبي متطلبات السلوك‪ .‬وهذا ال ينطبق فقط على تكنولوجيا الذكاء‬
‫االصطناعي القوية‪ ،‬ولكن ً‬
‫أيضا على التقنيات األقل بكثير‪ ،‬فعندما يقوم الروبوت‬
‫بتحريك ذراعيه أو أي من أجهزته األخرى‪ ،‬فإنه يعتبر أنه يتصرف‪ .‬وهذا صحيح عندما‬
‫تكون الحركة نتيجة لحسابات داخلية يقوم بها الروبوت‪ ،‬ولكن ليس عندها فقط‪ ،‬وحتى‬

‫(‪ )2‬بدر لويس‪ ،‬أثر التطور التكنولوجي مع الحريات الشخصية في النظم السياسية‪ ،‬رسالة الدكتوراه‪،‬‬
‫كلية الحقوق‪ ،‬جامعة القاهرة‪1982 ،‬م‪ ،‬ص ‪.228‬‬
‫‪86‬‬
‫لو تم تشغيل الروبوت بالكامل بواسطة مشغل بشري من خالل جهاز التحكم عن بعد‪،‬‬
‫ً‬
‫فإن أي حركة للروبوت تعتبر عمال‪ .‬ولذلك‪ ،‬فحتى الروبوتات غير املتخصصة في‬
‫تكنولوجيا الذكاء االصطناعي لديها القدرة الفعلية على أداء األفعال‪ ،‬بغض النظر عن‬
‫ً‬
‫دوافع الفعل أو أسبابه‪ .‬وهذا ال يعني بالضرورة أن هذه الروبوتات مسؤولة جنائيا عن‬
‫ً‬
‫أفعالها‪ ،‬ألن فرض املسؤولية الجنائية يجب أن يستوفي أيضا شرط الركن العقلي‪ ،‬ولكن‬
‫فيما يتعلق بأداء فعل من أجل استيفاء شرط عنصر السلوك‪ ،‬فإن أي أداء مادي ذو‬
‫ً ً‬
‫تمثيل خارجي واقعي يعتبر فعال‪ ،‬سواء كان املؤدي الجسدي كيانا قويا أم ال(‪.)1‬‬
‫عرف التقصير على أنه تقاعس عن العمل يتعارض مع الواجب‬ ‫في القانون الجنائي‪ُ ،‬ي ّ‬
‫املشروع للتصرف‪ .‬ووفقا لهذا التعريف فإن مصطلح الواجب الشرعي له أهمية كبيرة‪.‬‬
‫وعكس العمل ليس اإلغفال‪ ،‬بل التقاعس عن العمل‪ ،‬وملا كان القيام بش يء ما هو عمل‪،‬‬
‫فإن عدم القيام بأي ش يء هو تقاعس عن العمل‪ ،‬والتقصير هو درجة متوسطة من‬
‫السلوك بين الفعل والتقاعس‪ ،‬ويعتبر اإلغفال ليس مجرد تقاعس عن الفعل‪ ،‬بل هو‬
‫تقاعس يتناقض مع واجب الفعل املشروع‪ :‬فاملذنب الذي يتجاهل مطلوب منه أن‬
‫يتصرف‪ ،‬لكنه يفشل في القيام بذلك‪ ،‬إذا لم يرتكب أي فعل‪ ،‬ولكن لم يتم فرض واجب‬
‫التصرف‪ ،‬فال وقد ارتكبت اإلغفال(‪.)2‬‬
‫ال يعترف املفهوم الحديث للسلوك في القانون الجنائي بأي اختالفات جوهرية أو‬
‫وظيفية بين األفعال واإلغفاالت لفرض املسؤولية الجنائية‪ ،‬لذلك يمكن ارتكاب أي‬
‫جريمة عن طريق الفعل أو االمتناع‪ .‬ومن الناحية االجتماعية والقانونية‪ ،‬فإن ارتكاب‬
‫الجرائم عن طريق االمتناع ال يقل خطورة عن ارتكابها عن طريق الفعل‪ ،‬إن معظم‬
‫النظم القانونية تقبل هذا النهج الحديث‪ ،‬وليست هناك حاجة صراحة إلى اشتراط أن‬
‫جزءا من الركن الفعلي للجريمة‪ ،‬فقد تحدد الجريمة السلوك املحظور‪،‬‬ ‫يكون اإلغفال ً‬
‫الذي يمكن ارتكابه من خالل األفعال أو من خالل اإلغفال وعلى هذا األساس‪ ،‬يمكن‬
‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 39 - 40.‬‬

‫‪87‬‬
‫لتقنية الذكاء االصطناعي إجراء عمليات إهمال تلبي متطلبات السلوك‪ .‬وهذا ال ينطبق‬
‫فقط على تكنولوجيا الذكاء االصطناعي القوية‪ ،‬ولكن ً‬
‫أيضا التقنيات األقل بكثير‪.)1( .‬‬
‫جسديا‪ ،‬التكليف باإلغفال يتطلب عدم القيام بأي ش يء‪ ،‬وليس هناك شك في أن‬ ‫ً‬
‫ً‬
‫جسديا على ارتكاب أي‬ ‫أي آلة غير قادرة على فعل أي ش يء؛ ولذلك‪ ،‬فإن أي آلة قادرة‬
‫ً‬
‫إغفال‪ .‬وبطبيعة الحال‪ ،‬لكي يعتبر التقاعس تقصيرا‪ ،‬ال بد من وجود واجب قانوني‬
‫وناشئا عن قانون أو عقد‪ ،‬وكان‬ ‫ً‬ ‫يناقض التقاعس‪ ،‬فإذا كان هذا الواجب مو ً‬
‫جودا‪،‬‬
‫ً‬
‫موجها إلى اآللة‪ ،‬فال شك أن اآللة قادرة على ارتكاب تقصير فيما يتعلق بذلك‬ ‫الواجب‬
‫الواجب(‪.)2‬‬
‫أيضا فيما يتعلق بالتقاعس عن العمل‪ .‬التقاعس عن العمل هو‬‫وهذا هو الوضع ً‬
‫العكس الواقعي الكامل للفعل‪ ،‬إذا كان الفعل هو فعل ش يء‪ ،‬فإن التقاعس عن الفعل‬
‫ال يعني القيام به‪ ،‬أو عدم القيام بأي ش يء‪ .‬وفي حين أن اإلغفال هو تقاعس عن العمل‬
‫يتناقض مع واجب مشروع في التصرف‪ ،‬فإن التقاعس عن العمل ال يتطلب مثل هذا‬
‫ً‬
‫التناقض‪ .‬فالترك ليس فعال عندما يكون هناك التزام بفعل ما‪ ،‬في حين أن التراخي ليس‬
‫ً‬
‫فعال عندما ال يكون هناك التزام بفعل أي ش يء‪ .‬يتم قبول التقاعس عن العمل كشكل‬
‫مشروع من أشكال السلوك فقط في املسؤولية الجنائية املشتقة (على سبيل املثال‪،‬‬
‫الشروع‪ ،‬أو ارتكاب الفعل املشترك‪ ،‬أو ارتكاب الفعل من خالل شخص آخر‪ ،‬أو‬
‫التحريض‪ ،‬أو التواطؤ)‪ ،‬وليس في الجرائم الكاملة واملستقلة ‪.‬في هذه الحاالت‪ ،‬عندما‬
‫ً‬
‫جسديا بنفس‬ ‫يتم قبول التقاعس كشكل مشروع من أشكال السلوك‪ ،‬فإنه يتم ارتكابه‬
‫طريقة التقصير(‪.)3‬‬
‫وبالتالي‪ ،‬إذا كانت تكنولوجيا الذكاء االصطناعي قادرة على ارتكاب الفعل من خالل‬
‫أيضا على ارتكاب الفعل من خالل التقاعس عن‬ ‫اإلغفال عن السلوك‪ ،‬فهي قادرة ً‬

‫‪88‬‬
‫ً‬
‫تلقائيا عن هذا‬ ‫ً‬
‫جنائيا‬ ‫الفعل‪ ،‬وهذا ال يعني بالضرورة أن اآلالت أو الروبوتات مسؤولة‬
‫اإلغفال أو التقاعس عن العمل‪ ،‬ألنه لفرض املسؤولية الجنائية‪ ،‬من الضروري أيضاً‬
‫تلبية متطلبات الركن العقلي‪ ،‬وال يكفي لتلبية متطلبات الركن الفعلي ‪.‬وبالتالي‪ ،‬يمكن‬
‫لآلالت تلبية العنصر اإللزامي لشرط العنصر الفعلي أي السلوك(‪.)1‬‬
‫وال يلزم أن تكون هذه اآلالت متطورة للغاية أو حتى تعتمد على تقنية الذكاء‬
‫االصطناعي‪ ،‬فاآلالت البسيطة قادرة على التصرف بموجب تعريفات ومتطلبات القانون‬
‫الجنائي‪ ،‬ولفرض املسؤولية الجنائية على أي كيان‪ ،‬فهذه خطوة أساسية‪ ،‬حتى لو لم‬
‫تكن كافية‪ ،‬وال يمكن فرض أي مسؤولية جنائية إذا لم يتم استيفاء شرط السلوك‪،‬‬
‫ولكن السلوك وحده ال يكفي لفرض املسؤولية الجنائية(‪.)2‬‬
‫تنشأ مسألة املسؤولية الجنائية للذكاء االصطناعي عادة عندما تكون السيارات‬
‫ذاتية القيادة متورطة في القتل نتيجة حوادث السيارات‪ ،‬والروبوتات الجراحية عندما‬
‫ترتكب أخطاء جراحية‪ ،‬أو عندما تشارك خوارزمية التداول في عمليات االحتيال‪ ،‬وكل ما‬
‫ً‬
‫سبق يترتب عليه سؤال قانوني مهم جدا‪ ،‬وهو من الذي سوف يتحمل املسؤولية‬
‫الجنائية عن جرائم هذه التقنيات وأضرارها‪ ،‬هل ستترتب املسؤولية الجنائية على‬
‫الشركة املصنعة أم املبرمج أم املستخدم أم الذكاء االصطناعي نفسه أم سيتحمل الغير‬
‫ذلك‪ ،‬كل ذلك سوف يتم الحديث واإلجابة عنه‪.‬‬
‫إن القانون الجنائي يقوم على مبدأ الجريمة الفردية‪ ،‬ومن ناحية أخرى ال تمتلك‬
‫آالت الذكاء االصطناعي أي وعي أو أية ضمير‪ ،‬وال تزال املسائل العملية املتعلقة بالقانون‬
‫املدني سائدة خاصة التي تتعلق بالسيارات ذاتية القيادة بالكامل‪ ،‬أو في بعض عملياتها‬
‫يقول نيكوالس وولتمان‪ ،‬وهو املساعد في مركز أبحاث قانون الروبوت في جامعة أملانية‪،‬‬
‫إن «قائد السيارة يكون في الوقت الحالي مسؤوال أيضا عن الحوادث املتعلقة بسيارته‬
‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 41‬‬

‫‪89‬‬
‫حتى ولو لم يكن متورطا فيها‪ ،‬ولكن هل من الصائب توجيه اتهام جنائي لشخص عندما‬
‫ً‬
‫يكون الذكاء االصطناعي هو املسؤول عن قيادة السيارة ومتحكما فيها»؟ ‪ .‬وأضاف قائال‬
‫إن «الشركة يمكن أن تكون أيضا مسؤولة عن الحوادث في القانون املدني» بعكس‬
‫القانون الجنائي‪ ،‬ووضح أن «األفراد فقط يمكنهم ارتكاب جرائم وليس الشركات أو‬
‫اآلالت(‪.)1‬‬
‫وملواجهة تلك املشكلة طرح خبراء املسائل األخالقية والقانونية مفهوم «السيطرة‬
‫البشرية ذات املغزى» حيث تقول سوزان بيك‪ ،‬أحد أستاذة القانون الجنائي وفلسفة‬
‫القانون بجامعة هانوفر األملانية‪« :‬قبل إلقاء املسؤولية الجنائية على شخص ما يجب‬
‫إلقاء نظرة متفحصة على ما إذا كان قد مارس أية سيطرة على اآللة» (‪.)2‬‬
‫ُيرجح أنصار املذهب التقليدي في الفقه القانوني الجنائي املسؤولية الجنائية إلى‬
‫ّ ً‬ ‫ً‬
‫مجرما يكون لدى هذا االنسان‬ ‫حرية االختيار‪ ،‬فاإلنسان عندما يرتكب سلوكا يعتبر‬
‫خيار بين ارتكاب الجريمة وبين االمتناع عن ارتكابها‪ ،‬وعلى الرغم من ذلك فهو يقدم على‬
‫ً‬
‫ارتكاب الجريمة مختارا‪ ،‬وهذا األمر هو أساس املسؤولية الجنائية‪ ،‬فإذا ثبت أن هذا‬
‫االنسان قد ارتكب تلك الجريمة نتيجة لعوامل أفضت إلى فقدانه حرية االختيار فعندها‬
‫ال يكون هناك مجال للمساءلة الجنائية(‪.)3‬‬
‫تتفق التعريفات الفقهية للمسؤولية الجنائية على‪ ،‬أنه‪ :‬ال تنشأ املسؤولية الجنائية‬
‫ً‬
‫إال إذا توافرت جميع أركان الجريمة‪ ،‬فهي أثر الجتماعهما وليست ركنا من أركانها‪ ،‬وعلى‬
‫ً‬
‫هذا يعد ارتكاب الجريمة ركنا مقدمة ال بد منها لتحمل املسؤولية الجنائية وقيامها في‬
‫حق الفاعل‪ ،‬وبمفهوم املخالفة فإنه في حال عدم وجود جريمة ال يمكن القول بوجود‬
‫(‪ )1‬انظر إلى املوقع اإللكتروني‪ ،‬إذا كان خصمك إنسان آلي «روبوت» فمن تقاض ي؟‪،Deutsche Welle ،‬‬
‫‪ ،2019،https://p.dw.com/p/3LJ8O‬تاريخ الزيارة ‪ ،2023 /10 /26‬بدون رقم صفحة‪.2023 ،‬‬
‫(‪ )2‬موقع الكتروني‪ ،‬مرجع سابق‪ ،‬إذا كان خصمك إنسان آلي «روبوت» فمن تقاض ي‪ ،‬املرجع السابق‪ ،‬هامش‬
‫‪ ،196‬بدون رقم صفحة‪.‬‬
‫(‪ )3‬هشام فريد‪ ،‬الدعائم الفلسفية للمسؤولية الجنائية‪ ،‬القاهرة‪ ،‬دار النهضة العربية‪1981 ،‬م‪ ،‬ص ‪.237‬‬
‫‪90‬‬
‫املسؤولية الجنائية‪ ،‬وتعني املسؤولية مساءلة وسؤال مرتكب الجريمة عم فعله وتقرير‬
‫عقوبة له(‪.)1‬‬
‫ويرى جانب من فقهاء القانون الجنائي أن الجريمة تتكون من ثالثة أركان‪ ،‬األول‪:‬‬
‫ركن القانوني املتمثل في النص القانوني الذي يجرم الفعل ويقرر له عقوبة‪ ،‬والثاني‪ :‬ركن‬
‫مادي يتمثل في السلوك اإلجرامي الذي يرتكبه الجاني وتتحقق به النتيجة الجرمية‪،‬‬
‫والثالث‪ :‬ركن معنوي يتمثل في القصد الجنائي أو الخطأ‪ .‬وهناك جانب آخر من الفقه‬
‫الجنائي يرى أن للجريمة ركنان اثنان فقط‪ ،‬وهما‪ :‬الركن املادي والركن املعنوي‪ ،‬فال‬
‫يمكن بحال أن يعد نص التجريم الذي هو األساس العتبار الفعل جريمة أو غير جريمة‬
‫ً‬
‫ركنا من أركانها(‪.)2‬‬
‫ّ‬
‫ومجرم ويتم‬ ‫وتتمثل جرائم الذكاء االصطناعي في كل سلوك يكون غير قانوني‬
‫بواسطة استخدام أجهزة الذكاء االصطناعي‪ ،‬ويترتب عليه حصول الجاني على فوائد‬
‫مادية أو معنوية ووقوع أضرار كبيرة على املجني عليه‪ ،‬وفي الغالب والشائع يكون هدف‬
‫هذه الجرائم القرصنة من أجل القيام بسرقة أو إتالف املعلومات املوجودة على هذه‬
‫األجهزة(‪.)3‬‬
‫وملا كان الذكاء االصطناعي وتقنياته يتميز بالغموض‪ ،‬ويتخذ قراراته بناء على ما‬
‫تعلمه مما ال يمكن معه التنبؤ بتصرفاته‪ ،‬بالتالي فقد يخترع استراتيجيات أو يتخذ‬
‫ً‬
‫قرارات غير متوقعة ويتعلم أن يحدث خطئا فيقوم بإصدار قرارات خاطئة يترتب عنها‬
‫(‪ )1‬محمود حسني‪ ،‬شرح قانون العقوبات اللبناني‪ ،‬القسم العام‪ ،‬بيروت‪ ،‬دار النهضة العربية‪1984 ،‬م‪،‬‬
‫ص ‪.469‬‬
‫(‪ )2‬واثبة السعدي‪ ،‬الوجيز في شرح قانون العقوبات‪ ،‬القسم العام‪ ،‬النظرية العامة للجريمة والعقاب‪،‬‬
‫عمان‪ ،‬دار اليازوري‪2012 ،‬م‪ .‬ص ‪.71‬‬
‫(‪ )3‬خضر دولي‪ ،‬ناصري نفيسة‪ ،‬دور الذكاء االصطناعي في مواجهة الجرائم اإللكترونية‪ ،‬مجلة املؤشر‬
‫للدراسات االقتصادية‪ ،‬جامعة ظاهري محمد بشار‪ ،‬الجزائر‪ ،2018-2017 ،‬ص ‪.35‬‬
‫‪91‬‬
‫ارتكاب جريمة‪ ،‬مما يحتم اتخاذ أكبر قدر من االحتياط(‪.)1‬‬

‫تقوم املسؤولية الجنائية بتحقق النتيجة الجرمية التي تترتب على السلوك اإلجرامي‬
‫املرتكب‪ ،‬وال يكفي مجرد تحقق النتيجة الجرمية فقط‪ ،‬بل البد من وجود عالقة سببية‬
‫بين هذا السلوك اإلجرامي املرتكب والنتيجة الجرمية‪.‬‬
‫إن األحكام العامة للركن املادي للمسؤولية الجنائية تنطبق على أحكام الركن‬
‫املادي للمسؤولية الجنائية في جرائم الذكاء االصطناعي‪ ،‬فال بد لقيام املسؤولية أن‬
‫يصدر فعل وسلوك مجرم عن إحدى تقنيات الذكاء االصطناعي‪ ،‬وأن يفض ي هذا الفعل‬
‫إلى تحقق النتيجة الجرمية‪ ،‬ويشترط توفر عالقة السببية بين ذلك الفعل املجرم الذي‬
‫صدر عن الذكاء االصطناعي وبين النتيجة الجرمية املترتبة عليه‪.)2( .‬‬
‫ً‬ ‫ُ‬
‫تعتبر املهام التي يقدمها الذكاء االصطناعي مهاما متعددة يعجز اإلنسان عن القيام‬
‫بها‪ .‬والتطور الكبير فيه والتجديد الدائم قد يجعل أضراره أكبر وأكثر من نفعه وفوائده‬
‫خاصة إذا قامت بارتكاب جرائم مستقلة عما وضعه مبرمجها أو مصنعها أو‬
‫مستخدمها(‪.)3‬‬
‫يؤثر الذكاء االصطناعي بشكل ما على املسؤولية الجنائية‪ ،‬ألن األفعال التي تصدر‬
‫عن الذكاء االصطناعي‪ ،‬وتقنياته وآالته والتي تعتبر جرائم جنائية هي التي تثير اإلشكالية‬
‫ً‬
‫والتساؤل عن الشخص املسؤول عن هذه األفعال جنائيا؟‪.‬‬
‫في الحقيقة إن معرفة نماذج وأنماط عمل الذكاء االصطناعي وتقنياته تسهل مهمة‬
‫‪(1) Matilda— Artificial Intelligence and the External Element of the Crime An Analysis‬‬
‫‪of the Liability Problem- Spring 2017- JURIDICUM – JU101A, Final Thesis for the Law‬‬
‫‪Program, Second Cycl.-26.‬‬
‫(‪ )2‬إطميزي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،31‬ص‪.35-34‬‬
‫(‪ )3‬مشاعل القايدي‪ ،‬املسؤولية الجنائية للذكاء االصطناعي‪ ،‬بحث مقدم ضمن متطلبات مقرر مشروع‬
‫التخرج (حقوق ‪ )498‬في برنامج بكالوريوس الحقوق‪ ،‬جامعة طيبة‪ ،‬اململكة العربية السعودية‪1442 ،‬ه‪،‬‬
‫ص‪.4‬‬
‫‪92‬‬
‫ً‬
‫تحديد املسؤول جنائيا عن هذه األفعال‪ ،‬وكذلك تأثير الذكاء االصطناعي على النظام‬
‫القانوني(‪.)1‬‬
‫لقد تحدثنا في املبحث األول املطلب الثاني عن عدة أنماط من نماذج الذكاء‬
‫االصطناعي وتمت التفريق بينهما‪ ،‬ففي النموذج البسيط الغالب على تطبيقات الذكاء‬
‫االصطناعي فيها أنها ال تعمل باستقالل وإنما تعمل بتحكم اإلنسان فيها‪ ،‬غالبا املسؤولية‬
‫الجنائية واالضرار في هذه النوع تقع على عاتق مستخدم هذه اآلالت لحظة حدوث‬
‫الضرر أثناء استخدامها مثل مستخدم الهاتف املحمول بشرط أن يكون املبرمج قد عمل‬
‫على تعيين وبرمجة املهام التي يقوم بها هذه االلة من غير وجود أي إهمال منه أو أي‬
‫تالعب بحيث ال تخرج هذه التقنيات عن املهام املكلفة بها وإال أصبحت هناك مسؤولية‬
‫جنائية أخرى قد تقع على املصنع أو املبرمج أو الذكاء االصطناعي نفسه بل وحتى طرف‬
‫خارجي غيرهم وسوف أوضح ذلك الحقا‪.‬‬
‫أما بالنسبة لنموذج الذكاء االصطناعي املتقدم قد يعمل باستقالل إلى حد ما لكنه‬
‫بشكل غير تام‪ ،‬قام املصنع بصنع الذكاء االصطناعي في هذا النوع وعمل على برمجته‬
‫ً‬ ‫ً‬ ‫ً‬
‫وفقا لنظام خاص يعمل به ووفقا له‪ ،‬وقد تحدثنا سابقا أن هذا النموذج املتقدم يعتبر‬
‫أكثر شمولية من النموذج البسيط وال يقتصر فقط على تكليف االلة بالقيام بأوامر‬
‫معينة ومعطاة لها بل و يتم تمكينها وبرمجتها على إمكانية االلة من التفكير ذاتيا وتطوير‬
‫ذلك بناء على خوارزميات برمجية وقواعد بيانات ضخمة مما يمكنها من تطوير نفسها‬
‫واتخاذ قرارات ذاتية وتنفيذ هذه القرارات فبالتالي أصبحت شبيهة بالبشر‪ .‬في هذه‬
‫الحالة في جميع السلوكيات تقريبا فذلك ادى إلى القول بأنه بمقدار الجزء املتيقن من‬
‫السلوك تكون املسؤولية الجنائية وبالتالي في هذه االوضاع أصبح الجزء املتيقن من‬
‫السلوك يقع على عاتق هذا الذكاء االصطناعي ومن االمثلة على هذا النوع‪ :‬الحواسيب‪،‬‬
‫والسيارات ذاتية القيادة وغيرها فبالتالي هنا يجب خلق مسؤولية جنائية للذكاء‬
‫‪93‬‬
‫االصطناعي نفسه وهذا غير موجود في القانون وال جريمة وال عقوبة اال بنص فبالتالي‬
‫يجب تنبيه املشرع في أن يبدأ باستحداث مسؤولية الذكاء االصطناعي نفسه حتى‬
‫يستطاع ان يتم معاقبة تقنيات الذكاء االصطناعي على الجرائم املرتكبة منها وكل هذه‬
‫األمور سوف يتم توضيحها بشكل مفصل الحقا‪.‬‬
‫وبناء على ما سبق نالحظ أنه مهما كان االختالف في أنماط ونماذج عمل الذكاء‬
‫االصطناعي فإن هذا ال يعفيه من املسؤولية القانونية‪ ،‬ألن أفعال الذكاء االصطناعي قد‬
‫ً‬
‫تشكل ضررا بالغير أو جريمة‪ ،‬وهي بطبيعتها ال تنفك عن اإلنسان الذي قام بصنعها‬
‫وبرمجها أو الذي يملكها ويستخدمها‪ ،‬والذي يفترض فيه العلم بنتائج هذه األفعال‬
‫تحمل هو مسؤوليتها بنسبة‬‫وبالتالي عليه أن يسعى ويبذل الجهد لتجنبها‪ ،‬وإذا وقعت ّ‬
‫ً‬ ‫ً‬ ‫ّ ً‬
‫مصنعا أم مبرمجا أم مالكا أم‬ ‫مساهمته فيها‪ ،‬وكل شخص حسب موقعه سواء أكان‬
‫ً‬
‫مستخدما وهكذا‪.‬‬
‫توصف املسؤولية الجنائية بالنسبة ألضرار الذكاء االصطناعي بأنها كثيرة التعقيد‬
‫فهناك أربعة أطراف ترتبط بهم املسؤولية الجنائية وهم‪ :‬املصنع أو املبرمج لتقنيات‬
‫الذكاء االصطناعي‪ ،‬واملالك لتقنية الذكاء االصطناعي‪ ،‬وتقنية الذكاء االصطناعي نفسها‪،‬‬
‫وطرف خارجي غير هؤالء األطراف الثالثة‪.‬‬
‫تعتبر املسؤولية الجنائية عن أضرار الذكاء االصطناعي موضوعا مهما‪« .‬هل تقع‬
‫على الشركة املنتجة أم على املالك‪ ،‬أم حرية اإلرادة واتخاذ القرار املتوفر للذكاء‬
‫االصطناعي تجعله مسؤوال بصورة منفردة عن أفعاله‪ ،‬وإذا توافرت هذه الحالة األخيرة‪،‬‬
‫فهل يمكن واقعيا مسائلته جنائيا؟»(‪.)1‬‬
‫إن الخطورة األكبر تكمن في انترنت األشياء‪ .‬فعندما يتم إعطاء لتطبيق معين أو‬
‫كيان ما املسؤولية والشخصية التي تترتب عليها املسؤولية بمعنى ذلك هل يستطيع‬
‫الروبوت أن يتقاض ى؟ أو يكون مجني عليه؟ أو أن يدعي بالحق املدني؟ هل يمكن القيام‬
‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬صفحة ‪.5‬‬
‫‪94‬‬
‫باستجوابه من قبل النيابة العامة؟ هل يمكن لهذا الروبوت (املحامي الروبوت االلة) أن‬
‫يقوم بعمله كمحامي وأن يتلقى توكيال من الخصوم؟ وأن يمثل أمام املحاكم‪...‬الخ؟ هل‬
‫نستطيع فرض عقوبة عليه؟‬
‫تتمثل أغراض العقوبة في نظريات العقوبة مثل‪ :‬الردع العام‪ ،‬والردع الخاص‪،‬‬
‫وتحقيق العدالة‪.‬‬
‫فعليا وحتى تاريخ هذا اليوم لم توضع قواعد في املسؤولية الجنائية على عكس‬
‫املدنية والدولية ففي املسؤولية الدولية على سبيل املثال اعتبروا االلة التي تقوم بقتل‬
‫الناس أفضل من اإلنسان نفسه‪ :‬ألنها تستطيع التفرقة بين املدني والعسكري لذلك‬
‫القواعد الدولية تذهب إلى مسؤولية القائد العام وإلى مسؤولية املوجود في املعركة‬
‫والحروب‪ .‬بالرغم من محاولة بعض الدول في اميركا وأوروبا في تطبيق السيارات ذاتية‬
‫القيادة بوضع قواعد املسؤولية الجنائية لها من دون باقي تطبيقات الذكاء االصطناعي لم‬
‫تضع لها‪.‬‬
‫إذا تم االعتراف بوجود شخص الكتروني فإن الركن املادي الرتكاب الجريمة وبداية‬
‫يتوجب معرفة عدة أمور أوال تطبيق القواعد العامة سوف يتم القيام بإنزال القواعد‬
‫العامة على جرائم تقنيات الذكاء االصطناعي واألمر االخر يجب أن يكون معلوما أن هذا‬
‫أيضا به مساسا بقاعدة الشرعية أنه ال جريمة وال عقوبة إال بنص‪ .‬وأيضا أنه يجب أال‬
‫يجوز التوسع في قواعد التجريم‪.‬‬
‫فكرة املسؤولية الجنائية أنه يجب أن يكون هناك نص عقابي (الركن الشرعي)‬
‫والذي هو التجريم والعقاب مبدأ الشرعية وأيضا هناك ركن مادي وركن معنوي ففي‬
‫الركن املادي ليس هناك أي إشكالية كونه تعتد بالسلوك أكثر من الركن املعنوي‬
‫والرابطة النفسية واإلرادة وهذه األمور ال تطبق على تقنيات الذكاء االصطناعي ألنه مهما‬
‫تطور البشر ووصل إلى أي علم لن يعطوا لهذا الكيان اإلدراك (األهلية)‪ ،‬واإلرادة بين‬
‫الخير والشر‪ ،‬والوعي عدم الجنون‪.‬‬
‫‪95‬‬
‫يجب علينا فحص كيفية تلبية تكنولوجيا الذكاء االصطناعي للجانب املعرفي‬
‫ملتطلبات القصد الجنائي وهل الروبوت االصطناعي قادر على إدراك السلوك أو الظروف‬
‫أو إمكانية حدوث النتائج في سياق القانون الجنائي‪ ،‬يمكن تقسيم عملية الوعي إلى‬
‫مرحلتين‪ ،‬األولى من استيعاب البيانات الواقعية عن طريق الحواس‪ .‬وفي هذه املرحلة‪،‬‬
‫تلعب األجهزة املستخدمة الستيعاب البيانات الواقعية الدور األساس ي‪ ،‬وأجهزة اإلنسان‬
‫عبارة عن أعضاء‪ ،‬كالعينين (لتحسس الضوء)‪ ،‬واألذنين (لتحسس الصوت)‪ ،‬ونحو‬
‫ذلك‪ .‬تمتص هذه األعضاء البيانات الواقعية (مثل املشاهد والضوء واألصوات والضغط‬
‫وامللمس) وتنقلها إلى الدماغ ملعالجتها(‪.)1‬‬
‫تتمتع تقنية الذكاء االصطناعي بالقدرة واألجهزة ذات الصلة الستيعاب أي بيانات‬
‫واقعية يمكن جمعها بواسطة الحواس البشرية الخمس‪ ،‬حيث أنه تمتص الكاميرات‬
‫ً‬
‫ميكروفونا األصوات‪ ،‬ويستشعر ‪41‬‬ ‫الضوء وتنقل البيانات إلى املعالجات‪ ،‬ويلتقط ‪40‬‬
‫ً‬
‫محوال الضغط‪ ،‬وتستشعر موازين الحرارة درجة الحرارة‪ ،‬وتستشعر أجهزة قياس‬
‫الرطوبة‪ ،‬وفي الواقع‪ ،‬فإن التقنيات املتقدمة قادرة على استشعار أكثر دقة من األعضاء‬
‫البشرية املقابلة لها على سبيل املثال قد تمتص الكاميرات موجات الضوء بترددات ال‬
‫تستطيع العين البشرية اكتشافها‪ ،‬ويمكن للميكروفونات استشعار موجات صوتية غير‬
‫مسموعة لألذن البشرية(‪.)2‬‬
‫تكمن العديد من االضرار في تقنيات الذكاء االصطناعي (االلة الذكية) وعلى سبيل‬
‫املثال قضية حصلت في بريطانيا تمت محاكمة العديد من األشخاص على احدى‬
‫تطبيقات الذكاء االصطناعي التي أدت إلى الوفاة قام محاميهم للدفاع عن املتهمين قائال‪:‬‬
‫أن التطبيق االلة الذكية قد أصيب بفايروس وأن هذا الفايروس أدى إلى إخالل بطريقة‬
‫عمل تطبيق الذكاء االصطناعي مما أدى الرتكاب الجريمة وذلك يعتبر عذر قهري وعذر‬
‫مفاجئ مثل الجنون وال يتم االعتداد بفعله وبالتالي هم غير مسؤولين جنائيا وبالفعل تم‬

‫‪96‬‬
‫الحكم لصالحهم بالبراءة وهنا األمر قد تعلق بالركن املعنوي بالرغم من كونها الة ذكية‬
‫بالرغم من أن الركن املعنوي يجب أن يكون معلوما وفي الذكاء االصطناعي لديه إدراك‬
‫ولكن ليس إدراكا طبيعيا إنما إدراكا اصطناعيا فهو يستنبط‪ ،‬وهو يحلل‪ ،‬ويفكر‪ ،‬ويتعلم‬
‫من تجاربه السابقة‪ ،‬ويتخذ القرارات بمفرده‪.‬‬
‫وتتطور االشكالية والتساؤالت أنه في حال ارتكب الذكاء االصطناعي أي جريمة ترتب‬
‫عنها أي ضرر فمن سيكون املسؤول جنائيا عن تلك األضرار؟ حتى يمكن إيجاد حل‬
‫وجواب لذلك التساؤل يمكن السير في عدة فرضيات‪.‬‬
‫إن املسؤولية الجنائية لجرائم الذكاء االصطناعي تتسم بالتعقيد‪ ،‬فاألطراف الذين‬
‫ّ‬
‫املصنعة واملبرمجة للذكاء االصطناعي‪،‬‬ ‫تقوم املسؤولية بحقهم متعددون‪ ،‬كالشركة‬
‫واملالك أو املستخدم لهذه التقنيات‪ ،‬وكيان الذكاء االصطناعي نفسه‪ ،‬والطرف الخارجي‬
‫ً‬
‫الذي يقوم باختراق منظومة الذكاء االصطناعي‪ ،‬نظرا لطبيعة هذه التقنيات التي تجعلها‬
‫عرضة لالختراق من ِقبل الغير(‪.)1‬‬
‫مسؤولية املصنع أو املنتج للذكاء االصطناعي‪:‬‬
‫سواء أكانت الشركة أو املبرمج الذي برمج هذا الذكاء االصطناعي فممكن اسناد لهم‬
‫املسؤولية الجنائية عن الجريمة التي ارتكبها الذكاء االصطناعي وذلك عن طريق أنه قصر‬
‫في الجهد البرمجي ولم يعطي أوامر كافية أو وضع وبرمجة محظورات في الكود البرمجي‬
‫للذكاء االصطناعي املتقدم في أنه مثال أن يبرمج فيه انه ال يجوز االعتداء على حياة أي‬
‫انسان إذا كان هناك أي تفضيل بين حياة وبين تدمير نفس والعديد من األولويات طبقا‬
‫للمعايير البرمجية فيجب أن يكون الكود البرمجي أو املبرمج أن يضع هذه املحظورات‬
‫ويبرمجها في كود البرمجة وبالتالي فإن املبرمج إذا لم يضع ويبرمج كافة املحظورات أو أثر‬
‫أو لم يتبع القواعد القانونية التي تنظم إنتاج وتصنيع االت الذكاء االصطناعي فإنه‬
‫سيكون مسؤول عنها وعن كافة أضرارها املرتكبة والناتجة عنها جنائيا‪.‬‬
‫‪97‬‬
‫ً‬
‫تعتبر املسؤولية الجنائية ملصنع الذكاء االصطناعي من األمور املهمة والتي غالبا ما‬
‫تثار عند ارتكاب ذلك املصنع ألي سلوك يشكل جريمة طبقا للقانون‪ ،‬و بالتالي إن البحث‬
‫ً‬ ‫ً‬
‫في املسؤولية الجنائية للمصنع موضوعا ضروريا لتوضيح مدى دوره في املسؤولية‬
‫الجنائية حيث أنه قد يقوم املصنع بحماية نفسه من خالل وضع بنود يذكرها في اتفاقية‬
‫االستخدام‪ ،‬والتي بدوره يوقع عليها املالك‪ ،‬وبعد توقيع املالك واستخدامه لتلك التقنية‬
‫يتحمل املالك وحده املسؤولية الجنائية عن الجرائم املرتكبة من خالل هدا الكيان‪،‬‬
‫الذي يعمل بالذكاء االصطناعي و تخلى مسؤولية املصنع عن أي جريمة ترتكب من قبل‬
‫املالك‪ .‬غير أنه قد تحدث جريمة نتيجة خطأ برمجي من مبرمج برنامج الذكاء االصطناعي‪،‬‬
‫كأن يحدث أن يصدر املبرمج تقنية الذكاء االصطناعي بأخطاء تتسبب في جرائم وبالتالي‬
‫يكون املبرمج هو املسؤول عنها جنائيا‪ ،‬ويجب التفرقة بين تعمد سلوكه هذا أم ال حتى‬
‫يتبين معرفة وقوع الجريمة عن طريق العمد أم الخطأ ألنه تختلف العقوبة املقررة في كل‬
‫منها(‪.)1‬‬
‫قد يقوم املبرمج بتصميم كيان الذكاء االصطناعي الرتكاب جرائم من خالله‪ .‬على‬
‫سبيل املثال‪ ،‬يقوم أحد املبرمجين بتصميم برنامج للروبوت الستخدامه في املصنع‪ ،‬ويتم‬
‫ً‬
‫برمجة برنامجه إلشعال املصنع ليال عندما ال يكون هناك أحد‪ .‬لقد قام الروبوت بإحراق‬
‫الحريق‪ ،‬لكن املبرمج يعتبر هو مرتكب الجريمة ولم يقم املستخدم النهائي ببرمجة‬
‫البرنامج‪ ،‬بل استخدم كيان الذكاء االصطناعي‪ ،‬بما في ذلك برمجياته‪ ،‬ملصلحته‬
‫ً‬
‫الخاصة‪ ،‬وهو ما يعبر عنه بارتكاب الجريمة‪ ،‬وعلى سبيل املثال‪ ،‬يشتري املستخدم روبوتا‬
‫يعرف الروبوت املستخدم على أنه السيد‪،‬‬‫منزلي ًا مصمم ًا لتنفيذ أي أمر يصدره سيده‪ّ ،‬‬
‫ويأمر السيد الروبوت بمهاجمة أي متسلل إلى املنزل‪ ،‬يقوم الروبوت بتنفيذ األمر ً‬
‫وفقا‬
‫متعد‪،‬‬
‫تماما‪ .‬وال يختلف هذا الوضع عن موقف من تأمر كلبها بمهاجمة أي ٍ‬ ‫للتعليمات ً‬
‫يرتكب الروبوت االعتداء‪ ،‬لكن املستخدم يعتبر مرتكب الجريمة(‪.)2‬‬
‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬هامش‪ ،63‬ص ‪.198‬‬

‫‪98‬‬
‫ففي املثال السابق عندما يستخدم املبرمجون أو املشغلون أحد كيانات الذكاء‬
‫االصطناعي كوسيلة‪ ،‬فإن ارتكاب جريمة من قبل كيان الذكاء االصطناعي ُينسب إليهم‪،‬‬
‫إن الركن العقلي املطلوب للجريمة موجود بالفعل في أذهانهم‪ ،‬فقد كان لدى املبرمج نية‬
‫إجرامية عندما أمر بارتكاب عملية الحرق‪ ،‬وكان لدى املستخدم نية إجرامية عندما‬
‫ً‬
‫جسديا بواسطة الروبوت‪ ،‬وهو‬ ‫أمرت بارتكاب االعتداء‪ ،‬حتى لو تم ارتكاب هذه الجرائم‬
‫ً ً‬
‫كيان ذكاء اصطناعي‪ ،‬وعندما يستخدم املستخدم النهائي عميال بريئا الرتكاب جريمة‪،‬‬
‫يعتبر املستخدم النهائي هو مرتكب الجريمة الفعلي وال يوجد فرق قانوني بين كيان‬
‫ً‬
‫الذكاء االصطناعي ومفك البراغي والحيوان الذي يستخدمه الجاني ذريعة‪ ،‬فمثال عندما‬
‫يستخدم اللص مفك البراغي لفتح النافذة‪ ،‬فإنه يفعل ذلك بطريقة مفيدة‪ ،‬وال يكون‬
‫ً‬ ‫ً‬
‫مفك البراغي مسؤوال جنائيا‪« .‬فعل» مفك البراغي هو عمليا عمل اللص‪ .‬وهذا هو نفس‬
‫الوضع القانوني عند استخدام الحيوان كوسيلة‪ .‬يعتبر االعتداء الذي يرتكبه الكلب بأمر‬
‫سيده بمثابة اعتداء من سيده‪.)1( .‬‬
‫وبناء على املثال السابق فإنه يتم استخدام كيان الذكاء االصطناعي بسبب قدرته‬
‫على تنفيذ أمر بارتكاب الجريمة‪ ،‬ففي املثال ال يستطيع مفك البراغي تنفيذ مثل هذا‬
‫األمر‪ ،‬لكن الكلب يستطيع ذلك‪ ،‬وال يستطيع الكلب تنفيذ أمر معقد‪ ،‬لكن كيان الذكاء‬
‫االصطناعي يستطيع ذلك(‪.)2‬‬
‫ً‬ ‫ً‬
‫إذا كان نظام الذكاء االصطناعي قويا‪ ،‬وقادرا على حساب ارتكاب جريمة إضافية‪،‬‬
‫ً‬ ‫ً‬
‫يعتبر نظام الذكاء االصطناعي مسؤوال جنائيا عن تلك الجريمة وفقا للقواعد القياسية‬
‫للمسؤولية الجنائية‪ ،‬وهذا يكمل املسؤولية الجنائية للمسؤول نظام الذكاء االصطناعي‪،‬‬
‫ً‬
‫ويتم تحديد املسؤولية الجنائية للمبرمج وفقا للمسؤولية املترتبة على العواقب املحتملة‬
‫التي سبق وصفها‪ ،‬وبالتالي إذا كانت الجريمة اإلضافية‪ ،‬من وجهة نظر املبرمج‪ ،‬نتيجة‬
‫محتملة للجريمة املخطط لها‪ ،‬فسيتم فرض املسؤولية الجنائية على املبرمج عن الجريمة‬

‫‪99‬‬
‫غير املخطط لها باإلضافة إلى املسؤولية الجنائية عن الجريمة املخطط لها(‪.)1‬‬
‫إذا لم يعتبر نظام الذكاء االصطناعي قويا‪ ،‬وغير قادر على حساب ارتكاب الجريمة‬
‫اإلضافية‪ ،‬فال يمكن اعتبار نظام الذكاء االصطناعي مسؤوال جنائيا عن الجريمة‬
‫ً‬ ‫ً‬
‫اإلضافية‪ .‬وفي ظل هذه الظروف‪ ،‬يعتبر نظام الذكاء االصطناعي عامال بريئا تبقى‬
‫املسؤولية الجنائية عن الجريمة اإلضافية تقع على عاتق املبرمج وحده‪ ،‬على نفس أساس‬
‫املسؤولية عن العواقب املحتملة التي سبق وصفها‪ ،‬وبالتالي إذا كانت الجريمة اإلضافية‬
‫ً‬ ‫ً‬
‫نتيجة محتملة للجريمة املخطط لها من وجهة نظر املبرمج‪ ،‬يكون املبرمج مسؤوال جنائيا‬
‫عن الجريمة غير املخطط لها باإلضافة إلى مسؤوليته الجنائية عن الجريمة املخطط‬
‫لها(‪.)2‬‬
‫وإذا كان ليس لدى املبرمج أي نية الرتكاب أي جريمة‪ ،‬ومن وجهة نظر املبرمج‪ ،‬فإن‬
‫ً‬
‫حدوث الجريمة ليس أكثر من مجرد حادث غير مقصود ونظرا ألن مبادرة املبرمج لم تكن‬
‫إجرامية فإن املسؤولية عن العواقب املحتملة غير مناسبة‪ ،‬إن وجود جريمة مخطط لها‬
‫أمر بالغ األهمية لفرض املسؤولية عن العواقب املحتملة‪ ،‬كما تمت مناقشته ألن‬
‫املسؤولية عن العواقب املحتملة تهدف إلى معالجة التطورات غير املخطط لها لحدث‬
‫جانح مخطط له وتكون بمثابة رادع ضد املشاركة في األنشطة املنحرفة(‪.)3‬‬
‫عندما ال تكون نقطة بداية املبرمج جانحة ومن وجهة نظره أن حدوث املخالفة‬
‫يكون عرضيا‪ ،‬فإن الردع غير مناسب وغير ذي صلة‪ ،‬إن تطبيق مثل هذه اآللية للتعامل‬
‫ً‬
‫مع األخطاء والحوادث التي ال يوجد وراءها نية إجرامية سيكون أمرا غير متناسب‪،‬‬
‫ً‬ ‫ً‬
‫وبالتالي إذا كان نظام الذكاء االصطناعي الذي ارتكب الجريمة بالفعل‪ ،‬يعتبر قويا وقادرا‬
‫ً‬ ‫ً‬
‫على تعزيز متطلبات الجريمة‪ ،‬فقد يكون مسؤوال جنائيا عن تلك الجريمة باعتباره‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬
‫مرتكبا مباشرا وإذا لم يكن األمر كذلك فإن نظام الذكاء االصطناعي ليس مسؤوال جنائيا‬

‫‪100‬‬
‫عن الجريمة(‪.)1‬‬
‫في هذا النوع من الحاالت املبرمج في أقص ى حاالت اإلهمال‪ ،‬ال تعتمد املسؤولية‬
‫الجنائية للمبرمج على املسؤولية الجنائية لنظام الذكاء االصطناعي‪ ،‬بغض النظر عما إذا‬
‫ً‬ ‫ً‬
‫كان نظام الذكاء االصطناعي مسؤوال جنائيا‪ ،‬يتم فحص املسؤولية الجنائية للمبرمج عن‬
‫الجريمة غير املخطط لها بشكل منفصل‪ ،‬وألن املبرمج لم يقصد وقوع أي جريمة فإن‬
‫الركن العقلي للقصد الجنائي ال ينطبق عليه‪ ،‬ويجب فحص مسؤوليته الجنائية بمعايير‬
‫ً‬ ‫ً‬
‫اإلهمال‪ ،‬حتى يكون مسؤوال جنائيا عن جرائم اإلهمال على األكثر(‪.)2‬‬
‫أكد بعض الفقهاء على وجوب البحث في اآلثار الجانبية للبرمجيات على عملية‬
‫الذكاء االصطناعي لإلنسآلة‪ ،‬بمعنى أنه عندما يتم وضع برنامج معين في إطار الذكاء‬
‫ً‬ ‫ً‬
‫االصطناعي املعتمد على التعليم بالتتابع مثال‪ ،‬يجب أوال أن يتم وضع هذه البرامج تحت‬
‫التجربة ولفترة زمنية معقولة‪ ،‬والبحث في آثاره الجانبية في هذا املجال‪ ،‬لتحديد مدى‬
‫كفائته وصحته وبعد ذلك يتم اعتماده مثل مراحل االختبارات السريرية لألدوية ملعرفة‬
‫مدى نجاعتها واآلثار الجانبية املترتبة عنها(‪.)3‬‬
‫تداخل الذكاء االصطناعي مع العمل البشري له دور كبير في النتائج التي قد تترتب‬
‫ً‬
‫على عمله‪ ،‬وفي نفس الوقت نظرا لفقدان الذكاء االصطناعي لعنصر اإلدراك‪ ،‬فال يكون‬
‫ً‬
‫مسؤوال عن اعماله‪ ،‬لكن هذه األعمال ُيسأل عنها العنصر البشري الذي ساهم في‬
‫تكوينه‪ ،‬وكل ذلك سيقودنا إلى مجموعة من العناصر البشرية املساهمة في تكوينه‬
‫ً‬ ‫ً‬
‫وبلورته‪ ،‬بدئا من الصانع‪ ،‬إلى املروج‪ ،‬إلى املبرمج‪ ،‬إلى املطور‪ ،‬وصوال إلى املالك ومن ثم‬
‫املستخدم‪ ،‬مثل حال وإطار الحوادث التي يمكن أن تقع من قبل السيارات الذكية تجاه‬
‫الغير‪ ،‬أو املنصات الرقمية التي يكون لديها قدرة املحاكاة‪ ،‬وإعطاء االرشادات والنصائح‪،‬‬
‫بل وحتى تقديم التقييمات‪ ،‬والتي يمكن فيها االعتداء على الحياة الخاصة لألفراد أو‬
‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 81- 82.‬‬

‫‪101‬‬
‫التجريح بهم وما نحو ذلك(‪.)1‬‬

‫تعتبر املسؤولية الجنائية للشركة املصنعة واملبرمجة للذكاء االصطناعي من أول‬
‫املسائل املثارة عند حدوث جريمة بفعل سلوك صادر عن كيانات الذكاء االصطناعي‪،‬‬
‫فقد تعمل هذه الشركات املصنعة واملبرمجة على حماية نفسها من املسؤولية عن طريق‬
‫ّ‬
‫بنود تذكرها في اتفاقية االستخدام عند عملية الشراء ويوقع عليها املالك‪ ،‬فيتحمل‬
‫املسؤولية الجنائية وحده عن هذه الجرائم املرتكبة بفعل سلوك صادر عن كيانات‬
‫الذكاء االصطناعي‪ ،‬وعندئذ تخلي هذه الشركات املصنعة واملبرمجة التي لها اإلسهام‬
‫املباشر فيما انتهى إليه فعل الذكاء االصطناعي من خالل تصنيعها وبرمجتها على نحو‬
‫ّ‬
‫معين أدى بها إلى هذه الفعل الذي شكل جريمة جنائية(‪.)2‬‬
‫وقد تكون املسؤولية الجنائية عن أفعال الذكاء االصطناعي غير واضحة‪ ،‬فالقوانين‬
‫املنظمة للمسؤولية الجنائية عن املنتجات غير واضحة في مجال الذكاء االصطناعي‪،‬‬
‫ويترتب على هذا إعفاء املصنعين من املسؤولية الجنائية‪ ،‬ال سيما وأن تقنيات الذكاء‬
‫االصطناعي اليوم كالروبوتات قد وصلت إلى مرحلة متقدمة تحاكي العمل البشري إلى حد‬
‫ً‬
‫ما‪ ،‬ولكن ال يمكنها أن تتصرف كالبشر بشكل تام أبدا‪ ،‬وعليه فال يمكن تحميلها‬
‫املسؤولية الجزائية كما يتحملها اإلنسان‪ ،‬ذلك أن املسؤولية الجنائية تستلزم أن يكون‬
‫ً‬
‫املسؤول أهال لها وصاحب إرادة وإدراك‪ ،‬وهذا ما ال يتوافر في الذكاء االصطناعي بشكل‬
‫تام ومطلق(‪.)3‬‬
‫وتسعى الشركات املصنعة واملبرمجة لتقنيات الذكاء االصطناعي إلى التهرب والتحلل‬
‫من املسؤولية الجنائية‪ ،‬وذلك من خالل وسيلتين‪ ،‬هما‪:‬‬
‫أن تقوم الشركة املصنعة واملبرمجة لتقنيات الذكاء االصطناعي بتقديم التوضيح‬ ‫‪‬‬

‫(‪ )3‬حاتم‪ ،‬العزاوي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،120‬ص ‪.32‬‬
‫‪102‬‬
‫ملشتري هذه التقنيات عن إمكانية قيامها بمهاجمة أهداف خاطئة‪ ،‬وبذلك يمكنهم‬
‫التخلص من املسؤولية املترتبة عن هذه األفعال‪ ،‬ومن ثم إلقاء مسؤوليتها وتبعتها‬
‫على املشتري لها أو من يقوم بإرسالها إلى ميدان املعركة‪.‬‬
‫أن تدعي تلك الشركات املصنعة واملبرمجة لتلك التقنيات بأن هذه التقنيات‬ ‫‪‬‬
‫واألسلحة تتمتع باستقالل ذاتي‪ ،‬وبالتالي فهي من تتحمل املسؤولية الجنائية عن‬
‫أفعالها‪ ،‬ال النائب أو الوكيل عنها ألنها تعمل باستقالل ذاتي‪ ،‬وال يمكن مساءلة‬
‫ً‬
‫الغير عنها‪ ،‬وإنما تتحمل تلك الكيانات املسؤولية عن أفعالها نظرا لهذا‬
‫االستقالل(‪.)1‬‬
‫وفي بعض األحيان ليس من العدل أن يتم تحميل املسؤولية عن أخطاء الذكاء‬
‫ً‬
‫االصطناعي للمصنع واملبرمج دائما‪ ،‬فبعض من الحاالت ال يكون الخطأ الصادر عن‬
‫ً‬
‫الذكاء االصطناعي راجعا إلى املصنع أو املبرمج‪ ،‬وإنما يرجع ألسباب أخرى‪.‬‬
‫ً‬
‫وبناء على ما سبق تتعدد املسؤولية الجنائية وفقا لظروف كل حالة‪ ،‬وحيث يتحمل‬
‫ّ‬ ‫ّ‬
‫املصنع واملبرمج املسؤولية الجنائية في حال كان الفعل الذي شكل جريمة نتيجة‬ ‫كل من‬
‫ً‬
‫إلى ما قاموا به من تصنيع وبرمجة‪ ،‬بحيث تكون تلك األفعال املجرمة جزءا من اآللية أو‬
‫التقنية التي تمت صناعة الذكاء االصطناعي وبرمجته عليها‪ ،‬كما هو في حال الروبوت‬
‫صنع لوظيفة محددة وهي القتال(‪.)2‬‬ ‫املقاتل‪ ،‬الذي ُ‬
‫مسؤولية املالك أو املستخدم‪:‬‬

‫املالك أو املستخدم هو الشخص الذي يتمتع ويستخدم تقنيات الذكاء االصطناعي‪،‬‬
‫وهو من يحتمل أن يقوم بإساءة استخدام الذكاء االصطناعي‪ ،‬بحيث يصدر عنه سلوك‬
‫ً‬
‫مجرم قانونا ومعاقب عليه‪ ،‬ويأخذ سلوك املالك واملستخدم للذكاء االصطناعي عدة‬
‫حاالت وصور‪:‬‬

‫(‪ )2‬إطميزي‪ ،‬سارة‪ ،‬مرجع سابق‪ ،‬هامش‪.48-31،47‬‬
‫‪103‬‬
‫الصورة األوىل‪:‬‬
‫أن تحدث الجريمة نتيجة لسلوك املالك أو املستخدم وحده‪ ،‬بحيث يتوقف وجود‬
‫الفعل املشكل للجريمة على هذا السلوك‪ ،‬فيتحمل املالك أو املستخدم املسؤولية‬
‫الجنائية بشكل تام‪.‬‬
‫ُ‬
‫أي وهي أن تقوم الجريمة نتيجة املالك أو املستخدم لوحده فلوال سلوكه املرتكب‬
‫من قبله ملا وقعت الجريمة وهنا تقع املسؤولية الجنائية كاملة عليه‪ ،‬ومثال على ذلك كأن‬
‫يقوم املستخدم او املالك بتعطيل التحكم اآللي في السيارة ذاتية القيادة واإلبقاء فقط‬
‫على التوجيهات الصوتية التي تصدر من برنامج الذكاء االصطناعي وبالتالي يكون هنا هو‬
‫وحده املتحكم في السيارة فأثناء القيادة صدر له تنبيه من البرنامج بأمر معين لتجنب‬
‫حادثة إال أنه لم ينفد هذا األمر فتقع املسؤولية الجنائية عليه لوحده(‪.)1‬‬
‫ومثال آخر قضية ‪ V.U.S IN Klein‬التي تتلخص وقائعها في قيام طيار بوضع الطائرة‬
‫على الطيار اآللي أثناء الهبوط على الرغم من تحذير اللوائح من أن يقوم باستخدامه في‬
‫ذلك مما أدى إللحاق ضرر جسيم بالطائرة بسبب ذلك الهبوط الس يء من قبل الطيار‬
‫اآللي‪ ،‬وعلى الرغم من وجود خطأ من جانب الطيار اآللي إال أن الطيار كان وراء هذا‬
‫ً‬
‫الخطأ وبالتالي يكون مسؤوال عن األضرار التي أصابت الطائرة(‪.)2‬‬
‫الصورة الثانية‪:‬‬
‫أن تحدث الجريمة نتيجة لسلوك املالك أو املستخدم باالشتراك مع طرف آخر‬
‫ّ‬
‫كاملصنع أو كيان الذكاء االصطناعي نفسه‪ ،‬أو طرف خارجي‪ ،‬فتكون املسؤولية الجنائية‬
‫في هذه الصورة مشتركة‪ .)3( .‬ومن األمثلة على ذلك كأن يقوم مالك سيارة بتغيير أوامر‬
‫التشغيل املوجودة في السيارة ذاتية القيادة بمساعدة متخصص في هذا املجال من أجل أن‬
‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬هامش‪ ،63‬ص ‪.198‬‬

‫‪104‬‬
‫يقوم باستغاللها في ارتكاب جريمة ونفي املسؤولية الجنائية عنه وإلصاق تلك املسؤولية‬
‫بالسيارة ومصنعها ففي هذه الحالة تكون املسؤولية الجنائية مشتركة(‪.)1‬‬
‫وقد ذهب جانب من الفقه القانوني إلى أن املالك واملستخدم هو من يتحمل‬
‫املسؤولية الجنائية عن أفعال الذكاء االصطناعي التي تشكل جرائم‪ ،‬ألنه هو من يس يء‬
‫استخدام هذه التقنيات‪ ،‬وعليه فاملستخدم للتقنية هو من يتحمل املسؤولية الجنائية‬
‫عن تلك األفعال الناتجة عن استخدامه‪ ،‬وفي املجال العسكري للذكاء االصطناعي فإن‬
‫املسؤولية الجنائية يتحملها القائد العسكري الذي أعطى األوامر باستخدام السالح‬
‫الذي يعتمد على الذكاء االصطناعي‪ ،‬في حال نتج عن أفعاله جريمة جنائية(‪.)2‬‬
‫وبناء على تقييم الدول للمادة ‪ 36‬من البروتوكول اإلضافي األول لعام ‪ ،1977‬امللحق‬
‫باتفاقيات جنيف لعام ‪ ،1949‬فإن الدول التي تنشر روبوتات في ميدان القتال عليها‬
‫اصدار تعليمات واضحة لقادتها العسكريين بشأن توقيت استخدام الروبوتات‬
‫والظروف التي يمكن استخدامها فيها إذ ال يتطلب منهم فهم البرمجة املعقدة للروبوت‬
‫وإنما فهم النتيجة وهي ما يجب على الروبوت فعله من عدمه(‪.)3‬‬
‫ويرى جانب آخر من الفقه القانوني بأنه‪ :‬ال يمكن القول بمسؤولية مالك كيانات‬
‫ً‬
‫الذكاء االصطناعي استنادا إلى نظريات تنتمي إلى عصر اآلالت التقليدية ما قبل ظهور‬
‫الذكاء االصطناعي‪ ،‬وذلك الختالف طبيعتها وآلية عملها‪ ،‬فاملالك لكيانات الذكاء‬
‫االصطناعي ال يسيطر حقيقة سيطرة الحارس للش يء‪ ،‬وليس له حق التوجيه والرقابة‬
‫ً‬
‫بشكل مطلق على الذكاء االصطناعي‪ ،‬كما هو معروف في اآلالت التقليدية وفقا لنظرية‬
‫حارس األشياء‪ ،‬لذلك ال بد من تطوير القواعد العامة للمسؤولية عن أفعال الذكاء‬
‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،63‬ص ‪.198‬‬

‫(‪ )3‬عمر مكي‪ ،‬القانون الدولي اإلنساني في النزاعات املسلحة املعاصرة‪ ،‬اللجنة الدولية للصليب األحمر‪،‬‬
‫‪2017‬م‪ ،‬ص ‪.150‬‬
‫‪105‬‬
‫االصطناعي بوجه عام‪ ،‬واملسؤولية الجنائية منها بوجه خاص(‪.)1‬‬

‫فعلى سبيل املثال اشترى شخصا سيارة ذاتية القيادة بالتالي تفرض عليه شراء هذه‬
‫السيارة العديد من االلتزامات في أن يدقق ويرى إرشادات تشغيل هذه املركبة بحيث‬
‫يعرف األمور املباحة واملحظورات فيها‪ ،‬يتابع بشكل دوري صيانة هذا النوع من السيارات‬
‫فيمكن ان يتحكم ويتالعب في الكود البرمجي حتى يستخدم هذه االلة (السيارة ذاتية‬
‫القيادة) في عمل جريمة جنائية على سبيل املثال شخص قد تشاجر مع شخص اخر في‬
‫اي موضوع ويخاف ان يقتله بنفسه وان يترتب عليه مسؤولية جنائية فيحضر سيارته‬
‫ويتالعب باإلعدادات والكود البرمجي ويقوم بتشغيلها عن بعد ومسافة من ذلك الشخص‬
‫بحيث يكون موجهها ألن تصطدم ذلك الشخص فتصيبه وتعمل حادث جنائي ففي هذه‬
‫الحادثة شخص استخدم هذه األلة بحجة أن املسؤولية الجنائية سوف تقع عليها في‬
‫ارتكاب الجريمة الجنائية ففي هذه الحالة ومن خالل الكود البرمجي املستخدم يمكن‬
‫املالك أنه قد تحكم وتالعب في الكود البرمجي الخاص بهذه السيارة وتحكم فيه وأصبح‬
‫متدخال في أوامرها اثناء القيادة فبالتالي يمكن اسناد املسؤولية الجنائية واالضرار‬
‫الناجمة للمالك‪.‬‬
‫وعليه‪« ،‬يمكن أن تتحدد املسؤولية الجنائية بمستعمل الذكاء االصطناعي وذلك‬
‫على نحو مخالف من أجل ارتكاب جريمة معينة أو دفعه الرتكباها بحيث يصبح‬
‫املستخدم أو املالك هو الفاعل املعنوي بينما يكون الذكاء الصناعي أو الروبوت هو‬
‫الفاعل املادي وهنا يمكن تطبيق نظرية الفاعل املعنوي وإسناد املسؤولية الجنائية كاملة‬
‫للمالك أو املستخدم‪.) 2(».‬‬
‫كما يتفق أغلب الفقهاء على أن الفاعل املعنوي هو الذي يقوم بتنفيذ الجريمة‬
‫بواسطة غيره الذي لم يكن سوى آلة في يده وقد حركها للوصول إليه إلى مأربه‪ ،‬فالفاعل‬
‫(‪ )1‬محمد بلتاجي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،‬ص ‪.1906‬‬

‫(‪ )2‬حسكر‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،63‬ص‪.198‬‬
‫‪106‬‬
‫املعنوي يقوم باستغالل حسن النية لدى منفذ الفعل املادي للجريمة أو يستغل عدم‬
‫إدراكه لألمور‪ ،‬كأن يكون عديم األهلية لصغر سنه أو لعلة في عقله‪ ،‬فليس من املتصور‬
‫تحريض مثل هؤالء األشخاص على ارتكاب الجريمة لذا فإن من يدفع أحدهم على تنفيذ‬
‫الركن املادي للجريمة يكون فاعال معنويا لها‪ ،‬وكذلك يمكن تطبيق هذه االحكام على‬
‫املالك و املستخدم للذكاء االصطناعي و الذي يستعمله في ارتكاب جريمة ما أو يبرمجه‬
‫لهدا الغرض ‪.‬وفي هذا اإلطار أيضا يطرح تساؤل هام حول طبيعة مسؤولية املالك او‬
‫املستخدم للذكاء االصطناعي الذي يحوزه إذا ما كانت مسؤولية مفترضة أم انه يجب‬
‫اثباتها(‪.)1‬‬
‫وحسب الرأي الراجع هو أنه البد من اعتبار تلك املسؤولية مفترضة في الجرائم التي‬
‫يقوم بارتكابها املالك او املستخدم عن طريق الذكاء االصطناعي و عليه هو أن يثبت‬
‫العكس و هدا يعني التوجه من نظام املسؤولية املبنية على نظام الخطأ إلى املسؤولية‬
‫املبنية على نظام املخاطر(‪.)2‬‬
‫نص التشريع الفلسطيني في القرار بقانون رقم (‪ )10‬لسنة ‪2018‬م وتعديالته بشأن‬
‫الجرائم اإللكترونية على عدد من الجرائم اإللكترونية وقرر لها عقوبات مختلفة على‬
‫ً‬
‫مستخدمي األجهزة اإللكترونية تنفيذا لفعل إجرامي يعاقب القانون عليه‪ ،‬وهذه الجرائم‬
‫ً‬
‫تدخل ضمن جرائم الذكاء االصطناعي‪ ،‬وفقا للتعريف السابق ذكره للذكاء االصطناعي‬
‫ً‬
‫من أنها تلك الجرائم التي يكون الحاسوب وسيطا فيها أو أداة لها‪.‬‬
‫عرف قانون الجرائم اإللكترونية تكنولوجيا املعلومات بأنها‪« :‬أي وسيلة‬ ‫فقد ّ‬
‫إلكترونية مغناطيسية بصرية كهرو كيميائية‪ ،‬أو أي وسيلة أخرى سواء أكانت مادية أم‬
‫غير مادية‪ ،‬أو مجموعة‪ ،‬أو مجموعة وسائل مترابطة أو غير مترابطة تستخدم ملعالجة‬
‫البيانات وأداء املنطق والحساب أو الوظائف التخزينية‪ ،‬وتشمل قدرة تخزين بيانات أو‬
‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص‪.37‬‬

‫‪107‬‬
‫اتصاالت تتعلق أو تعمل باالقتران مع مثل هذه الوسيلة»(‪.)1‬‬

‫ّ‬
‫وعرف الشبكة اإللكترونية بأنها‪« :‬ارتباط بين أكثر من وسيلة لتكنولوجيا املعلومات‬
‫للحصول على املعلومات وتبادلها‪ ،‬بما في ذلك الشبكات الخاصة أو العامة أو الشبكة‬
‫العاملية (اإلنترنت) (‪.)2‬‬
‫وعرف البيانات واملعلومات اإللكترونية بأنها‪« :‬كل ما يمكن تخزينه أو معالجته أو‬ ‫ّ‬
‫إنشاؤه أو توريده أو نقله باستخدام تكنولوجيا املعلومات‪ ،‬بوجه خاص الكتابة أو‬
‫الصور أو الصوت أو األرقام أو الحروف أو الرموز أو اإلشارات وغيرها»(‪.)3‬‬
‫ً‬ ‫ً‬ ‫ّ‬
‫وعرف بعض األفعال التي تشكل نشاطا إجراميا‪ ،‬كاالختراق‪ :‬وهو الدخول غير‬
‫املصرح به أو غير املشروع لنظم تكنولوجيا املعلومات أو الشبكة اإللكترونية»(‪ ،)4‬وعرف‬
‫ً‬ ‫ً‬
‫اإلتالف‪ :‬وهو تدمير البرامج اإللكترونية سواء أكان كليا أم جزئيا‪ ،‬أو جعلها على نحو غير‬
‫صالحة لالستعمال»‪ ،‬كما وعرف االلتقاط بأنه‪« :‬مشاهدة البيانات أو املعلومات أو‬
‫الحصول عليها»(‪.)5‬‬
‫وسوف نتناول بعض العقوبات التي قررها املشرع الفلسطيني في قانون الجرائم‬
‫اإللكترونية كي توقع على مستخدمي الذكاء االصطناعي‪.‬‬
‫ً‬
‫يعاقب قانون الجرائم اإللكترونية كل من يدخل عمدا دون وجه حق بأي وسيلة إلى‬
‫موقع إلكتروني أو نظام أو شبكة إلكترونية أو وسيلة تكنولوجيا معلومات بالحبس أو‬
‫بغرامة ال تقل عن مائتي دينار أردني‪ ،‬وال تزيد على ألف دينار أردني أو ما يعادلها بالعملة‬
‫ً‬
‫املتداولة قانونا‪ ،‬أو بكلتا العقوبتين(‪ .)6‬كما يعاقب قانون الجرائم اإللكترونية بالحبس أو‬
‫املادة (‪ )1‬من قرار بقانون رقم ‪ 10‬لسنة ‪ 2018‬بشأن الجرائم االلكترونية و تعديالته‪.‬‬ ‫(‪)1‬‬
‫‪108‬‬
‫بغرامة ال تقل عن مائتي دينار أردني وال تزيد على ألف دينار أردني‪ ،‬أو ما يعادلها بالعملة‬
‫ً‬
‫املتداولة قانونا أو بكلتا العقوبتين‪ ،‬كل من يعيق أو يعطل الوصول إلى الخدمة أو‬
‫الدخول إلى األجهزة أو البرامج أو مصادر البيانات أو املعلومات بأي وسيلة كانت عن‬
‫طريق الشبكة اإللكترونية أو إحدى وسائل تكنولوجيا املعلومات(‪.)1‬‬
‫ً‬
‫ويعاقب قانون الجرائم اإللكترونية من يقوم عمدا بفك بيانات مشفرة في غير‬
‫ً‬
‫األحوال املصرح بها قانونا بالحبس أو بغرامة ال تقل عن مائتي دينار أردني‪ ،‬وال تزيد على‬
‫ً‬
‫ألف دينار أردني‪ ،‬أو ما يعادلها بالعملة املتداولة قانونا‪ ،‬أو بكلتا العقوبتين(‪.)2‬‬
‫كما ويعاقب القانون ذاته بالحبس وبغرامة ال تقل عن مائتي دينار أردني‪ ،‬وال تزيد‬
‫ً‬ ‫ً‬
‫على ألف دينار أردني أو ما يعادلها بالعملة املتداولة قانونا‪ ،‬كل من يقوم عمدا عبر‬
‫استخدام الشبكة العنكبوتية أو إحدى وسائل تكنولوجيا املعلومات بإنشاء أو نشر‬
‫شهادة صحيحة أو قدم بيانات غير صحيحة عن هويته إلى الجهات املختصة بموجب‬
‫القوانين الخاصة بإصدار الشهادات بغرض طلب استصدار شهادة أو إلغائها أو‬
‫إيقافها(‪.)3‬‬
‫ويعاقب القانون ذاته على جريمة تزوير مستند إلكتروني رسمي من مستندات‬
‫الدولة أو الهيئات أو املؤسسات العامة بالسجن مدة ال تقل عن خمس سنوات‪ ،‬وبغرامة‬
‫ال تقل عن ثالثة آالف دينار أردني‪ ،‬وال تزيد عن خمسة آالف دينار أردني‪ ،‬أو ما يعادلها‬
‫ً‬
‫بالعملة املتداولة قانونا(‪.)4‬‬
‫ويعاقب قانون الجرائم اإللكترونية بعقوبة بالحبس مدة ال تقل عن ستة أشهر‪ ،‬أو‬
‫بغرامة ال تقل عن خمسمائة دينار أردني‪ ،‬وال تزيد على ألف دينار أردني‪ ،‬أو ما يعادلها‬
‫املادة (‪ )1/8‬من قرار بقانون رقم ‪ 10‬لسنة ‪ 2018‬بشأن الجرائم االلكترونية و تعديالته‪.‬‬ ‫(‪)2‬‬
‫‪109‬‬
‫ً‬
‫بالعملة املتداولة قانونا‪ ،‬أو بكلتا العقوبتين(‪.)1‬‬
‫ويعاقب بالعقوبة السابقة كل من زور وسيلة تعامل إلكترونية بأي وسيلة إلكترونية‬
‫كانت‪ ،‬أو صنع أو حاز بدون ترخيص أجهزة أو مواد تستخدم في إصدار أو تزوير بطاقة‬
‫التعامل اإللكتروني(‪.)2‬‬
‫ويعاقب قانون الجرائم اإللكترونية كل من يستعمل الشبكة اإللكترونية أو إحدى‬
‫وسائل تكنولوجيا املعلومات في سرقة أموال أو اختالسها؛ بالسجن أو بغرامة ال تقل عن‬
‫ثالثة آالف دينار أردني‪ ،‬وال تزيد على خمسمائة آالف دينار أردني‪ ،‬أو ما يعادلها بالعملة‬
‫ً‬
‫املتداولة قانونا‪ ،‬أو بكلتا العقوبتين(‪.)3‬‬
‫ويعاقب القانون بالحبس أو بغرامة ال تقل عن مائتي دينار وال تزيد على ألف دينار‬
‫أردني‪ ،‬كل من استعمل الشبكة اإللكترونية أو إحدى وسائل تكنولوجيا املعلومات في‬
‫تهديد شخص آخر‪ ،‬أو ابتزازه لحمله على القيام بفعل أو االمتناع عنه‪ ،‬ولو كان هذا‬
‫ً‬
‫الفعل أو االمتناع مشروعا(‪.)4‬‬
‫وبناء على ما سبق من نصوص قانونية فإنه يتبين أن العقوبات التي توقع على‬
‫ً‬
‫مستخدمي الذكاء االصطناعي وفقا لنصوص التشريع الفلسطيني من خالل قانون‬
‫الجرائم اإللكترونية تنحصر في عقوبة الحبس الذي يقل عن ثالث سنوات‪ ،‬وعقوبة‬
‫السجن الذي يزيد على ثالث سنوات وال يزيد عن خمسة عشر سنة‪ ،‬وعقوبة الغرامة‬
‫املالية التي ال تزيد عن خمسة آالف دينار‪.‬‬
‫وفيما يخص الجزاء الواقع على كيانات الذكاء االصطناعي‪ ،‬بداية فقد نص قانون‬
‫العقوبات الفلسطيني رقم (‪ )16‬لعام ‪1960‬م(‪ .)5‬على العقوبات‪ ،‬وقسمها إلى عقوبات‬
‫قانون العقوبات الفلسطيني رقم (‪ )16‬لعام ‪1960‬م‪.‬‬ ‫(‪)5‬‬
‫‪110‬‬
‫جنائية وهي‪ :‬اإلعدام‪ ،‬واألشغال الشاقة املؤبدة‪ ،‬واالعتقال املؤبد‪ ،‬واألشغال الشاقة‬
‫املؤقتة‪ ،‬واالعتقال املؤقت(‪ ،)1‬وعقوبات جنحية وهي‪ :‬الحبس‪ ،‬والغرامة‪ ،‬والربط‬
‫بكفالة(‪ ،)2‬ثم العقوبات التكديرية وهي‪ :‬الحبس التكديري‪ ،‬والغرامة(‪.)3‬‬
‫تطبق هذه العقوبات املذكورة على اإلنسان الطبيعي‪ ،‬وال يمكن تصور تطبيقها على‬
‫كيانات الذكاء االصطناعي‪ ،‬لتعذر تطبيقها من حيث اختالف طبيعة كيانات الذكاء‬
‫االصطناعي‪ ،‬ومن حيث استحالة تحقيق الغاية من تطبيق العقوبة الجنائية التي ألجلها‬
‫قررت‪.‬‬
‫ونص قانون العقوبات على عقوبات أخرى في الفصل الثاني منه بعنوان التدابير‬
‫االحترازية‪ ،‬منها عقوبة املصادرة العينية(‪ ،)4‬فجاء في املادة (‪ )30‬من القانون ذاته‪« :‬مع‬
‫مراعاة حقوق الغير ذي النية الحسنة‪ ،‬يجوز مصادرة جميع األشياء التي حصلت نتيجة‬
‫لجنائية أو جنحة مقصودة‪ ،‬أو التي استعملت في ارتكابها أو كانت معدة القترافها‪ ،‬أما في‬
‫الجنحة غير املقصودة أو في املخالفة فال يجوز مصادرة هذه األشياء إال إذا ورد في‬
‫القانون نص على ذلك»‪.‬‬
‫وقد حصر قانون العقوبات التي توقع على الشخصية االعتبارية‪ ،‬أي على ما دون‬
‫الشخصية الطبيعية املتمثلة في اإلنسان بعقوبتي املصادرة والغرامة‪ ،‬حيث جاء في املادة‬
‫(‪ .3« :)74‬ال يحكم على األشخاص املعنويين إال بالغرامة أو املصادرة»‪.‬‬
‫ُ‬
‫«إن اإلشكاالت الناجمة عن تعويض األضرار التي تسببها الروبوتات تحل من خالل‬
‫إقرار نظام تأمين إلزامي عن حوادث الروبوت‪ ،‬إضافة إلى إلزامية إنشاء صناديق خاصة‬
‫لتغطية أضرارها كنظام مكمل للتأمين في حال عدم وجود غطاء تأميني»(‪.)5‬‬
‫املادة (‪ )14‬من قانون العقوبات الفلسطيني‪.‬‬ ‫(‪)1‬‬

‫كوثر منسل‪ ،‬وفاء شناتلية‪ ،‬إثبات الخطأ الطبي في مجال الجراحة الروبوتية‪-‬نظام دافنش ي نموذجا‪=،-‬‬ ‫(‪)5‬‬
‫‪111‬‬
‫أما بالنسبة للعقوبات املفروضة على تطبيقات الذكاء االصطناعي وحسب ما ذهب‬
‫اغلب الفقهاء إلى أنه يجب أن تطبق عقوبات خاصة ومن األمثلة عليها‪ :‬منع املزاولة لذلك‬
‫البرنامج ملدة محددة أو الحل أو اإليقاف إذا كان يمثل خطرا أو مصادرته وإذا تمت‬
‫الترتيب عليه الشخصية االلكترونية‪.‬‬
‫ومن املمكن فرض عليه بعض االلتزامات املادية والجزاءات املالية‪ ،‬مثل‪ :‬دفع غرامة‬
‫مالية لصالح خزينة الدولة‪ ،‬بحيث يتم دفعها من الذمة املالية املستقلة املفترضة لكيان‬
‫الذكاء االصطناعي‪ ،‬وقد أقرت التشريعات األوروبية ذلك(‪.)1‬‬
‫ومن املتوقع استحداث عقوبات جديدة تتناسب مع أنواع الجرائم العصرية‬
‫لكيانات الذكاء االصطناعي‪ ،‬مثل‪ :‬إنهاء الخدمة‪ ،‬أو تعطيل جزء‪ ،‬أو إعادة هيكتلة‬
‫وبرمجته‪ ،‬فمثال الروبوت وتقنيات الذكاء االصطناعي األخرى جمادات ال يمكن معاقبتها‬
‫بالسجن أو الغرامة أو اللوم أو اإلنذار وغيرها من العقوبات التي تعتمد على أسلوب‬
‫الردع والكف القائم على املشاعر اإلنسانية‪ ،‬والخوف‪ ،‬والشعور بالذنب أو تقييد‬
‫الحريات‪ ،‬فجميعها غير مجدية وال تؤثر نهائيا في كيانات الذكاء االصطناعي(‪.)2‬‬
‫زعم بعض الفقهاء األوروبيين التقليديين عدم جواز إيقاع العقوبات على االنسآلة‬
‫(الروبوت) فهذه العقوبات بطبيعتها ليست جامدة بل مطردة ومتغيرة بتغير الواقع‬
‫والحال‪ ،‬األمر الذي أوجب إنشاء ووجود الترخيص ووقف النشاط على سبيل املثال‪،‬‬
‫وهذا يعني أنه ال مراد في جواز إنشاء عقوبات تتناسب مع الطبيعة القانونية الخاصة‬
‫لالنسآلة (الروبوت) (‪.)3‬‬
‫= مداخلة قدمت في امللتقى الوطني عبئ إثبات الخطأ الطبي املرفقي في املؤسسات العمومية للصحة‬
‫وتطبيقاته القضائية في الجزائر‪ ،2021 ،‬ص‪.4‬‬
‫(‪ )1‬إدلبي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،32‬ص‪.109‬‬
‫(‪ )2‬الزهراني‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،81‬بدون رقم صفحة‪.‬‬
‫(‪ )3‬محمود الشريف‪ ،‬املسؤولية الجنائية لألنسآلة‪ :‬دراسة تأصيلية مقارنة‪Arab Journal of Fornsic and ،‬‬
‫‪ ،2001 ،issu 1 ،Medcine‬ص‪.11‬‬
‫‪112‬‬
‫ً‬
‫أيضا اختلف الفقه القانوني حول مسألة استقالل الروبوت بعمله من حيث‬
‫التفكير واتخاذ القرارات على اعتبار أنها آلة تحاكي الذكاء البشري‪ ،‬وهذه الفرضية‬
‫ّ‬
‫كاملصنع‪،‬‬ ‫تستدعي القول بعدم إمكانية مساءلة األشخاص القائمين على إيجاد الروبوت‪،‬‬
‫واملبرمج‪ ،‬واملالك واملستخدم؛ ألن هذه الروبوتات مستقلة بذاتها‪ ،‬وتعمل بمعزل عن‬
‫هؤالء األشخاص في هذه الحاالت(‪.)1‬‬
‫ً‬
‫ويرى االتجاه القانوني الذي يضع فرضية استقالل الروبوت بعمله يثير تحديا‬
‫ً‬
‫قانونيا يتعلق باملسؤولية القانونية بوجه عام‪ ،‬كاملسؤولية املدنية التي تقوم نتيجة‬
‫ً‬
‫إحداث الروبوت ضررا بالغير‪ ،‬واملسؤولية الجنائية التي تثور عند ارتكاب هذه‬
‫التكنولوجيا ألفعال تشكل جرائم جنائية يعاقب عليها قانون العقوبات(‪.)2‬‬
‫وعلى الرغم من أن تعريف الذكاء االصطناعي في حقيقته عبارة عن سلوك يسعى‬
‫ملحاكاة الذكاء البشري إلحداث آثار محددة عبر اتخاذ قرارات مستقلة وبحرية؛ إال أن‬
‫ً‬
‫هذا الذكاء االصطناعي يعتمد أساسا في برمجته على الخوارزميات التي تتكون من‬
‫مدخالت ومخرجات ال تتم إال بمجموعة من الوسائل املادية‪.)3( .‬‬
‫ً‬ ‫ً‬
‫وال يمكن وصف الذكاء االصطناعي وصفا دقيقا‪ ،‬فهو ظاهرة ال يمكن مالحظتها‬
‫بشكل مباشر‪ ،‬إال من خالل نتائجه‪ ،‬فال يزال الذكاء االصطناعي حتى يومنا هذا يعتمد‬
‫على اإلنسان ليزوده بالخوارزميات الالزمة لعمله ولتشغيله‪ ،‬مما يعني عدم استقالل‬
‫كيانات الذكاء االصطناعي بذاتها‪ ،‬وأنها تعمل بناء على تحكم اإلنسان فيها(‪.)4‬‬
‫ً‬
‫إن مصطلح الذكاء االصطناعي نفسه يشير إلى أن هذا النوع من الذكاء ليس عاديا‪،‬‬
‫وأنه مصنوع من ومخترع من ِقبل جهة ما‪ ،‬فكلمة «اصطناعي» و«مصطنعة» تعني أن هذا‬
‫النوع من الذكاء هو من صنع اإلنسان‪ ،‬ويقوم هذا الذكاء على استخدام العقل‪ ،‬ولديه‬
‫حاتم‪ ،‬العزاوي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،120‬ص ‪.32‬‬ ‫(‪)1‬‬

‫فريدة‪ ،‬مرجع سابق‪ ،‬هامش‪ ،9‬ص ‪.162‬‬ ‫(‪)2‬‬
‫‪113‬‬
‫القدرة على تطبيق التعلم واملعرفة في التعامل والتفكير والفهم والتعامل مع املواقف‪،‬‬
‫وبإمكانه اتخاذ قراراته بشكل مستقل في بعض األحيان‪ ،‬وهذا يستلزم القول بوجود‬
‫ً‬ ‫ّ‬ ‫ً‬
‫املسؤولية القانونية عن أفعال الذكاء االصطناعي‪ ،‬تحديدا الروبوت الذي يشكل نموذجا‬
‫يحاكي الذكاء البشري إلى حد ما(‪.)1‬‬
‫فعلى صعيد املستوى األوروبي هناك اتفاق على قواعد املسؤولية عن فعل‬
‫الروبوت‪ ،‬والتي تقوم على أساس أن أفعال الروبوت ترجع إلى وكيل أو نائب بشري‪،‬‬
‫كالشركة املص ّنعة أو املبرمج‪ ،‬أو املالك واملستخدم له‪ ،‬وأن هذا الوكيل يفترض فيه أن‬
‫ّ‬
‫املجرم الناتج عن فعل الروبوت‪ ،‬ويجب عليه أن يبتعد عنه‬ ‫يتوقع السلوك الضار أو‬
‫و ّ‬
‫يتجنبه(‪.)2‬‬
‫وفي إحدى النقاشات داخل لجنة الشؤون القانونية في االتحاد األوروبي قامت هذه‬
‫اللجنة بإثارة وطرح بعض املسائل املتعلقة باملسؤولية عن أفعال الروبوت‪ ،‬إلى أن انتهت‬
‫اللجنة وعمدت إلى إصدار مجموعة من التوصيات وقدمتها إلى اللجنة املختصة بإصدار‬
‫القوانين‪ ،‬وقد أصدرت قواعد القانون املدني للروبوتات في فبراير عام ‪2017‬م‪ ،‬واتجه‬
‫االتحاد األوروبي حينها إلى تبني فكرة أن الذكاء االصطناعي تكنولوجيا مسخرة لخدمة‬
‫ً‬
‫اإلنسان وأنه خادم مطيع لإلنسان‪ ،‬وأنه ليس جمادا ال يعقل‪ ،‬بل هو عبارة عن كائن آلي‬
‫يعمل بمنطق بشري مبتدئ قابل للتطوير‪ ،‬فابتكر االتحاد األوروبي في هذا القانون فكرة‬
‫ً‬
‫النائب اإلنساني ليكون مسؤوال عن أفعال الذكاء االصطناعي‪ ،‬وبموجبه تقوم املسؤولية‬
‫ً‬
‫القانونية عن أفعال الروبوت على نائب إنساني‪ ،‬نظرا لعدم إمكانية مساءلة الروبوت ألنه‬
‫ال يتمتع بالشخصية القانونية‪ ،‬وال يتمتع باإلدراك واألهلية(‪.)3‬‬
‫أما بالنسبة لنظرة الفقه اإلسالمي فلم يتحدثوا عن املسؤولية الجنائية عن أضرار‬

‫(‪ )3‬محمد البلتاجي‪ ،‬أثر الذكاء االصطناعي في سوق األوراق املالية‪ ،‬مجلة البحوث القانونية واالقتصادية‪،‬‬
‫جامعة املنصورة‪ ،‬كلية الحقوق‪ ،‬عدد ‪2021 ،75‬م‪ ،‬ص ‪.1923‬‬
‫‪114‬‬
‫الذكاء االصطناعي ألنه لم يشهد عصرهم الذكاء االصطناعي الذي في عصرنا إال أنهم قد‬
‫تحدثوا بشكل عام عن «أساس املسؤولية الشيئية من منظور الفقهاء املسلمين (في حالة‬
‫اصطدام السفن‪ ،‬وفي حالة الجمادات الخطرة) يتمثل في الضرر سواء كان هذا التعدي‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬
‫عمدا أو غير عمدا وهو مفترض فرضا قابال إلثبات العكس ويجب على املعتدي ضمان‬
‫هذا الضرر وتعويض املضرور عنه) (‪.)1‬‬
‫بات الوضع التشريعي الحالي ال يواكب التطور التكنولوجي املتالحق في نظم الذكاء‬
‫االصطناعي ويتضح ذلك من خالل الفرضية اآلتية‪ :‬قيام روبوت بارتكاب أحدى الجرائم‬
‫ً‬
‫املعاقب عليها عقوبة سالبة للحرية وهذا فرض ال محالة له كجريمة القتل مثال‪ ،‬وبالتالي‬
‫تظهر هناك عدة تساؤالت أهمها كيفية التحقيق مع الروبوت‪ ،‬بما في ذلك سؤاله‪،‬‬
‫واستجوابه‪ ،‬والقيام بتفتيشه‪ ،‬ومعاينة مسرح الجريمة‪ ،‬ورفع بصمات الروبوت‪،‬‬
‫وتحليلها‪ ،‬والحصول على الدليل الجنائي الذي هو محور اهتمام العدالة الجنائية‪،‬‬
‫وكذلك حضور الجلسات والحبس املؤقت والكفالة‪ ،‬وعناصر الركن املادي املتمثلة في‬
‫السلوك اإلجرامي للروبوت والنتيجة االجرامية وكذلك التساؤل عن الركن املعنوي لتلك‬
‫الجريمة بما في ذلك إرادة ارتكاب الجريمة‪ ،‬والعلم بعناصرها‪،..‬إلخ‪.)2( .‬‬
‫ويترتب على قيام املسؤولية عن أضرار الذكاء تحقق التعويض سواء كان تعويض‬
‫ً‬ ‫ً‬
‫ماديا أو أدبيا‪ ،‬بحيث يحصل املضرور على التعويض من خالل القضاء‪ ،‬ويقوم القاض ي‬
‫بتقدير التعويض على أساس الضرر وليس ال أساس الفعل الضار‪ ،‬مع مراعاة الحالة‬
‫املالية واالجتماعية للمضرور‪ ،‬ويتم تعويض الضحية املتعرضة للضرر من خالل التأمين‬
‫اإلجباري في مجال الذكاء االصطناعي وعن طريق صناديق التعويض‪ ،‬وهو ما أطلق عليه‬
‫الفقهاء بالتعويض التلقائي(‪.)3‬‬
‫(‪ )1‬إبراهيم‪ ،‬السيد‪ ،‬مارك‪ ،‬موقع إلكتروني املنظومة ‪ ،ALMANDUMAH‬مرجع سابق‪ ،‬هامش‪ ،‬بدون رقم‬
‫صفحة‪.‬‬
‫‪115‬‬
‫ً‬
‫وأيا ما كان االختالف في عمل الذكاء االصطناعي فإن هذا ال يعفيه من املسؤولية‬
‫ً‬
‫القانونية‪ ،‬فأفعال الذكاء االصطناعي قد تشكل ضررا بالغير أو جريمة‪ ،‬وهي بطبيعتها ال‬
‫تنفك عن اإلنسان الذي صنعها وبرمجها أو الذي يملكها ويستخدمها‪ ،‬والذي يفترض‬
‫تحمل هو‬‫فيه العلم بنتائج هذه األفعال وبالتالي عليه أن يسعى لتجنبها‪ ،‬وإذا وقعت ّ‬
‫ً‬ ‫ً‬ ‫ّ ً‬
‫مصنعا أم مبرمجا أم مالكا‬ ‫مسؤوليتها بنسبة مساهمته فيها‪ ،‬وبحسب موقعه سواء أكان‬
‫ً‬
‫ومستخدما‪.‬‬
‫ومما ال شك فيه أن فرض املسؤولية الجنائية على كيانات الذكاء االصطناعي وعلى‬
‫روبوتات الذكاء االصطناعي من شأنه أن يحقق العديد من املزايا والتي تتجلى أهمها في(‪:.)1‬‬
‫‪ -‬إلزام مصنعي ومستخدمي الروبوتات الذكية باملشاركة الفعالة والعمل على التعاون‬
‫بشكل كامل مع سلطات التحقيق للوقوف على األسباب الحقيقية وراء ارتكاب‬
‫الروبوت الذكي لهذه األفعال املجرمة‪ ،‬كما أنه يعتبر بمثابة أداة لضبط النفس من‬
‫قبل مصنعي ومستخدمي هذه الروبوتات لتوخي الحذر اليقظة أثناء التعامل مع‬
‫هذه الكيانات في مرحلة التصنيع‪ ،‬والصيانة واالستخدام‪ ،‬وكذلك إتخاذ أكتر‬
‫فعالية وأمانا الكتشاف ومنع أو التخفيف من األضرار املحتملة لهذه الروبوتات على‬
‫األقل‪.‬‬
‫العمل على تحديد املعايير التي يتم في ضوئها القيام بتقييم سلوكيات هذه‬ ‫‪-‬‬
‫الروبوتات وتحديد األفعال املسموح بها واملحظورة‪.‬‬
‫كما يوفر إطار قانوني خاص بهذه الروبوتات مزايا للشركة املصنعة لها والتي تتولى‬ ‫‪-‬‬
‫القيام بإنشاء الخوارزميات والبرمجيات التي تعمل هذه الروبوتات عن طريقها وفي‬
‫اإللتزام باملعايير القانونية التي يتطلبها املشرع للسماح لهذه الروبوتات بالعمل‪،‬‬
‫وذلك لتجنيبهم املسؤولية الجنائية عن الجرائم الواقعة بسبب هذه الروبوتات‪.‬‬
‫‪ -‬وجود قانون جنائي خاص بالروبوتات من شأنه أن يقوم باملساعدة على توفير الحد‬
‫‪116‬‬
‫األدنى من املعايير الحاكمة لهذه الروبوتات‪ ،‬والتي يعتبر من الواجب اإللتزام بها في‬
‫عملية التصنيع األساسية بحيث ال ينبغي ترك هذه املعايير لصانع الروبوت أو‬
‫مدربه‪ ،‬كونه مما قد يجعل هناك اختالف في هذه املعايير على نحو يصعب تحديد‬
‫كيفية التعامل مع هذه الروبوتات‪.‬‬
‫‪117‬‬
‫مسؤولية الغري عن أضرار الذكاء االصطناعي‬
‫أي وهي مسؤولية الطرف الخارجي‪ ،‬بحيث يكون «التطور املطروح في هذه الحالة هو‬
‫قيام طرف خارجي بالدخول إلى نظام الذكاء االصطناعي عن طريق اختراقه بأي طريقة‬
‫والسيطرة عليه واستغالله في ارتكاب الجريمة»(‪.)1‬‬
‫ويعود سبب هذه اإلشكالية أنه لم تصل تكنولوجيا الذكاء االصطناعي من الناحية‬
‫التقنية إلى درجة الكمال القصوى‪ ،‬فال تزال برامجها عرضة لإلصابة بالفيروسات‬
‫واألعطال الفنية واالختراقات من جهات خارجية‪ ،‬وهو ما يجعلها تعمل بطريقة غير‬
‫متوقعة وغير مخولة‪ ،‬فيلحق الضرر بجميع مستخدميها(‪.)2‬‬
‫فإن السؤال الذي يطرح نفسه‪ ،‬إذا تم استخدام كيان الذكاء االصطناعي من قبل‬
‫شخص آخر (إنسان أو شركة أو كيان آخر من الذكاء االصطناعي) كأداة الرتكاب جريمة‪،‬‬
‫فكيف سيتم تقسيم املسؤولية الجنائية بينهما؟ أما ارتكاب الجريمة عن طريق الغير فال‬
‫ً‬
‫يعتبر الشخص الذي ارتكب الجريمة جسديا متحليا بأية صفات إنسانية‪ ،‬ويعتبر كيان‬
‫ً‬
‫عميال ً‬
‫بريئا‪ ،‬لكن ال يمكننا تجاهل قدرات كيان الذكاء االصطناعي‬ ‫الذكاء االصطناعي‬
‫ً‬
‫جسديا‪ .‬وال تكفي هذه اإلمكانيات العتبار الجهة املستقلة مرتكبة‬ ‫على ارتكاب الجريمة‬
‫للجريمة‪ ،‬ألن الجهة تفتقد الوعي أو اإلرادة املطلوبة(‪.)3‬‬
‫تعتبر تصرفات الغير أحدى صور السبب األجنبي والتي تؤدي إلى قطع العالقة‬
‫السببية ما بين الخطأ‪ ،‬والضرر‪ ،‬فقد قضت محكمة استئناف القدس الفلسطينية في‬
‫القضية رقم (‪ )2016/653‬على أنه‪ ...« :‬فيما يتعلق بعبء اإلثبات‪ ،‬يقع على عاتق‬
‫(‪ )1‬وفاء صقر‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي ‪-‬دراسة تحليلية استشرافية‪ ،-‬مجلة روح‬
‫القوانين‪ ،2021 ،‬صفحة ‪.145‬‬
‫(‪ )2‬الدحيات‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،48‬ص ‪.16‬‬
‫‪118‬‬
‫املضرور عبء إثبات أن الضرر قد حدث نتيجة لسلوك أو انتهاك املسؤول‪/‬املدعى عليه‪،‬‬
‫ً‬ ‫ً‬
‫وفقا ملبدأ أن املدعي يجب أن يثبت دعواه ومتى كان الضرر الذي أصاب املضرور متصال‬
‫بفعل شخص آخر افترضت العالقة السببية بينما إال أذا قام هذا األخير الدليل على‬
‫عكس ذلك باثبات وجود أسباب خارجية مثل القوة القاهرة أو أفعال املضرور أو أفعال‬
‫اآلخرين‪.)1( »...‬‬
‫فالخطأ الذي وقع من قبل حارس الذكاء االصطناعي لم يكن هو السبب الوحيد في‬
‫وقوع الضرر‪ ،‬وإنما تداخل معه فعل شخص ثالث ليس من أطراف التعاقد ويطلق عليه‬
‫الغير‪ ،‬أي أنه ليس املضرور واملتسبب بالضرر‪ ،‬وحتى تنقطع العالقة السببية وتنتفي‬
‫ً‬
‫املسؤولية عن الحارس يجب أن يكون الغير هو الذي يعتد بخطئه ويكون مسؤوال عن‬
‫هذا الخطأ(‪.)2‬‬
‫نصت املادة (‪ )165‬من القانون املدني املصري على أنه‪« :‬إذا أثبت الشخص أن‬
‫الضرر قد نشأ عن سبب أجنبي ال يد له فيه كحادث مفاجئ أو قوة قاهرة أو خطأ من‬
‫املضرور أو خطأ من الغير كان غير ملزم بتعويض هذا الضرر ما لم يوجد نص أو اتفاق‬
‫على غير ذلك»(‪.)3‬‬
‫فإذا تمكن الحارس من إثبات أن الضرر الحاصل نشأ بواسطة شخص من الغير‬
‫يعفى بهذه الحالة من املسؤولية وتنقطع العالقة السببية ما بين الخطأ والضرر(‪.)4‬‬
‫محكمة استئناف القدس الفلسطينية‪ ،‬استئناف حقوق‪ ،‬القضية رقم (‪ ،)2016/653‬تاريخ الفصل‪:‬‬ ‫(‪)1‬‬
‫‪2017/3/27‬م‪ ،‬قسطاس‪.‬‬
‫أمين‪ ،‬دواس‪ ،‬مجلة األحكام العدلية وقانون املخالفات املدنية «‪ ،»2‬املعهد القضائي الفلسطيني‪،‬‬ ‫(‪)2‬‬
‫لسنة ‪2012‬م‪ ،‬ص‪.117‬‬
‫القانون املدني املصري‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،129‬بدون رقم صفحة‪.‬‬ ‫(‪)3‬‬
‫رائد‪ ،‬النمر‪ ،‬الحراسة في نطاق املسؤولية عن فعل األشياء دراسة مقارنة‪ ،‬ط‪ ،1‬دار وائل للنشر‪،‬‬ ‫(‪)4‬‬
‫األردن‪2015 ،‬م‪ ،‬ص‪.89‬‬
‫‪119‬‬
‫اختلف الفقه حول طبيعة األثر الذي يرتبه فعل الغير من التعويض‪ ،‬فالبعض‬
‫يذهب إلى إعفاء حارس الذكاء االصطناعي بشكل كلي‪ ،‬والبعض اآلخر يذهب إلى إعفاء‬
‫الحارس بشكل جزئي‪ ،‬فيما يتعلق باإلعفاء الكلي‪ :‬أذا كان فعل الغير هو الفعل الوحيد‬
‫الذي تسبب في وقوع الضرر ولم يتداخل معه فعل الحارس‪ ،‬ففي تلك الحالة يعفى‬
‫الحارس بشكل كلي من التعويض(‪ ،)1‬أما اإلعفاء الجزئي‪ :‬أذا تداخل خطأ الحارس مع‬
‫ً‬
‫فعل الغير وتسبب كالهما في إلحاق الضرر باملضرور‪ ،‬فتقع املسؤولية على كال منهما‬
‫ويحق للمضرور مطالبة الحارس بالتعويض‪ ،‬كما يتشارك الغير مع الحارس بالتعويض‪،‬‬
‫ً‬
‫ويقع على املحكمة املختصة تقدير قيمة التعويض على كال منهما(‪.)2‬‬
‫وخالصة القول‪ ،‬أن الحارس يستطيع أن يدفع املسؤولية عن أضرار الذكاء‬
‫ً‬
‫االصطناعي أذا تمكن من إثبات وجود السبب األجنبي‪ ،‬واإلعفاء أما أن يكون كليا أو‬
‫ً‬
‫جزئيا وذلك مرتبط بتدخل فعل الحارس مع فعل الغير‪ ،‬أو فعل املضرور‪ ،‬وباملحصلة‬
‫أذا لم يرتكب الحارس أي خطأ يعفى من املسؤولية بشكل كلي‪ ،‬أما أذا أرتكب خطأ‬
‫وتداخل معه سبب أجنبي فيعفى من املسؤولية بشكل جزئي(‪.)3‬‬
‫ً‬
‫إن قدرات كيان الذكاء االصطناعي على ارتكاب الجريمة جسديا تشبه القدرات‬
‫ً‬
‫عقليا‪ ،‬أو‬ ‫عقليا‪ ،‬مثل الرضيع‪ ،‬أو الشخص غير الكفء‬ ‫ً‬ ‫املقابلة لشخص محدود‬
‫الشخص الذي يفتقر للحالة الذهنية إجرامية‪ ،‬ومن الناحية القانونية عندما يرتكب‬
‫جريمة من قبل عميل بريء رضيع‪ ،‬أو شخص غير مؤهل عقليا‪ ،‬أو شخص يفتقر إلى‬
‫الحالة العقلية الجنائية الرتكاب جريمة فإنه ال يتم فرض أي مسؤولية جنائية على‬
‫مرتكب الجريمة الجسدي‪ ،‬وفي مثل هذه الحاالت يعتبر ذلك الشخص بمثابة أداة وإن‬
‫كانت متطورة‪ ،‬في حين أن الطرف الذي يقوم بالجريمة (الفاعل عن طريق آخر) هو‬
‫(‪ )1‬عبد هللا‪ ،‬الوالي‪ ،‬املسؤولية املدنية عن أضرار تطبيقات الذكاء االصطناعي في القانون اإلماراتي‪ ،‬ط‪،1‬‬
‫دار النهضة العلمية للنشر والتوزيع‪ ،‬اإلمارات‪ ،‬دبي‪2021 ،‬م‪ ،‬ص‪.240‬‬
‫(‪ )2‬مجاهد‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،179‬ص‪.367-366‬‬
‫(‪ )3‬الوالي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،276‬ص‪.245‬‬
‫‪120‬‬
‫الفاعل الفعلي باعتباره فاعال أصليا من الدرجة األولى‪ ،‬ويحاسب على السلوك من‬
‫العميل البريء(‪.)1‬‬
‫فمن املمكن أن يكون هناك طرف خارجي شخص يرغب في ارتكاب جريمة جنائية‬
‫فيتوجه لسيارة ذاتية القيادة فيدخل إلى برمجتها ويقوم بتهكيرها والتالعب وباإلعدادات‬
‫املوجودة ويعطيها ويدخل فيها بيانات وأوامر مغايرة لترتكب الجريمة التي يريدها ففي‬
‫هذه الحالة أصبح هذا الطرف الخارجي (الغير) الذي ليس له عالقة فال هو املالك وال هو‬
‫املصنع وال الذكاء االصطناعي نفسه‪ .‬وبالتالي فإنه يمكن في هذه الحالة وضع فرضيتين‪:‬‬
‫أوال‪ :‬في حالة أن يقوم هذا الطرف الخارجي باستغالل أي ثغرة ما في الذكاء‬
‫االصطناعي‪ُ ،‬وجدت بإهمال من املنتج أو املبرمج‪ ،‬أيضا لدى قيام املالك بإعطاء شفرات‬
‫الدخول على نظام التحكم في تقنية الذكاء االصطناعي لهذا الطرف الخارجي مما يسهل‬
‫عليه إصدار أوامر الذكاء االصطناعي وارتكاب الجريمة‪ ،‬فتكون هنا املسؤولية الجنائية‬
‫قائمة بصورة مشتركة بين كافة األطراف(‪.)2‬‬
‫ثانيا‪ :‬في حالة قيام هذا الطرف الخارجي بتخصيص في استغالل ثغرة في الذكاء‬
‫االصطناعي وجدت من غير أن يكون هناك إهمال من املالك أو املصنع فهنا املسؤولية‬
‫الجنائية تقع على الطرف الخارجي وحده‪ ،‬مثال‪ :‬كأن يقوم الطرف الخارجي بإعطاء أمر‬
‫برمجي للذكاء االصطناعي باالعتداء على أشخاص يحملون صفات معينة مثل لون‬
‫ً‬
‫البشرة وغيرها(‪ ،)3‬أيضا مثاله اختراق الطرف الخارجي للسحابة االلكترونية(‪ ،)4‬والتي يتم‬

‫(‪ )2‬عمري موس ى‪ ،‬ويس بالل‪ :‬اآلثار القانونية املترتبة عن استخدام الذكاء االصطناعي‪ ،‬رسالة لنيل شهادة‬
‫املاستر في الحقوق تخصص قانون االعمال‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة زيان عاشور‪،‬‬
‫الجزائر‪ ،2020 ،‬ص‪.41‬‬
‫(‪ )4‬السحابة االلكترونية‪ :‬وهي عبارة عن منطقة الشحنة السالبة املحيطة بنواة الذرة‪ ،‬واملرتبطة باملدار‬
‫الذري‪ ،‬وتصف سحابة اإللكترون منطقة احتواء اإللكترونات‪.‬‬
‫‪121‬‬
‫تخزين و إرسال األمور من خاللها لتقنية الذكاء االصطناعي و قيامه بإصدار أوامر للذكاء‬
‫االصطناعي لحمله على ارتكاب جريمة معينة كإعطاء أمر برمجي باالعتداء على أشخاص‬
‫يحملون صفاة معينة يحملون لون بشرة معين مثال أو ذوي زي معين(‪.)1‬‬
‫ووفق الحالتان السابقة إذا تم التثبت أن الجريمة وقعت بسبب الطرف الخارجي‬
‫(الغير) فإن هذا الطرف هو الذي يكون مسؤوال جزائيا ويتم اعفاء نظام الذكاء‬
‫االصطناعي من هذه املسؤولية‪.‬‬
‫يعد الذكاء االصطناعي مسؤوال عن جميع الجرائم التي يرتكبها بنفسه باستقاللية‬
‫وبقدرته على التعلم العميق بناء على عنصر اإلدراك االصطناعي الذي سيتم برمجته‬
‫فيه‪ ،‬ويستثنى من ذلك إذا لم يكن لإلنسان يد فيها(‪.)2‬‬

‫‪122‬‬
‫مسؤولية الذكاء االصطناعي عن اضراره‬
‫ومع استبعاد فرضية مالمسة النظام الذكي مباشرة مع الكيان أو الش يء املتضرر‪،‬‬
‫وهي في الحالة التي يقوم فيها النظام الذكي بالتسبب بضرر مباشر وواضح‪ ،‬فإنه يصعب‬
‫إثبات املسؤولية في الحاالت األخرى‪ ،‬ويقع على املضرور إثبات في أنه إما أن الش يء قد‬
‫تخلله عيب‪ ،‬أو أن يقوم بإثبات الوضع غير املألوف للش يء الذكي أو أن يثبت إنحراف‬
‫سلوكه‪ ،‬مع العلم واألخذ بعين االعتبار أن إثبات هذه الفرضيات من النادر من أن يكون‬
‫ممكن القيام به وإثباته وذلك يعود لعدم دراية املضرور بخبايا هذه األنظمة(‪.).)1‬‬
‫يمكن بطبيعة األحوال في مجال الذي يحدد فيه نوع املسؤولية عن األضرار الناجمة‬
‫عن استخدام الذكاء االصطناعي أن يتم بحث املسؤولية في ضوء قواعد املسؤولية عن‬
‫ً‬
‫األعمال الشخصية ملستخدم الذكاء االصطناعي أو املنتج‪ ،‬وذلك وفقا للقاعدة التي‬
‫ً‬
‫أكدتها املادة ‪ 1382‬من التقنين املدني الفرنس ي والتي تنص على أنه‪ :‬أي فعل لإلنسان أيا‬
‫ً‬
‫كان‪ ،‬ويسبب للغير أضرارا يلزم من تسبب فيه بالتعويض‪ .‬وهذا النص يتوافق مع املادة‬
‫ً‬
‫‪ 163‬من التقنين املدني املصري والتي تنص على‪ :‬أن كل خطأ سبب ضررا للغير ُيلزم من‬
‫ارتكبه بالتعويض(‪.)2‬‬
‫ً‬
‫يعتبر كل خطأ نتج عنه ضررا للغير يجوز فيه للغير أن يطالب بالتعويض الذي‬
‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬
‫لحقه سواء كان ضررا ماديا أو ضررا معنويا‪ ،‬فالضرر املادي الناجم عن أفعال الروبوت‬
‫ً‬
‫مثال قد يتمثل بضرر قد يصيب اإلنسان في ماله‪ ،‬أي الذي يلحق به خسارة مالية تؤدي‬
‫ً‬ ‫ً‬
‫إلى نقص في ذمته املالية‪ ،‬إن مساس بالحق املالي للمضرور يكون ضررا ماديا إذا نجم عن‬
‫هذا املساس انتقاص للمزايا املالية التي يخولها هذا الحق‪ ،‬إما إذا لم يترتب عليه مثل‬
‫(‪ )1‬بن طرية‪ ،‬شهيدة‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،114‬ص ‪.130‬‬

‫(‪ )2‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬هامش‪ ،11‬ص ‪.10‬‬
‫‪123‬‬
‫ذلك االنتقاص فال يترتب أي ضرر مادي(‪.)1‬‬

‫ولربما قد تؤدي بعض أفعال الروبوت إلى عدة أضرار قد تلحق بجسد املضرور‪،‬‬
‫ويقصد بالضرر الجسدي «هو األذى الذي ينتج عن االعتداء على سالمة وحرمة الجسم‬
‫باملوت أو الجرح أو الضرب»‪ ،‬مما ينتج عن هذه اإلصابات تعطيل أو عجز دائم‬
‫للمضرور املصاب فال يستطيع بإمكانه العمل كما كان قبل اإلصابة األمر الذي قد‬
‫يتسبب له أيضا أضرارا مالية‪ ،‬كانقطاع الدخل بسبب اإلصابة أو النقص من الدخل‬
‫بسبب عطل دائم تركته اإلصابة(‪.)2‬‬
‫ً‬
‫إن بحث املسؤولية الشخصية عن الخطأ ممكنا وذلك من خالل البحث عن معايير‬
‫جديدة‪ ،‬مثل‪ :‬تعقد النظام‪ ،‬درجة مساعدته في اتخاذ القرار وإمكانية التدخل التي يعهد‬
‫ً‬
‫بها املستخدم‪ ،‬حيث يجب وفقا للقواعد العامة إثبات الخطأ‪ ،‬والضرر والعالقة‬
‫السببية‪ ،‬أما فيما يتعلق بالخطأ بوجه خاص يجب إثبات خطأ املستخدم في االستعمال‪،‬‬
‫أو إثبات خطأ املنتج في برمجة الروبوت‪ ،‬سوء كان الخطأ عمدي أو غير عمدي‪ ،‬إال أن‬
‫الصعوبة تكمن في صعوبة اإلثبات من جهة ومن جهة أخرى إذا ارتكب الروبوت الذكي‬
‫خطأ في اتخاذ قرار دون وقوع سلوك متنازع فيه من جانب املالك أو املستخدم أو املنتج‬
‫فال يمكن عندئذ تطبيق املسؤولية القائمة على أساس الخطأ(‪.)3‬‬
‫ً‬
‫شهدت تقنيات الذكاء االصطناعي حديثا عدة تطورات كبيرة ومذهلة أدت لوصول‬
‫تقنية الذكاء االصطناعي إلى مرحلة اإلدراك االصطناعي فأصبح لديها القدرة على التعلم‬
‫الذاتي‪ ،‬والتحليل‪ ،‬والتمييز واتخاذ القرارات باستقاللية عن البشر‪ ،‬نتيجة التشبع‬
‫بخوارزميات ذكية تتعلم من املجتمع املحيط بها‪ ،‬وقد أصبح أيضا لها القدرة على التعبير‬
‫من خالل الوجه بشكل ذاتي ويمكنها التحاور مع البشر وفهم لغتهم وتركيب إجابات‬

‫(‪ )3‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،11‬ص ‪.10‬‬
‫‪124‬‬
‫منطقية تحاكي إجابات البشر(‪.)1‬‬

‫أثار موضوع استخدام برامج الذكاء االصطناعي في مختلف املجاالت عدة مشكالت‪،‬‬
‫ً‬
‫خصوصا تلك املتعلقة باملسؤولية القانونية عن أعمال هذه البرامج‪ ،‬ومدى مالءمة‬
‫التشريعات الحالية وقدرتها على تنظيم كافة املسائل املتعلقة بها‪ ،‬كما أن الذكاء‬
‫ً‬
‫االصطناعي يمكن أن يكون وسيلة الرتكاب جريمة أو أن يشكل انتهاكا للحياة الخاصة(‪.)2‬‬
‫وعلى سبيل املثال ال الحصر ويستخدم الذكاء االصطناعي في مجاالت لها آثار خطيرة‬
‫ً‬
‫كالروبوتات في املجال الطبي‪ ،‬ويثار حول ذلك االستخدام نقاشا حول مدى املسؤولية عن‬
‫اإلصابات والوفيات التي تتسبب بها هذه الروبوتات‪ ،‬فعلى وجه الخصوص تلك التقنيات‬
‫(الروبوتات) لها القدرة على التعلم والعمل واتخاذ القرارات باستقالل عن مستخدمها‪،‬‬
‫ً‬
‫وفقا ملتطلبات الحالة الصحية للمريض‪ ،‬وال تزال القواعد القانونية بمعزل عن تنظيم‬
‫مدى املسؤولية لكل من املستشفى واألطباء‪ ،‬وللشركة املصنعة واملبرمجة لهذه التقنيات‪،‬‬
‫فتصبح األدوار في هذا املجال متداخلة وغير معلومة على وجه الدقة‪ ،‬وذلك يعود‬
‫لحداثة استخدام الذكاء االصطناعي في املجال الطبي(‪.)3‬‬
‫إضافة إلى أن األخطاء الطبية الناتجة عن استخدام الذكاء االصطناعي في املجال‬
‫الطبي قد ترجع إلى فشل في برنامج هذه التقنيات‪ ،‬وال عالقة له بخطأ أو تقصير في عملية‬
‫البرمجة‪ ،‬كطبيعة البرنامج نفسه‪ ،‬أو إلى عوامل أخرى يصعب تحديدها‪ ،‬مثل‪:‬‬
‫الفيروسات واألعطال الفنية(‪.)4‬‬
‫يستخدم الذكاء االصطناعي في املجاالت العسكرية‪ ،‬وألغراض قتالية‪ ،‬كالروبوت‬
‫القاتل الذي ال هدف له سوى رصد األهداف املطلوبة وقتلها‪ ،‬وذهب جانب من الفقه‬
‫القانوني إلى تحميل املستخدم لهذه الروبوتات القاتلة املسؤولية عنها في حال حدوث‬
‫البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.99‬‬ ‫(‪)1‬‬

‫الدحيات‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،48‬ص‪.14‬‬ ‫(‪)2‬‬
‫الدحيات‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،48‬ص ‪.18‬‬ ‫(‪)3‬‬
‫الدحيات‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،48‬ص ‪.20‬‬ ‫(‪)4‬‬
‫‪125‬‬
‫خطأ أو مشكلة فيها‪ ،‬ألنه يجب عليه أن يعرف طريقة عمل هذه الروبوتات‪ ،‬إضافة إلى أن‬
‫ً‬
‫التحكم في هذه الروبوتات ليس مباشرا‪ ،‬فهي مبرمجة على إصابة أشخاص معينين‪ ،‬وقد‬
‫ً‬ ‫ً‬
‫تتعرض لخلل في نظامها يجعلها تصيب شخصا لم يكن مقصودا إصابته‪ ،‬وترتبط‬
‫املسؤولية عن إطالق النار من ِقبل هذه الروبوتات بالقائد العسكري(‪.)1‬‬
‫إن مسألة الحديث عن ارتكاب الذكاء االصطناعي لجريمة من تلقاء نفسه بدون‬
‫خطا برمجي و نتيجة لحذوت تطور ذاتي في نظام الذكاء االصطناعي الذي يعمل به أصبح‬
‫ً‬
‫من األمور املمكنة حاليا وأكبر مثال على ذلك ما حدث في عام ‪1981‬م تم قتل موظف‬
‫ً‬
‫ياباني في مصنع للدراجات النارية يبلغ من العمر ‪ 37‬عاما على يد روبوت ذكاء اصطناعي‬
‫كان يعمل بالقرب منه‪ ،‬حيث قد حدد الروبوت بشكل خاطئ املوظف على انه يشكل‬
‫ً‬
‫تهديدا ملهمته‪ ،‬وبحسب أن الطريقة األكثر فعالية للقضاء على هذا التهديد هو من دفعه‬
‫إلى آلة تشغيل مجاورة باستخدام ذراعه الهيدروليكي القوي للغاية‪ ،‬وقد هاجم وحطم‬
‫ً‬
‫الروبوت العامل املفاجئ في آلة التشغيل‪ ،‬وقتله فورا‪ ،‬ثم استأنف الروبوت مهامه من‬
‫دون أن يتدخل أحد(‪.)2‬‬
‫إن ارتكاب الجريمة من قبل الذكاء االصطناعي بنفسه بدون خطأ برمجي من املصنع‬
‫أو تدخل أي طرف‪ ،‬وذلك بواسطة تقنيات حديثة تمكن الذكاء االصطناعي من التفكير‬
‫وإصدار قرارات ذاتية‪ ،‬يكون هو وحده املسؤول عن إصدارها ففي هده الحالة من‬
‫املفترض أن تكون املسؤولية الجنائية واقعة على الذكاء االصطناعي وحده‪ .‬وبالتالي نجد‬
‫أنفسنا أمام إشكال هام يتمحور حول إمكانية توقيع عقوبة ذات طابع جزائي على‬
‫كيانات الذكاء االصطناعي من عدمه(‪.(3‬‬
‫ولإلجابة عن هذا اإلشكال يتطلب منا املعرفة والتأكد من توافر عناصر املسؤولية‬
‫الجنائية التي يتم تطبيقها على البشر ما إذا كان يوجد هناك إمكانية لتطبيقها على‬

‫‪126‬‬
‫أجهزة وكيانات الذكاء االصطناعي‪.‬‬

‫من املعلوم أنه عندما ترتبط األنشطة االجرامية مع كيانات الذكاء االصطناعي فإنه‬
‫تنشأ املسؤولية الجنائية من وجود عاملين الجرمية والفاعلية‪ .‬وهي تكون النتيجة املادية‬
‫للفعل وفي حالة الذكاء املصطنع‪ ،‬بحيث ينشأ التحدي الرئيس ي في إمالء الجرمية التي هي‬
‫العامل العقلي‪ .‬فهل نستطيع فرض القوانين البشرية على كيانات الذكاء االصطناعي مثل‬
‫تلك التي يتم فرضها على الشخصيات القانونية كالشركات التي يمكن بموجبها إصدار‬
‫العقوبات عن طريق إجراء التعديالت الالزمة‪.‬‬
‫ً‬
‫يتطلب أوال التأكد من مدى توافر األهلية الجنائية لكيانات الذكاء االصطناعي كما‬
‫هو الحال بالنسبة للبشر حتى تطبق عناصر املسؤولية الجنائية عليها‪ ،‬بداية إن فاألهلية‬
‫الجنائية والتي تعتبر أساس املسؤولية الجزائية تقوم على قدرة الشخص على فهم ماهية‬
‫أفعاله وتقدير نتائجها‪ ،‬بمعنى آخر‪ ،‬إن األهلية الجنائية هي مناط املسؤولية أي أن‬
‫اليسأل جنائيا إال إذا كان أهال للمساءلة‪ ،‬وال يكون كذلك إال بتوفر صفتين فيه‬ ‫اإلنسان ُ‬
‫هما‪ :‬التمييز أو اإلدراك وحرية االختيار(‪.)1‬‬
‫تنص املادة ‪ 47‬من قانون العقوبات الجزائري على أنه‪« :‬ال عقوبة على من كان في‬
‫ً‬
‫حالة جنون وقت ارتكاب الجريمة» وأيضا تنص املادة ‪ 48‬على أنه‪« :‬ال عقوبة على من‬
‫اضطرته إلى ارتكاب الجريمة قوة ألقبل له بدفعها»(‪.)2‬حيث أنه تبين هذه املواد أن انتفاء‬
‫حرية االختيار في حالة الجنون واإلكراه والصغر يؤدي إلى امتناع املسؤولية الجنائية‬
‫كون أن املشرع الجزائري لم يعرف املسؤولية الجنائية واكتفى بتعداد أسباب امتناعها‪.‬‬
‫كما أن أغلب التشريعات العربية لم تتعرض لتعريف املسؤولية الجنائية تاركة ذلك‬
‫للفقه واكتفت في نصوصها برفع املسؤولية الجنائية عن فاقدي اإلدراك أو اإلرادة مثل‬
‫املجنون والصغير غير املميز واملكره لعدم توافر األهلية الجنائية والتي تعتبر ركيزة‬
‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،63‬ص ‪.201-200‬‬

‫(‪ )2‬األمر رقم ‪ 66 – 156‬املؤرخ في ‪ 18‬صفر عام ‪ 1386‬املوافق ‪ 8‬يونيو سنة ‪ 1966‬واملتضمن قانون‬
‫العقوبات الجزائري‪ ،‬املعدل واملتمم‪ ،‬الجريدة الرسمية للجمهورية الجزائرية‪ ،‬العدد‪ 49،‬سنة ‪.1966‬‬
‫‪127‬‬
‫أساسية لقيام املسؤولية الجنائية‪ ،‬فال يسأل الشخص جنائيا إال إذا كان أهال للمساءلة‬
‫الجنائية وذلك بتوفر عنصري اإلرادة أو االختيار واإلدراك لديه(‪.)1‬‬
‫وبالتالي يبقى هناك تساءل حول إن كان يمكن تطبيق عنصر العلم واإلرادة على‬
‫الجرائم التي يرتكبها الذكاء االصطناعي كما هو مذكور سابقا؟‬
‫إن اإلجابة على هذا السؤال تختزل في أن القانون الجنائي ال يتصور تطبيقه إال على‬
‫البشر وبالتالي ال نستطيع طبقا للقوانين الحالية القيام بإيقاع الجزاء جنائي على كيانات‬
‫الذكاء االصطناعي وحيث أنه إن ما قد يحدث عمليا انه يمكن للقاض ي أن يأمر بمصادرة‬
‫هده اآللة التي تعمل بالذكاء االصطناعي والتي حدثت الجريمة عن طريقها ‪.‬ولكن هناك‬
‫نموذج من املسؤولية‪ ،‬وهو مسؤولية االحتمال الطبيعي للنتائج‪ ،‬الذي يفترض التورط‬
‫العميق للمبرمجين أو املستخدمين في األنشطة اليومية لكيان الذكاء االصطناعي‪ ،‬ولكن‬
‫دون أي نية ارتكاب أي مخالفة عبر كيان الذكاء االصطناعي ‪.)2(.‬‬
‫لقد حصر قانون العقوبات التي توقع على الشخصية االعتبارية‪ ،‬أي على ما دون‬
‫الشخصية الطبيعية املتمثلة في اإلنسان بعقوبتي املصادرة والغرامة‪ ،‬حيث جاء في املادة‬
‫(‪« :)74‬ال يحكم على األشخاص املعنويين إال بالغرامة أو املصادرة»(‪.)3‬‬
‫واملصادرة هي نقل ملكية مال أو أكثر من املحكوم عليه إلى الدولة‪ ،‬وهي بذلك عقوبة‬
‫ناقلة للملكية تحل الدولة فيها محل املحكوم عليه أو غيره في ملكية املال‪ ،‬وقد تكون‬
‫ً‬ ‫ً‬
‫عقوبة مالية أو عينية‪ ،‬وقد تكون املصادرة عقوبة كما قد تكون تدبيرا احترازيا‪ ،‬فحين‬
‫ترد املصادرة على أشياء مشروعة الحيازة بحسب األصل لكن قامت بينها وبين الجريمة‬
‫ً‬ ‫ً‬
‫صلة فتكون عقوبة‪ ،‬وحين ترد على أشياء حيازتها غير مشروعة تكون تدبيرا احترازيا‪.)4( .‬‬
‫حسكر‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،63‬ص ‪.201‬‬ ‫(‪)1‬‬

‫إبراهيم‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،121‬ص‪.132‬‬ ‫(‪)2‬‬
‫قانون العقوبات الفلسطيني رقم (‪ )16‬لعام ‪1960‬م‪.‬‬ ‫(‪)3‬‬
‫محمود حسني‪ ،‬شرح قانون العقوبات‪ ،‬القسم العام‪ ،‬الطبعة الخامسة‪ ،‬دار النهضة العربية‪ ،‬القاهرة‪،‬‬ ‫(‪)4‬‬
‫‪1982‬م‪ ،‬ص ‪.769‬‬
‫‪128‬‬
‫وقد قرر قانون الجرائم اإللكترونية الفلسطيني عقوبة املصادرة لألجهزة اإللكترونية‬
‫والبرامج والوسائل املستخدمة في ارتكاب جريمة من تلك الجرائم املنصوص عليها في‬
‫القانون ذاته‪ ،‬حيث جاء في املادة (‪ )2/50‬منه‪« :‬دون اإلخالل بالعقوبات املنصوص عليها‬
‫ً‬
‫في هذا القرار بقانون‪ ،‬وحقوق الغير حسن النية‪ ،‬على املحكمة أن تصدر قرارا يتضمن‬
‫اآلتي‪ :‬مصادرة األجهزة أو البرامج أو الوسائل املستخدمة في ارتكاب أي من الجرائم‬
‫املنصوص عليها في هذا القرار بقانون أو األموال املتحصلة منها‪ ،‬على أن تكون إزالة‬
‫املخالفة على نفقة الفاعل(‪.)1‬‬
‫وتشمل املصادرة األشياء التي يعد استعمالها وتداولها غير مشروع‪ ،‬وإن كانت ال‬
‫تعود ملكيتها للمتهم(‪ ،)2‬وهذا ما أكدته املادة (‪ )31‬من قانون العقوبات الفلسطيني‪،‬‬
‫حيث جاء فيها‪« :‬يصادر من األشياء ما كان صنعة أو اقتناؤه أو بيعه أو استعماله غير‬
‫ً‬
‫مشروع وإن لم يكن ملكا للمتهم أو لم تفض املالحقة إلى حكم»‪.‬‬
‫ً‬
‫واملصادرة نوعان‪ ،‬مصادرة عامة مجلها جميع ثروة املحكوم عليه‪ ،‬وقد طبقت قديما‬
‫وتحظرها التشريعات اليوم‪ ،‬ومصادرة خاصة وهي عقوبة تكميلية يكون الحكم بها‬
‫ً‬ ‫ً‬ ‫ً‬
‫وجوبيا أحيانا فتكون لها خصائص التدابير االحترازية‪ ،‬وقد يكون الحكم بها جوازيا‬
‫أحيان أخرى فيكون لها خصائص العقوبة(‪.)3‬‬
‫وال تتم املصادرة في التشريع الفلسطيني إال بحكم قضائي يقض ي بها‪ ،‬فقد جاء في‬
‫نص املادة (‪ )4/21‬من القانون األساس ي الفلسطيني‪« :‬ال مصادرة إال بحكم قضائي»(‪.)4‬‬
‫ومما سبق بيانه من نصوص قانونية فإن عقوبة املصادرة تشمل األجهزة‬
‫اإللكترونية والبرامج والوسائل املستخدمة في ارتكاب جريمة من الجرائم املنصوص عليها‬
‫املادة (‪ )52‬فقرة ‪ 2‬من من قرار بقانون رقم ‪ 10‬لسنة ‪ 2018‬بشأن الجرائم االلكترونية و تعديالته‪.‬‬ ‫(‪)1‬‬
‫السعدي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،200‬ص ‪.163‬‬ ‫(‪)2‬‬
‫عبد القادر جرادة‪ ،‬مبادئ قانون العقوبات الفلسطيني‪ ،‬فلسطين‪ ،‬مكتبة آفاق‪2013 ،‬م‪ ،‬ص ‪.810‬‬ ‫(‪)3‬‬
‫القانون األساس ي الفلسطيني لعام ‪2005‬م‪.‬‬ ‫(‪)4‬‬
‫‪129‬‬
‫في قانون الجرائم اإللكترونية‪ ،‬مثل جريمة اختراق موقع أو نظام إلكتروني‪ ،‬أو جريمة‬
‫إتالف موقع أو بيانات أو ملفات‪ ،‬أو كجريمة التهديد عبر وسيلة أو جهاز إلكتروني وغيرها‬
‫من الجرائم األخرى في هذا القانون‪ ،‬وهذه الجرائم بطبيعتها تتم بواسطة الذكاء‬
‫االصطناعي سواء كان جهاز حاسوب‪ ،‬أو هاتف‪ ،‬محمول ذكي أو غيره من أجهزة الذكاء‬
‫االصطناعي املعروفة‪ ،‬فتقع عليها عقوبة املصادرة وحتى إن كانت حيازتها مشروعة‪ ،‬وال‬
‫تشكل جريمة في ذاتها‪ ،‬ألنها وسيلة وأداة الرتكاب جريمة من جرائم الذكاء االصطناعي‪،‬‬
‫وهذه العقوبة تكون تكميلية إلى جانب العقوبة التي توقع على مستخدم أجهزة الذكاء‬
‫ً‬
‫االصطناعي الذي ارتكب الفعل اإلجرامي‪ ،‬وهي عقوبة تشكل ردعا ملن يفكر في اقتراف‬
‫ً‬
‫مثل هذه الجرائم‪ ،‬خصوصا ما تمثله من اعتداء على خصوصية اإلنسان‪ ،‬كجرائم‬
‫االختراق‪ ،‬وإتالف البيانات‪ ،‬أو التالعب بها وتزويرها‪ ،‬ويندرج هذا ضمن السياسية‬
‫الجنائية الحديثة ملواجهة هذا النوع من الجرائم‪.‬‬
‫عندما يقوم الذكاء االصطناعي بتنفيذ مهامه اليومية‪ ،‬قد مسؤولية يرتكب جريمة‬
‫لم يكن املبرمجون أو املستخدمون على علم بالجريمة إال بعد ارتكاب الفعل؛ فهم لم‬
‫يخططوا الرتكاب أي جريمة‪ ،‬ولم يشاركوا في أي جزء من ارتكاب تلك الجريمة املحددة ‪.‬‬
‫في مثل هذه الحاالت‪ ،‬قد يخلق النموذج الثاني استجابة قانونية مناسبة‪ ،‬ويعتمد هذا‬
‫النموذج على قدرة املبرمجين أو املستخدمين على توقع ارتكاب الجرائم املحتملة‪ً .‬‬
‫ووفقا‬
‫لهذا النموذج‪ ،‬يكون هناك إمكانية ملحاسبة الشخص عن جريمة‪ ،‬إذا كانت تلك الجريمة‬
‫نتيجة طبيعية ومن املحتمل أن تكون نتيجة لسلوك هذا الشخص ‪.‬وقد تم استخدام‬
‫نموذج مسؤولية االحتمال الطبيعي للنتائج لفرض املسؤولية الجنائية على املتواطئين‪،‬‬
‫عندما يرتكب الشخص جريمة لم يخطط لها جميعهم ولم تكن ً‬
‫جزءا من مؤامرة‪ .‬ويبقى‬
‫ً‬
‫هناك تساؤال حول ما هي املسؤولية الجنائية للكيان نفسه عند تطبيق نموذج االحتمالية‬
‫الطبيعية؟‬
‫في الحقيقة‪ ،‬توجد نتيجتان محتملتان لإلجابة على هذا السؤال‪ :‬في حالة ما إذا‬
‫تصرف الذكاء االصطناعي باعتباره عامل مسالم وبرئ من غير معرفة أي ش يء عن ما‬
‫‪130‬‬
‫ً‬
‫يتعلق بالحظر اإلجرامي‪ ،‬فهو في هذه الحالة ال يحاسب جنائيا على الجريمة التي ارتكبها‬
‫في ظل هذه الظروف وهو ما يعرف في هذه الحالة بــ‪( :‬نموذج املسؤولية عبر الجرم عن‬
‫طريق آخرز ولكن إذا لم يكن كيان الذكاء االصطناعي يتصرف باعتباره عامل مسالم‬
‫وفقا للطبيعة‬‫وبريء‪ ،‬فعندئذ باإلضافة إلى املسؤولية الجنائية للمبرمج أو املستخدم ً‬
‫ً‬ ‫ً‬
‫املحتملة للنتائج‪ ،‬فإن الكيان أيضا يكون مسؤوال ويمكن أن توقع عليه عقوبات ‪.‬وال‬
‫يفترض في هذه الحالة أي اعتماد من كيان الذكاء الصناعي على مبرمج أو على مستخدم‬
‫معين‪ ،‬كما يركز هذا النموذج الثالث على كيان الذكاء االصطناعي نفسه‪ ،‬كما تتكون‬
‫املسؤولية الجنائية عن جريمة معينة بشكل رئيس ي من خالل العنصر الخارجي وهو‬
‫(الفعل الجرمي) وكذلك من خالل العنصر الداخلي (الجرم الرجعي) لتلك الجريمة‪،‬‬
‫وينسب لكليهما عناصر الجريمة املحددة الخاضعة للمساءلة الجنائية ‪.‬ولكي يتم فرض‬
‫املسؤولية الجنائية على أي نوع من الكيانات‪ ،‬ال بد من إثبات وجود هذه العناصر في‬
‫الكيان املحدد‪ ،‬وبيان األسئلة ذات الصلة التي تتعلق باملسؤولية الجنائية الخاصة‬
‫بكيانات الذكاء‪ .‬والتي تتمحور حول كيف يمكن لهذه الكيانات أن تتوفر فيها متطلبات‬
‫املسؤولية الجنائية؟ وهل تختلف كيانات الذكاء االصطناعي عن البشر في هذا السياق؟‬
‫وبال شك أنه يقدر كل كيان الذكاء االصطناعي على تلبية متطلبات كل من العنصر‬
‫الخارجي والعنصر الداخلي‪ ،‬والواقع أنه يفي بهما بالفعل‪ ،‬فال يوجد ما يمنع من فرض‬
‫ً‬
‫املسؤولية الجنائية على كيان الذكاء االصطناعي هذا حتى تكون مسئولة جنائيا‪ ،‬ال بد‬
‫ً‬
‫من معاملة كيانات الذكاء االصطناعي هذه باعتبارها أشخاص اعتباريين تماما مثل‬
‫ً‬
‫الشركات كأشخاص اعتبارية قانونا‪ ،‬حيث أن املنطق األولي وراء منح الشخصية‬
‫االعتبارية للشركات الترويج للنشاط التجاري وإزالة مسؤولية الشركات من األكتاف‬
‫الفردية(‪.)1‬‬
‫من نفس املنطلق‪ ،‬ال بد أن يتم منح الذكاء االصطناعي الحريات الدستورية‬
‫‪131‬‬
‫األساسية بما يتماش ى مع تلك املمنوحة للشركات‪ .‬وبما يهدف بشكل أساس ي من وراء‬
‫ذلك‪ ،‬هو أنه مع التطور الخاص بالذكاء االصطناعي وبدء التفكير‪ ،‬فإن املسؤولية املدنية‬
‫ً‬
‫والجنائية الناشئة عن أفعالهم لن تعود فقط إلى املبرمج أو املالك ‪.‬فمثال في مسؤولية‬
‫الطيار اآللي على أساس تقنية الذكاء االصطناعي‪ ،‬فماذا لو قام مطور طائرة حربية بعمل‬
‫برنامج طيار آلي يقوم بنفسه بإزالة أي عقبات في مهمته وفي إحدى املهام يقوم طيار‬
‫الطائرة بإبطال املهمة بسبب سوء األحوال الجوية لكن الطيار اآللي يعترف بالطيار‬
‫االصطناعي باعتباره عقبة ويخرج الطيار خارج املقصورة التي تقتل الطيار‪ ،‬ففي هده‬
‫الحالة لم يكن لدى املطور أي نية لقتل الطيار والقوانين الحالية تعتبرهم مسؤولون‪،‬‬
‫وسيكون الخيار الصحيح هو فرض املسؤولية الجنائية على الطيار اآللي وتصحيح‬
‫خوارزميات لبرامجه‪ ،‬وهذا ال ينقذ مطوري الذكاء االصطناعي واملالكي من املسؤولية‬
‫ً‬
‫الجنائية عن األفعال التي لم يقصدوها أبدا‪ ،‬بل يدفع املطورين لجلب املزيد من‬
‫االبتكارات(‪.)1‬‬
‫إن املسؤولية اجلنائية للذكاء االصطناعي عن أضراره يكون يف عدة حاالت‪:‬‬
‫األولى‪ :‬تكون املسؤولية الرتكاب الجريمة عن طريق شخص آخر‪ ،‬وقد تتوجه التهمة‬
‫للمنتج أو املبرمج أو املستخدم النهائي(‪.)2‬‬
‫بمعنى آخر أن يكون هناك طرف آخر يشارك الذكاء االصطناعي في ارتكاب الجريمة‬
‫فمن املفترض أن يتحمل الطرف االخر كامل املسؤولية لكن مستقبال سوف تكون‬
‫املسؤولية مشتركة‪-‬ومثال ذلك في الهواتف الذكية يقوم املصنع على برمجة هذه الهواتف‬
‫بحيث ال يعطيها صالحيات مطلقة في تصرفاتها بحيث يضع فيها قيود تمنعه من ارتكاب‬
‫الجرائم فيأتي املستخدم للهواتف الذكية ويعمل على التالعب في كود برمجة وبأجراء‬
‫عملية برمجية تسمى بالروبوت (‪ )Root‬للهاتف وخاصة في أنظمة األندرويد مما يفتح‬

‫‪132‬‬
‫املجال للعديد من التطبيقات أن تتحكم بالبيانات والوصول لجذر النظام لتستطيع‬

‫التغيير والتعديل والتحكم في الهواتف الذكية والوصول لدرجة أن يعطي الهاتف أمر‬
‫ً‬
‫بتدمير نفسه برمجيا‪.‬‬
‫أما الحالة الثانية فهي‪ :‬ارتكاب الجريمة من قبل الذكاء االصطناعي نفسه بنفسه‬
‫من دون أن يكون هناك أخطاء برمجية من املصنع ومن دون تدخل أي طرف إنما عن‬
‫طريق تقنياته الحديثة التي تمكنه من اصدار قراراته الذاتية ويكون الذكاء االصطناعي‬
‫وحده مسؤوال عن إصدار هذه القرارات وأيضا تكون املسؤولية الجنائية تقع عليه وحده‪.‬‬
‫وتكون فيه املسؤولية محتملة والعواقب غير متوقعة‪ ،‬ويستبعد العنصر البشري أو‬
‫املبرمج من تحمل املسؤولية لعدم تورطهم في ذلك‪ ،‬ويتم إرجاع السبب إلى خلل بالطريقة‬
‫التي كان يجب على الكيان االصطناعي أن يفكر فيها(‪.)1‬‬
‫والحالة الثالثة‪ :‬املسؤولية املباشرة‪ ،‬ويتم في هذه الحالة إلحاق املسؤولية لكيان‬
‫الذكاء االصطناعي مباشرة‪ ،‬وأيضا تحمل لألفراد عادة‪ ،‬إلى أنها القت الكثير من‬
‫االنتقادات مفادها أن هذه الكيانات ال تقدر على تحمل املسؤولية كاملة بسبب العجز‬
‫عندها‪ ،‬مثل‪ :‬األطفال‪ ،‬واملجانين ومن في حكمهم(‪.)2‬‬
‫في الحقيقة إن الذكاء االصطناعي لم يصل بعد إلى درجة من اإلدراك تؤهله لتحمل‬
‫ً‬
‫املسؤولية الجنائية‪ ،‬ألنه عبارة عن آلة ُمصنعة ُومبرمجة ال تستطيع تأدية املهام إال وفقا‬
‫ملا تم برمجتها عليه‪ ،‬وقد تتعرض للخطأ وللعطل الفني‪ ،‬ويمكنها أن تقوم بارتكاب أفعال‬
‫ً‬ ‫ً‬
‫تشكل جريمة‪ ،‬ونظرا لعدم إمكان مساءلتها جنائيا وذلك ال يعني إفالتها من املساءلة‪،‬‬
‫فاملسؤولية هنا تقع على النائب اإلنساني الذي ساهم في وجود هذا الخلل املؤدي إلى‬
‫ً‬ ‫ً‬
‫ارتكاب جريمة‪ ،‬سواء أكان هذا النائب مص ّنعا ومبرمجا‪ ،‬أو كان املستخدم لهذه‬
‫التقنيات‪ ،‬فيجب عليهم معرفة كيفية عمل هذه التقنية‪ ،‬ومعرفة كيفية التعامل مع‬
‫(‪ )1‬الزهراني‪ ،‬مرجع سابق‪ ،‬هامش‪ ،81‬بدون رقم صفحة‪.‬‬

‫‪133‬‬
‫األعطال‪ ،‬إضافة إلى ضرورة وجود قواعد استخدام محددة يتم من خاللها تفادي وقوع‬
‫أخطاء تشكل جريمة في حال حدوث خلل فني‪ ،‬كنشر الروبوتات القاتلة في أوقات‬
‫محددة‪ ،‬بحيث تضبط حركتها(‪.)1‬‬
‫ولكن مع عدم القدرة على عقاب اآلالت في حالة تسببت في حوادث أن يهدد ذلك‬
‫استقرار املجتمع‪ ،‬وفي هذا الصدد يقول نيكوالس وولتمان‪ ،‬املساعد في مركز أبحاث‬
‫قانون الروبوت بجامعة فيرزبورغ بأملانيا‪« :‬على املستوى الفردي فمن املؤكد أن عدم‬
‫القدرة على توجيه اتهام جنائي بعد وقوع حادث خطير سيكون أمرا غير مقبوال‪ ،‬وهذا‬
‫يمثل مأزقا»(‪.)2‬‬
‫سوزان بيك أستاذ القانون الجنائي وفلسفة القانون بجامعة هانوفر األملانية‪ :‬ترى‪،‬‬
‫«أنه قد يتعين علينا إلى حد كبير أن نتخلى مستقبال عن إصدار أحكام قضائية حول‬
‫الحوادث التي تتسبب فيها اآلالت»‪ ،‬وتقر بأنه «من املؤكد أن عدم إمكانية العثور على‬
‫عقوبة سيكون أمرا مزعزعا الستقرار املجتمعات»‪ .‬وتقترح «التفكير في حلول أخرى‪ ،‬مثل‬
‫التوسط بين الضحية ومرتكب الجريمة أو حلول تتضمنها أنظمة قانونية أخرى مثل‬
‫القانون املدني»(‪.)3‬‬
‫«وحسب وولتمان فقد بدأ الباحثون في مجال القانون على سبيل التجربة في‬
‫مناقشة ما إذا كان نبغي علينا‪ ،‬أن نتخلى عن املبدأ الذي يقول إن األفراد وحدهم هم‬
‫الذين يمكنهم التصرف بشكل يمثل جريمة»‪ .‬ويتابع الرأي السائد هو أنه في املرحلة‬
‫الحالية من التطور التكنولوجي ليست هناك ضرورة للتخلي عن القاعدة القانونية‬

‫(‪ )2‬موقع الكتروني‪ ،‬مرجع سابق‪ ،‬إذا كان خصمك إنسان آلي «روبوت» فمن تقاض ي‪ ،‬هامش ‪ ،196‬بدون رقم‬
‫‪134‬‬
‫الراسخة»(‪.)1‬‬
‫ويتحدث وولتمان عن وجود «منطقة رمادية يمكننا من خاللها أن نتكهن بكيفية‬
‫تطور االجتهاد التشريعي في املستقبل‪ ،‬وقد تكون هذه املنطقة الرمادية مقبولة من‬
‫املجتمع بشكل عام في حالة تراجع عدد الحوادث املرورية‪ ،‬عندما تصبح السيارات ذاتية‬
‫القيادة أكثر انتشارا نتيجة فوائدها الكلية للمجتمع»‪ ،‬ويتابع بالقول «أنه ـمن املؤكد أن‬
‫عدم القدرة على توجيه اتهام جنائي بعد وقوع حادث خطير سيكون أمرا غير مقبوال‪،‬‬
‫ً‬
‫وهذا يمثل مأزقا‪.)2( .‬‬
‫االساس في القانون الجنائي أن تكون العقوبات رادعة حتى تؤتي ثمارها وتردع‬
‫االشخاص االخرين عن ارتكاب أي سلوك جرمي‪ ،‬فعلى سبيل املثال في قانون العقوبات‬
‫هناك عقوبات سالبة للحرية وعقوبات تصل لإلعدام فال يعقل تطبيق هذه العقوبات‬
‫على آالت الذكاء االصطناعي أو أن تكون رادعة آلالت الذكاء االصطناعي األخرى أو تمنعها‬
‫من ارتكاب هذه الجريمة أو تنشر االستقرار في املجتمع وتقليل الجرائم فنجد أن هذا‬
‫األمر أو الصورة ليست واضحة وكاملة في حالة الذكاء االصطناعي‪.‬‬
‫لكن يمكننا في هذه الحالة الدمج بين مسؤولية املالك املصنع مع مسؤولية الذكاء‬
‫االصطناعي نفسه فالذكاء االصطناعي املصنع ينتجه وبعدها يمكن عمل له ذمة مالية‬
‫مستقلة بحيث أن جزء من ثمن الذكاء االصطناعي هذا أن يبقى في ذمة مالية مستقلة‬
‫للذكاء االصطناعي يمكن عمل صندوق تأمين أو تضامن في الدولة ككل‪ ،‬بحيث أن أي‬
‫ذكاء اصطناعي يرتكب جريمة ويسبب ضرر للغير يتم اخذ تعويض مالي من هذا‬
‫الصندوق واعطائه للمضرور وهذا جزء من انواع العقوبات للذكاء االصطناعي‪.‬‬
‫وهناك نوع اخر على سبيل املثال يمكن ايقاف الذكاء االصطناعي عن الخدمة‪ ،‬مثال‪:‬‬
‫‪135‬‬
‫توقيف خط االنتاج له او كان هناك تكرار للسلوكيات املرتكبة للذكاء االصطناعي املنتج‬
‫من هذه الشركة ومما سبق يتبين ان هناك حلول لكنها تحتاج للعديد من الدراسات‬
‫املعينة‪ ،‬ووضع ضوابط معينة‪ ،‬وأن تقوم الدولة بتبني هذه الجزئيات بحيث أنه يكون‬
‫عندها تشريعات استباقية تستبق املستقبل في املوضوع‪.‬‬
‫تتيح تكنولوجيا الذكاء االصطناعي مجموعة من االستخدامات الصناعية والخاصة‬
‫للروبوتات‪ .‬من املؤكد أن التكنولوجيا ستصبح أكثر ً‬
‫تقدما في املستقبل مع تطور أبحاث‬
‫الذكاء االصطناعي بمرور الوقت‪ ،‬وسيؤدي االستخدام الصناعي والخاص لهذه‬
‫التكنولوجيا إلى توسيع نطاق املهام التي ستتوالها روبوتات الذكاء االصطناعي‪ ،‬يث انه‬
‫كلما كانت املهام متقدمة ومعقدة‪ ،‬كلما زادت فرص الفشل في إنجازها‪ ،‬إن الفشل‬
‫ً‬
‫مصطلح واسع يشمل مواقف مختلفة في هذا السياق‪ ،‬وأكثرها شيوعا املوقف هو أن‬
‫املهمة التي قام بها الروبوت لم يتم إنجازها بنجاح‪ .‬لكن بعض حاالت الفشل يمكن أن‬
‫تنطوي على ضرر وخطر على األفراد واملجتمع ‪.‬على سبيل املثال‪ ،‬تم تعريف مهمة‬
‫الروبوتات لحراسة السجن على أنها منع الهروب باستخدام الحد األدنى من القوة ضد‬
‫السجناء‪ .‬قد يتم تقييد السجين الذي يحاول الهروب من قبل حارس الروبوت‪ ،‬الذي‬
‫يمسك السجين بقوة ولكنه يسبب اإلصابة؛ قد يجادل السجين بعد ذلك بأن الروبوت‬
‫قد استخدم قوته بشكل مفرط‪ .‬قد يكشف تحليل تصرفات الروبوت أنه كان بإمكانه‬
‫اختيار إجراء أكثر اعتداال‪ ،‬ولكن الروبوت قام بتقييم الخطر على أنه أكبر مما كان عليه‬
‫في الواقع‪ .‬وفي هذه الحالة من املسؤول عن الضرر(‪.)1‬‬
‫يثير هذا النوع من األمثلة أسئلة مهمة والعديد من الحجج حول مسؤولية كيان‬
‫الذكاء االصطناعي‪ .‬إذا تم تحليله من خالل عدسة األخالق‪ ،‬فإن الفشل في هذه الحالة‬
‫هو فشل املبرمج أو املصمم‪ ،‬كما يقول معظم العلماء‪ ،‬وليس فشل الروبوت نفسه‪ .‬ألنه‬
‫ً‬
‫ال يستطيع الروبوت ترسيخ املسؤولية األخالقية الالزمة ليكون مسؤوال عن أي ضرر ناتج‬
‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p17-18.‬‬
‫‪136‬‬
‫ً‬
‫عن أفعاله‪ .‬ووفقا لوجهة النظر هذه‪ ،‬فإن البشر وحدهم هم القادرون على ترسيخ مثل‬
‫هذه املسؤولية األخالقية‪ .‬فالروبوت ليس إال أداة في يد مبرمجه‪ ،‬بغض النظر عن جودة‬
‫برمجياته أو قدراته املعرفية‪ .‬ترتبط هذه الحجة بالنقاش حول اآللة العاقلة(‪.)1‬‬
‫دائما مسألة مسؤولية كيانات الذكاء االصطناعي إلى‬ ‫وفي هذا السياق‪ ،‬ستعود ً‬
‫الجدل الدائر حول القدرة املفاهيمية لآلالت على أن تصبح شبيهة باإلنسان‪ ،‬بحيث‬
‫يصبح البحث الذي ال نهاية له عن اآلالت العاقلة ً‬
‫سعيا ال نهاية له ملساءلة الذكاء‬
‫االصطناعي‪ .‬والسؤال ذو الصلة هنا يتجاوز السؤال التكنولوجي‪ ،‬وهو في الغالب سؤال‬
‫اجتماعي‪ .‬كيف نختار كمجتمع إنساني تقييم املسؤولية في حاالت األذى والخطر على‬
‫الفرد واملجتمع؟ األداة االجتماعية الرئيسية املتاحة للتعامل مع مثل هذه املواقف في‬
‫الحياة اليومية هي القانون الجنائي‪ ،‬الذي يحدد املسؤولية الجنائية لألفراد ظهور الذين‬
‫يضرون املجتمع أو يعرضونه للخطر(‪.)2‬‬
‫أيضا قيمة اجتماعية تعليمية ألنه يعلم األفراد كيفية التصرف‬‫وللقانون الجنائي ً‬
‫داخل مجتمعهم‪ .‬على سبيل املثال‪ ،‬يحظر القانون الجنائي القتل؛ بمعنى آخر‪ ،‬يحدد‬
‫ً‬ ‫ً‬
‫مسبقا‪،‬‬ ‫القانون ما يعتبر قتال‪ ،‬ويحرمه‪ .‬وهذا له قيمة معاقبة األفراد على جرائم القتل‬
‫مسبقا‪ ،‬كجزء من قواعد العيش ً‬
‫معا في‬ ‫ً‬ ‫ً‬
‫مستقبليا على عدم القتل‬ ‫وتثقيف األفراد‬
‫ً‬
‫مهيمنا في السيطرة االجتماعية(‪.)3‬‬ ‫املجتمع‪ .‬وهكذا‪ ،‬إذ يلعب القانون الجنائي ً‬
‫دورا‬
‫ً‬
‫وعلى الرغم مما سبق إال انه هناك انتقادا لفكرة املسؤولية الجنائية لكيانات الذكاء‬
‫ً‬
‫االصطناعي‪ ،‬إن املسؤولية الجنائية لكيانات الذكاء االصطناعي ترتبط عموما بعنصرين‬
‫النقاط أولها غياب الصفات غير املطلوبة لفرض املسؤولية الجنائية على سبيل املثال‪،‬‬
‫الروح‪ ،‬والشر‪ ،‬والخير‪ ،‬والثاني هو ضحالة تعريفات القانون الجنائي من منظور علوم‬
‫أخرى غير القانون الجنائي‪ ،‬على سبيل املثال‪ ،‬علم النفس‪ ،‬والفلسفة‪ ،‬والالهوت‬
‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p18.‬‬

‫‪(2) GABRIEL HALLEVY ,previous reference, footnote 50, p18-19.‬‬
‫‪137‬‬
‫والعلوم املعرفية(‪.)1‬‬
‫يمكن الرد على نقطتي النقد بشكل منهجي يمكن دحض النقد األول من خالل‬
‫ً‬
‫اإلشارة إلى الجانب البنيوي ملصفوفة القانون الجنائي‪ ،‬ومالحظة أن أيا من السمات‬
‫الغائبة ليست مطلوبة لفرض املسؤولية الجنائية على البشر والشركات والكيانات‬
‫املستقلة على حد سواء‪ ،‬ويمكن الرد على النقد الثاني من خالل الجانب املوضوعي‬
‫ملصفوفة القانون الجنائي‪ ،‬حيث تكون تعريفات املصطلحات القانونية من خارج مجال‬
‫القانون الجنائي غير ذات صلة على اإلطالق بتسوية مسألة املسؤولية الجنائية‪ ،‬وهذا‬
‫يفتح الباب أمام فرض املسؤولية الجنائية على كيانات الذكاء االصطناعي باعتبارها من‬
‫مرتكبي الجرائم املباشرة(‪.)2‬‬
‫ً‬
‫وهناك أيضا اتجاه معارض لتقرير املسؤولية الجنائية للذكاء االصطناعي وتقنياته‬
‫ً‬
‫وتحديدا للروبوتات حيث انطلق االتجاه املعارض للمسؤولية الجنائية للروبوتات من‬
‫قاعدة مفادها أنه ال يمكن اسناد املسؤولية الجنائية إال لإلنسان الذي يتمتع باإلرادة‬
‫املطلوبة لخلق السلوك املكون للركن املادي للجريمة‪ ،‬وأيضا اإلرادة وهي قوام الركن‬
‫املعنوي‪ ،‬ومن ثم ال مؤاخذة من ارتكب الجريمة دون إرادته‪ ،‬وعليه فقد استند هذا‬
‫االتجاه املعارض على مجموعة من الحجج تتمثل بعضها في عدم قدرة الروبوتات على‬
‫ارتكاب أفعال غير مشروعة من الناحية القانونية‪ ،‬فهي ال تمتلك امللكات العقلية لديها‬
‫كما هو الحال بالنسبة ألشخاص الطبيعيين‪ ،‬ناهيك عن عدم القدرة والقابلية على‬
‫تطبيق العقوبات الجنائية على الروبوت وتعارضها مع فلسفة الجزاء الجنائي‪ ،‬إضافة إلى‬
‫االعتراف بالشخصية القانونية للروبوتات يتعارض مع الحق في الخصوصية(‪.)3‬‬
‫في حين أنه يرى أنصار االتجاه املؤيد لتقرير املسؤولية الجنائية للروبوتات أن‬
‫الروبوتات التي تعمل بتقنيات الذكاء االصطناعي متى صدر عنها سلوكيات مجرمة فإنها‬

‫‪(2) GABRIEL HALLEVY ,previous reference, footnote 50, p 68‬‬
‫‪138‬‬
‫تكون مسؤولة من الناحية الجنائية وفق حكم القانون الجنائي‪ ،‬شريطة أن تكون هذه‬
‫الروبوتات قادرة على اتخاد القرار والتصرف واالتصال مع قراراتها من الناحية املعنوية‪،‬‬
‫أما إذا لم يتوافر لدى هذه الكيانات الذكية الحد األدنى من األسس املتطلبة لذلك فال‬
‫مسؤولية جنائية عليها(‪.)1‬‬
‫باإلضافة إلى أنهم يرون أن تقرير املسؤولية لهذه الكيانات يساعد ويحقق لوظيفة‬
‫القانون الجنائي في الرقابة على السلوك املجرم‪ ،‬وتخفيف األضرار الواقعة على املجني‬
‫عليه‪ ،‬مع العلم بأن اقرار املسؤولية الجنائية للروبوتات ال يعفي مصنعيها‪ ،‬أو مالكيها أو‬
‫مدربيها من مسؤوليتهم الجنائية الفردية‪ ،‬وال يشترط وجود هذا االرتباط ألنه قد يوجد‬
‫ثمة خطأ من جانب املصنع‪ ،‬أو املدرب أو املالك يتسبب في ارتكاب هذه الكيانات‬
‫ً‬
‫للجرائم‪ ،‬باإلضافة إلى أن اقرار املسؤولية الجنائية لهذه الروبوتات يساعد كثيرا في‬
‫تحديد األشخاص املذنبين‪ ،‬ويمثل رقابة ذاتية لحماية األفراد الذين يتعاملون مع هذه‬
‫الروبوتات(‪.)2‬‬

‫‪139‬‬
‫‪140‬‬
‫المبحث الثالث ‪ -‬نموذج جرائم الذكاء االصطناعي‬
‫املبحث الثالث‬
‫منوذج جرائم الذكاء االصطناعي‬
‫‪141‬‬
‫‪142‬‬
‫منوذج جرائم الذكاء االصطناعي‬
‫تعتبر جرائم الذكاء االصطناعي من إحدى جرائم املستقبل القريب بل إن بعضها‬

‫بدأ من اآلن بحيث تتنوع وتتعدد هذه الجرائم نظرا للتطور التكنولوجي الذي بدأ باملاض ي‬
‫وتسارعت وتيرته في الحاضر‪.‬‬
‫تقوم تجاه تصرفات وأفعال الذكاء االصطناعي أو تلك الناتجة عن عمله مسؤولية‬
‫قانونية بوجه عام‪ ،‬ومنها املسؤولية الجنائية بشكل خاص‪ ،‬وذلك إذا شكل الفعل جريمة‬
‫جرم الفعل‬‫من تلك الجرائم املنصوص عليها في قانون العقوبات أو أي قانون عقابي آخر ّ‬
‫وقرر له عقوبة(‪.)1‬‬
‫ً‬
‫ولعل أبرز جرائم الذكاء االصطناعي هي جريمة تزوير البيانات‪ ،‬وتعتبر األكثر شيوعا‬
‫بين أنواع الجرائم التي ترتكب عبر أجهزة الذكاء االصطناعي‪ ،‬فال تخلو جريمة من جرائم‬
‫ً‬
‫الذكاء االصطناعي أو جرائم الحاسوب عموما من عملية تزوير للبيانات‪ ،‬وتحدث هذه‬
‫الجريمة وتكون بدخول الجاني إلى قاعدة البيانات على وجه غير مشروع ليقوم بإجراء‬
‫تعديل للبيانات وتدميرها‪ ،‬سواء بإلغاء البيانات املوجودة أو بإضافة أخرى لم تكن‬
‫موجودة قبل ذلك‪ ،‬واختراق البريد اإللكتروني‪ ،‬واملواق الرسمية والخصصية‪ ،‬واألرقام‬
‫السرية وارسال الفيروسات وغيرها(‪.)2‬‬
‫ً‬
‫وعامليا من أشهر نماذج الجرائم الجنائية التي ارتكبت عن طريق الذكاء االصطناعي‪:‬‬
‫نماذج عن جرائم لسيارات ذاتية القيادة‪ ،‬ونماذج عن جرائم لروبوتات ذكية وغيرها‪.‬‬
‫(‪ )1‬دهشان‪ ،‬مرج سابق‪ ،‬هامش‪ ،27‬ص ‪.35‬‬

‫(‪ )2‬رصاع فتيحة‪ ،‬الحماية الجنائية للمعلومات على شبكة اإلنترنت‪ ،‬مذكرة لنيل شهادة ماجستير في‬
‫القانون العام‪ ،‬جامعة أبي بكر بلقايد‪-‬تلمسان‪ ،‬الجمهورية الجزائرية‪ ،2012-2011 ،‬ص ‪.81‬‬
‫‪143‬‬
‫الجريمة الجنائية التي ارتكبت عن طريق الذكاء االصطناعي في والية ايروزونا عام‬ ‫‪-‬‬
‫صدمت سيارة ذاتية القيادة تابعة لشركة أوبر ‪ UBER‬بسيدة في‬ ‫‪ ،2018‬حيث َ‬
‫الطريق تقود دراجتها مما أدى إلى وفاتها متأثرة بجراحها‪ ،‬بالرغم من أن السيارة‬
‫كانت في وض القيادة الذاتية تحت إشراف سائق بشري إال أنها لم تستطي التعرف‬
‫على حركة جسد السيدة أثناء قيادتها للدراجة فقتلتها(‪.)1‬‬
‫قضية املوظف الياباني‪ :‬في سنة ‪ 1981‬قتل موظف ياباني في مصن للدراجات‬ ‫‪-‬‬
‫النارية يبلغ من العمر ‪37‬سنة على يد أحد الروبوتات التي تعمل بالقرب منه‪ ،‬فقد‬
‫تم تحديد الروبوت على نحو خاطئ فاملوظف شعر بتهديد ملهمته‪ ،‬واحتسب أن‬
‫الطريقة األكثر فعالية للقضاء على هذا التهديد ودفعه إلى آلة تشغيل مجاورة‬
‫باستخدام ذراعه الهيدروليكي القوي للغاية‪ ،‬وقد حطم الروبوت العامل املفاجئ في‬
‫تشغيل الجهاز وهو ما أسفر عن مقتله على الفور‪ ،‬ثم استئناف مهامه دون أن‬
‫يتدخل أحد في مهمته‪ .‬وعليه‪ ،‬نجد العديد من الجرائم التي ال يمكن حصرها ومن‬
‫املتوق أن ترتكبها كيانات الذكاء االصطناعي(‪.)2‬‬
‫قضية روبوت ويليامز‪ :‬وهو أول شصص ُيقتل بواسطة روبوت‪ ،‬وق الحادث في‬ ‫‪-‬‬
‫ُ‬
‫مصن فورد في فالت روك بوالية ميشيغان في ‪ 25‬يناير ‪ ،1979‬وقد قتل شصص‬
‫ً‬
‫ُيدعى ويليامز بعد أن اصطدم بذراع الروبوت عندما تسلق رفا السترداد أحد‬
‫القوالب التي من املفرض أن يكون الروبوت هو من استردها ولكنه استمر في تقديم‬
‫معلومات خاطئة بشأن عدد القوالب املتبقية على الرف مما اضطر ويليامز‬
‫للتسلق(‪.)3‬‬
‫(‪ )1‬عبد الوهاب مريم‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي‪ ،‬جامعة املدية‪ ،‬مجلة القانون‬
‫والعلوم البيئية‪ ،‬عدد‪ ،2‬الجزائر‪ ،2023 ،‬ص ‪.688‬‬
‫(‪ )2‬عدوان‪ ،‬مرج سابق‪ ،‬هامش ‪ ،17‬صفحة ‪.154-153‬‬
‫(‪ )3‬أنظر إلى املوق اإللكتروني مصطفى السداوي‪ ،‬أشخاص قتلتهم الروبوتات الذكية‪ ،‬مجلة سيدتي‪2018 ،‬‬
‫‪ ،https://www.sayidaty.net‬بدون رقم صفحة‪ ،‬تاريخ الزيارة ‪.2023/10/20‬‬
‫‪144‬‬
‫قضية وشوا براون‪ :‬وهو أول شصص ُيقتل في حادث سيارة ذاتية القيادة تيسال‬ ‫‪-‬‬
‫موديل‪ ، S‬توفي عام ‪ 2016‬عندما كان يقود سيارته في والية فلوريد بسبب عدم‬
‫تمكن سيارته من التفريق بين عربة مقطورة ذات ‪ 18‬عجلة والسماء الساطعة‪،‬‬
‫حيث مرت تحت جانب واحد من مقطورة جرار وظهرت من الجانب اآلخر‬
‫وتحطمت‪ ،‬وقد تسبب الحادث في ضجة حول مدى السالمة التي توفرها السيارات‬
‫ذاتية القيادة(‪.)1‬‬
‫نجد العديد من الدول التي تستخدم نماذج وتقنيات وآالت الذكاء االصطناعي في‬
‫مجتم عها‪ ،‬ففي أمريكا نجد هناك املحامي اإللكتروني الذي يتم الدفاع بتفويض من قبل‬
‫األشصاص‪ ،‬وفي اإلمارات نجد املأذون اآللة الذكية حيث يتم إدخال البيانات الخصصية‬
‫للطرفين ومن ثم يتم الزواج بينهما‪ ،‬وفي مصر يوجد املحاكمات عن بعد كأن يكون‬
‫القاض ي في مكان‪ ،‬وأن يكون باقي األطراف في مكان آخر وقد سبقت مصر كافة الدول في‬
‫هذا األمر‪.‬‬
‫أما في الصين فتمتلك أكثر من مئة روبوت موزعة في املحاكم في كافة أنحاء البالد‬
‫الصينية‪ ،‬ومنها الروبوت (زياوفا) والتي تقدم املشورة القانونية وتعرف اإلجابات عن أكثر‬
‫من أربعين ألف سؤال في مجال النزاعات القضائية‪ ،‬ويمكنها أن تتعامل م ثالثين ألف‬
‫مشكلة قانونية(‪.)2‬‬
‫ً‬
‫كذلك دولة أستونيا فقد صممت قاضيا على شكل روبوت يمكنه النظر في النزاعات‬
‫املالية الصغيرة والتي تقل قيمتها عن ‪ 7000‬يورو‪ ،‬والتركيز على نزاعات العقود‪ ،‬عن‬
‫طريق تحميل األطراف املتنازعة كافة الوثائق الالزمة‪ ،‬حتى تقرر الصوارزميات في األمر‪،‬‬
‫قاض بشري‪ ،‬وكان مقرر أن يتم تجربته‬‫ومن ثم يصدر الحكم الذي يمكن استئنافه أمام ٍ‬
‫م نهاية عام ‪2019‬م‪ ،‬وفي الواليات املتحدة األمريكية الفدرالية تم تصميم برنامج ذكاء‬
‫(‪ )1‬املوق االلكتروني‪ ،‬املرج السابق‪ ،‬هامش ‪ ،330‬بدون رقم صفحة‪.‬‬

‫(‪ )2‬الجلعود‪ ،‬مرج سابق‪ ،‬هامش‪ ،65‬ص ‪.71‬‬
‫‪145‬‬
‫اصطناعي يتنبأ بقرارات القضاة في املحاكم األمريكية‪ ،‬وتم تقدير بما نسبته من ‪-20‬‬
‫‪ %30‬من القضايا يمكن استبدالها بالذكاء االصطناعي‪ ،‬إال أنه كان هناك تحيز عنصري‬
‫كبير‪ ،‬وإساءة تقدير للمخاطر ومعاودة االجرام لدى مختلف املدانين بالقضايا‪ ،‬فقد كان‬
‫يجري تصنيف املدانين السود أعلى من غير السود‪ ،‬حتى عندما يرتكب املدانون البيض‬
‫غير السود جرائم أشد خطورة(‪.)1‬‬
‫وفي سنغافورة يطبق فيها القاض ي الذكي بمعنى أن يتوجه األشصاص للقاض ي اآللة‬
‫حتى يمدونه باملعلومات ويحكم بين املتقاضين‪ ،‬وحتى اجراءات التحكيم‪ ،‬وفي السعودية‬
‫روبوت انسان آلة (صوفيا) فقد أطلقوا عليه هذا االسم‪ ،‬واعطوه الجنسية السعودية‪،‬‬
‫واعطوه حق التصرف وامللكية في بعض األمور‪.‬‬
‫ترتبط االشكاليات القانونية بالعادة في نموذج الذكاء االصطناعي املتقدم أكثر من‬
‫النموذج البسيط‪ ،‬فعلى سبيل املثال‪ :‬السيارات ذاتية القيادة واملنتشرة حاليا بكثرة في‬
‫الدول األوروبية واإلمارات‪ ،‬بحيث تقوم فكرة هذه السيارات القائمة على نموذج الذكاء‬
‫االصطناعي املتقدم أنها تقوم بالقيادة بنفسها بدون أي تدخل بشري‪ ،‬سواء كان‬
‫الخصص يجلس فيها فإنه ليس له أي تحكم في هذه السيارة فهي تمش ي بشكل ذاتي‬
‫بنفسها عبر األكواد البرمجية التي تتحكم في حركتها‪.‬‬
‫في حين أنه في الوض الطبيعي السيارات غير ذاتية القيادة‪ ،‬عندما يكون الخصص‬
‫يقودها ويتحكم في قيادتها‪ ،‬فإنه يكون مسؤول عن أي حوادث تحدثها هذه السيارة لكن‬
‫وعلى العكس‪ ،‬أو كان الذكاء االصطناعي يقود هذه املركبة و أحدث أي حادث أو إصابة‬
‫دهس لخصص ما فمن يكون املسؤول جنائيا في هذه الحالة‪ ،‬في حين أنه ال يمكننا إسناد‬
‫أي مسؤولية جنائية للذكاء االصطناعي نفسه‪ ،‬ألنه ال يوجد لدينا اي نص على ذلك‬
‫وطبقا ملبدأ الشرعية الجنائية بأنه ال جريمة وال عقوبة إال بنص قانوني فقانون‬
‫العقوبات لم ينص على مسؤولية اآللة إنما نص على مسؤولية األشصاص‪.‬‬
‫(‪ )1‬الجلعود‪ ،‬مرج سابق‪ ،‬هامش‪ ،65‬ص ‪.72-70‬‬
‫‪146‬‬
‫يجب التفكير في هذه الحالة في فرضيات موجودة وواقعية حتى يتم اسناد السلوك‬
‫أو الضرر املرتكب طبقا للتشريعات املوجودة وهذا دور الباحثين في أن يخلق حل يسند‬
‫هذا السلوك ملرتكب معين حتى لو كان بصورة غير مباشرة إلى جانب تنبيه املشرع إلى‬
‫فرضيات مستقبلية بالبحث وعقد مؤتمرات وورشات عمل مبحث فيها املسؤولية‬
‫الجنائية لهذه اآللة نفسها وننبه املشرع في أن يض تشريعات ونصوص قانونية في‬
‫مسؤولية اآللة‪.‬‬
‫‪147‬‬
‫جرائم الذكاء االصطناعي الذاتية‬
‫تعتبر جرائم الذكاء االصطناعي من إحدى جرائم املستقبل القريب وم تسارع وتيرة‬
‫التطور التكنولوجي وخاصة في الوقت الحالي وما تبعه من ظهور العديد من الجرائم‬
‫األخرى‪.‬‬
‫ومثال على جرائم الذكاء االصطناعي الذاتية‪ ،‬جرائم اآلالت‪ :‬ومثال على ذلك‬
‫السيارات ذاتية القيادة التي تقود ذاتيا فهذه السيارة يكون فيها الخصص جالس بكل‬
‫اريحية وهي تسير بنفسها باألجهزة االستشعارية التي لديها وبالصوارزميات التي عندها‬
‫وبتطبيقات الذكاء االصطناعي وحتى الطرق والشوارع تكون ممهدة لها فمن الضروري‬
‫جدا ان يتم تحديد اذا ارتكبت هذه السيارة اي جريمة جنائية كان تصطدم بخصص‬
‫مثال نتيجة انها تلقت اشارات خاطئة نتيجة عاصفة جوية أو رملية وتطبيقها لم يعمل‬
‫بشكل جيد فصدمت ذلك الخصص وقتلته فمن سيكون املسؤول حينئذ وبعد قيام‬
‫النيابة العامة بتوجيه اتهام للسائق بالتسبب بالوفاة عن غير قصد لكن في الحقيقة‬
‫السائق لم يكن صاحب السيطرة على السيارة انما كانت تلك االلة الذكية السيارة ذاتية‬
‫القيادة فسيحكم القاض ي حينئذ بالبراءة على السائق‪ .‬وعلى ضوء ذلك فيما يخص‬
‫موضوع السيارات الذاتية القيادة التقنية هذا يستتب في القريب العاجل وفقا لقانون‬
‫املرور أو السير أن تقوم الدول بإدخال وتعديل حالة ووض السيارة ذاتية القيادة‬
‫واملسؤولية الجنائية واملدنية والتأمين والتعويضات عن ذلك وهذا يستتب أن يتم وض‬
‫وتعديل قوانين السير في ذلك األمر مثل ما قامت به بعض الدول مثل فرنسا والعديد من‬
‫الواليات في اميركا قامت بوض قواعد للسيارات ذاتية القيادة ; ألنها أصبحت جزء من‬
‫الحياة وليس طرفا فكريا‪.‬‬
‫‪148‬‬
‫اجلرمية العمدية الناجتة عن الذكاء االصطناعي‬
‫بشكل عام‪ ،‬يتطلب فرض املسؤولية الجنائية عن الجرائم ذات النية الجرمية‬
‫(الجرائم املتعمدة) استيفاء العناصر الفعلية والعقلية لهذه الجرائم‪ ،‬حيث يشارك‬
‫البشر في إنشاء تكنولوجيا وكيانات الذكاء االصطناعي‪ ،‬في تصميمها وبرمجتها وتشغيلها‪،‬‬
‫وبناء على ذلك‪ ،‬عندما يستوفي كيان ما العناصر الفعلية والعقلية للجريمة‪ ،‬فمن الذي‬
‫يجب أن يتحمل املسؤولية الجنائية؟ اإلجابات املحتملة هي كيان الذكاء االصطناعي‪ ،‬أو‬
‫البشر املتورطون في كيان الذكاء االصطناعي‪ ،‬أو كليهما(‪.)1‬‬
‫ُ‬
‫تفرض املسؤولية الجنائية عن تلك الجريمة إذا استوفى مرتكب الجريمة من البشر‬
‫املتطلبات الفعلية والعقلية للجريمة‪ ،‬ومن خالل القيام بذلك‪ ،‬ال تحتاج املحكمة إلى‬
‫شريرا»‪ ،‬أو ما إذا كانت هناك سمة أخرى تميز ارتكاب‬ ‫التحقيق فيما إذا كان الجاني « ً‬
‫الجريمة‪ ،‬حيث أن استيفاء هذه املتطلبات هو الشرط الوحيد لفرض املسؤولية‬
‫الجنائية‪ ،‬ومعلومات أخرى قد تؤثر على العقوبة‪ ،‬ولكن ليس على املسؤولية الجنائية(‪.)2‬‬
‫قد تتوجه إرادة الجاني إلى السلوك اإلجرامي الذي باشره‪ ،‬وكذلك تتجه إلى النتيجة‬
‫املترتبة عليه م علمه بها وبكافة العناصر التي يشترطها القانون لقيام الجريمة أي أن‬
‫الجاني قد تعمد إحداث النتيجة املعاقب عليها‪ ،‬أي أنه قد اتخذ الركن املعنوي صورة‬
‫القصد الجنائي بالتالي تكون الجريمة عمدية(‪.)3‬‬
‫إن أغلب جرائم الذكاء االصطناعي أو الجرائم التي تستخدم بوسائل الكترونية‬
‫تكون نتيجتها معروفة فيها وتكون ظاهرة في العالم املادي الذي نعيش فيه‪ .‬وفي مثال‬
‫السيارة ذاتية القيادة وعند التفريق بين أطراف الدعوى‪ :‬منتج السيارة‪ ،‬مبرمج السيارة‪،‬‬

‫(‪ )3‬حسن ربي ‪ ،‬املبادئ العامة للجريمة‪ ،‬دار النهضة العربية‪ ،‬القاهرة‪1996 ،‬م‪ ،‬ص‪.242‬‬
‫‪149‬‬
‫مستخدم أو مستعمل أو مالك السيارة‪ ،‬وتطبيق الذكاء االصطناعي‪ .‬تقسم الجرائم إلى‬
‫نوعان إما أن تكون جريمة عمدية أو جريمة غير العمدية (جرائم الصطأ)‪.‬‬
‫تقوم املسؤولية الجنائية في القانون الجنائي بتحقق الجريمة بركنيها املادي‬
‫ً‬ ‫ً‬
‫واملعنوي‪ ،‬وفي جرائم الذكاء االصطناعي ال يثير الركن املادي جدال قانونيا نظرا لتحقق‬
‫الفعل الجرمي املتمثل في ارتكاب الجريمة نتيجة الستخدام الذكاء االصطناعي‪ ،‬إال ان‬
‫الركن املعنوي هو الذي يثير الجدل كأساس لقيام املسؤولية الجنائية‪ ،‬والذي يجب أن‬
‫يتحقق الركن املعنوي في احدى صورتيه العمد أو الصطأ‪ ،‬فإن القصد الجنائي بعنصريه‬
‫العلم واإلرادة هو الذي يمثل الركن املعنوي للجرائم العمدية‪ ،‬وذلك أي أن يعلم الجاني‬
‫ماهية الفعل و أن يريد تحقق النتيجة االجرامية(‪.)1‬‬
‫في الجريمة املادية لو قام املبرمج ببرمجة جهازا للتجسس على االخرين أن يبرمجه في‬
‫وقت محدد لينتهك خصوصية االخرين بحرق املكان املوجود فيه ففي هذه الحالة هذه‬
‫جريمة عمدية ناتجة عن الذكاء االصطناعي من احدى اطراف الدعوى سواء كان املبرمج‬
‫سواء كان املستخدم فممكن له أن يدخل للبرمجة واستخدمه ألغراض إجرامية ففي‬
‫تلك الحالة هذه جريمة عمدية وااللة الذكية في تلك الحالة هي عبارة عن أداة مثل‬
‫تطبيق الفاعل املعنوي كأن يقوم شصص طبيعي باستخدام شصص اخر وهذا الخصص‬
‫إما أن يكون حسن النية واستخدم في ارتكاب الجريمة أو يكون غير مميز مثل الطفل‬
‫ليس لديه ادراك وهو الذي ارتكب الجريمة ولكن الذي يرتكب الجريمة فعليا هو من قام‬
‫باستخدام تلك الوسيلة وكذلك تطبيق تقنيات الذكاء االصطناعي في تلك الحالة هي‬
‫عبارة عن وسيلة وال غبار في انزال القواعد العامة في تلك الحالة على حسب من قام‬
‫بالفعل كجريمة عمدية‪ .‬لكن حينما يقوم تطبيق الذكاء االصطناعي باتخاذ قراره تلقائيا‬
‫بمعزل عن اطرافه الثالثة املبرمج واملصن واملستخدم وتكمن هنا اإلشكالية‪.‬‬
‫ومن األمثلة األخرى هناك صورة للتعدي على الحياة الصاصة بواسطة الذكاء‬
‫(‪ )1‬احمد بالل‪ ،‬مبادئ قانون العقوبات املصري‪-‬القسم العام‪ ،-‬دار النهضة العربية للطب والنشر‬
‫والتوزي ‪2006 ،‬م‪ ،‬ص ‪.692‬‬
‫‪150‬‬
‫االصطناعي بواسطة التجسس اإللكتروني‪ ،‬وذلك من خالل قيام املتخصصين بإعداد‬

‫برامج عبارة عن فايروس يهدف إلى تزوير البيانات املصزنة داخل الحاسوب‪ ،‬أو تعطيلها‬
‫أو تحريفها‪ ،‬أو سحبها وحذفها‪ ،‬كما قد يتمكن هؤالء املصتصون من الوصول إلى‬
‫معلومات شصصية عن مستخدم الحاسوب‪ ،‬ومن ثم استخدامها بشكل غير مشروع في‬
‫تهديد وابتزاز صاحبها‪ ،‬كذلك الحصول على بيانات شصصية كتلك املتعلقة بالحسابات‬
‫البنكية وسرقتها(‪.)1‬‬
‫(‪ )1‬سوزان األستاذ‪ ،‬انتهاك حرمة الحياة الخاصة عبر اإلنترنت‪ ،‬مجلة جامعة دمشق للعلوم القانونية‬
‫واالقتصادية‪ ،‬املجلد ‪ ،29‬العدد الثالث‪2013 ،‬م‪ ،‬ص‪.436‬‬
‫‪151‬‬
‫اجلرمية الغري عمدية الناجتة عن الذكاء االصطناعي‬
‫يمثل الصطأ الركن املعنوي في الجرائم الغير عمدية‪ ،‬وذلك يعكس العالقة النفسية‬
‫ً‬
‫بين الجاني والركن املادي على نحو يجعل إرادته محل لوم املشرع‪ ،‬كونه يعد خروجا عن‬
‫واجبات الحذر والحيطة التي أدت وأفضت إلى وقوع النتيجة اإلجرامية(‪.)1‬‬
‫بشكل عام الجرائم الغير عمدية (الجرائم الصطأ) والتي تتمثل في السلوك وتتمثل في‬
‫احدى صور الصطأ مثل‪ :‬الرعونة‪ ،‬وعدم االنتباه‪ ،‬ومخالفة القوانين واألنظمة وهكذا‪،..‬‬
‫فلو افترضنا تطبيق هذا الحديث على أطراف الدعوى في تطبيق الذكاء االصطناعي الذي‬
‫تمت صناعته كمنتج يجب أن يكون املنتج صحيحا‪ ،‬وال يسبب ضرر وفقا لقانون حماية‬
‫املستهلك‪ ،‬ووفقا للقواعد العامة في كافة الدول‪ .‬عند القيام بتصني الذكاء االصطناعي‬
‫وكان به خطأ فإن املبرمج يتحمل مسؤوليته كخطأ غير عمدي‪ .‬في السيارة ذاتية القيادة‬
‫فلو قام املستخدم بالتالعب في البرمجة مما دف السيارة لعمل حادث فتتم حينها‬
‫مسائلة املستخدم بخطأ غير عمدي نتيجة ارتكابه لذلك الفعل‪ .‬وأيضا عند قيام تطبيق‬
‫الذكاء االصطناعي نفسه بارتكاب فعال وذلك الفعل نتيجة الصطأ فهنا أيضا تثار‬
‫إشكالية‪.‬‬
‫حاول فقهاء القانون ان يضعوا عدة نظريات لتحديد مسؤوليات الذكاء‬
‫االصطناعي‪ ،‬فبالنسبة لنظرية الفاعل املعنوي ويمكن تطبيقها على أطراف الدعوى‬
‫ولكن ال يمكن تطبيقها على تطبيقات الذكاء االصطناعي ألنها عبارة عن الة وليس‬
‫شصصا‪ .‬وأيضا فشلت نظرية مسؤولية أفعال الغير في تطبيقها‪ :‬ألنه وحتى يسأل شصص‬
‫عن مسؤولية الغير كخصص عنده حيوان وهذا الحيوان قام بعض شصص اخر نتيجة‬
‫عدم حراسته فيسأل صاحب الكلب جنائيا ففي بعض الدول استخدمت هذا األمر‬
‫(‪ )1‬بالل‪ ،‬مرج سابق‪ ،‬هامش‪ ،‬ص‪.692‬‬
‫‪152‬‬
‫بشكل مفرط مما أدى للمساس بمبدأ الخصصية اعتبرتها بعض الدول نصوصا غير‬
‫دستورية‪ .‬مثال اخر هناك جريدة قام فيها صحفي بالطعن في شصص ما ُفيسأل حينئذ‬
‫صاحب الصحيفة وذلك األمر غير جيد وبالتالي ذهبت بعض الدول إلى أن التعويض‬
‫املدني أفضل ودعت لالبتعاد عن موضوع املسؤولية الجنائية‪.‬‬
‫وبخصوص تطبيق فكرة القصد االحتمالي كأن يريد شصص فعل ما ويتوقعه وال‬
‫توجد فيه أي مشكلة فيه‪ .‬ولكن حينما ال يرغب الخصص بالنتيجة ويكون متوق الفعل‬
‫ويعتمد الخصص على مهاراته ويقوم بعمل شرط أساس ي باملن من وقوعها فهذا اسمه‬
‫خطأ واعي مدرك يكون قريبا من الصطأ االحتمالي وتشدد الدول العقوبة فيه بالرغم من‬
‫أنه احدى صور الصطأ لذلك حين تطبيق ذلك على أطراف تقنيات الذكاء االصطناعي‬
‫نجد أنه من الجائز أن يتم تطبيق الصطأ الواعي حينما قام الخصص بصناعة تلك االلة‬
‫وكان يعلم أنه من الجائز أنها ترتكب جريمة فيتحمل املسؤولية حينها املصن ‪ ،‬ويتحمل‬
‫املبرمج‪ ،‬ويتحمل املستخدم الصطأ الواعي وليس القصد االحتمالي‪.‬‬
‫‪153‬‬
‫استخدام الذكاء االصطناعي يف ارتكاب اجلرمية‬
‫يوصف اإلجرام اإللكتروني بالذكاء الصارق على العكس ومقارنة باإلجرام التقليدي‬
‫الذي يتسم بالعنف‪ ،‬لهذا يطلق عليه بإجرام األذكياء‪ ،‬كونه يعتمد على وسائل‬
‫تكنولوجية متطورة في القيام بالتدمير‪ ،‬أو اختراق املواق الحكومية‪ ،‬أو قرصنة‬
‫املعلومات الصاصة باألفراد ويقوم باالعتداء على خصوصيات األشصاص‪ ،‬وبالتالي فإن‬
‫نجاح أمن املعلومات يعتمد على نجاح أنظمة الحماية املعتمد لدى الشركات واملنشات‬
‫االقتصادية‪ ،‬والذي يجب أن يكون حماية مدنية‪ ،‬ومعلوماتية وجنائية على نحو ذا‬
‫فعالية‪ ،‬ويمكن تحقيق الحماية املعلوماتية بتطوير األبحاث العلمية للنظم األمنية لكي‬
‫يتم تأمين بياناتها ومعلوماتها من القرصنة وإساءة االستعمال واكتشاف ذلك‪.)1( .‬‬
‫تعمل البرمجة املتطورة للذكاء االصطناعي على إعطاء االته وتقنياته قدرات هائلة‬
‫لالستخدام البشري وقد تشكل بعضها خطرا وما يصاحبها من ارتكاب للجريمة‪.‬‬
‫لم يعد األمر مجرد خيال‪ ،‬بل اصبح اقرب للحقيقة على أرض الواق حيث نجد‬
‫االستغالل الكبير للعصابات للذكاء االصطناعي كالروبوتات و أجهزة االتصال اإللكتروني‬
‫في ارتكاب الجرائم‪ ،‬مثل‪ :‬القتل‪ ،‬الدهس‪ ،‬اإلضرار باآلخرين‪ ،‬انتحال صور وأصوات‬
‫أشصاص‪ ،‬بهدف ارتكاب تلك الجرائم من غير أن تطالهم العقوبة‪ ،‬ألن القانون ال يعاقب‬
‫إال الخصص الطبيعي‪ ،‬أما اآللي واالفتراض ي مثل الروبوتات فال يقوم القانون بمعاقبتها‪،‬‬
‫وبعض عرض هذا املوضوع على العديد من القانونيين‪ ،‬أكدوا وجود فراغ تشريعي‬
‫ً‬
‫بخصوص هذا االمر ويتطلب العمل على إغالقه‪ ،‬حتى ال يكون الذكاء االصطناعي ممرا‬
‫ً‬
‫ومنفذا للعصابات واملافيات الرتكاب الجرائم املصتلفة(‪.)2‬‬
‫(‪ )1‬خضر‪ ،‬نفيسة‪ ،‬مرج سابق‪ ،‬هامش ‪ ،201‬ص ‪.65‬‬

‫ً‬ ‫ً‬
‫(‪ )2‬حسين العبد هللا‪ ،‬موق الكتروني‪ :‬خبراء قانونيون لـ الجريدة‪ :‬على الدولة االستعداد قانونيا وفنيا‬
‫للتعامل مع أنظمة الذكاء االصطناعي‪ ،‬الجريدة‪ ،‬خاص محليات‪ /‬قصر العدل‪2021 ،‬م‪= ،‬‬
‫‪154‬‬
‫ومثال على أحد األشصاص الذين تم سؤالهم عن املوضوع هو عميد كلية القانون‬
‫ً‬
‫الكويتية العاملية د‪ .‬فيصل الكندري تحدث قائال‪« :‬أنه ملواجهة األخطاء التي ترتكب‬
‫بواسطة كيان الذكاء االصطناعي‪ ،‬والتي قد تشكل جرائم عمدية أو غير عمدية علينا أن‬
‫نحدد ثالثة احتماالت بكيفية ارتكاب الجريمة‪ ،‬لنحدد بعدها الخصص الذي ستسند‬
‫إليه املسؤولية الجزائية‪ ،‬وباملثالين التاليين نستطي أن نفهم االحتماالت الثالثة‪ :‬سيارة‬
‫بقيادة ذاتية صدمت شصصا فأصابته‪ ،‬وروبوت يجري عملية جراحية فيحدث خطأ نتج‬
‫عنه إصابة أو وفاة»(‪.)1‬‬
‫ً‬
‫وأضاف الكندري قائل‪« :‬إذن لنا أن نحدد اآلتي‪:‬‬
‫االحتمال األول‪ :‬املسؤولية الجزائية الرتكاب الجريمة بواسطة شصص آخر‪،‬‬ ‫‪-‬‬
‫وستكون التهمة موجهة للمنتج واملصن أو املبرمج‪ ،‬والروبوت أو السيارة ذاتية‬
‫القيادة وسيلة في ارتكاب جريمة‪.‬‬
‫االحتمال الثاني‪ :‬املسؤولية الجزائية على من يس يء استخدام كيان الذكاء‬ ‫‪-‬‬
‫االصطناعي الرتكاب جريمة‪ ،‬وهنا يستبعد املبرمج واملنتج واملصن من تحمل‬
‫املسؤولية الجزائية‪ ،‬لعدم نسبة أي خطأ من جانبه‪ ،‬ويتم إرجاع السبب ملن‬
‫يستخدم اإلجراءات العادية لنظام الذكاء االصطناعي بشكل غير مناسب ألداء عمل‬
‫إجرامي‪.‬‬
‫االحتمال الثالث‪ :‬املسؤولية املباشرة‪ ،‬ويتم إلحاق املسؤولية مباشرة بكيان الذكاء‬ ‫‪-‬‬
‫االصطناعي‪ ،‬كما يتم تحميلها لألفراد عادة‪ ،‬ومعلوم أن كيانات الذكاء االصطناعي‬
‫تعتبر غير قادرة على تحمل املسؤولية الجزائية‪ ،‬بسبب عجزها كاألطفال واملجانين‬
‫ومن في حكمهم‪ ،‬فيلزم عندها إثبات ما إذا كان نظام الذكاء االصطناعي يتخذ إجراء‬
‫يؤدي إلى عمل إجرامي أو يخفق في اتخاذ اإلجراء‪ ،‬ويعتبر تحديد القصد الجنائي‬
‫= بدون رقم صفحة‪،https://www.aljarida.com/articles/16194496363229763 ،‬‬

‫تاريخ الزيارة ‪2023/11/2‬م‪.‬‬
‫(‪ )1‬العبد هللا‪ ،‬املرج السابق‪ ،‬هامش ‪ ،341‬بدون رقم صفحة‪.‬‬
‫‪155‬‬
‫إلثبات ما إذا كان البرنامج يعمل بشكل خاطئ فيدف عن نفسه باملسؤولية كدفاع‬
‫الخصص الطبيعي بحجة الجنون‪ ،‬وهل يمكن للذكاء االصطناعي املتأثر بفيروس‬
‫إلكتروني أن يدف عن نفسه باملسؤولية بسبب اإلكراه»(‪.)1‬‬
‫وقد أشار الكندري إلى أن هذه هي االحتماالت الثالثة من إسناد املسؤولية الجزائية‬
‫عندما يرتكب كيان الذكاء الصناعي أي فعل يعد جريمة‪ ،‬وحيث أن التشريعات الحالية‬
‫تستوعب بعض االحتماالت‪ ،‬لكن من املمكن إجراء دراسات أعمق لبحث احتماالت‬
‫أخرى قد تحتاج الى تدخل تشريعي(‪.)2‬‬
‫من جانبه‪ ،‬أكد رئيس قسم القانون الجزائي في كلية الحقوق بجامعة الكويت د‪.‬‬
‫ً‬
‫حسين بوعركي قائال‪« :‬أن استخدام تقنيات الذكاء االصطناعي وما تشهده الثورة‬
‫الصناعية والتقدم التكنولوجي من أهم ما يواجه املشرع الجنائي‪ ،‬في كل التشريعات‪،‬‬
‫ً‬
‫ليس فقط ملا يتيحه هذا التطور من وسائل جديدة في ارتكاب الجرائم‪ ،‬بل أيضا ملا‬
‫يفرضه من ضرورة إضفاء الحماية الجنائية على املصلحة الجديدة التي قد تتولد عن‬
‫هذا التطور‪ ،‬أو في عبارة أدق‪ ،‬قيامه بتجريم األفعال التي من شأنها اإلضرار بهذه‬
‫املصالح‪ ،‬وأنه إذا كانت هذه الحقيقة تنطبق‪ ،‬بداهة‪ ،‬على كل أنواع القوانين‪ ،‬إال أن آثار‬
‫هذا التطور تنعكس‪ ،‬بصورة خاصة‪ ،‬على القانون الجنائي الذي يقوم بحماية النظام‬
‫العام والحقوق األساسية للمجتم واألفراد‪ ،‬على النحو الذي يؤدي الى اإلضرار الجسيم‬
‫بهذا النظام‪ ،‬وتلك الحقوق‪ ،‬حال غياب التنظيم القانوني‪ ،‬لظاهرة إجرامية جديدة(‪.)3‬‬
‫(‪ )1‬العبد هللا‪ ،‬مرج سابق‪ ،‬هامش ‪ ،341‬بدون رقم صفحة‪.‬‬

‫‪156‬‬
‫اجلرمية العمدية يف استخدام الذكاء االصطناعي‬
‫يصعب إقامة املسؤولية عن الصطأ العمدي في حالة استخدام الذكاء االصطناعي‪،‬‬

‫ما لم يتم االثبات بأن اإلنسان قد وض الذكاء االصطناعي في وض إحداث الضرر‪ ،‬وهذا‬
‫ً‬
‫يفترض العلم املؤكد بوقوع الضرر‪ ،‬إال أن هذا األمر ال يحدث إال نادرا‪ ،‬ومن ذلك قضت‬
‫محكمة النقض في ‪ 30‬يونيو ‪2011‬م‪ ،‬على أنه‪ :‬بأن إشعال آلة قص ذاتية في حديقة‬
‫عامة تميز بقصد اإلضرار‪ .‬غير أنه وبمقابل ذلك فقد قضت املحكمة بأنه‪ :‬ما دام الفعل‬
‫هو نتيجة لعملية آلية في تشغيل اآللة‪ ،‬ومن ثم يتحرد ظهور البيانات املعنية من أي‬
‫قصد من جانب مشغل محرك البحث‪ ،‬وبعد ذلك رفضت محكمة النقص تقرير‬
‫مسؤولية جوجل عن اإلعالن‪ ،‬ويعود ذلك إلى أن طبيعته آلية‪ ،‬وهو نتيجة للكلمات‬
‫ً‬
‫األكثر تداوال على اإلنترنت(‪.)1‬‬
‫تكتفي بعض املستشفيات الطبية باستخدام السجالت االلكترونية الطبية بدال من‬
‫احضار وتشغيل العديد من األطباء بحجة انها أكثر توفيرا للوقت‪ ،‬والجهد‪ ،‬واملال‪ ،‬وأكثر‬
‫سرعة وكفاءة حيث يتم ادخال البيانات الخصصية في تلك السجالت التي تحتوي على‬
‫كافة بيانات املريض وعالجه ومدة العالج‪« ،‬وتستخدم تلك املعلومات ملصلحة املريض‪،‬‬
‫حيث يستطي الذكاء االصطناعي دعم اتخاذ القرارات اإلكلينيكية املتعلقة باملريض بناء‬
‫على املعلومات السابقة‪ ،‬وبالتالي تظهر مشكلة تتعلق بانتهاك الصصوصية للمرض»(‪.)2‬‬
‫تمتلك جمهورية كوريا الجنوبية نظام معلومات ذكي للحجر الصحي استخدمته سنة‬
‫‪2015‬م بعد تفش ي متالزمة الشرق األوسط ‪ MERs‬حيث كان الوافدين إليها يخضعون‬
‫لفحص الكتروني‪ ،‬ويملئون استبيانات صحية بحيث يتم وض املسافرين الذين يعانون‬
‫من االعراض‪ ،‬أو الذين من وإلى بلد موبوء حيث ألزمتهم بتحميل تطبيق على هواتفهم‬
‫(‪ )1‬عبد اللطيف‪ ،‬مرج سابق‪ ،‬هامش‪ ،11‬ص ‪.11‬‬

‫(‪ )2‬دهشان‪ ،‬مرج سابق‪ ،‬هامش‪ ،27‬صفحة ‪.6‬‬
‫‪157‬‬
‫ً‬
‫للتحقق من الصحة الذاتية‪ ،‬أيضا تطوير نظام ذكي يصنف الحاالت املؤكدة التي كانت‬
‫مصابة بفيروس ‪ COVID-19‬الكورونا‪ ،‬واستخدمت وقتها الروبوت أو اإلنساني في ذلك‬
‫الوقت للقيام بالعديد من املهام املساعدة مثال توزي املعقمات وقياس درجة الحرارة‬
‫للمصابين بالكورونا في تلك الفترة(‪.)1‬‬
‫وعلى الرغم من أن استخدام آليات الذكاء االصطناعي في مواجهة فيروس كورونا له‬
‫إيجابيات عديدة وخاصة في توفير الوقت‪ ،‬والجهد وتقلص عدد الضحايا‪ ،‬إال أن‬
‫املدافعون عن حقوق اإلنسان يرون أن االستعانة بمجموعة من البيانات ذات الطاب‬
‫الخصص ي عن الحاالت املصابة واملصالطين تعتبر فكرة مهددة لحريات اإلنسان‬
‫األساسية‪ ،‬وخاصة فيما يتعلق بالحق في الصصوصية الذي أصبح على املحك بفعل هذه‬
‫التقنية‪ ،‬حيث أصبحنا نتحدث اليوم عن نهاية الصصوصية‪ ،‬في ثنائية جدلية تحاول‬
‫التوفيق بين مطلب الحرية كحق من حقوق اإلنسان األصيلة والدواعي األمنية للدول‬
‫ألجل صون استقرارها وحفظ سالمتها(‪.)2‬‬
‫ً‬
‫وأيضا ال ننفي هنا وجود بعض البرمجيات التي راعت في تصميمها واشتغالها مسألة‬
‫األمن الخصص ي وحماية املعطيات الخصصية‪ ،‬كالبرنامج التي وضعته غوغل بالتعاون م‬
‫برنامج آبل لهذا الغرض‪ ،‬بحيث يقوم التطبيق بتخزين املعلومات حول األجهزة املتصلة‬
‫فيما بينها دون تحويل هذه املعلومات إلى خادم )‪ (Server‬مركزي كما هو الحال في‬
‫التطبيقات األخرى‪ ،‬لكن حتى هذه الفكرة ال تخلو من تهديدات لصصوصية األشصاص‬
‫ً‬
‫وأمنهم‪ ،‬كون أن تشغيل هذه التطبيقات انطالقا من واجهة برمجة التطبيقات )‪(API‬‬
‫سيقوم بتهديد و فتح الباب للعديد من الثغرات األمنية الجديدة املستهدفة للصصوصية‬
‫(‪ )1‬أبو بكر خوالد‪ ،‬خيرالدين بو زرب‪ ،‬فعالية استخدام تطبيقات الذكاء االصطناعي الحديثة في مواجهة‬
‫فيروس كورونا )‪ :)COVID-19‬تجربة كوريا الجنوبية نموذجا‪ ،‬مجلة بحوث اإلدارة واالقتصاد‪،‬‬
‫مجلد‪ ،2‬عدد‪ ،2‬الجزائر ‪2020‬م‪ ،‬ص ‪.44‬‬
‫(‪ )2‬محمد السهيلي‪ ،‬تطورات الذكاء االصطناعي ومقتضيات حماية الحقوقق والحريات األساسية‪ ،‬إدارة‬
‫الشؤون القانونية بمنظمة االيسيسكو‪ ،‬اململكة املغربية‪ ،‬الرباط‪2019 ،‬م‪ ،‬ص ‪.14‬‬
‫‪158‬‬
‫الخصصية‪ ،‬مثال ذلك‪ :‬إظهار تطبيقات تتب املتصلين للحالة الصحية ملستخدم ما عبر‬
‫إمكانية ربط األشصاص املصابين بصورهم عبر كاميرا ثابتة متصلة بجهاز ‪ Bluetooth‬في‬
‫األماكن العامة(‪.)1‬‬
‫وبناء على ما سبق قد يترتب على نظام املعلومات الذكي‪ ،‬والفحوصات االلكترونية‬
‫وملئ االستبيانات وااللزام بتحميل تطبيقات على الهواتف جرائم عمدية في استخدام‬
‫الذكاء االصطناعي انتهاك خصوصية االنسان وبياناتهم الخصصية في ذلك‪.‬‬
‫ويفترض أن تكون الحاجة إلى املراقبة والتتب تقتصر على بيانات األفراد الخصصية‬
‫وحياتهم الخصصية بما يخدم حاجة الحفاظ على الصحة العامة فقط دون أن يتجاوزها‬
‫إلى أكثر من ذلك‪ ،‬وذلك من أجل صد أي تسريب لهذه البيانات الخصصية أو توظيفها‬
‫دون إذن رسمي أو مسوغ معقول وسليم‪.‬‬
‫فلو حدث في دولة معينة أن انتشر وباء معين وتمت االستعانة بتقنيات الذكاء‬
‫االصطناعي للتتب والرصد فيفترض أن يتم تحديد الفترة الزمنية الالزمة التي سيتم فيها‬
‫توظيف تلك التقنيات ومواعيد االستغناء عنها‪ ،‬وأن تقدم الدولة ضمانات عادلة‬
‫ومقنعة لدف أي سوء توظيف لهذه املعطيات الخصصية بحيث يقتصر مقدار التدخل‬
‫في معطيات األفراد الخصصية على ما يحقق غاية صد الوباء فقط وحصريا دون سواه‪،‬‬
‫وفي جمي األحوال ينبغي الحرص على حسن توظيف هذه البيانات الخصصية لألفراد‬
‫صد الوباء والسهر على حماية املعطيات من أي استغالل أو إيذاء أو‬ ‫بما يخدم غاية ّ‬
‫انتهاك لحرمة الحياة الخصصية لألفراد‪ ،‬بحيث إن توظيف هده البيانات من قبل أجهزة‬
‫وأشصاص آخرين بغض النظر عن فائدتها‪ ،‬من شأنه أن يهدم الثقة العامة الضرورية‬
‫ملواجهة مثل هذه الظروف(‪.)2‬‬
‫يشكل االستعمال الكبير للتقنيات الذكية للتتب واملراقبة خالل فترة الوباء‬
‫(‪ )1‬السهيلي‪ ،‬املرج السابق‪ ،‬هامش ‪ ،349‬ص ‪.17‬‬

‫(‪ )2‬السهيلي‪ ،‬مرج سابق‪ ،‬هامش ‪ ،349‬ص ‪.62‬‬
‫‪159‬‬
‫والصالحيات التي يتم منحها للحكومات في السماح لها باستعمال كل الوسائل املتاحة‬
‫ً‬
‫للحد من انتشاره تهديدا لحقوق اإلنسان وحرياته‪ ،‬مما دف بعض الصبراء للقول بأننا‬
‫أمام أكبر موجة تعقب اجتماعي ومالحقة للمرض ى في العالم‪ ،‬عبر نشر كل الوسائل‬
‫التكنولوجية الكفيلة بتحقيق هذا الغرض‪ ،‬والتخوف الكبير بشأن انتهاكات حقوق‬
‫االنسان كالتشهير‪ ،‬والتمييز‪ ،‬والعنف والعنصرية‪ ...‬وبالتالي فإن التساهل في الحفاظ‬
‫على البيانات الخصصية لألفراد ونشر املعلومات والهويات يمكن أن يسبب مشاكل كبيرة‬
‫سواء على املدى املتوسط أو البعيد‪ ،‬وقد اعتبر تقرير للهيئة الهولندية لحماية البيانات‬
‫أن استعمال تطبيقات تتب االتصال يشكل انتهاكا طويل األمد للحق األساس ي في الحياة‬
‫ً‬
‫الصاصة للمواطنين‪ ،‬خصوصا أنه يعالج معطيات لها عالقة بصحة املريض وهي تدخل‬
‫في خانة البيانات الحساسة(‪.)1‬‬
‫(‪ )1‬السهيلي‪ ،‬مرج سابق‪ ،‬هامش ‪ ،349‬ص ‪.61-60‬‬
‫‪160‬‬
‫اجلرمية الغري عمدية يف استخدام الذكاء االصطناعي‬
‫ً‬
‫يعتبر إقامة املسؤولية على أساس الصطأ الغير عمدي أوس نطاقا من الصطأ‬
‫العمدي‪ ،‬ألنه يكفي فيه اإلهمال أو عدم التبصر‪ ،‬ويتمثل هذا الصطأ في عدم توق‬
‫ً‬
‫الضرر أو تحمل مخاطره إذا كان متوقعا ضرره‪ .‬وبناء على ذلك يكون إهمال املستخدم أو‬
‫ً‬
‫املالك للذكاء االصطناعي أساسا لتحمل املسؤولية‪ ،‬وبالرغم من ذلك يضل إثبات‬
‫ً‬
‫اإلهمال أو عدم التبصر صعبا‪ ،‬كون أن استعمال الذكاء االصطناعي أو إتاحته حتى لو‬
‫ً‬ ‫ً‬
‫كان ناقصا من النادر أن يشكل بذاته إهماال‪ ،‬حيث أن كل برمجة الكترونية تحتوي على‬
‫ً‬ ‫ً‬ ‫ً‬
‫عيوب وهذا أمرا بات مفروغا منه‪ ،‬وبالتالي ممكن أن تحدث أضرارا في مواجهة أي موقف‬
‫غير مسبوق‪ ،‬ويعبر من الصعب افتراض الرقابة أو اإلهمال في البرمجة ملجرد وقوع‬
‫الضرر(‪.)1‬‬
‫من املمكن أن يأخذ الركن املعنوي للجريمة صورة الصطأ غير العمدي‪ ،‬فتتجه إرادة‬
‫الجاني إلى السلوك الجراميز دون تحقق النتيجة سواء لم يتوق حدوثها‪ ،‬أو توق إمكانية‬
‫حدوث ذلك إال أنه لم يتخذ االحتياط الكافي لتالفي حدوث ذلك(‪.)2‬‬
‫يترتب على استخدام تقنيات الذكاء االصطناعي دون ضوابط انتهاك الحياة الصاصة‬
‫ً‬
‫والتعدي على الصصوصية‪ ،‬وهذا األمر يعتبر آفة األجهزة والتقنيات اإللكترونية عموما‪،‬‬
‫فهي تفرض على مستخدميها املوافقة على السماح بسحب بيانات معينة من الهاتف‬
‫املستخدم أو من الوسيلة أو البرنامج الذي يستخدمه عبر الهاتف‪ ،‬وتقوم هذه التقنيات‬
‫بتحليل تلك املعلومات والحصول على اهتمامات املستخدم الستغاللها ألهداف تجارية‬
‫ودعائية واستخبارية(‪.)3‬‬
‫(‪ )1‬عبد اللطيف‪ ،‬مرج سابق‪ ،‬هامش‪ ،11‬ص ‪.11‬‬

‫(‪ )2‬ربي ‪ ،‬مرج سابق‪ ،‬هامش ‪ ،336‬ص ‪.242‬‬
‫(‪ )3‬دهشان‪ ،‬مرج سابق‪ ،‬هامش‪ ،27‬ص ‪.20‬‬
‫‪161‬‬
‫نحن في العادة عندما نسجل دخول على أي موق من مواق التواصل االجتماعي‬
‫مثل الفيسبوك أو التويتر أو أي موق الكتروني خصوصا التي تكون مجانية ونقوم‬
‫بإنشاء حساب نوق فيه على اتفاقية استخدام هذه املواق التي تكون افتراضية و تعطي‬
‫املوق صالحيات أن يستخدم املعلومات الخصصية للمستخدم كاالسم‪ ،‬العنوان‪ ،‬رقم‬
‫الهاتف‪ ،‬ويتتب البحث الخصص ي عند استخدامها بحيث يتمكن من معرفة اهتمامات‬
‫هذا الخصص املستخدم فيصبح عنده بيانات كبيرة متعلقة بالخصص املستخدم وذلك‬
‫عن طريق خوارزميات معينة يعمل على فلترة كافة البيانات فيها فيعرف كافة االهتمامات‬
‫ويستغلها في ابسط موضوع في النشاط واالستخدام التجاري للمعلومات وفي االعالنات‬
‫ويجعل االعالنات على هذه املواق تتوافق م االهتمامات للخصص فمثال شصص وجد‬
‫إعالن سيارات على الفيس بوك ودخل على هذا االعالن فسيجد أن كل االعالنات التي‬
‫تأتي أمامه تكون سيارات أو إعالن مالبس أو إعالن شوكوالتة معينة سيجد أيضا أن كل‬
‫االعالنات تخص نفس املوضوع الذي دخل كتب أو بحث عنه‪.‬‬
‫وفي الحقيقة ان التطور الذي وصل الصوارزميات ال يشترط أن يقوم الخصص‬
‫بالبحث أو الكتابة بل وحتى لو فان شصص باالتصال م شصص معين عبر الهاتف أنهم‬
‫يقررون لقضاء رحلة على جبل أو الساحل أو في دولة معينة سيجد أن الهاتف قد قام‬
‫بفلترة كالمهما واملحادثة الصوتية بينهما وأصب يعرض إعالنات لشركات أو شقق‬
‫بالقرب من الساحل أو الدولة التي تكلموا عنها ففي هذه الحالة اصبح هناك حالة ضرر‬
‫وانتهاك للبيانات الخصصية والتي باألصل يحميها الدستور و القانون وهذا االنتهاك‬
‫يشكل جريمة جنائية مرتكبة فمن سيكون املسؤول عن هذه الجريمة افتراضيا بحكم‬
‫قيام الخصص باملوافقة على اتفاقية االستخدام للفيس بوك مثال من غير التيقن عن‬
‫هذه االتفاقية في انه سيقوم باستخدام للمعلومات والبيانات الخصصية للمستخدم‬
‫فيصبح الفيس بوك في منأى عن أي مسؤولية جنائية ففي هذه الحالة يشبه فيها كأن‬
‫الخصص قام بإمضاء عقد بينه وبين الفيس بوك أن يقوم باستغالل البيانات‬
‫الخصصية للخصص املستخدم له فال يعقل اسناد مسؤولية جنائية للفيس بوك في هذه‬
‫‪162‬‬
‫الحالة بل من املمكن اسناد للفيسبوك نوع من أنواع االكراه املعنوي‪.‬‬

‫توسعت االمور بل ألكثر من ذلك بعيدا عن االستخدام التجاري للمعلومات فهناك‬
‫استخدام سياس ي للمعلومات وظهرت في االنتخابات الرئاسية القبل أخيرة في أمريكا بين‬
‫ً‬
‫دونالد ترامب وهيالري كلينتون كانوا يستخدمون البيانات بصورة فضيعة جدا‪ ،‬فعرفوا‬
‫وقتها جمي األشصاص املوجودون في أمريكا وعندهم انتخابات يعرف املرشح البنود‬
‫الرئيسية في البرنامج الرئاس ي له مثال بند االسعار‪ ،‬االستيراد والتصدير‪ ،‬رف املستوى‬
‫املعيش ي في الدولة فيرون اهتمامات كل شصص عن طريق الفيس بوك مثال شصص‬
‫مهتم باالستيراد فيعرضون للخصص اعالنات خاصة بمرشح معين الذي من ضمن‬
‫خطته الرئاسية أي البرنامج الرئاس ي الصاص به أنه هو سيعمل تسهيالت كبيرة جدا في‬
‫كافة مجاالت االستيراد فهنا يظهر التأثير الكبير في عقول األشصاص بناء على بياناتهم‬
‫الخصصية التي عن طريق الذكاء االصطناعي تم برمجتها بصورة معينة بحيث اثر في‬
‫عاطفة الخصص أو في ش يء مهتم به حتى ينتخب املرشح‪.‬‬
‫وبالتالي يعتبر ما حصل في الواليات املتحدة األمريكية في االنتخابات فضيحة تسريب‬
‫البيانات الصاصة باملستخدمين وقد تم استغاللهم واستهدافهم في تلك االنتخابات‬
‫والتأثير عليهم الرقمي والتحول الديمقراطي وتغيرات سياسية وما صاحبها من تعزيز‬
‫تقنيات الذكاء االصطناعي واألتمتة من كفاءة ونطاق التضليل اإلعالمي بشكل واس (‪.)1‬‬
‫وال يخفى عما أصبحنا نالحظه من العديد من اإلعالنات واملحتويات اإلعالنية التي ال‬
‫تحترم اآلداب العامة وال حتى الذوق العام‪ ،‬وذلك بما تحتويه من بعض العروضات‬
‫الصادشة للحياء مثل ما يعرضه موق ‪ marketplace‬ملتصفحي الفيس بوك من أمور غير‬
‫مرغوبة بها‪ ،‬ال تتماش ى م ما يتم عرضه م ميول ورغبات املعروض له كونها مجرد‬
‫محتويات منافية لآلداب وخادشة للحياء أو ألي سبب آخر(‪.)2‬‬
‫(‪ )1‬مشعل‪ ،‬مرج سابق‪ ،‬هامش‪ ،20‬ص ‪.518‬‬

‫(‪ )2‬عثمان‪ ،‬مرج سابق‪ ،‬هامش ‪ ،135‬ص ‪.1550 -1549‬‬
‫‪163‬‬
‫أصبح الذكاء االصطناعي ليس مجرد ان يستخدم في الدعاية واالعالن ايضا‬

‫يستخدم في تشكيل األمة فلو هناك بعض األموال والبرمجة الجيدة وأشصاص يفهمون‬
‫فمن املمكن أن يحدد الذكاء االصطناعي الخصص الذي ممكن أن ينتخبه الخصص‬
‫مستقبال وذلك لتشعبه بصورة رهيبة في شتى املجاالت‪.‬‬
‫إن كان يمثل راحة للناس أيضا يمثل خطورة فيجب أن يتم وض ضوابط قانونية‬
‫إلنتاج وتطوير الذكاء االصطناعي فهي ان كان بها مميزات أيضا لها عيوب وسيشكل‬
‫خطورة في املجتم إن لم يتم نشر ووض ضوابط قانونية لها‪.‬‬
‫روبوتا يعمل بالذكاء االصطناعي ُم ً‬
‫دانا بالقتل غير العمد‪ .‬وبعد أن‬ ‫وبمثال يصف ً‬
‫تقوم املحكمة بإدانة الروبوت بتهمة القتل غير العمد‪ ،‬تستمر العملية الجنائية كما لو‬
‫إنسانا‪ ،‬واملرحلة التالية هي مرحلة إصدار الحكم‪ .‬ويجوز لالدعاء والدفاع‬‫ً‬ ‫كان الجاني‬
‫املطالبة بعقوبة قاسية أو مخففة‪ ،‬وفي نهاية املطاف تقرر املحكمة العقوبة املناسبة بناء‬
‫على ظروف القضية‪ ،‬وبعد تقييم الظروف‪ ،‬توصلت املحكمة إلى استنتاج مفاده أنه إذا‬
‫إنسانا‪ ،‬فإن العقوبة ذات الصلة ستكون السجن ملدة ثالث سنوات‪ .‬ولو‬ ‫ً‬ ‫كان الروبوت‬
‫كان الروبوت شركة‪ ،‬لكانت املحكمة قد فرضت عليه عقوبة السجن ملدة ثالث سنوات‪،‬‬
‫والتي كان سيتم تنفيذها كما هو موضح ً‬
‫سابقا‪ .‬وينبغي أن يكون األمر نفسه بالنسبة‬
‫للروبوت الذي يعمل بالذكاء االصطناعي‪ .‬ولذلك‪ ،‬إذا أفض ى التقدير القضائي للمحكمة‬
‫إلى فرض عقوبة السجن ملدة ثالث سنوات‪ ،‬فهذه هي العقوبة التي يجب توقيعها‪ ،‬بغض‬
‫ً‬ ‫ً‬
‫النظر عما إذا كان املدعى عليه إنسانا أو شركة أو مجرما بذاته‪.‬‬
‫سابقا‪ ،‬فإن فرض السجن على أنظمة‬ ‫ويجب تنفيذ العقوبة بعد فرضها‪ .‬وكما ذكرنا ً‬
‫الذكاء االصطناعي يأخذ شكل حرمانها من حريتها في التصرف من خالل تقييد نشاطها‬
‫للمدة املطلوبة وتحت رقابة صارمة‪ .‬خالل هذا الوقت‪ ،‬يمكن إصالح نظام الذكاء‬
‫االصطناعي ملن ارتكاب املزيد من الجرائم قد يكون نظام الذكاء االصطناعي أكثر كفاءة‬
‫عاجزا وعندما يحدث ذلك بموجب أمر من املحكمة‪ .‬يخدم هذا الوض‬ ‫ً‬ ‫إذا كان النظام‬
‫كال من أغراض إعادة التأهيل والعجز‪ ،‬وهي أغراض إصدار األحكام ذات الصلة في حالة‬
‫‪164‬‬
‫ً‬
‫ومقيدا‪،‬‬ ‫أنظمة الذكاء االصطناعي‪ .‬عندما يكون نظام الذكاء االصطناعي رهن االحتجاز‪،‬‬
‫ً‬
‫وخاضعا لإلشراف‪ ،‬تصبح قدرته على اإلساءة عاجزة‪.‬‬
‫إن إصالح نظام الذكاء االصطناعي من خالل التغييرات الداخلية‪ ،‬التي تبدأ بعوامل‬
‫خارجية (على سبيل املثال‪ ،‬املبرمجون الذين يعملون بموجب أمر من املحكمة) ويختبرها‬
‫النظام كتقييد‪ ،‬هو إعادة تأهيل جوهرية ألن فرص تورط النظام في مزيد من االنحراف‬
‫تتزايد‪ .‬وإن القيمة االجتماعية لفرض السجن على نظام الذكاء االصطناعي حقيقية‪.‬‬
‫فتتم إزالة النظام الصطير من املجتم إلصالحه‪ ،‬وخالل هذه الفترة ال يكون ً‬
‫قادرا على‬
‫التسبب في املزيد من الضرر للمجتم ‪ .‬وعند اكتمال العملية‪ ،‬في نهاية املدة التي تحددها‬
‫املحكمة‪ ،‬يمكن إعادة النظام إلى النشاط الكامل‪ ،‬بنفس الطريقة التي يتم بها إعادة‬
‫السجين الذي انتهى من تنفيذ العقوبة إلى املجتم (‪.)1‬‬
‫تأخذ بعض الدول بطريقة الصدمة العامة أو املجتمعية بدأل عن السجون‪ ،‬بحيث‬
‫تم تطوير هذه الطريقة لتخفيف من اكتظاظ السجون‪ ،‬بحيث يجوز للمحكمة في‬
‫ً‬
‫الجرائم غير الجسيمة أن تقوم بفرض خدمة عامة على الجاني بدال من العقوبات‬
‫األخرى بحيث يدل على أنه جزء من املجتم وأن التسبب في الضرر باملجتم يرتد على‬
‫الجاني‪ ،‬ففي كثير من الحاالت تضاف الصدمة العامة إلى فترة املراقبة من أجل فرض‬
‫تحسين إعادة تأهيل الجاني بشكل كامل داخل املجتم ‪ ،‬فهي أكثر من مجرد قيمة‬
‫تعويضية‪ ،‬بل تهدف لجعل الجاني يفهم احتياجات املجتم وإعادة اإلدماج له(‪.)2‬‬
‫تتمت كل من الشركات وأنظمة الذكاء االصطناعي بتفاعالت قوية م املجتم ‪،‬‬
‫بحيث تعمل الصدمة العامة على تمكين هذه التفاعالت وتعزيزها‪ ،‬وجعلها األساس‬
‫ً‬
‫للتغيير الداخلي املطلوب‪ ،‬فعلى سبيل املثال طبيا يتم استخدام نظام خبير طبي‪ ،‬مجهز‬
‫بقدرات التعلم اآللي في عيادة خاصة لتخصيص املرض ى‪ ،‬ففي حال تم اعتبار أن هذا‬

‫‪(2) GABRIEL HALLEVY ,previous reference, footnote 50, p 171-172‬‬
‫‪165‬‬
‫ً‬
‫النظام مهمال‪ ،‬تفرض املحكمة عليه وحتى يتم تنفيذ هذه العقوبة‪ ،‬يجوز استخدام ذلك‬
‫النظام من قبل الصدمات الطبية أو املستشفيات العامة‪ ،‬وهذا األمر يمكن أن يخدم‬
‫هدفين رئيسين‪ ،‬أولها يتعرض النظام ملزيد من الحاالت ومن خالل التعليم اآللي يمكنه‬
‫ً‬
‫تحسين أدائه‪ ،‬وثانيها أنه يمكن اعتبار عملها تعويضا للمجتم عن الضرر الذي سببته‬
‫الجريمة‪ ،‬وفي نهاية مدة الصدمة العامة يكون نظام الذكاء االصطناعي أكثر خبرة إذا كانت‬
‫عملية التعليم اآللي فعالة ويتم تحسين النظام‪ ،‬وألن الصدمة العامة تخض لإلشراف‪،‬‬
‫بغض النظر عما إذا كانت مصحوبة باملراقبة فإن عملية التعلم اآللي وغيرها من‬
‫العمليات الداخلية يتم توجيهها نحو من ارتكاب املزيد من الجرائم أثناء الصدمة العامة‪،‬‬
‫وبحلول نهاية فترة الصدمة العامة سيكون نظام الذكاء االصطناعي قد ساهم بالوقت‬
‫ً‬
‫واملوارد لصالح املجتم ‪ ،‬ويمكن اعتبار ذلك تعويضا عن الضرر االجتماعي الناجم عن‬
‫ارتكاب الجريمة‪ ،‬وهكذا‪ ،‬فإن الصدمة العامة ألنظمة الذكاء االصطناعي تشبه الصدمة‬
‫ً‬
‫العامة لإلنسان في جوهرها‪ ،‬بحيث يكون تعويض مساهما في املمارسة العملية لها(‪.)1‬‬
‫وكذلك تعتبر املراقبة أحد البدائل الشائعة للسجون التي اعتمدتها بعض املنظمات‬
‫الصيرية والدينية الصاصة لرعاية املجرمين املدانين من خالل منحهم األدوات االجتماعية‬
‫التي يحتاجونها للتخلي عن االنحراف وإعادة االندماج في املجتم ‪ ،‬بحيث كانت والية‬
‫ماساتشوستس أول والية أمريكية تفعل ذلك في عام ‪1878‬م‪ ،‬وتختلف األدوات‬
‫ً‬ ‫ً‬
‫االجتماعية املقدمة من حالة ألخرى‪ ،‬فمثال عندما يكون الجاني مدمنا للمخدرات فإن‬
‫ً‬ ‫ً‬
‫األدوات االجتماعية تشمل إعادة تأهيله من املصدرات‪ ،‬وأيضا عندما يكون الجاني عاطال‬
‫عن العمل فإن األدوات االجتماعية تشمل التدريب املنهي وخالل تلك الفترة التي يكون‬
‫فيها الجاني تحت املراقبة من السلطات لضمان باإلشراف عليه ومراقبته لضمان عدم‬
‫ارتكاب أي جرائم أخرى‪ .‬املراقبة هي في الغالب إعادة تأهيل‪ ،‬وهي مناسبة للمجرمين‬
‫الذين لديهم إمكانية عالية إلعادة التأهيل‪ .‬وبالتالي‪ ،‬تحتاج املحكمة إلى تقييم دقيق‬
‫‪166‬‬
‫لتلك اإلمكانية‪ ،‬أعدته خدمة املراقبة‪ ،‬قبل الحكم على الجاني باملراقبة(‪.)1‬‬
‫عندما يرتكب نظام الذكاء االصطناعي جريمة ما‪ ،‬يجب تخصيص النظام لتحديد ما‬
‫إذا كان من املمكن تصحيحها‪ .‬في هذه املرحلة‪ ،‬يتم تخصيص املجرمين من البشر‬
‫لتحديد إمكانية إعادة تأهيلهم‪ .‬يتم إجراء كال النوعين من التخصيص من قبل‬
‫املتخصصين‪ ،‬ف تخصيص املجرمين من البشر يتم من قبل موظفي خدمة املراقبة‪،‬‬
‫واألخصائيين االجتماعيين‪ ،‬وعلماء النفس‪ ،‬واألطباء النفسيين‪ ،‬واألطباء‪ ،‬وما إلى ذلك‪.‬‬
‫يمكن تخصيص مرتكبي جرائم نظام الذكاء االصطناعي من قبل خبراء التكنولوجيا‪ .‬وإذا‬
‫أظهر التخصيص عدم وجود إمكانية إلعادة التأهيل‪ ،‬فإن الغرض النهائي من إصدار‬
‫الحكم يصبح العجز‪ ،‬ألن املجتم يرغب في من املزيد من الضرر‪ ،‬ولكن إذا كان لدى‬
‫الجاني إمكانية كبيرة إلعادة التأهيل‪ ،‬عندها يتم أخذ املراقبة وإعادة التأهيل كهدف‬
‫للحكم في االعتبار(‪.)2‬‬
‫وينطبق هذا بنفس القدر على املجرمين من البشر‪ ،‬والشركات‪ ،‬وأنظمة الذكاء‬
‫االصطناعي‪ .‬السؤال األساس ي لتخصيص نظام الذكاء االصطناعي هو ما إذا كان من‬
‫املمكن إصالح النظام بتكوينه الحالي‪ ،‬على سبيل املثال‪ ،‬من خالل التعلم اآللي إذا كان‬
‫االستنتاج هو أن العقوبة املناسبة هي االختبار‪ ،‬فيجب تطبيقها م اإلشارة إلى املشاكل‬
‫التي أثارها الجنوح‪ .‬وهذا ينطبق على جمي أنواع املجرمين‪ ،‬إن الهدف من العالج هو‬
‫عالج مشكلة معينة‪ ،‬لذلك يجب أن يتناسب العالج م املشكلة‪ .‬والفرق بين املراقبة‬
‫أيضا‪ ،‬هو عجز الجاني عن قدراته املنحرفة خالل مدة‬ ‫والسجن‪ ،‬والذي يشمل العالج ً‬
‫ً‬
‫مناسبا‪ ،‬ولكن‬ ‫ً‬
‫خطيرا أثناء فترة العالج‪ ،‬فقد يكون املراقبة‬ ‫العقوبة‪ .‬إذا لم يكن الجاني‬
‫ً‬
‫عاجزا أثناء العالج‪ ،‬فقد يكون السجن أكثر مالءمة(‪.)3‬‬ ‫إذا كان الجاني‬

‫‪167‬‬
‫ذلك‪ ،‬إذا وجد املجتم أن نظام الذكاء االصطناعي يمكنه االستمرار في العمل أثناء‬
‫جدا على املجتم ‪ ،‬فقد يكون‬ ‫خطيرا ً‬
‫ً‬ ‫ً‬
‫مناسبا‪ .‬وإذا كان األمر‬ ‫العالج‪ ،‬فقد يكون االختبار‬
‫مناسبا‪ .‬عندما يتم فرض املراقبة ً‬
‫أخيرا‪ ،‬يجب على نظام الذكاء االصطناعي أن‬ ‫ً‬ ‫السجن‬
‫يبدأ العالج‪ ،‬الذي يتكون من إصالح عملياته الداخلية بحيث تتطلب بعض األنظمة‬
‫التدخل في عملية التعلم اآللي‪ ،‬والبعض اآلخر يتطلب ترقية أجهزتها‪ ،‬والبعض اآلخر‬
‫يتطلب التدخل في البرامج األساسية للنظام‪ .‬خالل هذه العملية‪ ،‬يواصل نظام الذكاء‬
‫االصطناعي نشاطه الروتيني تحت اإلشراف الذي تفرضه املحكمة ‪.‬من الناحية‬
‫االجتماعية والوظيفية‪ ،‬فإن املراقبة متطابقة بالنسبة للمجرمين من البشر والشركات‬
‫وأنظمة الذكاء االصطناعي(‪.)1‬‬
‫وتتطلب سمات كل مجرم معاملة مختلفة‪ ،‬ولكن هذا صحيح بالنسبة للمجرمين‬
‫أيضا‪ ،‬وبطبيعة الحال‪ ،‬يمكن للمصنعين واملبرمجين ومستخدمي النظام البدء‬ ‫من البشر ً‬
‫في عملية اإلصالح دون تدخل املحكمة‪ ،‬ولكن عندما تأمر املحكمة بالتدخل‪ ،‬فهذا يعني‬
‫أن هذه إرادة املجتم وبنفس الطريقة‪ ،‬يجوز ملدمن املصدرات أو عائلة املدمن البدء في‬
‫عملية إعادة تأهيل من املصدرات دون أمر من املحكمة‪ ،‬ولكن عندما تفرض املحكمة‬
‫ذلك‪ ،‬وتعتبر هذه هي إرادة املجتم (‪.)2‬‬
‫أما فيما يخص عقوبة اإلعدام فإن جوهرها هو موت الجاني‪ ،‬فعندما يكون الجاني‬
‫ً‬
‫إنسانا‪ ،‬فإن الحياة تعني وجود الخصص كمخلوق فاعل‪ ،‬أما اذا كان الجاني شركة أو‬
‫نظام ذكاء اصطناعي‪ ،‬فيمكن تحديد حياته من خالل نشاطه‪ ،‬وإن نظامه الحي هو نظام‬
‫فعال‪ ،‬وبالتالي فإن «حياة» نظام الذكاء االصطناعي هي قدرته على العمل على هذا‬
‫النحو‪ ،‬إن إيقاف نشاط نظام الذكاء االصطناعي ال يعني بالضرورة «موت» النظام‪ ،‬كون‬
‫املوت يعني العجز الدائم عن حياة النظام‪ .‬ولذلك‪ ،‬فإن عقوبة اإلعدام لنظام الذكاء‬
‫االصطناعي تعني إغالقه الدائم‪ ،‬بحيث ال يمكن توق املزيد من الجرائم أو أي نشاط‬

‫‪168‬‬
‫آخر من جانب النظام‪ .‬عندما يتم إغالق نظام الذكاء االصطناعي بأمر من املحكمة‪،‬‬
‫جدا على املجتم ‪.‬‬ ‫خطيرا ً‬
‫ً‬ ‫فهذا يعني أن املجتم يحظر تشغيل ذلك الكيان ألنه يعتبر‬
‫يخدم تطبيق عقوبة اإلعدام على أنظمة الذكاء االصطناعي كال من أغراض عقوبة‬
‫اإلعدام والعجز (كغرض عام للحكم) فيما يتعلق بأنظمة الذكاء االصطناعي(‪.)1‬‬
‫ً‬
‫ويقرر املجتم فرض عقوبة اإلعدام عندما يكون الجاني خطيرا عليه‪ ،‬م كون‬
‫العقوبة مقبولة في النظام القانوني املعين‪ ،‬بقصد تحقيق العجز التام والنهائي للجاني‪.‬‬
‫وينطبق هذا على املجرمين من البشر والشركات وأنظمة الذكاء االصطناعي‪ .‬بالنسبة‬
‫ألنظمة الذكاء االصطناعي‪ ،‬يعني العجز الدائم اإلغالق التام بموجب أمر من املحكمة‪،‬‬
‫م عدم وجود خيار إلعادة تنشيط النظام مرة أخرى ‪.‬لن يشارك النظام الذي يعاني من‬
‫العجز الدائم في املزيد من األحداث الجانحة(‪.)2‬‬
‫قد يقال إن مثل هذا اإلغالق قد يؤثر على أشصاص أبرياء آخرين على سبيل املثال‪،‬‬
‫الشركة املصنعة للنظام‪ ،‬أو مبرمجيه ومستخدميه‪ ،‬وال ينطبق هذا على أنظمة الذكاء‬
‫ً‬ ‫االصطناعي فحسب‪ ،‬بل ينطبق ً‬
‫أيضا على املجرمين من البشر والشركات أيضا‪ ،‬بحيث‬
‫أيضا على عائلته البريئة (في حالة الجاني البشري) أو يؤثر على‬ ‫يؤثر إعدام الجاني ً‬
‫املوظفين واملديرين واملساهمين وما إلى ذلك (في حالة الشركة)‪ ،‬عندما يكون الجاني عبارة‬
‫أيضا على أشصاص أبرياء آخرين‪،‬‬ ‫عن نظام ذكاء اصطناعي‪ ،‬فإن إيقاف التشغيل يؤثر ً‬
‫لكن هذا ال يقتصر على أنظمة الذكاء االصطناعي ولذلك‪ ،‬قد تنطبق عقوبة اإلعدام على‬
‫أنظمة الذكاء االصطناعي(‪.)3‬‬

‫‪169‬‬
‫‪170‬‬
‫الخاتم ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ــة‬
‫اخلامتة‬
‫علينا أن ندرك أوال وقبل كل ش يء في هذه الحياة أنه مهما تطور الذكاء االصطناعي‬
‫وكافة تقنياته فلن يستطيع البشر أن يسأل أو يضع لهذه التقنيات ملكة العقل البشري‪،‬‬
‫أو أي ذرة من املشاعر‪ ،‬أو اإلنسانية‪ ،‬أو األخالق‪ ،‬أو اإلحساس‪ ،‬أو الروح التي هي من أمر‬
‫هللا ومعجزاته الت ي تحدى كافة البشرية أن يخلقوا ذبابة ولم يستطيعوا ولن يستطيعوا‬
‫ألن الكمال هلل عز وجل والنقص لكافة مخلوقاته‪.‬‬
‫تعتبر ذروة الثروة التكنولوجية فيما قدمه الذكاء االصطناعي وخوارزمياته اليوم من‬
‫تحديث واستحداث شكل جديد من الخدمات لم تكن موجودة من قبل وهذه االمور كلها‬
‫تشكل وبما ينعكس بتحسين األداء بزيادة االنتاجية‪،‬بتوفير الوقت‪ ،‬والجهد‪ ،‬واملال هو‬
‫حقيقة ش يء غير مسبوق‪ ،‬لربما في الوضع الطبيعي على سبيل املثال صنع اآللة التي‬
‫تبحث في قواعد البيانات وتعيد البيانات بما هو مقارب لعملية البحث فإن دل ذلك عن‬
‫خلق محتوى جديد فعندما يكون هذا الروبوت أو اآللة موجود في اجتماع مثال فإنه‬
‫ينوب عن اإلنسان وهو قادر على أن يتفاعل مع املعطيات املوجودة في محيطه وأن‬
‫يستخرج أجوبة ولربما بعض النتائج الغير موجودة في قاعدة بياناته إنما التي قام‬
‫بتحليلها وخلق محتوى جديد غير موجود في قاعدة بياناته كل هذا يعتبر عند الكثير انه‬
‫ذروة ما توصل إليه الذكاء االصطناعي‪.‬‬
‫ً‬ ‫ً‬
‫وأخيرا‪ ،‬وليس آخرا نستطيع القول بأن عصر الجغرافيا في هذا العالم بدأ يتضاءل‬
‫لصالح عصر بال حدود‪ ،‬تتالش ى فيه سيادات الدول‪ ،‬ويغلب ويسود فيه الذكاء‬
‫االصطناعي واختراعات األقمار الصناعية‪ ،‬والهواتف‪ ،‬والفاكس والحاسب اآللي‪ ،‬مع‬
‫تواصل التخوف لدى العالم من أن يصبح الذكاء االصطناعي تقنية للدمار الشامل‪ ،‬وأن‬
‫ً‬
‫يصبح البشر عبدا لتقنيات الذكاء االصطناعي وتحديدا لخدمة االنسان االلي مستقبال‪،‬‬
‫أو أن تقودنا إلى حرب عاملية ثالثة‪.‬‬
‫‪171‬‬
‫النتائج‪:‬‬
‫لقد توصل الباحث إلى العديد من النتائج‪ ،‬أهمها‪:‬‬
‫يعرف الذكاء االصطناعي بأنه‪ :‬علم اآلالت الحديثة‪ ،‬مفهوم جديد‪ ،‬ذو طبيعة‬ ‫‪)1‬‬
‫خاصة‪ ،‬وفرع من فروع علم الحاسوب‪ ،‬وسلوك يحاكي الذكاء البشري في أغلب‬
‫تطبيقاته عبر قيام االنسان بمحاولة برمجة‪ ،‬وتطوير اآللة أو الحاسوب‪ ،‬وإيجاد‬
‫وصنع تقنيات حديثة‪ ،‬بحيث تصبح قادرة على أداء بعض املهام التي يقوم بها البشر‬
‫كالتعلم‪ ،‬والتفكير‪ ،‬واالستنباط‪ ،‬والتنفيذ على أرض الواقع وحل املشكالت‪،‬‬
‫والتفهم والسمع والتكلم والحركة بأسلوب منطقي ومنظم‪.‬‬
‫أصبح الذكاء االصطناعي واقعا ملموسا بعد أن كان مجرد خيال علمي موجود‪،‬‬ ‫‪)2‬‬
‫وكثرة االستخدام له وتطوره أدت إلى استقالليته‪ ،‬مما يشكل الخطر على األفراد‬
‫واملجتمعات‪.‬‬
‫للذكاء االصطناعي نماذج منها‪ ،‬النموذج البسيط وهو ال يعمل باستقالل وإنما‬ ‫‪)3‬‬
‫يعمل بتحكم اإلنسان فيه بتكليف االلة بالقيام بأوامر معينة ومعطاة لها مثل‪:‬‬
‫اآللة الحاسبة والهاتف وغيرها‪ .‬والنموذج املتقدم الذي يعمل باستقالل إلى حد ما‪،‬‬
‫ً‬
‫وله القدرة على اتخاذ قرارات بشكل مستقل‪ ،‬لكن هذا االستقالل ليس تاما‪ ،‬وفيه‬
‫قد تكلف االلة بالقيام بأوامر معينة ومعطاة لها باإلضافة إلى تمكينها وبرمجتها على‬
‫إمكانية االلة من التفكير ذاتيا وتطوير ذلك بناء على خوارزميات برمجية وقواعد‬
‫بيانات ضخمة مما يمكنها من تطوير نفسها واتخاذ قرارات ذاتية وتنفيذ هذه‬
‫القرارات فبالتالي أصبحت شبيهة بالبشر‪ .‬ومن االمثلة على هذا النوع‪ :‬الحواسيب‪،‬‬
‫ماكينات الصرف لدى البنوك‪ ،‬الطيارات بدون طيار‪ ،‬والسيارات ذاتية القيادة‬
‫وغيرها‪ ،‬والنموذج الخارق الفائق املستقبلي‪.‬‬
‫يتميز الذكاء االصطناعي بعدة خصائص‪ ،‬أهمها‪ :‬التمثيل الرمزي‪ ،‬القدرة الفائقة‬ ‫‪)4‬‬
‫على التواصل‪ ،‬التعلم‪ ،‬واإلدراك‪ ،‬واإلبداع‪ ،‬واالستدالل‪ ،‬واكتساب الخبرة‪،‬‬
‫واكتساب وتمثيل املعرفة وتطبيقها‪ ،‬واتخاذ القرار باستقاللية دون االشراف‬
‫‪172‬‬
‫البشري املباشر‪ ،‬تمتعها بمهارات التسبيب واالستنباط‪ ،‬وسهولة التكييف مع‬

‫البيئة املحيطة‪ ،‬وحل املشكالت املعروضة‪ ،‬والتعلم والفهم من التجارب والخبرات‬
‫السابقة‪ ،‬واستخدام الخبرات القديمة وتوظيفها في مواقف جديدة‪ ،‬واالستجابة‬
‫السريعة للمواقف والظروف الجديدة‪ ،‬والتعامل مع الحاالت الصعبة‪ ،‬واملعقدة‬
‫والغامضة‪ ،‬والبيانات املتضاربة والغير كاملة‪.‬‬
‫‪ )5‬للذكاء االصطناعي أهمية كبيرة‪ ،‬ومنها‪ :‬العمل على تطوير وظائف الكمبيوتر‬
‫املرتبطة بالذكاء البشري كالتعليم‪ ،‬والتفكير‪ ،‬وحل املشكالت وغيرها‪ ،‬وحيث تشمل‬
‫أهمية الذكاء االصطناعي العديد من الجوانب وفعال ليس من السهل حصر تلك‬
‫الجوانب‪ ،‬وقد يكون الذكاء االصطناعي أكثر قدرة حتى على البحوث العلمية‪ ،‬فقد‬
‫يتسلم القيادة حتى يتم التوصل للعديد من االكتشافات املفيدة في حياتنا وبالتالي‬
‫التطور والنمو في شتى ميادين الحياة العلمية والعملية‪ ،‬واألنظمة الرقابية‪،‬‬
‫واألمنية‪ ،‬وتحقيق العديد من الفوائد التي تسهل وتبسط الحياة اليومية للناس‬
‫وتحقق الكفاءة العالية في انجاز معظم املهام واألعمال التي يصعب على االنسان‬
‫القيام بها‪.‬‬
‫‪ )6‬يترتب على انتشار الذكاء االصطناعي دون وضع أي ضوابط عدة مشكالت‪ ،‬أهمها‪:‬‬
‫حلول الذكاء االصطناعي محل األيدي البشرية العاملة‪ ،‬مما يترتب عليه زيادة نسبة‬
‫البطالة بفعل تسريح هؤالء العمال‪ .‬كذلك فإن الذكاء االصطناعي يستخدم من‬
‫قبل بعض املبرمجين املتخصصين ألغراض غير مشروعة تشكل جرائم كالتجسس‬
‫على األشخاص وانتهاك خصوصيتهم‪.‬‬
‫‪ )7‬تشعب وانتشار الذكاء االصطناعي بكافة أنظمته وتقنياته في كافة املجاالت املجتمعية‬
‫املحسوسة وغير املحسوسة‪ ،‬والبسيطة واملعقدة‪ ،‬وقطاعات الحياة املختلفة البعيدة‬
‫عن الحصر واملتشعبة بشكل كبير سواء الصحة أو التعليم أو االمن وغيرها‪ ،‬حيث أن‬
‫هذا التشعب قد تم بدون أي ضوابط قانونية مما ساعد في ظهور الكثير من جرائم‬
‫الذكاء االصطناعي نتيجة االستخدام الس يء لتلك الوسائل والتقنيات‪.‬‬
‫‪173‬‬
‫التقدم والتطور الهائل وما صاحبه من إتاحة الفرصة لتقنيات الذكاء االصطناعي‬ ‫‪)8‬‬
‫فأصبحت هذه التقنيات تفكر وتتخذ القرارات بنفسها وتنفذها ذاتيا مما أدى إلى‬
‫صعوبة إسناد املسؤولية الجنائية الناشئة عن جرائم هذه التقنيات‪.‬‬
‫يتميز الذكاء االصطناعي بطبيعة قانونية خاصة‪ ،‬فهو ال يعد من املنقوالت وال من‬ ‫‪)9‬‬
‫ً‬
‫العقارات‪ ،‬وإنما يعد وفقا لرأي الفقه القانوني من طبيعة خاصة تشبه الطبيعة‬
‫ً‬
‫القانونية للسفن‪ ،‬فهو يحظى بميزات املنقوالت والعقارات معا‪.‬‬
‫تتعدد مجاالت استخدام الذكاء االصطناعي‪ ،‬منها املجال العسكري‪ ،‬وهو ما يجعل‬ ‫‪)11‬‬
‫ً‬
‫الذكاء االصطناعي يعد سالحا في ذاته‪ ،‬فتستخدم تقنية الذكاء االصطناعي في‬
‫الروبوت املقاتل‪ ،‬وهو ربوت يحل محل الجندي املقاتل وله قدرة على تحديد‬
‫األهداف وإصابتها بدقة‪ ،‬كذلك تستخدم في الطائرات املقاتلة دون طيار وهي أبرز‬
‫وأحدث تطبيقات الذكاء االصطناعي في املجال العسكري‪ ،‬وتقوم هذه الطائرات‬
‫برصد األهداف وتصويرها بدقة كبيرة‪ ،‬وإصابتها بشكل دقيق‪ ،‬دون الحاجة إلى‬
‫وجود طيار يقودها‪.‬‬
‫ً‬
‫يثير وجود الذكاء االصطناعي عددا من اإلشكاليات القانونية منها‪ :‬تحديد الطبيعة‬ ‫‪)11‬‬
‫القانونية والشخصية القانونية له‪ ،‬فبالنظر إلى أنماط عمله وطبيعتها فإنه ال يمكن‬
‫القول بوجود شخصية قانونية مستقلة للذكاء االصطناعي‪ ،‬ألن الشخصية‬
‫القانونية قوامها اإلدراك والتمييز وحرية االختيار‪ ،‬وهو ما ال يتوفر في الذكاء‬
‫االصطناعي الذي يقوم على ضرورة وجود وكالء عنه يتحكمون به ويستخدمونه‪.‬‬
‫يتعدد أطراف املسؤولية الجنائية للذكاء االصطناعي‪ ،‬وهم‪ :‬الشركة املصنعة‬ ‫‪)12‬‬
‫واملبرمجة‪ ،‬ومالك التقنية أو مستخدمها‪ ،‬والذكاء االصطناعي نفسه‪ ،‬وتقوم‬
‫مسؤولية كل من الشركة املصنعة واملبرمجة ومالك التقنية ومستخدمها في حال‬
‫ثبوت نسبة العمل الذي صدر عن الذكاء االصطناعي الذي يشكل جريمة جنائية‪،‬‬
‫ويكون له إسهام فيه‪ ،‬كما لو كان تصنيع لو كان تصنيع الذكاء االصطناعي وبرمجته‬
‫قد تمت على نحو يجعله يرتكب جريمة‪ ،‬أو كما لو كانت الجريمة راجعة إلى سلوك‬
‫‪174‬‬
‫املالك أو املستخدم بفعل إرادي‪ ،‬فال تعدو تقنية الذكاء االصطناعي أن تكون‬
‫وسيلة الرتكاب الجريمة‪ ،‬والجاني هو املتسبب بالفعل واملتحكم به‪.‬‬
‫‪ )13‬تقوم املسؤولية الجنائية عن أفعال الذكاء االصطناعي في حال اكتمال الركن املادي‬
‫للجريمة املتمثل في السلوك اإلجرامي الذي يرتب نتيجة جرمية تربطهما عالقة‬
‫سببية‪ ،‬واكتمال الركن املعنوي املتمثل في القصد الجنائي املكون من علم الجاني‬
‫بحقيقة الفعل الذي يرتكبه ومع ذلك تتجه إرادته إلى ارتكابه رغم علمه به‪ ،‬فتكون‬
‫ً‬
‫املسؤولية الجنائية أثرا لوجود الجريمة‪ ،‬أي أنه يجب أن يتوافر الركن املعنوي في‬
‫جرائم الذكاء االصطناعي‪ ،‬فال يكفي تحقق الركن املعنوي والركن القانوني‪ ،‬فال بد‬
‫من وجود القصد الجنائي في الجرائم القصدية كأن يعلم مستخدم الذكاء‬
‫االصطناعي بموضوع وطبيعة الفعل الذي يرتكبه وأن يعلم بأنه فعل مجرم معاقب‬
‫ً‬
‫عليه قانونا‪ ،‬ثم تتجه إرادته إلى ارتكاب هذا الفعل‪ ،‬كما يجب أن يتوافر الخطأ في‬
‫جرائم الذكاء االصطناعي التي تقوم على أساس الخطأ‪ ،‬فتتجه إرادة الجاني الذي‬
‫يستخدم الذكاء االصطناعي إلى الفعل دون النتيجة التي يتوقعها وليس بإمكانه‬
‫تفاديها وتجنبها‪ ،‬ويترتب على هذا أن غياب الركن املعنوي بنوعيه القصدي وغير‬
‫القصدي في األفعال التي تشكل جرائم في ذاتها انتفاء املسؤولية الجنائية عنها‪.‬‬
‫ّ‬ ‫ً‬
‫املصنع واملبرمج‬ ‫‪ )14‬تتعدد املسؤولية الجنائية وفقا لظروف كل حالة‪ ،‬فقد يتحمل‬
‫ّ‬
‫املسؤولية الجنائية في حال كان الفعل الذي شكل جريمة راجع إلى ما قاموا به من‬
‫ً‬
‫تصنيع وبرمجة‪ ،‬بحيث تكون تلك األفعال املجرمة جزءا من اآللية التي تمت‬
‫صناعة الذكاء االصطناعي وبرمجته عليها‪ ،‬كما هو في حال الروبوت املقاتل‪ ،‬الذي‬
‫ُ‬
‫صنع لوظيفة محددة وهي القتال‪.‬‬
‫‪ )15‬كذلك قد يتحمل املالك أو املستخدم لتقنيات الذكاء االصطناعي املسؤولية‬
‫ً‬
‫الجنائية عن أفعال الروبوت إذا كان الفعل الذي شكل جريمة راجعا إلى‬
‫استخدامه‪ ،‬ال سيما وأن الشركات املصنعة واملبرمجة ّ‬
‫تنبه املالك واملستخدم إلى ما‬
‫قد يترتب على استخدام تقنيات الذكاء االصطناعي من أخطار‪ ،‬في سبيل رفع‬
‫‪175‬‬
‫املسؤولية الجنائية عن نفسها عما قد يصدر عن تلك التقنيات من أفعال مجرمة‪.‬‬

‫ّ‬
‫املصنع واملبرمج وبين املالك أو‬ ‫وقد تكون املسؤولية الجنائية مشتركة بين كل من‬ ‫‪)16‬‬
‫ً‬
‫املستخدم‪ ،‬إذا كان الفعل الذي شكل جريمة راجعا إلى أفعالهم املباشرة‪ ،‬كما لو‬
‫معين ثم قام مالك الذكاء‬ ‫كان الفعل بسبب التصنيع والبرمجة على نحو ّ‬
‫االصطناعي أو مستخدمه باستخدامه مع علمه بما سيترتب عليه من نتيجة مجرمة‬
‫بسبب فعله‪ ،‬فتقع املسؤولية الجنائية مشتركة بين الطرفين‪.‬‬
‫كما ويمكن أن تكون املسؤولية الجنائية على كيان الذكاء االصطناعي نفسه‪ ،‬وذلك‬ ‫‪)17‬‬
‫في تلك األنواع من الذكاء االصطناعي التي تعمل باستقالل ذاتي‪ ،‬وال تحتاج‬
‫ً‬
‫مستخدما يسيرها‪.‬‬
‫توقع على الوكالء املتسببين بارتكاب جريمة بواسطة الذكاء االصطناعي عقوبتي‬ ‫‪)18‬‬
‫ً‬
‫السجن والغرامة املالية‪ ،‬وفقا ملا ورد في قانون الجرائم اإللكترونية‪ ،‬ما لم ينص‬
‫قانون آخر على عقوبة إضافية‪ ،‬وتوقع على الذكاء االصطناعي عقوبة املصادرة إذا‬
‫كان وسيلة الرتكاب جريمة‪ ،‬وهي العقوبة الوحيدة املقررة عليه‪.‬‬
‫ً‬
‫أن العقوبات التي توقع على مستخدمي الذكاء االصطناعي وفقا لنصوص التشريع‬ ‫‪)19‬‬
‫الفلسطيني من خالل قانون الجرائم اإللكترونية تنحصر في عقوبة الحبس الذي‬
‫يقل عن ثالث سنوات‪ ،‬وعقوبة السجن الذي يزيد على ثالث سنوات وال يزيد عن‬
‫خمسة عشر سنة‪ ،‬وعقوبة الغرامة املالية التي ال تزيد عن خمسة آالف دينار‪.‬‬
‫أن العقوبات الواقعة على كيانات الذكاء االصطناعي في التشريع الفلسطيني هي‬ ‫‪)21‬‬
‫ً‬
‫عقوبة املصادرة دون غيرها من العقوبات املقررة‪ ،‬وذلك نظرا لطبيعة كيانات‬
‫الذكاء االصطناعي‪ ،‬فال يمكن تطبيق أي من العقوبات األخرى التي تطبق على‬
‫اإلنسان الطبيعي‪ ،‬لتعذر تطبيقها من الناحية العملية‪ ،‬إضافة إلى أن اإلنسان‬
‫ً‬
‫الطبيعي هو محل املسؤولية الجنائية ومحل العقاب وفقا لألصل‪.‬‬
‫إن املسؤولية الجنائية ال تقوم في مواجهة كيانات الذكاء االصطناعي عن أفعالها‬ ‫‪)21‬‬
‫التي تشكل جريمة جنائية‪ ،‬ألنها ال تتمتع بعنصري اإلدراك واإلرادة اللذين تقوم‬
‫‪176‬‬
‫عليهما املسؤولية الجنائية‪ ،‬فال يمكن لكيانات الذكاء االصطناعي أن تتحمل‬

‫املسؤولية الجنائية ألنها ال تملك إدراك يمكنها من اختيار أفعالها وفهم ماهيتها‪ ،‬وال‬
‫تمتلك إرادة تمكنها من ارتكاب الفعل بشكل حر مستقل‪ ،‬ألن أفعالها تتم من خالل‬
‫الوكالء الين يقومون بالتحكم فيها‪ ،‬ولذلك ال تقوم مسؤولية كيانات الذكاء‬
‫االصطناعي عما تقوم به من أفعال‪ ،‬وإنما تقوم املسؤولية الجنائية في مواجهة‬
‫هؤالء الوكالء املستخدمين‪.‬‬
‫‪ )22‬أن الذكاء االصطناعي لم يصل بعد إلى درجة من اإلدراك تؤهله لتحمل املسؤولية‬
‫الجنائية‪ ،‬فهو آلة مخترعة ال تملك سوى العمل وفق ما تم برمجتها عليه‪ ،‬وهي‬
‫ً‬
‫عرضة للخطأ وللعطل الفني‪ ،‬ويمكنها أن تقوم بارتكاب أفعال تشكل جريمة‪ ،‬ونظرا‬
‫ً‬
‫لعدم إمكان مساءلتها جنائيا فإن هذا ال يعني اإلفالت من املساءلة‪ ،‬فاملسؤولية هنا‬
‫تقع على النائب اإلنساني الذي ساهم في وجود هذا الخلل املؤدي إلى ارتكاب جريمة‪،‬‬
‫ً‬ ‫ّ ً‬
‫مصنعا ومبرمجا‪ ،‬أو كان املستخدم لهذه التقنيات فيجب عليهم معرفة‬ ‫سواء أكان‬
‫كيفية عمل هذه التقنية‪ ،‬ومعرفة كيفية التعامل مع األعطال‪ ،‬إضافة إلى ضرورة‬
‫وجود قواعد استخدام محددة يتم من خاللها تفادي وقوع أخطاء تشكل جريمة في‬
‫حال حدوث خلل فني‪ ،‬كنشر الروبوتات القاتلة في أوقات محددة‪ ،‬بحيث تضبط‬
‫حركتها‪.‬‬
‫‪ )23‬عدم وجود تشريعات قانونية تنظم الذكاء االصطناعي فال نقدر على تحديد‬
‫املسؤولية الجنائية ألي جريمة التي ارتكبها الذكاء االصطناعي ذاتيا فيجب تنظيم‬
‫كل هذه األمور‪.‬‬
‫‪ )24‬زيادة انتهاك خصوصية االنسان واالعتداء على حياتهم الشخصية في ظل تقنيات‬
‫الذكاء االصطناعي‪.‬‬
‫‪177‬‬
‫التوصيات‪:‬‬
‫يوص ي الباحث إلى أنه يجب أن يتم االعتراف بالشخصية القانونية املحدودة للذكاء‬ ‫‪)1‬‬
‫االصطناعي‪ ،‬وتقنياته‪ ،‬وكياناته بالقدر الذي يسمح أن تكون هناك مسؤولية جناية‬
‫مشتركة مع املبرمج واملستخدم حال ارتكاب أي جريمة ما‪.‬‬
‫يجب على املشرع أن يبدأ في عمل الدراسات ووضع تشريعات التي تنظم انتاج وعمل‬ ‫‪)2‬‬
‫الذكاء االصطناعي وتحدد املسؤولية الجنائية للذكاء االصطناعي ألي جريمة ارتكبها‬
‫ذاتيا وملواجهة كافة املستجدات التي قد تحدث نتيجة لتطبيقات هذا الذكاء‬
‫االصطناعي‪.‬‬
‫ونهيب املشرعين إلى ضرورة وضع قواعد قانونية متخصصة يكون من شأنها أن‬ ‫‪)3‬‬
‫توافر الحماية للمضرورين من األضرار التي تسببها كيانات الذكاء االصطناعي‪.‬‬
‫ضرورة تدخل املشرع الفوري ووضع تصور يسمح بإمكانية تطبيق قواعد املسؤولية‬ ‫‪)4‬‬
‫الجنائية الناشئة عن أضرار وجرائم الذكاء االصطناعي على كل األطراف سواء‬
‫ُ‬
‫املصنع أو املبرمج‪ ،‬واملستخدم‪ ،‬والذكاء االصطناعي نفسه‪ ،‬مع وضع عقوبات‬
‫تناسبهم‪.‬‬
‫ضرورة نشر ثقافة الذكاء االصطناعي من خالل التدريس في مادة التكنولوجيا‬ ‫‪)5‬‬
‫ضمن املناهج الدراسية وبالتحديد في السنوات الدراسية املبكرة من أجل فتح آفاق‬
‫في مجال العلوم والتكنولوجيا الحديثة‪.‬‬
‫ضرورة اعتراف الدولة في تشريعاتها الوطنية بالطبيعة القانونية الخاصة للذكاء‬ ‫‪)6‬‬
‫االصطناعي وتقنياته وخاصة الروبوتات املقاتلة ذاتية التشغيل‪ ،‬حتى يتم تحديد‬
‫الجهة املسؤولة عن األضرار التي تحدثها‪ ،‬واالعتراف بمبدأ مسؤولية البشر عن‬
‫القرارات التي تتخذها كيانات الذكاء االصطناعي كالروبوتات املستقلة‪.‬‬
‫يجب إبرام املعاهدات الدولية التي تنظم مسؤولية الدول عن األضرار التي تحدثها‬ ‫‪)7‬‬
‫كيانات الذكاء االصطناعي وتقنياته‪ ،‬خاصة األضرار التي تحدثها األسلحة ذاتية‬
‫التشغيل‪ ،‬بحيث يتم اتخاذ كافة إجراءات التأمين الالزمة لها‪ ،‬مع اتخاذ كافة‬
‫‪178‬‬
‫إجراءات األمن السيبراني ليتم حماية كافة برامج الذكاء االصطناعي املستخدمة‪.‬‬
‫ضرورة ووجوب وضع الذكاء االصطناعي‪ ،‬واآلتة‪ ،‬وتقنياته‪ ،‬وكياناته وكل ما يشمله‬ ‫‪)8‬‬
‫ُ‬
‫تحت التأمين اإلجباري وإصدار شهادة بأسماء املصنع‪ ،‬واملبرمج‪ ،‬واملستخدم‪،‬‬
‫وشهادة تضمن كافة املخاطر‪.‬‬
‫تزايد تأثير تقنيات الذكاء االصطناعي على حياة الناس في الوقت الحالي أصبح من‬ ‫‪)9‬‬
‫الضروري القيام بالتدخل القانوني ووضع القواعد الالزمة واإلطار القانوني ليتمكن‬
‫من خالل هذا اإلطار محاسبة تقنيات الذكاء االصطناعي على جرائمه التي يرتكبها‬
‫وضبط هذا األمر بكافة الطرق القانونية ويتوجب على املشرع أن يضع بعض املواد‬
‫القانونية التي تضبط هذا األمر بشأن الذكاء االصطناعي‪.‬‬
‫ضرورة عقد وقيام ورشات العمل واملؤتمرات والندوات واملراكز‪ ،‬والدوائر البحثية‬ ‫‪)11‬‬
‫والقانونية حول الذكاء االصطناعي وتقنياته والتطرق والحديث عن جرائم الذكاء‬
‫االصطناعي واألطر القانونية للمسؤولية الجنائية الناشئة عن تلك الجرائم وتقديم‬
‫نتائج دراساتها وبحوثها وتوصياتها إلى السلطة التشريعية كمرجع متخصص تستند إليه‬
‫في فهم آلية وطريقة عمل الذكاء االصطناعي ومجاالته‪ ،‬وصوره‪ ،‬ومستحدثاته وأخطائه‪.‬‬
‫إنشاء جهات رقابية وتنظيمية ووقائية تعمل على مراقبة وتطوير الذكاء االصطناعي‬ ‫‪)11‬‬
‫وتقنياته وتطبيقاته‪ ،‬واالشراف على كيانات الذكاء االصطناعي‪ ،‬ومكافحة كافة‬
‫وجوه االستغالل الس يء لهم ليتم حماية كل شخص طبيعي واعتباري من ذلك‪.‬‬
‫العمل على إنشاء وبناء فريق عمل رأس اهتمامه وشؤون عمله االهتمام بتقنيات‬ ‫‪)12‬‬
‫الذكاء االصطناعي وتشكيل مجلس الذكاء االصطناعي للدولة وإنشاء فرق عمل مع‬
‫الرؤساء التنفيذيين لالبتكار في الجهات الحكومية وأن يتم وصياغة الخطط‬
‫االستراتيجية ونشرها في القمة العاملية للحكومات لألعوام املقبلة‪.‬‬
‫تفعيل العديد من البرامج واملبادرات وورش العمل في جميع الجهات الحكومية‬ ‫‪)13‬‬
‫واألهلية حول اآلليات التطبيقية للذكاء االصطناعي‪ ،‬وبيان مخاطر استخدام‬
‫الذكاء االصطناعي وتقنياته‪ ،‬وتنظيم قمة عاملية سنوية‪ ،‬وإطالق املسرعات‬
‫‪179‬‬
‫الحكومية للذكاء االصطناعي‪.‬‬

‫العمل على تنمية قدرات القيادات الحكومية التي يقع عليها التعامل مع مجاالت‬ ‫‪)14‬‬
‫الذكاء االصطناعي‪ ،‬على طريقة عمله وآليته ومجاالته‪ ،‬ورفع مهارات جميع‬
‫الوظائف املتصلة بالتكنولوجيا‪ ،‬وتنظيم دورات تدريبية للموظفين الحكوميين‬
‫بهدف رفع مستوى املعرفة بالذكاء االصطناعي‪.‬‬
‫توفير العديد من خدمات الخط األول للجمهور من خالل الذكاء االصطناعي‪ ،‬ودمج‬ ‫‪)15‬‬
‫الذكاء االصطناعي بنسبة معقولة في الخدمات الطبية‪ ،‬واألمنية الخاصة بتحديد‬
‫الهوية‪ ،‬وزيادة االعتماد على الذكاء االصطناعي في الوظائف الروتينية‪.‬‬
‫ُ‬
‫ضرورة إفراد املشرع الجزائي نصوص إجرائية خاصة ملالحقة الجرائم املرتبطة‬ ‫‪)16‬‬
‫ً‬
‫بالذكاء االصطناعي‪ ،‬وخصوصا قواعد اإلثبات الجزائي بما في ذلك إجراءات خاصة‬
‫بالتفتيش والضبط‪ .‬فيجب تخصيص نصوص قانونية تنظم مسألة وقف أو‬
‫تجميد بعض األجهزة (املوصومة بأجهزة الذكاء االصطناعي) عن العمل لحين‬
‫االنتهاء من املالحقة القضائية‪.‬‬
‫ضرورة أن تتوافر الخبرة في كيفية إنشاء حلول للذكاء االصطناعي‪ ،‬وإدارتها على‬ ‫‪)17‬‬
‫نطاق واسع ألن مشروع الذكاء االصطناعي يتطلب أكثر من مجرد توظيف عالم‬
‫بيانات‪ ،‬إذ يجب على املنظمات القيام بتنفيذ األدوات‪ ،‬والعمليات واستراتيجية‬
‫اإلدارة وذلك لضمان نجاح تقنيات الذكاء االصطناعي‪.‬‬
‫العمل على إنشاء انشاء إدارة مستقلة في وزارة الداخلية وإطالق عليها اسم إدارة‬ ‫‪)18‬‬
‫مكافحة جرائم االعتداء وخاصة االعتداء على أمن املعلومات الحكومية‪ ،‬بحيث‬
‫تختص في مالحقة ذلك النمط االجرامي بالتحري‪ ،‬والتحقيق‪ ،‬واالستعداد الدائم‬
‫ملواجهة متغيراتها‪ ،‬وأسلوب ارتكابها‪ ،‬والوقوف على كل تطور تقني او علمي يمكن ان‬
‫ُيستخدم لإلضرار باألمن العام‪.‬‬
‫ضرورة القيام بإنشاء صناديق ضمان خاصة بتعويض األضرار الناجمة عن‬ ‫‪)19‬‬
‫حوادث كيانات الذكاء االصطناعي وتقنياته‪ ،‬وفتح االشتراك فيه من قبل جميع‬
‫‪180‬‬
‫الفاعلين في قطاع الذكاء االصطناعي سواء شركات التصميم‪ ،‬والتصنيع‪ ،‬والشركات‬

‫البائعة‪ ،‬والداعمة وغيرهم في هذا النشاط‪ ،‬وحتى املستعملين املهنيين لهذه األنظمة‬
‫مثل األطباء‪ ،‬وذلك لضمان وكفالة حصول املضرورين على التعويض‪ ،‬وديمومة‬
‫هذا النشاط ودعم مالئمتهم املالية الالزمة‪.‬‬
‫‪ )21‬العمل على دعوة الجهات القضائية إلى االستفادة من تطبيقات الذكاء االصطناعي‬
‫ً‬ ‫ً‬
‫وتقنياته املهمة في املجال القضائي‪ ،‬والعناية بهذه التكنولوجيا دراسة وتطبيقا بما‬
‫ً‬
‫ال يتعارض مع األحكام الثابتة قضائيا‪.‬‬
‫‪ )21‬حقيقة هناك عدة حلول أوال ومع وجود قانون الجرائم االلكترونية عندنا يجب ان‬
‫يتم االعتراف فيه بالشخصية االلكترونية لتطبيقات الذكاء االصطناعي‪ ،‬ويجب أن‬
‫يتم وضع فيه مادة قانونية تبين تطبيقات لجرائم تقنيات الذكاء االصطناعي مفهوم‬
‫الذكاء االصطناعي‪ ،‬ويستقص ي أبرز أجهزة وتطبيقات الذكاء االصطناعي املوجودة‬
‫واملعتمدة‪ ،‬وينظم املسؤولية الجنائية املترتبة على أفعالها‪ ،‬وحاالتها‪ ،‬وتحديد‬
‫األفعال التي تعد جرائم جنائية‪ ،‬وتحديد العقوبات الجنائية التي توقع على مرتكب‬
‫جرائم الذكاء االصطناعي‪.‬‬
‫أما الحل الثاني‪ :‬يجب دعوة املشرع الحكيم إلى التدخل التشريعي وسن ووضع‬
‫قانون وتشريع خاص للذكاء االصطناعي اجرائيا وموضوعيا وتقنين أوضاعه لتسهيل‬
‫كشف املسؤول جنائيا عن الجرائم التي ترتكبها كيانات الذكاء االصطناعي‪ ،‬وليستوعب‬
‫تغطية جميع متطلبات املسؤولية القانونية بحيث يتم ضمان الحقوق ويحافظ على‬
‫القاعدة الخالدة في القانون املدني بأن كل أضرار بالغير يلزم فاعله بضمان الضر‪ ،‬وكل‬
‫هذا سوف يتم العمل به في املستقبل‪.‬‬
‫وثالثا‪ :‬يجب التشجيع والعمل على إدخال تقنيات الذكاء االصطناعي في العديد من‬
‫املجاالت ومن جهة أخرى املوازنة بين التشجيع والتطوير ووضع القواعد القانونية‬
‫الالزمة لتوفير الحماية للمجتمع من األشخاص الذين يستغلون الذكاء االصطناعي‬
‫وتقنياته في أعمال الشر وما يتبعه من عواقب وأضرار كبيرة‪.‬‬
‫‪181‬‬
‫‪182‬‬
‫قائمة المصادر والمراجع‬
‫قائمة املصادر واملراجع‬

‫املصادر‪:‬‬
‫مجلة األحكام العدلية لسنة ‪1876‬م‪.‬‬ ‫‪‬‬
‫القانون املدني املصري‪ ،‬رقم (‪ ،)131‬لسنة ‪1948‬م‪ ،‬عدد ‪1948/7/29 ،108‬م‪.‬‬ ‫‪‬‬
‫قانون العقوبات الفلسطيني رقم (‪ )16‬لسنة ‪1960‬م‪.‬‬ ‫‪‬‬
‫قانون التجارة املصري‪ ،‬رقم (‪ ،)17‬لسنة ‪1999‬م‪ ،‬عدد‪ ،19‬تاريخ اإلصدار‪:‬‬ ‫‪‬‬
‫‪1999/5/17‬م‪.‬‬
‫املذكرة اإليضاحية ملشروع قانون التجارة الفلسطيني‪ ،‬لسنة ‪2004‬م‪ ،‬ديوان‬ ‫‪‬‬
‫الفتوى والتشريع الفلسطيني‪.‬‬
‫القانون األساس ي الفلسطيني لعام ‪2005‬م‪ ،‬الوقائع الفلسطينية‪ ،‬العدد ممتاز‪.‬‬ ‫‪‬‬
‫قانون حماية املستهلك الفلسطيني‪ ،‬رقم (‪ ،)21‬لسنة ‪ ،2005‬منشور في مجلة‬ ‫‪‬‬

‫الوقائع الفلسطينية‪ ،‬عدد املجلة ‪ ،21‬بتاريخ ‪2005/11/1‬م‪.‬‬
‫قانون حماية املستهلك الفلسطيني‪ ،‬رقم (‪ ،)21‬لسنة ‪ ،2005‬منشور في مجلة‬ ‫‪‬‬
‫الوقائع الفلسطينية‪ ،‬عدد املجلة ‪ ،21‬بتاريخ ‪2005/11/1‬م‪ ،‬ص‪.37‬‬
‫قرار بقانون‪ ،‬رقم (‪ ،)13‬لسنة ‪ ،2009‬بالالئحة التنفيذية لقانون حماية املستهلك‪،‬‬ ‫‪‬‬
‫منشور في مجلة الوقائع الفلسطينية‪ ،‬عدد املجلة ‪ ،86‬بتاريخ ‪2009/11/23‬م‪.‬‬
‫قرار بقانون رقم (‪ )10‬لسنة ‪2018‬م‪ ،‬بشأن الجرائم اإللكترونية‪.‬‬ ‫‪‬‬
‫قانون حماية املستهلك املصري‪ ،‬رقم (‪ )181‬لسنة ‪2018‬م‪ ،‬عدد‪ ،37‬تاريخ اإلصدار‪:‬‬ ‫‪‬‬
‫(‪2018/9/13‬م)‪.‬‬
‫‪183‬‬
‫الكتب‪:‬‬
‫الجبوري‪ ،‬فارس‪ ،‬العيب الخفي في ضوء قوانين حماية املستهلك‪ ،‬دروب املعرفة‬ ‫‪‬‬
‫للنشر‪ ،‬ط‪ ،1‬مصر‪2022 ،‬م‪.‬‬
‫السعدي‪ ،‬واثبة‪ ،‬الوجيز في شرح قانون العقوبات‪ ،‬القسم العام‪ ،‬النظرية العامة‬ ‫‪‬‬
‫للجريمة والعقاب‪ ،‬عمان‪ ،‬دار اليازوري‪2012 ،‬م‪.‬‬
‫السنهوري‪ ،‬عبد الرزاق‪ ،‬الوسيط في شرح القانون املدني‪-‬حق امللكية‪ ،-‬الجزء ‪،8‬‬ ‫‪‬‬
‫دار احياء التراث العربي‪ ،‬لبنان‪1952 ،‬م‪.‬‬
‫السنهوري‪ ،‬عبد الرزاق‪ ،‬علم أصول القانون‪ ،‬مطبعة فتح هللا نوري‪ ،‬مصر‪،‬‬ ‫‪‬‬
‫‪1936‬م‪.‬‬
‫خزيمية ‪ ،‬محمد منصور‪ ،‬املسؤولية املدنية عن أضرار الذكاء االصطناعي دراسة‬ ‫‪‬‬
‫مقارنة‪ ،‬دار الشامل للنشر و التوزيع – فلسطين‪ ،‬جنين‪2023 ،‬م‪.‬‬
‫الشرقاوي‪ ،‬محمود‪ ،‬القانون البحري‪ ،‬القاهرة‪ ،‬دار النهضة العربية‪1978 ،‬م‪.‬‬ ‫‪‬‬
‫الفار‪ ،‬عبد القادر‪ ،‬املدخل لدراسة العلوم القانونية‪ ،‬دار الثقافة للنشر والتوزيع‪،‬‬ ‫‪‬‬
‫ط‪ ،1‬عمان‪/‬األردن‪2008 ،‬م‪.‬‬
‫النجار‪ ،‬فايز‪ ،‬نظم املعلومات اإلدارية‪ :‬منظور إداري‪ ،‬دار الحامد للنشر والتوزيع‪،‬‬ ‫‪‬‬
‫األردن‪ ،‬الطبعة الرابعة‪2010 ،‬م‪.‬‬
‫النمر‪ ،‬رائد‪ ،‬الحراسة في نطاق املسؤولية عن فعل األشياء دراسة مقارنة‪ ،‬ط‪ ،1‬دار‬ ‫‪‬‬
‫وائل للنشر‪ ،‬األردن‪2015 ،‬م‪.‬‬
‫الوالي‪ ،‬عبد هللا‪ ،‬املسؤولية املدنية عن أضرار تطبيقات الذكاء االصطناعي في‬ ‫‪‬‬
‫القانون اإلماراتي‪ ،‬ط‪ ،1‬دار النهضة العلمية للنشر والتوزيع‪ ،‬اإلمارات‪ ،‬دبي‪،‬‬
‫‪2021‬م‪.‬‬
‫أمين‪ ،‬دواس‪ ،‬مجلة األحكام العدلية وقانون املخالفات املدنية «‪ ،»2‬املعهد‬ ‫‪‬‬
‫‪184‬‬
‫القضائي الفلسطيني‪ ،‬لسنة ‪2012‬م‪ ،‬ص‪.117‬‬

‫بالل‪ ،‬احمد‪ ،‬مبادئ قانون العقوبات املصري‪ ،‬القسم العام‪ ،‬دار النهضة العربية‬ ‫‪‬‬
‫للطبع والنشر والتوزيع‪2006 ،‬م‪.‬‬
‫جرادة‪ ،‬عبد القادر‪ ،‬مبادئ قانون العقوبات الفلسطيني‪ ،‬فلسطين‪ ،‬مكتبة آفاق‪،‬‬ ‫‪‬‬
‫‪2013‬م‪.‬‬
‫حسن ربيع‪ ،‬املبادئ العامة للجريمة‪ ،‬دار النهضة العربية‪ ،‬القاهرة‪1996 ،‬م‪.‬‬ ‫‪‬‬
‫حسني‪ ،‬محمود‪ ،‬شرح قانون العقوبات‪ ،‬القسم العام‪ ،‬الطبعة الخامسة‪ ،‬دار‬ ‫‪‬‬
‫النهضة العربية‪ ،‬القاهرة‪1982 ،‬م‪.‬‬
‫حسني‪ ،‬محمود‪ ،‬شرح قانون العقوبات اللبناني‪ ،‬القسم العام‪ ،‬بيروت‪ ،‬دار‬ ‫‪‬‬
‫النهضة العربية‪1984 ،‬م‪.‬‬
‫سالم‪ ،‬العزاوي‪ ،‬مسؤولية املنتج في القوانين املدنية واالتفاقيات الدولية‪ ،‬دار‬ ‫‪‬‬
‫الثقافة‪ ،‬عمان‪2008 ،‬م‪.‬‬
‫آالن‪ ،‬بونيه‪ ،‬الذكاء االصطناعي واقعه ومستقبلية‪ ،‬مطابع السياسة‪ ،‬الكويت‪ ،‬بدون‬ ‫‪‬‬
‫طبعة‪1993 ،‬م‪.‬‬
‫سلطان‪ ،‬أنور‪ ،‬املبادئ القانونية العامة‪ ،‬دار الجامعة الجديدة‪ ،‬اإلسكندرية‪،‬‬ ‫‪‬‬
‫‪2005‬م‪.‬‬
‫عبد القادر‪ ،‬وضاح‪ ،‬نظرة حديثة إلى التزام البائع بضمان العيوب الخفية‪ ،‬املركز‬ ‫‪‬‬
‫العربي للنشر‪ ،‬ط‪ ،1‬املركز العربي للنشر‪ ،‬مصر‪2019 ،‬م‪.‬‬
‫عبد النور‪ ،‬عادل‪ ،‬مدخل إلى عالم الذكاء االصطناعي‪ ،‬اململكة العربية السعودية‪،‬‬ ‫‪‬‬
‫مدينة امللك عبد العزيز للعلوم والتقنية‪2005 ،‬م‪.‬‬
‫عثامنية‪ ،‬أمينة‪ ،‬املفاهيم األساسية للذكاء االصطناعي‪ ،‬كتاب جماعي‪ ،‬اشراف‬ ‫‪‬‬
‫وتنسيق أبو بكر خوالد‪ ،‬تطبيقات الذكاء االصطناعي كتوجه حديث لتعزيز‬
‫تنافسية منظمات األعمال‪ ،‬املركز الديمقراطي العربي للدراسات اإلستراتيجية‬
‫‪185‬‬
‫والسياسية واالقتصادية‪ ،‬برلين‪-‬أملانيا‪ ،‬الطبعة األولى بدون عدد‪2019 ،‬م‪.‬‬

‫فريد‪ ،‬هشام‪ ،‬الدعائم الفلسفية للمسؤولية الجنائية‪ ،‬القاهرة‪ ،‬دار النهضة‬ ‫‪‬‬
‫العربية‪1981 ،‬م‪.‬‬
‫السهيلي‪ ،‬محمد‪ ،‬تطورات الذكاء االصطناعي ومقتضيات حماية الحقوقق‬ ‫‪‬‬
‫والحريات األساسية‪ ،‬إدارة الشؤون القانونية بمنظمة االيسيسكو‪ ،‬اململكة‬
‫املغربية‪ ،‬الرباط‪2019 ،‬م‪.‬‬
‫مارجريت بودين‪ ،‬الذكاء االصطناعي مقدمة قصيرة جدا‪ ،‬اململكة املتحدة‪ ،‬جامعة‬ ‫‪‬‬
‫إكسفورد‪2018 ،‬م‪.‬‬
‫غالب‪ ،‬ياسين‪ ،‬أساسيات نظم املعلومات اإلدارية وتكنولوجيا املعلومات‪ ،‬دار‬ ‫‪‬‬
‫املناهج للنشر والتوزيع‪ ،‬ط‪ ،1‬عمان‪2019 ،‬م‪.‬‬
‫الرسائل العلمية‪:‬‬
‫إبراهيم‪ ،‬أحمد‪ ،‬املسؤولية الجنائية الناتجة عن أخطاء الذكاء االصطناعي في‬ ‫‪‬‬
‫التشريع اإلماراتي‪ ،‬رسالة دكتوراه‪ ،‬جامعة عين شمس‪2020 ،‬م‪.‬‬
‫البلغيتي‪ ،‬أيوب‪ ،‬املسؤولية القانونية لروبوتات الذكاء االصطناعي‪ ،‬رسالة لنيل‬ ‫‪‬‬
‫شهادة املاستر في القانون الخاص‪ ،‬جامعة سيدي محمد بن عبد هللا بفاس‪ ،‬كلية‬
‫العلوم القانونية واالقتصادية واالجتماعية‪2022-2021 ،‬م‬
‫إدلبي‪ ،‬عمر‪ ،‬املسؤولية الجنائية الناتجة من أعمال الذكاء االصطناعي‪ ،‬رسالة‬ ‫‪‬‬
‫ماجستير في القانون العام‪ ،‬كلية القانون‪ ،‬جامعة قطر‪ ،2023 ،‬ص‪.109‬‬
‫إطميزي‪ ،‬سارة‪ ،‬الذكاء االصطناعي في ظل القانون الجزائي‪ ،‬رسالة ماجستير‪،‬‬ ‫‪‬‬
‫استكماال ملتطلبات درجة املاجستير في القانون العام من كلية الدراسات العليا‪،‬‬
‫جامعة القدس‪ ،‬فلسطين‪2022 ،‬م‪.‬‬
‫العطرة‪ ،‬حمادي‪ ،‬الزاهر‪ ،‬نون‪ ،‬تحديات الذكاء االصطناعي للقانون‪ ،‬مذكرة‬ ‫‪‬‬
‫‪186‬‬
‫مقدمة الستكمال شهادة املاستر أكاديمي حقوق‪ ،‬تخصص قانون أعمال‪ ،‬جامعة‬
‫قاصدي مرباح ورقلة‪ ،‬كلية العلوم الحقوق والعلوم السياسية‪2021-2020 ،‬م‪،‬‬
‫ص ‪.67‬‬
‫القايدي‪ ،‬مشاعل‪ ،‬املسؤولية الجنائية للذكاء االصطناعي‪ ،‬بحث مقدم ضمن‬ ‫‪‬‬
‫متطلبات مقرر مشروع التخرج (حقوق ‪ )498‬في برنامج بكالوريوس الحقوق‪ ،‬جامعة‬
‫طيبة‪ ،‬اململكة العربية السعودية‪1442 ،‬ه‪ ،‬ص‪.4‬‬
‫الهدام‪ ،‬صابر‪ ،‬رسالة دبلوم ماستر تحت عنوان القانون في مواجهة الذكاء‬ ‫‪‬‬
‫االصطناعي (دراسة مقارنة)‪ ،‬جامعة سيدي محمد بن عبد هللا بفأس‪ ،‬كلية‬
‫العلوم القانونية واالقتصادية واالجتماعية‪2021 ،‬م‪.‬‬
‫عائشة‪ ،‬شقفة‪ ،‬الحماية القانونية للمصنفات الناشئة عن برامج الذكاء‬ ‫‪‬‬
‫االصطناعي‪ ،‬رسالة مقدمة لنيل درجة املاجستير‪ ،‬كلية القانون‪ ،‬قسم القانون‬
‫الخاص‪ ،‬جامعة اإلمارات العربية املتحدة‪2021 ،‬م‪.‬‬
‫فتيحة‪ ،‬رصاع‪ ،‬الحماية الجنائية للمعلومات على شبكة اإلنترنت‪ ،‬مذكرة لنيل‬ ‫‪‬‬
‫شهادة ماجستير في القانون العام‪ ،‬جامعة أبي بكر بلقايد‪-‬تلمسان‪ ،‬الجمهورية‬
‫الجزائرية‪.2012-2011 ،‬‬
‫لويس‪ ،‬بدر‪ ،‬أثر التطور التكنولوجي مع الحريات الشخصية في النظم السياسية‪،‬‬ ‫‪‬‬
‫رسالة الدكتوراه‪ ،‬كلية الحقوق‪ ،‬جامعة القاهرة‪1982 ،‬م‪.‬‬
‫موس ى‪ ،‬عمري‪ ،‬بالل‪ ،‬يس‪ ،‬اآلثار القانونية املترتبة عن استخدام الذكاء‬ ‫‪‬‬
‫االصطناعي‪ ،‬رسالة لنيل شهادة املاستر في الحقوق تخصص قانون االعمال‪ ،‬كلية‬
‫الحقوق والعلوم السياسية‪ ،‬جامعة زيان عاشور‪ ،‬الجزائر‪2020 ،‬م‪.‬‬
‫أحباث و دوريات‪:‬‬
‫دهشان‪ ،‬يحيى‪ ،‬املسؤولية الجنائية عن أضرار الذكاء االصطناعي‪ ،‬مجلة الشريعة‬ ‫‪‬‬
‫والقانون كلية القانون جامعة اإلمارات‪ ،‬اإلمارات العربية املتحدة‪2019 ،‬م‪.‬‬
‫‪187‬‬
‫أحمد‪ ،‬عثمان‪ ،‬انعكاسات الذكاء االصطناعي على القانون املدني دراسة مقارنة‪،‬‬ ‫‪‬‬
‫مجلة البحوث القانونية واالقتصادية‪ ،‬العدد‪ ،76‬جامعة املنصورة‪ ،‬كلية الحقوق‪،‬‬
‫‪2021‬م‪.‬‬
‫العدوان‪ ،‬ممدوح‪ ،‬دراسات حول املسؤولية الجنائية عن أفعال كيانات الذكاء‬ ‫‪‬‬
‫االصطناعي غير املشروعة‪ ،‬علوم الشريعة والقانون‪ ،‬املجلد ‪ ،48‬عدد ‪2021 ،4‬م‪.‬‬
‫األستاذ‪ ،‬سوزان‪ ،‬انتهاك حرمة الحياة الخاصة عبر اإلنترنت‪ ،‬مجلة جامعة دمشق‬ ‫‪‬‬
‫للعلوم القانونية واالقتصادية‪ ،‬املجلد ‪ ،29‬العدد الثالث‪2013 ،‬م‪.‬‬
‫الدحيات‪ ،‬عماد‪ ،‬نحو تنظيم قانوني للذكاء االصطناعي في حياتنا‪ :‬إشكالية العالقة‬ ‫‪‬‬
‫بين البشر واآللة‪ ،‬مجلة االجتهاد للدراسات القانونية واالقتصادية‪ ،‬مجلد ‪ ،8‬عدد‬
‫‪2009 ،5‬م‪.‬‬
‫عبد اللطيف‪ ،‬محمد‪ ،‬املسؤولية عن الذكاء االصطناعي بين القانون الخاص‬ ‫‪‬‬
‫والقانون العام‪ ،‬بحث مقدم إلى مؤتمر الجوانب القانونية واالقتصادية للذكاء‬
‫االصطناعي وتكنولوجيا املعلومات‪ ،‬كلية الحقوق‪ ،‬جامعة املنصورة‪2021 ،‬م‪.‬‬
‫عمار‪ ،‬توظيف تقنيات الذكاء االصطناعي في العمل األمني‪ ،‬مجلة األمن والقانون‪،‬‬ ‫‪‬‬
‫أكاديمية شرطة دبي‪ ،‬املجلد ‪ ،28‬عدد ‪2020 ،1‬م توظيف تقنيات الذكاء‬
‫االصطناعي في العمل األمني‪ ،‬مجلة األمن والقانون‪ ،‬أكاديمية شرطة دبي‪ ،‬املجلد‬
‫‪ ،28‬عدد ‪2020 ،1‬م‪.‬‬
‫البلتاجي‪ ،‬محمد‪ ،‬أثر الذكاء االصطناعي في سوق األوراق املالية‪ ،‬مجلة البحوث‬ ‫‪‬‬
‫القانونية واالقتصادية‪ ،‬جامعة املنصورة‪ ،‬كلية الحقوق‪ ،‬عدد ‪2021 ،75‬م‪.‬‬
‫الجلعود‪ ،‬أروى‪ ،‬أحكام تطبيقات الذكاء االصطناعي في القضاء‪ ،‬دراسات قضائية‪،‬‬ ‫‪‬‬
‫الجمعية العلمية القضائية السعودية‪ ،‬مكتبة امللك فهد الوطنية‪ ،‬الرياض‪ ،‬الطبعة‬
‫األولى‪ ،‬مركز قضاء للبحوث والدراسات‪2023-2022 ،‬م‪.‬‬
‫الخالدي‪ ،‬إيناس‪ ،‬حوكمة استخدام الذكاء االصطناعي في العمل القضائي‪ ،‬مجلة‬ ‫‪‬‬
‫‪188‬‬
‫البحوث والدراسات الشرعية‪ ،‬مجلد ‪ ،10‬عدد ‪2021 ،116‬م‪.‬‬

‫الخطيب‪ ،‬محمد‪ ،‬الذكاء االصطناعي والقانون‪-‬دراسة نقدية مقارنة في التشريعين‬ ‫‪‬‬
‫املدني الفرنس ي والقطري‪-‬في ضوء القواعد األوروبية في القانون املدني لإلنسآلة‬
‫لعام ‪2017‬والسياسة الصناعية األوروبية للذكاء االصطناعي واإلنسآالت لعام‬
‫‪ ،2019‬مجلة جامعة بيروت العربية‪ ،‬مجلة الدراسات القانونية‪ ،‬املادة ‪2020 ،4‬م‪.‬‬
‫الخطيب‪ ،‬محمد‪ ،‬املسئولية املدنية والذكاء االصطناعي وإمكانية املساءلة‪ ،‬دراسة‬ ‫‪‬‬
‫تحليلية معمقة لقواعد املسؤولية املدنية في القانون املدني الفرنس ي‪ ،‬مجلة كلية‬
‫القانون الكويتية العاملية‪ ،‬السنة الثامنة‪ ،‬العدد األول‪ ،‬الدوحة‪ ،‬قطر‪2020 ،‬م‪.‬‬
‫الشريف‪ ،‬محمود‪ ،‬املسؤولية الجنائية لألنسآلة‪ :‬دراسة تأصيلية مقارنة‪Arab ،‬‬ ‫‪‬‬
‫‪2001 ،issu 1 ،Journal of Fornsic and Medcine‬م‪.‬‬
‫العبيدي‪ ،‬نهاية‪ ،‬مصنفات الذكاء االصطناعي وإمكانية الحماية بقانون حق املؤلف‪،‬‬ ‫‪‬‬
‫مجلة جامعة تكريت للحقوق‪ ،‬مجلد‪ ،5‬عدد‪ ،4‬الجزء ‪ ،2‬مركز القانون الدولي‬
‫للتنمية املستدامة‪ ،‬مونتريال‪ ،‬كندا‪2021 ،‬م‪.‬‬
‫الفالس ي‪ ،‬عبد هللا‪ ،‬املسؤولية الجنائية الناتجة عن أخطاء الذكاء االصطناعي‪،‬‬ ‫‪‬‬
‫املجلة القانونية‪ ،‬مجلة علمية محكمة‪ ،‬مجلة متخصصة في الدراسات والبحوث‬
‫القانونية‪2021 ،‬م‪.‬‬
‫القوص ي‪ ،‬همام‪ ،‬إشكالية الشخص املسؤول عن تشغيل الروبوت‪ ،‬مجلة جيل‬ ‫‪‬‬
‫األبحاث القانونية املعمقة‪ ،‬العدد ‪2018 ،25‬م‪.‬‬
‫القوص ي‪ ،‬همام‪ ،‬االفتراضية للروبوت وفق املنهج اإلنساني‪-‬دراسة تأصيلية تحليلية‬ ‫‪‬‬
‫استشرافية في القانون املدني الكويتي واألوروبي‪ ،‬مجلة جيل األبحاث القانونية‬
‫املعمقة‪ ،‬عدد‪2019 ،35‬م‪.‬‬
‫محمد‪ ،‬املشد‪ ،‬نحو إطار قانوني شامل للمسؤولية املدنية من أضرار نظم الذكاء‬ ‫‪‬‬
‫االصطناعي غير املراقب‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬عدد خاص‬
‫‪189‬‬
‫باملؤتمر الدولي السنوي العشرون‪ ،‬مصر‪2021 ،‬م‪ ،‬ص‪.331‬‬

‫امليساوي‪ ،‬خليفة‪ ،‬الذكاء االصطناعي وحوسبة اللغة العربية‪ :‬الواقع واآلفاق‪ ،‬مجلة‬ ‫‪‬‬
‫مدارات في اللغة واألدب الصادرة عن مركز مدارات للدراسات واألبحاث تبسة ‪-‬‬
‫الجزائر‪ ،‬مجلد ‪ ،1‬عدد ‪2021 ،5‬م‪.‬‬
‫أبو العيد‪ ،‬طاهر‪ ،‬مقال قانوني حول الذكاء االصطناعي والقانون‪ ،‬مصر‪2023 ،‬م‪.‬‬ ‫‪‬‬
‫بن طرية‪ ،‬معمر‪ ،‬شهيدة‪ ،‬قادة‪ ،‬أضرار الروبوتات وتقنيات الذكاء االصطناعي‪ :‬تحد‬ ‫‪‬‬
‫جديد لقانون املسؤولية املدنية الحالي ملحات في بعض مستجدات القانون املقارن‪،‬‬
‫دراسة مقارنة‪ ،‬مجلة كلية القانون الكويتية العاملية‪ ،‬العدد ‪2018 ،22‬م‪.‬‬
‫جهلول‪ ،‬الكرار‪ ،‬عودة‪ ،‬وحسام‪ ،‬املسؤولية املدنية عن األضرار التي يسببها‬ ‫‪‬‬
‫الروبوت‪ ،‬مجلة الطريق التعليمية واالجتماعية‪ ،‬عدد ‪.6‬‬
‫حاتم‪ ،‬دعاء‪ ،‬العزاوي‪ ،‬لمى‪ ،‬الذكاء االصطناعي واملسؤولية الجنائية الدولية‪ ،‬مجلة‬ ‫‪‬‬
‫املفكر‪ ،‬كلية الحقوق والعلوم السياسية‪ ،‬جامعة محمد بسكرة‪ ،‬عدد ‪2006 ،18‬م‪.‬‬
‫حسكر‪ ،‬مراد‪ ،‬إشكالية تطبيق أحكام املسؤولية الجنائية على جرائم الذكاء‬ ‫‪‬‬
‫االصطناعي‪ ،‬مجلة الحقوق والعلوم اإلنسانية‪ ،‬مجلد ‪ ،15‬عدد‪2022 ،1‬م‪.‬‬
‫خضر‪ ،‬دولي‪ ،‬نفيسة‪ ،‬ناصري‪ ،‬دور الذكاء االصطناعي في مواجهة الجرائم‬ ‫‪‬‬
‫اإللكترونية‪ ،‬مجلة املؤشر للدراسات االقتصادية‪ ،‬جامعة ظاهري محمد بشار‪،‬‬
‫الجزائر‪2018-2017 ،‬م‪.‬‬
‫خوالد‪ ،‬أبو بكر‪ ،‬بو زرب‪ ،‬خيرالدين‪ ،‬فعالية استخدام تطبيقات الذكاء االصطناعي‬ ‫‪‬‬
‫الحديثة في مواجهة فيروس كورونا )‪ :)COVID-19‬تجربة كوريا الجنوبية نموذجا‪،‬‬
‫مجلة بحوث اإلدارة واالقتصاد‪ ،‬مجلد‪ ،2‬عدد‪ ،2‬الجزائر ‪2020‬م‪ ،‬ص ‪.44‬‬
‫عميش‪ ،‬رحاب‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي‪ ،‬أكاديمية العربية‬ ‫‪‬‬
‫للعلوم والتكنولوجيا القرية الذكية‪ ،‬كلية الحقوق لغة انجليزية‪ ،‬املنصورة‪2021 ،‬م‪.‬‬
‫محمد‪ ،‬فتح الباب‪ ،‬الطبيعة القانونية للمسؤولية املدنية عن أضرار الروبوتات‪:‬‬ ‫‪‬‬
‫‪190‬‬
‫دراسة تحليلية مقارنة‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬عدد خاص باملؤتمر‬
‫الدولي السنوي العشرون‪ ،‬جامعة املنصورة‪ ،‬مصر‪2021 ،‬م‪ ،‬ص‪.88‬‬
‫فريدة‪ ،‬بن عثمان‪ ،‬الذكاء االصطناعي مقاربة قانونية‪ ،‬مجلة دفاتر السياسة‬ ‫‪‬‬
‫والقانون‪ ،‬جامعة لونيس ي علي‪ ،‬الجزائر‪ ،‬املجلد ‪ ،12‬العدد ‪2020 ،2‬م‪.‬‬
‫فولى‪ ،‬أحمد‪ ،‬مواجهة القانون الدولي للروبوتات املقاتلة وضبط استخدام الذكاء‬ ‫‪‬‬
‫االصطناعي في صناعة األسلحة‪ ،‬أكاديمية شرطة دبي‪ ،‬مجلد ‪ ،29‬عدد‪2021 ،1‬م‪.‬‬
‫صقر‪ ،‬وفاء‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي ‪-‬دراسة تحليلية‬ ‫‪‬‬
‫استشرافية‪ ،-‬مجلة روح القوانين‪2021 ،‬م‪.‬‬
‫عبد الحميد‪ ،‬عائشة‪ ،‬اإلطار القانوني والتشريعي للرقمنة والذكاء االصطناعي‪،‬‬ ‫‪‬‬
‫جمعية التنمية التكنولوجية والبشرية‪ ،‬الجزائر‪2020 ،‬م‪.‬‬
‫عبد الوهاب مريم‪ ،‬املسؤولية الجنائية عن جرائم الذكاء االصطناعي‪ ،‬مجلة القانون‬ ‫‪‬‬
‫والعلوم البيئية‪ ،‬عدد‪ ،2‬جامعة املدية‪ ،‬الجزائر‪.2023،‬‬
‫فطيمة‪ ،‬نساخ‪ ،‬الشخصية القانونية للكائن الجديد‪ :‬الشخص االفتراض ي الروبوت‪،‬‬ ‫‪‬‬
‫مجلة األستاذ الباحث للدراسات القانونية والسياسية‪ ،‬مجلد ‪ ،5‬عدد‪2020 ،1‬م‪.‬‬
‫كميلة‪ ،‬أعراب‪ ،‬مسؤولية الروبوت في ضل الذكاء االصطناعي‪ ،‬مقال منشور في كتاب‬ ‫‪‬‬
‫أعمال ملتقى االستثمار املالي والصناعي في الذكاء االصطناعي‪ ،‬جامعة مولود‬
‫معمري‪ ،‬الجزائر ‪2022‬م‪.‬‬
‫مجاهد‪ ،‬محمد‪ ،‬املسؤولية املدنية عن الروبوتات ذات الذكاء االصطناعي «دراسة‬ ‫‪‬‬
‫مقارنة»‪ ،‬املجلة القانونية‪ ،‬العدد ‪2021 ،2‬م‪.‬‬
‫محمد‪ ،‬مشعل‪ ،‬الذكاء االصطناعي وآثاره على حرية التعبير في مواقع التواص‬ ‫‪‬‬
‫االجتماعي‪ ،‬مجلة البحوث القانونية واالقتصادية‪ ،‬عدد‪ ،77‬كلية الحقوق جامعة‬
‫الزقاقيق‪2021 ،‬م‪.‬‬
‫مختار‪ ،‬محمود‪ ،‬تطبيقات الذكاء االصطناعي‪ ،‬املجلة الدولية للبحوث في العلوم‬ ‫‪‬‬
‫‪191‬‬
‫التربوية‪ ،‬املؤسسة الدولية آلفاق املستقبل‪ ،‬مجلد ‪ ،3‬عدد ‪2020 ،4‬م‪.‬‬

‫مكي‪ ،‬عمر‪ ،‬القانون الدولي اإلنساني في النزاعات املسلحة املعاصرة‪ ،‬اللجنة الدولية‬ ‫‪‬‬
‫للصليب األحمر‪2017 ،‬م‪.‬‬
‫منسل‪ ،‬كوثر‪ ،‬شناتلية‪ ،‬وفاء إثبات الخطأ الطبي في مجال الجراحة الروبوتية‪-‬نظام‬ ‫‪‬‬
‫دافنش ي نموذجا‪ ،-‬مداخلة قدمت في امللتقى الوطني عبئ إثبات الخطأ الطبي املرفقي‬
‫في املؤسسات العمومية للصحة وتطبيقاته القضائية في الجزائر‪2021 ،‬م‪.‬‬
‫بو عوة‪ ،‬هاجر‪ ،‬تطبيقات الذكاء االصطناعي الداعمة للقرارات اإلدارية في منظمات‬ ‫‪‬‬
‫األعمال‪ ،‬مقال منشور في الكتاب الجماعي املعنون ب «تطبيقات الذكاء االصطناعي‬
‫كتوجه حديث لتعزيز تنافسية منظمات األعمال»‪ ،‬الناشر املركز الديمقراطي العربي‬
‫للدراسات االستراتيجية والسياسية واالقتصادية‪ ،‬برلين‪ ،‬أملانيا‪ ،‬ط‪2019 ،1‬م‪.‬‬
‫املواقع االلكرتونية‪:‬‬
‫إبراهيم‪ ،‬السيد‪ ،‬مارك‪ ،‬موقع إلكتروني املنظومة ‪« ،ALMANDUMAH‬أساس‬ ‫‪‬‬
‫املسئولية عن فعل األشياء غير الحية في الفقه اإلسالمي»‪ ،‬مجلة الدراسات‬
‫القانونية‪ ،‬جامعة مدينة السادات‪ ،‬مصر‪،‬‬
‫‪2022 ،‬م‪https://search.mandumah.com .‬‬
‫الزهراني‪ ،‬هبة‪ ،‬املوقع االلكتروني املسؤولية الجنائية للذكاء االصطناعي‪ ،‬شركة مال‬ ‫‪‬‬
‫اإلعالمية الدولية‪ ،‬صحيفة مال‪،‬‬
‫‪https://maaal.com/2020/12/167055-2/ ،2020 ،‬‬
‫بدون رقم صفحة‪ ،‬تاريخ الزيارة ‪.2023/10/20‬‬
‫السداوي‪ ،‬مصطفى‪ ،‬موقع الكتروني أشخاص قتلتهم الروبوتات الذكية‪ ،‬مجلة‬ ‫‪‬‬
‫سيدتي‪،‬‬
‫‪،https://www.sayidaty.net ،2018‬‬
‫‪192‬‬
‫بدون رقم صفحة‪ ،‬تاريخ الزيارة ‪2023/10/20‬م‪.‬‬

‫العبد هللا‪ ،‬حسين‪ ،‬موقع الكتروني‪ :‬خبراء قانونيون لـ الجريدة‪ :‬على الدولة‬ ‫‪‬‬
‫االستعداد قانونيا وفنيا للتعامل مع أنظمة الذكاء االصطناعي‪ ،‬الجريدة‪ ،‬خاص‬
‫محليات‪ /‬قصر العدل‪2021 ،‬م‪،‬‬
‫‪https://www.aljarida.com/articles/16194496363229763 ،‬‬
‫تاريخ الزيارة ‪2023/11/2‬م‪.‬‬
‫انظر إلى املوقع اإللكتروني‪ ،‬إذا كان خصمك إنسان آلي «روبوت» فمن تقاض ي؟‪،‬‬ ‫‪‬‬
‫‪Deutsche Welle ،https://p.dw.com/p/3LJ8O2019، ،‬‬

‫تاريخ الزيارة ‪.2023 /10 /26‬‬
‫انظر إلى املوقع االلكتروني إيفان سلينغيز‪ ،‬درو هارتزوغ‪ ،‬مخاطر الثقة في أجهزة‬ ‫‪‬‬
‫الروبوت‪2015 ،‬م‪ ،‬تاريخ الزيارة‪2023/11/27:‬م‪،‬‬
‫‪https://www.bbc.com/arabic/scienceandtech/2015/08/150820_vert_fu‬‬
‫‪t_dangers_of_trusting_robots.‬‬
‫املوقع االلكتروني‪ ،‬استراتيجية االمارات للذكاء االصطناعي‪2023 ،‬‬ ‫‪‬‬
‫‪https://u.ae/ar-AE/about-the-uae/strategies-initiatives-and-‬‬
‫‪awards/strategies-plans-and-visions/government-services-and-digital-‬‬
‫‪transformation/uae-strategy-for-artificial-intelligence.‬‬
‫األحكام القضائية‪:‬‬
‫قرار محكمة التمييز األردنية‪ ،‬الدعوى الحقوقية‪ ،‬هيئة خماسية‪ ،‬رقم ‪،2477‬‬ ‫‪‬‬
‫لسنة ‪ ،2002‬تاريخ الفصل‪2007/4/12:‬م‪ ،‬أشار إليه دواس‪ ،‬أمين‪ ،‬في كتاب مجلة‬
‫األحكام العدلية وقانون املخالفات املدنية «‪ ،»2‬املعهد القضائي الفلسطيني‪ ،‬لسنة‬
‫‪2012‬م‪.‬‬
‫‪193‬‬
‫ القضية رقم‬،‫ استئناف حقوق‬،‫محكمة استئناف القدس الفلسطينية‬ 

.‫ قسطاس‬،‫م‬2017/3/27:‫ تاريخ الفصل‬،)2016/653(
،)2014/1076( ‫ القضية رقم‬،‫ الدعوى الحقوقية‬،‫محكمة النقض الفلسطينية‬ 
.‫ قسطاس‬،‫م‬2017/12/12 :‫تاريخ الفصل‬
‫ تاريخ الفصل‬،)2019/402( ‫ رقم‬،‫ الدعوى الحقوقية‬،‫محكمة النقض الفلسطينية‬ 
.‫ قسطاس‬،)2021/6/13(
‫ تاريخ‬،)2019/1472( ‫ الدعوى الحقوقية رقم‬،‫محكمة النقض الفلسطينية‬ 
.‫ قسطاس‬،)‫م‬2022/5/9( ‫الفصل‬
:‫ املراجع باللغة األجنبية‬:‫ثانيا‬
 Dorola Jelonek Agata Mesjas-Iechcezary Stepniak Tomasz Turekleszek
Ziora, The Artifical Intelligence Application in the Management of
Contemporary Organization, Theoretical Assumptions, Current
practices and Research Review Spiring, Cham 2019, p.24.
 GabRiel hallevy, WHEN ROBOTS KILL ARTIFICAL INTELLIGENCE
UNDER CRIMINAL LAW, Northastern University Press, Boston,2013.
 Gabrile Hallevy -Liability for Crimes Involving Artificial Intelligence
Systems-Springer International publishing Switzerland,2015 -2014.
 Matilda— Artificial Intelligence and the External Element of the Crime
An Analysis of the Liability Problem- Spring 2017- JURIDICUM –
JU101A, Final Thesis for the Law Program, Second Cycl.-26.
 Marcelo Corrales, Mark Fenwick, Robotics, AI and the Future of Law,
194
KYUSHU UNIVERSITY, Springer Nature Singapore, 2018.

 Ryan calo,A.Michael Froomkin and Ian Kerr, ROPOT LAW, Edward
Elagar PUPLISHING,USA,2016.
 Pradipta kumar Das, Clandrasekhar Rao, Kishore kumar sahu, Artificial
intellence lecture Notes, Bachelor, Departement of computer science
and engineering & information technology, veer surendra Sai
university of technology, (without a year).
 Newsom V. Branch Banking And Trust Company, United States District
Court, E.D, North Carolina, Eastern Division, January 9 ,2019.
 Yavar Bathae - Harvard- THE ARTIFICAL INTELLIGENCE BLACK BOX
AND THE FAILUR OF INTENT AND CAUSATION – Journal of Law &
Technology Volume 31, 2018.
 Jimin Shaw, Tesla's Autopilot System Responsibility Under The
California Injury Act, Boston College of Intellectual Property And
Technology Forum, 2017.
 WEISTER v. VANTAGE POINT AI, LLC, Case No. 8:21-cv-1250-SDM-
AEP, United States District Court, M.D. Florida, Tampa Division, August
3, 2022
https://www.leagle.com/decision/infdco20220808910.
195
‫‪196‬‬
‫فهرس المحتويات‬
‫فهرس احملتويات‬
‫الصفحة‬ ‫املوضــــــــــــــــــوع‬
‫‪7‬‬ ‫املقدمة ‪.................................................................................................................‬‬
‫‪11‬‬ ‫الذكاء االصطناعي‬

‫‪14‬‬ ‫املطلب األول‪ :‬ماهية الذكاء االصطناعي ‪..........................................................‬‬
‫‪18‬‬ ‫الفرع األول‪ :‬مفهوم الذكاء االصطناعي ‪.............................................................‬‬
‫‪21‬‬ ‫الفرع الثاني‪ :‬تعريف الذكاء االصطناعي ‪..........................................................‬‬
‫‪24‬‬ ‫املطلب الثاني‪ :‬نموذج الذكاء االصطناعي ‪.........................................................‬‬
‫‪27‬‬ ‫الفرع األول‪ :‬خصائص الذكاء االصطناعي ‪........................................................‬‬
‫‪33‬‬ ‫الفرع الثاني‪ :‬أهمية الذكاء االصطناعي‪..............................................................‬‬
‫‪41‬‬ ‫قواعد املسؤولية اجلنائية عن أضرار الذكاء االصطناعي‬

‫املطلب األول‪ :‬االساس القانوني للمسؤولية الجنائية عن أضرار الذكاء‬
‫االصطناعي ‪47 ...........................................................................................................‬‬
‫الفرع األول‪ :‬الطبيعة القانونية للذكاء االصطناعي ‪61 ...........................................‬‬
‫الفرع الثاني‪ :‬الشخصية القانونية للذكاء االصطناعي‪68 .....................................‬‬
‫املطلب الثاني‪ :‬املسؤولية الجنائية عن أضرار الذكاء االصطناعي ‪84 ..................‬‬
‫الفرع األول‪ :‬مسؤولية الغير عن أضرار الذكاء االصطناعي ‪118 ..............................‬‬
‫‪197‬‬
‫الصفحة‬ ‫املوضــــــــــــــــــوع‬
‫الفرع الثاني‪ :‬مسؤولية الذكاء االصطناعي عن اضراره ‪123 .....................................‬‬
‫‪141‬‬ ‫منوذج جرائم الذكاء االصطناعي‬

‫‪148‬‬ ‫املطلب األول‪ :‬جرائم الذكاء االصطناعي الذاتية ‪..............................................‬‬
‫‪149‬‬ ‫الفرع األول‪ :‬الجريمة العمدية الناتجة عن الذكاء االصطناعي ‪........................‬‬
‫‪152‬‬ ‫الفرع الثاني‪ :‬الجريمة الغير عمدية الناتجة عن الذكاء االصطناعي ‪................‬‬
‫‪154‬‬ ‫املطلب الثاني‪ :‬استخدام الذكاء االصطناعي في ارتكاب الجريمة‬
‫‪157‬‬ ‫الفرع األول‪ :‬الجريمة العمدية في استخدام الذكاء االصطناعي ‪.......................‬‬
‫‪161‬‬ ‫الفرع الثاني‪ :‬الجريمة الغير عمدية في استخدام الذكاء االصطناعي ‪..............‬‬
‫‪171‬‬ ‫الخاتمة و النتائج و التوصيات‪............................................................................‬‬
‫‪183‬‬ ‫قائمة املصادر واملراجع‪........................................................................................‬‬
‫‪197‬‬ ‫فهرس املحتويات ‪..................................................................................................‬‬
‫‪198‬‬
‫‪4‬‬

كتاب المسؤولية الجنائية عن أضرار الذكاء الاصطناعي

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

كتاب المسؤولية الجنائية عن أضرار الذكاء الاصطناعي

Uploaded by

Copyright:

Available Formats

‫المقدم ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ـ ــة‬

‫حممد علي أبو علي‬

‫مجيع احلقوق حمفوظة للمؤلف‬

‫املسؤولية اجلنائية عن أضرار الذكاء االصطناعي‬ ‫اسم الكتــاب‪:‬‬

‫حممد علي أبو علي‬ ‫إعـــــــــــــداد‪:‬‬

‫‪2024‬‬ ‫سنة الطبــع‪:‬‬

‫‪2023 / 30578‬‬ ‫رقم اإليــداع‪:‬‬

‫‪I.S.B.N. 978-977-04-9712-8‬‬ ‫الرتقيم الدولي‪:‬‬

‫إىل من صدق الوعد فينا رسولنا حممد ﷺ‬

‫إىل من وقفا جبواري منذ كنت اتعثر يف خطاي‬

‫إىل من تنار الطريق بهم أوالدي و زوجيت‬

‫إىل وطننا احلبيب و نفع العلم فيه‬

‫اللهم يا منزل الكتاب يا من علمتنا «إقرأ»‪،‬‬

‫‪ )2‬فهم و بيان أهمية و خصائص الذكاء االصطناعي‬

‫وبالتحديد املفاهيمي للذكاء االصطناعي فإنه يتكون من كلمتين «الذكاء» و‬

‫وقوله تعالى‪ :‬ﱣ ﲆﲇﱢ(‪.)4‬‬

‫ابن منظور‪« :‬معجم لسان العرب»‪ ،‬ج‪ ،14‬ص‪.287‬‬ ‫(‪)1‬‬

‫أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش‪ ،6‬ص ‪.11‬‬ ‫(‪)1‬‬

‫وميكن تقسيمه إىل ثالثة مناذج‪:‬‬

‫(‪ )1‬امليساوي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،7‬ص ‪.16‬‬

‫يتمتع الذكاء االصطناعي بالعديد من الخصائص والسمات األساسية‪ ،‬ومنها‪:‬‬

‫(‪ )1‬العدوان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،17‬ص ‪.151‬‬

‫(‪ )1‬أمينة عثامنية‪ ،‬مرجع سابق‪ ،‬هامش‪ ،6‬ص ‪.13‬‬

‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص‪.37‬‬

‫‪ )5‬وإعادة بناء مسرح الجريمة عبر نموذج شبكة القرار للتنبؤ‪.‬‬

‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص ‪.12‬‬

‫التأثير لها‪ ،‬ويوفر الوقت والتكاليف(‪.)1‬‬

‫(‪ )1‬الخطيب‪ ،‬مرجع سابق‪ ،‬هامش‪ ،21‬بدون رقم صفحة‪.‬‬

‫األنظمة الخبيرة‪ ،‬باإلضافة إلى تطبيقات ُ‬

‫(‪ )1‬العدوان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،17‬ص‪.152‬‬

‫األصوات‪ ،‬ومستوى معالجة النظام الفونولوجي‪ ،‬ومستوى معالجة النظام املعجمي‪،‬‬

‫امليساوي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،7‬ص ‪.20-18‬‬ ‫(‪)1‬‬

‫(‪ )1‬دهشان‪ ،‬مرجع سابق‪ ،‬هامش‪ ،27‬ص ‪.18‬‬

‫(‪ )1‬البلغيتي‪ ،‬املرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.34‬‬

‫(‪ )1‬الفالس ي‪ ،‬املرجع السابق‪ ،‬ص ‪.2840-2839‬‬

‫(‪ )1‬عبد اللطيف‪ ،‬مرجع سابق‪ ،‬ص‪.3‬‬

‫‪(1) GabRiel hallevy ،previous reference, footnote 50, p177-178.‬‬

‫في حق أو في مصلحة مشروعة له‪.)1(»...‬‬

‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 44.‬‬

‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 34.‬‬

‫(‪ )1‬الدحيات‪ ،‬مرجع سابق‪ ،‬ص ‪.20-19‬‬

‫(‪ )1‬حسكر‪ ،‬مرجع سابق‪ ،‬ص‪.188‬‬

‫‪(1) GABRIEL HALLEVY ,previous reference, footnote 50, p 22.‬‬

‫على من تقع املسؤولية بالكامل(‪.)1‬‬

‫فيما يتعلق باملنتج»‪.‬‬

‫الحاصل من املنتج املعيب(‪.)1‬‬

‫ما لم يكن املستهلك قد تسبب في وقوع هذا النقص»(‪.)1‬‬

‫(‪ )1‬فريدة‪ ،‬مرجع سابق‪ ،‬هامش‪ ،9‬ص‪.157‬‬

‫إطميزي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،31‬صفحة ‪.10‬‬ ‫(‪)1‬‬

‫املصري(‪ ،)1‬واملشرع األردني(‪.)2‬‬

‫اتخاذ القرارات من تلقاء نفسها بعد االنتهاء من صناعتها(‪.)1‬‬

‫(‪ )1‬عثمان‪ ،‬املرجع السابق‪ ،‬هامش ‪ ،135‬ص‪.1585‬‬

‫(‪ )1‬الخطيب‪ ،‬مرجع سابق‪ ،‬هامش‪ ،21‬بدون رقم صفحة‪.‬‬

‫مقترحات في القانون األوروبي(‪.)1‬‬

‫(‪ )1‬الهدام‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،22‬ص ‪.87‬‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.37‬‬

‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬ ‫ً‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص‪.33‬‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص‪.39‬‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص ‪.40-39‬‬

‫(‪ )1‬مختار‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،28‬ص ‪.182‬‬

‫وتختلف أيضا عن فكرة القيم أو الوص ي»(‪.)1‬‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش‪ ،68‬ص ‪.32‬‬

‫(‪ )1‬البلغيتي‪ ،‬مرجع سابق‪ ،‬هامش ‪ ،68‬ص ‪.33‬‬