‫المسئولية الجنائية الناشئة عن مضار استخدام الذكاء اإلصطناعي في‬

‫المجال الطبي‬
‫دراسة تحليلية‬

‫‪Criminal liability arising from the harmful use of‬‬

‫‪artificial intelligence in the medical field‬‬

‫‪An analytical study‬‬

‫مستشار دكتور‬

‫محمد جبريل إبراهيم حسن‬

‫نائب رئيس هيئة قضايا الدولة المصرية‬

‫كلية الحقوق –جامعة القاهرة‬

‫‪Doctor Consultant‬‬
‫‪Mohamed Gebril Ibrahim‬‬
‫‪Vice President of the State Litigation Authority‬‬

‫عضو الجمعية المصرية لإلقتصاد السياسي واإلحصاء والتشريع‬

‫‪Email :gebrelmohamed865@gmail.com‬‬
 ‫مستخلص ‪:‬‬

‫أصبح مفهوم المسئولية الجنائية في المجال الطبي يحتاج إلي التدخل‬

‫التشريعي العاجل في ظل تزايد استخدام الذكاء االصطناعي بصورة مذهلة ‪،‬‬
‫فأدي ذلك إلي ظهور العديد من جرائم الذكاء االصطناعي في المجال الطبي‪،‬‬
‫حيث تطور استخدام اآلالت التى تعمل بالذكاء االصطناعي إلي أن تقوم مقام‬
‫الطبيب ‪ ،‬فتتمكن من اتخاذ ق اررات منفردة في تشخيص المرض أو وصف‬
‫العالج أو إجراء العمليات الجراحية ‪ ،‬ومع هذا االنتشار لهذه األنشطة فقد‬
‫كثرت جرائمها ‪.‬‬

‫ولذلك برزت أهمية بحث المسئولية الجنائية عن المضار الناشئة عن‬

‫استخدام الذكاء االصطناعي ‪ ،‬وتحديد المسئول عنها ‪ ،‬وهل هو مصنعها أو‬
‫مستخدمها أم تقنية الذكاء االصطناعي ذاتها ؟ ومن ثم فهل ذلك يستدعي منح‬
‫الشخصية االعتبارية لكيانات الذكاء االصطناعي ؟‬

‫ومن هنا تهيب الدراسة ‪-‬وفي ظل أزمة عدم وجود النص الذي يحكم هذه‬
‫الجرائم‪ -‬بالمشرع للتدخل السريع لمعالجة هذا النقص التشريعي ومواكبة هذه‬
‫المستجدات السريعة ‪.‬‬

‫ولقد انتهجت الدراسة المنهج التحليلي التأصيلي للقوانين القائمة ومقارنتها‬

‫بالقوانين المقارنة المختلفة ‪ ،‬وتوصلت الدراسة إلي مجموعة من النتائج أهمها‬
‫التطور السريع في استخدام تقنيات الذكاء االصطناعي في المجال الطبي ‪،‬‬
‫وتفاقم األضرار الناتجة عن اخطاء استخدامات هذه التقنيات ‪ ،‬وإفالت الجاني‬
‫من العقاب لعدم وجود النص الذي يحكم هذه الجرائم ‪ ،‬ولذلك توصي الدراسة‬
‫بإصدار قانون موحد يعالج هذا القصور ‪.‬‬

‫الكلمات المفتاحية ‪ :‬جرائم ‪ ,‬الذكاء االصطناعي ‪ ,‬المجال الطبي‬

Extract :
The concept of criminal responsibility in the medical field
has become in need of urgent legislative intervention in
light of the amazing increase in the use of artificial
intelligence, which led to the emergence of many artificial
intelligence crimes in the field of diagnosis or treatment.
Programming has evolved until artificial intelligence-
powered machines have been used to take the place of a
doctor, enabling them to make individual decisions in
diagnosing disease, prescribing treatment or performing
surgeries, and with this spread of these activities, their
crimes have increased
Therefore, the importance of examining criminal
responsibility for the harms arising from the use of artificial
intelligence, and determining who is responsible for it, is it
its . manufacturer or user or who requests its use
emerged? Does this require granting legal personality to
artificial intelligence entities?
Hence, the study - and in light of the crisis of the lack of a
text that governs these crimes - calls upon the legislator
to intervene quickly to address this legislative deficiency
and keep pace with these rapid developments.
The study followed the fundamental analytical approach of
the existing laws and compared them with the different
comparative laws, and the study reached a set of results,
the most important of which is the rapid development in
the use of artificial intelligence techniques in the medical
field, the exacerbation of the damages resulting from the
errors of the uses of these techniques, and the impunity of
the perpetrator due to the absence of the text governing
these techniques. Therefore, the study recommends the
issuance of a unified law that addresses this shortcoming.

key words :
Crime, artificial intelligence, medical field
 ‫مقدمة‬

‫التعريف بموضوع المسئولية الجنائية الناشئة عن مضار الذكاء اإلصطناعي‬

‫‪:‬‬

‫حظي موضوع المسئولية الجنائية في المجال الطبي بوجه عام بأهمية كبيرة‬
‫منذ زمن بعيد ‪ ،‬ولقد زادت هذه األهمية بعد تزايد استخدام تقنيات الذكاء‬
‫اإلصطناعي ‪ ،‬ومن المعلوم أن العمل الطبي يستند إلي المشروعية الستناده‬
‫لسبب من أسباب اإلباحة الواردة في القانون ‪ ،‬ففي الباب التاسع من الكتاب‬
‫األول الخاص بأسباب اإلباحة وموانع العقاب أورد المشرع أساس مشروعية‬
‫العمل الطبي ‪.‬‬

‫ولكن ما يعنينا في هذا البحث هو المسئولية الجنائية التي يترتب عليها جزاء‬
‫جنائي وفقاً لقانون العقوبات ‪ ،‬كاألفعال التي تمثل جرائم طبية ويحكمها الباب‬
‫األول من الكتاب الثالث الخاص بالجنايات والجنح التي تحصل ألحاد الناس‬
‫‪ ،‬فقد أورد المشرع نصوص تتعلق بجرائم القتل والجرح والضرب ‪ ،‬وهي تحكم‬
‫في ذات الوقت غالبية الجرائم التي تقع من األطباء أثناء ممارستهم للمهنة‬
‫باستخدام تقنيات الذكاء االصطناعي ‪.‬‬

‫وال شك أن الثورة العلمية والتقدم التقني‪ ،‬قد أدي إلي تزايد مساهمة الذكاء‬
‫اإلصطناعي في الخدمات العالجية والصحية في كافة مجاالت العمل الطبي‬
‫‪ ،‬وتبع ذلك قيام األجهزة واآلالت بممارسة األنشطة الطبية المتعلقة بالفحص‬
‫والتشخيص ووصف العالج وإجراء العمليات الجراحية ‪ ،‬جنباً إلي جنب مع‬
‫األطباء ‪ ،‬ولذلك فال يمكن النظر إلي مضار الذكاء االصطناعي في هذا‬
‫المجال علي إنها قضاء وقدر ‪.‬‬
 ‫مفهوم الذكاء االصطناعي في المجال الطبي ‪:‬‬

‫الذكاء االصطناعي هو استخدام جهاز كومبيوتر أو روبوت يتم التحكم فيه‬

‫‪ ،‬مستخدماً في ذلك ‪ ،‬طبقات متعددة‬ ‫ببرامج ذكية للقيام بمهام دقيقة ومعقدة‬
‫من المعلومات ‪ ،‬بما في ذلك الخوارزميات ‪ ،‬ومطابقة األنماط والقواعد والتعلم‬
‫(‪)1‬‬
‫‪.‬‬ ‫العميق والحوسبة المعرفية ؛ لمعرفة كيفية فهم البيانات‬

‫ويعد الذكاء االصطناعي هو أحد أفرع علوم الكمبيوتر المعنية بكيفية محاكاة‬
‫اآلالت لسلوك البشر‪ ،‬وبالتالي فهو علم إنشاء أجهزة وبرمجيات قادرة على‬
‫التفكير بالطريقة نفسها التي يعمل بها العقل البشري‪ ،‬تتعلم مثلما يتعلم البشر ‪،‬‬
‫(‪)2‬‬
‫‪.‬‬ ‫وتقرر كما يقرروا وتتصرف كما يتصرفوا‬

‫وال شك أن استخدام البرامج واآلالت التي أفرزها الذكاء االصطناعي مثل‬

‫الروبوت الذي أثر في تطوير وتنمية العمل في مختلف القطاعات الصناعية‬
‫والطبية والعسكرية واألمنية والشخصية وغيرها‪ ،‬كان له األثر اإليجابي على‬
‫حياة اإلنسان ‪ ،‬فقبل بدء تطبيق الذكاء االصطناعي على المعلومات الطبية‬
‫بدء من عام ‪ 2000‬كانت النماذج الذكية في مجال الرعاية الصحية ال تأخذ‬
‫في االعتبار إال متغيرات محدودة في البيانات الصحية المنظمة بطريقة جيدة ‪،‬‬
‫ولكن اليوم أثبتت تقنيات التعلم العميق كفاءتها ‪ -‬وفي بعض األحيان تجاوزها‬
‫‪ -‬للقدارات البشرية في أداء بعض المهام الطبية الصعبة ‪ ،‬ولقد تم بالفعل‬
‫تصميم أنظمة الذكاء االصطناعي لمعالجة البيانات المعقدة التي تنشأ من‬

‫(‪)1‬‬
‫د‪ /‬يحيي إبراهيم دهشان ‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي – بحث‬
‫منشور بمجلة الشريعة والقانون – العدد ‪ – 82‬ابريل ‪. 2020‬‬
‫(‪)2‬‬
‫د‪ /‬ياسر محمد اللمعي ‪ :‬المسئولية الجنائية عن أعمال الذكاء االصطناعي ما بين‬
‫الواقع والمأمول – دراسة تحليلية استشراقية – بحث مقدم للمؤتمر الدولي السنوي العشرين –‬
‫بكلية الحقوق – جامعة المنصورة في الفترة من ‪ 24- 23‬مايو ‪. 2021‬‬
‫الرعاية الطبية الحديثة ‪ ،‬وخاصة في المواقف الصعبة كالحاالت الوبائية‬
‫(‪)1‬‬
‫‪ ،‬فيتم استخدام تقنيات الذكاء االصطناعي من‬ ‫والجوائح الصحية المعدية‬
‫قبل مقدمي الرعاية الصحية ‪ ،‬والباحثين لالستفادة من ماليين التقارير الطبية‬
‫وسجالت المرضى والتجارب السريرية و الطبية للكشف عن رؤى البيانات‪،‬‬
‫وتطوير البحث العلمي (‪. )2‬‬

‫أهمية استخدام الذكاء االصطناعي في مجال الطب ‪.‬‬

‫ال شك أن تقنيات الذكاء االصطناعي توفر وسائل الرعاية الصحية في‬

‫أوقات األزمات ‪ ،‬وفي الحاالت الحرجة بدون مخاطر ‪ ،‬حيث يمكن للروبوت‬
‫األوبئة بدون مخاوف من‬ ‫العمل في حاالت الجوائح الصحية ‪ ،‬وتفشي‬
‫‪.‬‬ ‫(‪)3‬‬
‫اإلصابة بنقل العدوى‬

‫ومن جهة آخري فإن الذكاء االصطناعي يمكن العاملين في المجال الصحي‬
‫من رفع مستوي الخدمة ‪ ،‬حيث يكون لألدوات المدعمة بالذكاء االصطناعي‬
‫تحديد العالقات ذات المغزى في البيانات األولية وهي تنطوي على امكانية‬

‫(‪)1‬‬
‫د‪ /‬الكرار حبيب مجهول ‪ ،‬ود ‪ /‬حسام عيسي عودة ‪ :‬المسئولية المدنية عن األضرار‬
‫التي تسببها الروبوتات – دراسة تحليلية مقارنة – بحث منشور في مجلة العلوم االجتماعية‬
‫والقانونية – المجلد ‪ 6‬مايو ‪ – 2019‬ص ‪. 735‬‬
‫(‪)2‬‬
‫‪Gabriel Hallevy, the criminal liability of the artificial intelligence‬‬

‫‪entities –from science fiction legal social control ,Akron law‬‬

‫‪Journal ,2016 .‬‬

‫(‪)3‬‬
‫د‪ /‬همام القوصي ‪ :‬إشكالية الشخص المسئول عن تشغيبل الروبوت – تاثير نظرية‬
‫النائب عن اإلنسان علي جدوي القانون في المستقبل – دراسة تحليلية استشرافية – مجلة‬
‫البحوث القانونية المعمقة – العدد ‪ – 25‬سنة ‪. 2018‬‬
‫التطبيق في كل مجال من مجاالت الطب تقريبا‪ ،‬بما في ذلك تطوير األدوية‬
‫(‪)1‬‬
‫‪.‬‬ ‫وق اررات العالج ورعاية المرضى والق اررات المالية والتشغيلية‬

‫وباستخدام الذكاء االصطناعي يمكن لمتخصصي الرعاية الصحية معالجة‬

‫المشكالت المعقدة التي يصعب معالجتها بمفردهم أو التي تتطلب الكثير من‬
‫الوقت‪،‬ويمكن أن يكون الذكاء االصطناعي مورداً قيماً للمتخصصين في‬
‫(‪)2‬‬
‫‪.‬‬ ‫المجال الطبي ‪ ،‬مما يسمح لهم باستخدام خبراتهم بشكل أفضل‬

‫ويمكن للوسائل و لألدوات المدعمة بالذكاء االصطناعي تحليل المعلومات‬

‫والبيانات وتكوين رؤى قابلة للتنفيذ واتخاذ ق اررات انفرادية مستقلة يمكن تطبيقها‬
‫(‪)3‬‬
‫‪.‬‬ ‫في العديد من التطبيقات ‪ ،‬ومنها المجاالت الصحية‬

‫كما يمكن للذكاء االصطناعي البحث عن البيانات وتقديمها لمساعدة‬

‫األشخاص في العثور على المعلومات الصحية الكاملة‪ ،‬مما يمكن أن يؤدي‬
‫إلى زيادة استنارة المستخدمين ‪ ،‬كما يمكن ألدوات الذكاء االصطناعي البحث‬
‫عن السجالت الطبية المنظمة وغير المنظمة لتوفير السجالت التاريخية ذات‬
‫(‪)4‬‬
‫‪.‬‬ ‫الصلة للمريض‬

‫(‪)1‬‬
‫د ‪/‬محمد حسين منصور ‪ :‬المسئولية الطبية – منشأة المعرف باإلسكندرية –ط ‪2001‬‬
‫– ص ‪. 37‬‬
‫(‪)2‬‬
‫‪Steven J.Frank,adjudication and the emergence of artificial‬‬
‫‪intelligence software,Suffolk,‬‬ ‫‪U.1.Rev,623,1987 .‬‬
‫(‪)3‬‬
‫د‪ /‬محمود أحمد طه ‪ :‬المواجهة التشريعية لجرائم الكمبيوتر واالنترنت – دراسة مقارنة‬
‫– دار الفكر والقانون – المنصورة ‪ – 2012‬ص ‪. 55‬‬
‫(‪)4‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – دراسة مقارنة – رسالة دكتوراه ‪-‬جامعة عين شمس‬
‫‪ – 2020‬ص ‪. 143‬‬
‫ويمكن للذكاء االصطناعي تحديد األنماط ومساعدة الباحثين على انشاء‬
‫مجموعة ديناميكية للمريض الجراء دراسات وتجارب سريرية ‪ ،‬وباستخدام‬
‫تقنيات الذكاء االصطناعي يمكن لألطباء الحصول على معلومات عن‬
‫(‪)1‬‬
‫‪.‬‬ ‫العمليات الطبية ومخاطرها‪ ،‬وكيفية إجرائها ‪ ،‬واحتماالت نجاحها‬

‫أهمية الدراسة ‪:‬‬

‫تأتي أهمية الدراسة بالتوازي مع هذا االنتشار السريع الستخدامات الذكاء‬

‫(‪)2‬‬
‫‪ ،‬ومن ثم‬ ‫اإلصطناعي ‪ ،‬ومع التوقعات بتزايد الجرائم المتعلقة بالروبوتات‬
‫فقد كان ضرورياً بحث المسئولية الجنائية عن الجرائم المرتكبة في هذا المجال‬
‫‪ ،‬وبحث المسئول عنها أو المرتكب الحقيقى لها حتى تطبق عليه العقوبة‬
‫القانونية ‪.‬‬

‫كما تأتي أهمية الدراسة أيضاً في إنها تضع الحد للحيرة المتصاعدة بين‬
‫مصلحتين متناقضتين هما ‪ :‬األولي حماية المرضي من مخاطر التقنيات‬
‫الحديثة التي يوفرها الذكاء اإلصطناعي ‪ ،‬وهي في طور التجريب واإلختبار‬
‫بحسبان إنها لم يثبت بصورة جلية أمانها ودقتها وعدم خطورتها علي صحة‬
‫اإلنسان وحياته ‪.‬‬

‫والثانية ‪ :‬استفادة المرضي من التطور والتقدم العلمي والثورة المعلوماتية‬

‫والتقنية في المجال الطبي ‪ ،‬وما تحققه من خير للبشرية ‪ ،‬عن طريق باب‬

‫(‪ )1‬د‪ /‬مطاوع عبد القادر ‪ :‬تحديات ومتطلبات استخدام الذكاء االصطناعي في التطبيقات‬
‫الحديثة لعمليات إدارة المعرفة – دار النهضة العربية – ‪ – 2012‬ص ‪. 75‬‬
‫(‪)2‬‬
‫الروبوت "صوفيا "هي أشهر روبوت حتي اآلن صممته شركة "هانسون روبوتيكس"‬
‫الكائنة في هونج كونج ‪ ،‬صممت شبيهة بالبشر ‪ ،‬ولها القدرة علي التعلم والتأقلم مع السلوك‬
‫البشري ‪ ،‬والتعامل معه ‪ ،‬وحصلت صوفيا علي الجنسية السعودية في أكتوبر ‪. 2017‬‬
‫االجتهاد العلمي والبحثي لتوفير كل وسائل وسبل تمتع اإلنسان بأقصي حد‬
‫(‪)1‬‬
‫‪.‬‬ ‫من السالمة الجسدية‬

‫الهدف من الدراسة ‪:‬‬

‫تهدف الدراسة في المقام األول إلي ألقاء الضوء علي ما تفعله الروبوتات‬
‫‪ ،‬وما يعد جريمة من هذه األفعال وما ال يعد كذلك ‪ ،‬وتحديد المسئولية‬
‫الجنائية عنها‪ ،‬وكل ذلك من أجل رد تلك الوقائع إلى القوانين التى تجرمها‬
‫وذلك يستلزم قراءة النصوص القائمة ودراسة عما إذا كانت كافية لمواجهة هذه‬
‫المستجدات من الجرائم الروبوتية ‪ ،‬أم يلزم سن تشريعات جديدة لتحكم‬
‫السلوكيات التي تنتج عن تقنيات الذكاء االصطناعي للوصول لتصور قانونى‬
‫يسمح بالمحاسبة الجنائية عند وقوع هذه الجرائم ‪.‬‬

‫كما تهدف الدراسة إلي وضع تصور للقواعد القانونية التي يمكن أن تحكم‬
‫جرائم تقنيات الذكاء االصطناعي ‪ ،‬وإبراز دور كل أطراف المسئولية الجنائية‬
‫في جرائم الذكاء االصطناعي ‪ ،‬ومنهم المصنع أو المبرمج أو المستخدم أو‬
‫الروبوت ذاته ‪ ،‬كما تهدف الدراسة إلي تصور قواعد إجرائية خاصة بهذه‬
‫الجرائم من حيث التحقيق واالثبات ‪ ،‬وإنشاء دوائر قضائية خاصة لنظرها ‪.‬‬

‫إشكالية البحث ‪:‬‬

‫تأتي اإلشكالية األهم لهذه الدراسة في أن النصوص القانونية التي تحكم‬

‫آثار الذكاء اإلصطناعي في المجال الطبي تكاد تكون منعدمة ‪ ،‬ومن ذلك فإن‬
‫الروبوت الذي يستخدم في العمليات الجراحية لم يأت ذكر له في أي تشريع‬
‫حتي األن‪ ،‬وهو ما يؤثر على مبادئ النظم القانونية الحالية في شقين ‪:‬‬

‫(‪)1‬‬
‫د‪ /‬أحمد عبد الظاهر ‪ :‬الطب الذكي – طباعة األعضاء البشرية – مقال قانوني‬
‫منشور في جريدة الوطن المصرية بتاريخ ‪2021/12‬‬
‫األول ‪ :‬فإن التكنولوجيا الروبوتية تثير عدداً من اإلشكاليات القانونية الحرجة‬
‫في مجال القانون الجنائي ‪ ،‬على سبيل المثال ‪ :‬استخدام الريبوت في‬
‫العمليات الجراحية هل يستخدم كآلة ‪ ،‬أم إنه مساعد للطبيب ‪ ،‬أم إنه يتصرف‬
‫باستقالل ويتخذ الق اررات منفرداً ومستقل عن الطبيب ‪.‬‬

‫الثاني ‪ :‬ما هي الطبيعة القانونية للروبوت ‪ ،‬وهل يعد شخصاً اعتباري يتبع‬
‫الشركة المصنعة ‪ ،‬أم إنه شيئاً مصنوع من المعدات واآلالت ‪ ،‬أم إنه كيان‬
‫قانوني بشخصية قانونية محدودة ‪.‬‬

‫كما تأتي إشكالية الدراسة من أن هذا الموضوع لم يستقر الفقه حتي األن‬
‫علي وضع قواعد لتنظيمه ‪ ،‬فما زالت األبحاث المتعلقة به غير كافية لوضع‬
‫نظرية عامة في تجريم أفعال الروبوتات‪ ،‬هذا من جهة ومن جهة آخري فإن‬
‫ندرة التطبيقات القضائية في هذا الشأن تعد عقبة في وضع نظرية عامة لهذا‬
‫الموضوع ‪.‬‬

‫منهج البحث ‪:‬‬

‫اعتمدنا في الدراسة على المنهج التحليلي الوصفي للتعامل مع المشكلة‬

‫محل الدراسة لتحديد مفاهيمها ومظاهرها وصورها ‪ ،‬ومدي انطباق القوانين‬
‫القائمة عليها ‪ ،‬ومدي تطلب سن تشريعات جديدة لمواجهتها ‪.‬‬

‫ولقد تم عرض و مناقشة ما إذا كان من المناسب االعتماد على الروبوتات‬

‫عندما تكون أكثر ً‬
‫أمانا من تدخالت البشر في خصوصياتنا وأمور صحتنا قبل‬
‫تنظيم التعامل معها قانوناً ‪ ،‬لنستنتج من خالل ذلك عما يمكن تطبيقه من‬
‫قواعد قانونية قائمة علي جرائم الذكاء االصطناعي ‪ ،‬وما هو النص المأمول‬
‫في المستقبل الذي يمكن أن يحكم هذه الجرائم ‪.‬‬
 ‫خطة البحث ‪ :‬تم تقسيم الدراسة إلي ثالثة مباحث علي النحو األتي ‪:‬‬

‫المبحث األول ‪ :‬صور استخدامات الذكاء االصطناعي في المجال الطبي‬

‫ومخاطرها‬

‫المطلب األول ‪ :‬صور استخدامات الذكاء االصطناعي في المجال الطبي‬

‫المطلب الثاني ‪ :‬مخاطر استخدامات الذكاء االصطناعي في المجال‬

‫الطبي‬

‫المبحث الثاني ‪ :‬نماذج المسئولية الجنائية لجرائم الذكاء االصطناعي في‬

‫المجال الطبي‬

‫المطلب األول ‪ :‬جريمة الروبوت بوصفه أداة أو آلة ‪.‬‬

‫المطلب الثاني ‪ :‬جريمة الروبوت بناء علي خطأ البرمجة أو االهمال في‬
‫التشغيل ‪.‬‬

‫المطلب الثالث ‪ :‬جريمة الروبوت بناء علي تصرفه المباشر ‪.‬‬

‫المبحث الثالث ‪:‬حدود المسئولية الجنائية لتقنيات الذكاء اإلصطناعي في‬

‫المجال الطبي‬

‫المطلب األول ‪ :‬تطور مفهوم المسئولية الجنائية في مجال استخدام الذكاء‬

‫االصطناعي في المجال الطبي‬

‫المطلب الثاني ‪ :‬الجدل الفقهي حول إقرار المسئولية الجنائية لتقنيات الذكاء‬
‫االصطناعي في المجال الطبي‬
‫المطلب الثالث ‪ :‬حل أزمة عدم وجود النص المتعلق بجرائم تقنيات الذكاء‬
‫االصطناعي‬

‫وعلي هللا قصد السبيل ؛؛‬

 ‫المبحث األول‬

‫صور استخدامات الذكاء االصطناعي في المجال الطبي ومخاطرها‬

‫تتعدد صور استخدامات الذكاء اإلصطناعي في المجال الطبي ‪ ،‬ويرجع ذلك‬

‫إلي أن أنشطة القطاع الطبي أصبحت تشمل أفق واسعة من عمليات‬
‫التشخيص ‪ ،‬ووصف العالج ‪ ،‬وإجراء الجراحات والعالجات في كل مراحل‬
‫حياة اإلنسان ‪ ،‬بداية من التدخل في التعامل في االمشاج ‪،‬والتلقيح الصناعي‬
‫‪،‬وتحديد نوع الجنين ‪،‬وإجراء عمليات نقل وزراعة األعضاء ‪،‬والعمليات‬
‫الجراحية ‪،‬وعمليات التجميل إلي ما غير ذلك من األنشطة الطبية (‪ ،)1‬وال شك‬
‫أن هذه الصور من استخدامات الذكاء اإلصطناعي يعتورها بعض المخاطر‬
‫التي تتعلق بالذكاء االصطناعي مما يهدد بإلحاق الضرر بصحة اإلنسان‬
‫وحياته ‪ ،‬ذلك ما سنعرض له فيما يلي ‪:‬‬

‫المطلب األول ‪ :‬صور استخدامات الذكاء االصطناعي في المجال الطبي ‪.‬‬

‫المطلب الثاني ‪ :‬مخاطر استخدامات الذكاء االصطناعي في المجال الطبي ‪.‬‬

‫المطلب األول‬

‫صور استخدامات الذكاء االصطناعي في المجال الطبي‬

‫كان للتقدم العلمي والتقني دور كبير في زيادة استخدامات الذكاء‬

‫االصطناعي في المجال الطبي‪ ،‬فاستفاد القطاع الصحي من إستخدامات‬
‫الذكاء االصطناعي بشكل كبير في مجاالت عديدة ‪ ،‬حيث تسارعت كبرى‬
‫الشركات العالمية إلدخال المزيد من تطبيقات الذكاء اإلصطناعي القابلة‬

‫(‪)1‬‬
‫د‪ /‬محمد سامي الشوا ‪ :‬الخطأ الطبي أمام القضاءالجنائي – دراسة مقارنة –دار‬
‫النهضة العربية – ط ‪ -1993‬ص ‪. 76‬‬
‫لإلستخدام في المجال الطبي ‪ ،‬فينتفع بها مقدمي الرعاية الصحية وكذلك‬
‫(‪)1‬‬
‫‪.‬‬ ‫المرضى‬

‫وترجع سرعة انتشار تقنيات الذكاء االصطناعي في قطاع الرعاية الصحية‬

‫إلى نجاحها في القيام بمهامها بسرعة فائقة ‪ ،‬ودقتها العالية في انجاز‬
‫(‪)2‬‬
‫‪ ،‬ولم‬ ‫العمليات الطبية ‪ ،‬وفي ظروف صعبة ال يقدر عليها البشر بسهولة‬
‫يعد األمر اليوم فيما يتعلق بدور الذكاء االصطناعي يقتصر فقط علي تخزين‬
‫البيانات وحفظ الملفات‪ ،‬بل تعدى ذلك إلى تحليل تلك البيانات والتوصل إلى‬
‫استنتاجات دقيقة وتشخيص الحالة في فترة قياسية ‪ ،‬وتقرير العالج ‪ ،‬بل‬
‫(‪)3‬‬
‫‪ .‬فقد كثر إستخدام الذكاء‬ ‫والمشاركة في إجراء العمليات الجراحية‬
‫االصطناعي في قطاع الرعاية الصحية وبات يعتمد عليه في التشخيص‬
‫وإنتاج األدوية وتحسين سير العمل داخل أروقة المستشفيات وبين األقسام‬
‫(‪)4‬‬
‫‪.‬‬ ‫الطبية وغيرها‬

‫ولقد أصبح الذكاء االصطناعي قادر علي جعل األجهزة واآلالت قابلة‬
‫للتطور‪ ،‬وقادرة على التعلم من خالل إدخال بيانات ضخمة والعمل على‬
‫تطويرها آلياً ؛ أي أنها آالت قادرة على التعلم والمعالجة المنطقية لتحقيق‬

‫(‪)1‬‬
‫د‪ /‬أسماء محمد السيد ‪ :‬تطبيقات الذكاء االصطناعي ومستقبل تكنولوجيا التعليم –‬
‫رسالة دكتوراه كلية التربية جامعة المنيا ‪ – 2020‬ص ‪. 120‬‬
‫(‪)2‬‬
‫د‪ /‬أسامة عبد هللا قايد ‪ :‬المسئولية الجنائية لألطباء – دراسة مقارنة – دار النهضة‬
‫العربية ‪ – 2003‬ص ‪. 93‬‬
‫(‪)3‬‬
‫د‪ /‬أحمد عبد الظاهر ‪ :‬الطب الذكي – طباعة األعضاء البشرية – مرجع سبق اإلشارة‬
‫إليه ‪.‬‬
‫(‪)4‬‬
‫د‪ /‬عبد هللا موسي ‪ ،‬ود ‪ /‬أحمد بالل ‪ :‬الذكاء االصطناعي – ثورة في تقنيات العصر‬
‫– الطبعة األولي دار الكتب المصرية القاهرة ‪ – 2019‬ص ‪. 98‬‬
‫التكامل بين عمل األطباء والمقصود هنا الذكاء البشري ‪،‬مع الذكاء‬
‫االصطناعي لتحقيق المزيد من التطورات في القطاع الصحي (‪.)1‬‬

‫ونعرض فيما يلي ألبرز صور إستخدامات الذكاء اإلصطناعي في المجال‬

‫الطبي ‪:‬‬

‫أوالً ‪ -:‬القيام بتشخيص األمراض ‪.‬‬

‫تشخيص األمراض وإمكانية فحص أعداد كبيرة من المرضى في وقت قصير‬

‫أبرز إستخدامات الذكاء االصطناعي‪ ،‬حيث حقق هذا المجال تقدماً ملحوظاً‬
‫على مستوى التشخيص المبكر وإكتشاف األمراض في أولى مراحلها وربما قبل‬
‫حدوثها أو إنتشارها وتفاقمها من خالل تحليل صور األشعة‪ ،‬حيث أن إمكانية‬
‫التنبؤ باألمراض وتفشيها من خالل إستخدام تحليالت الذكاء اإلصطناعي‬
‫يعتمد على تحليل البيانات والتنبؤ باألمراض السيما السرطان‪ ،‬وبكل تأكيد من‬
‫‪.‬‬ ‫(‪)2‬‬
‫دون أن يلغي ذلك دور الطبيب‬

‫في ظل هذا التقدم التقني غير المسبوق في القطاع الصحي على مستوى‬
‫استخدامات الذكاء االصطناعي فإن ذلك سيسهم في تقديم نهج علمي يعتمد‬
‫(‪)3‬‬
‫‪.‬‬ ‫على المعلومات الطبية ‪ ،‬والتقدم العلمي‬

‫(‪)1‬‬
‫د‪ /‬محمد عبد الوهاب الخولي ‪ :‬المسئولية الجنائية لألطباء عن استخدام األساليب‬
‫المستحدثة في الطب والجراحة – الطبعة األولي ‪ – 1997‬ص‪. 25‬‬
‫(‪)2‬‬
‫‪Gabriel Hallevy, the criminal liability of the artificial intelligence‬‬

‫‪entities –from science fiction legal social control,Op .cit ,. ,2016 .‬‬

‫‪ 3‬د‪ /‬عبد هللا موسي ‪ ،‬ود ‪ /‬أحمد بالل ‪ :‬الذكاء االصطناعي – ثورة في تقنيات العصر –‬
‫مرجع سابق– ص ‪. 99‬‬
‫واليوم تقوم أجهزة الكمبيوتر باستخدام ذكاء يشبه ذكاء اإلنسان ألداء مهام‬
‫دقيقة في الكشف عن العديد من األمراض التي تهدد الحياة مثل األمراض‬
‫المعدية والسرطان؛ فيتم تحليل الصور الطبية لتشخيص األمراض من خالل‬
‫استخدام خوارزميات التعلم العميق‪ ،‬وهي شكل متقدم لتقنية تعلم اآللة بحيث‬
‫يتم درس وتحليل مجموعات من الصور الطبية المصحوبة بمعلومات وتعلم‬
‫كيفية تصنيفها وإكتشاف ما يميزها لتتمكن الحًقا من فهم الصور المشابهة‬
‫وتقديم التشخيص المناسب للحالة المرضية ‪ ،‬كما تستخدم العديد من‬
‫التطبيقات واألجهزة القابلة لإلرتداء تقنيات ذكاء إصطناعي ترصد إضطرابات‬
‫المؤشرات الحيوية للجسم‪ ،‬ويمكنها التنبؤ باحتمالية وقوع أزمة صحية قبل‬
‫(‪)1‬‬
‫‪.‬‬ ‫حدوثها‬

‫ثانياً ‪ -:‬تحديد الدواء المناسب ‪.‬‬

‫المقصود هنا الطب الشخصي بمعنى إنه يتم تحديد الدواء أو بروتوكول‬
‫بناء على التكوين الجيني الخاص بالمريض‬
‫العالج المناسب لكل حالة مرضية ً‬
‫وبحسب نمط حياته واختالف إستجابته للعالج (‪. )2‬‬

‫والدراسات والتجارب القائمة في هذا الشأن تثبت التكامل فيما بين عمل‬
‫الطبيب المعالج مع خوارزميات الذكاء االصطناعي حيث يمكن لتقنيات التعلم‬
‫العميق تحليل البيانات الجينية ألعداد كبيرة من األفراد‪ ،‬وتحديد التباين‬
‫الشخصي في اإلستجابة للعقاقير‪ ،‬ما يسهم في دعم الق اررات السريرية وبالتالي‬
‫تقديم توصيات حول أنسب العقاقير لكل شخص‪ ،‬وإجراء التجارب الناجحة في‬

‫(‪)1‬‬
‫د‪ /‬أحمد شوقي عمر أبو خطوة ‪ :‬القانون الجنائي والطب الحديث – دراسة تحليلية‬
‫مقارنة – لمشروعية نقل وزرع األعضاء البشرية – دار النهضة العربية ‪ – 2007‬ص‬
‫‪. 144‬‬
‫(‪)2‬‬
‫د‪ /‬محمد حسين منصور ‪ :‬المسئولية الطبية – مرجع سابق – ص ‪. 49‬‬
‫هذا المجال أفضت إلى القيام بالمزيد من االستخدامات فتم جمع بيانات‬
‫صحية ضخمة لتحليلها باستخدام الذكاء االصطناعي بهدف تطوير مجال‬
‫(‪)1‬‬
‫‪.‬‬ ‫الطب الدقيق‬

‫ثالثاً ‪:‬إجراء العمليات الجراحية ‪:‬‬

‫يتجلى التكامل بين الذكاء البشري والذكاء االصطناعي من خالل الروبوت‬

‫المستخدم في غرف العمليات والذي يمكن أن يصل الى ما ال تصل إليه يد‬
‫الجراح؛ هذا الجراح القادر على تحريك أذرع الروبوت والوصول إلى المكان‬
‫المحدد فيساعد األطباء على التخطيط للتدخل الجراحي بالتفصيل ما يعكس‬
‫هذا التكامل في غرف العمليات (‪.)2‬‬

‫واليوم تتنافس الشركات في ما بينها من أجل التوصل إلى روبوتات أكثر‬

‫تطو اًر وإطالق خدمات طبية مبتكرة تساعد الفريق الطبي في أداء بعض المهام‬
‫الروتينية وتخفيف العبء عنهم ‪ ،‬ولقد بات من الممكن اآلن دمج هذه‬
‫التكنولوجيا المتطورة لمساعدة الطاقم الطبي في تقديم رعاية صحية تفوق‬
‫(‪)3‬‬
‫‪.‬‬ ‫توقعات المرضى‬

‫التكنولوجيا في الطب والتطبيقات اآللية في المستشفيات تشهد تنوعاً كبي اًر‪،‬‬

‫فهناك اليوم الروبوتات الجراحية والروبوتات التي تقدم الرعاية إلى جانب سرير‬
‫المريض‪ ،‬كما يتوافر روبوتات لطرد العدوى من الغرف وتعقيمها وأخرى ألخذ‬

‫(‪)1‬‬
‫د‪ /‬أسماء محمد السيد ‪ :‬تطبيقات الذكاء االصطناعي ومستقبل تكنولوجيا التعليم –‬
‫مرجع سابق – ص ‪. 124‬‬
‫(‪)2‬‬
‫د‪ /‬محمد حسين منصور ‪ :‬المسئولية الطبية – مرجع سابق – ص ‪. 42‬‬
‫(‪ )3‬د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 144‬‬
‫عينات المختبرات ونقلها وتحليلها وتحضير جرعات العقاقير‪ ،‬والروبوتات التي‬
‫(‪)1‬‬
‫‪.‬‬ ‫هي أجهزة مراقبة التواجد عن بعد‬

‫رابعاً ‪-:‬القيام باإلختبارات والتجارب العلمية ‪:‬‬

‫اإلختبارات والتجارب العلمية واألبحاث السريرية القائمة حول العالم إستفادت‬

‫بشكل كبير من خوارزميات الذكاء االصطناعي‪ ،‬حيث توجه العلماء والباحثون‬
‫إلى استخدام البيانات التي يتم جمعها بواسطة تقنيات الذكاء االصطناعي من‬
‫السجالت الصحية اإللكترونية واألجهزة القابلة لإلرتداء ما أسهم في توفير‬
‫األموال الضخمة التي كانت تصرف في هذا المجال‪،‬كما تسمح هذه التقنيات‬
‫بالبحث في التقارير الطبية عن األشخاص المؤهلين للمشاركة في التجارب‬
‫(‪)2‬‬
‫‪.‬‬ ‫الطبية‬

‫وال شك أن تطبيق الذكاء االصطناعي في التجارب السريرية يساعد العلماء‬

‫في تحليل البيانات والمعلومات العلمية‪ ،‬وإمكانية تقسيم المرضى والنتائج‬
‫المتوقعة بخصوص شفائهم ‪ ،‬وتعزيز عمليات التحليل وإتخاذ القرار من‬
‫(‪)3‬‬
‫‪.‬‬ ‫البيانات بهدف تعزيز معدالت النجاح للتجارب الطبية‬

‫خامساً ‪- :‬القيام بالعمل اإلداري داخل المنشآت الطبية العامة والخاصة ‪.‬‬

‫(‪)1‬‬
‫د‪ /‬عبد هللا موسي ‪ ،‬ود ‪ /‬أحمد بالل ‪ :‬الذكاء االصطناعي – ثورة في تقنيات العصر‬
‫– مرجع سابق– ص ‪. 101‬‬
‫(‪)2‬‬
‫د‪ /‬نفين فاروق فؤاد ‪ :‬اآللة بين الذكاء الطبيعي والذكاء االصطناعي –دراسة مقارنة‬
‫مجلة البحث العلمي في اآلداب كلية البنات جامعة عين شمي العدد‪ 13‬الجزء ‪ 3‬عام‬
‫‪– 2012‬ص ‪.174‬‬

‫(‪)3‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 144‬‬
‫إدارة الملفات وتنظيم العمل داخل المؤسسات الطبية لطالما شكل معضلة‬
‫أساسية للقطاع الصحي عموماً في ظل ما تشهده الكثير من المستشفيات من‬
‫ازدحام يؤدي إلى ضغط متزايد على األطباء والممرضين وكذلك المسئولين‬
‫(‪)1‬‬
‫‪.‬‬ ‫عن األعمال اإلدارية وهو ما يزيد من احتمالية الوقوع في الخطأ‬

‫ومن هنا استفادت المستشفيات من تقنيات الذكاء االصطناعي الدارة العمل‬

‫وتنظيم ملفات المرضى بعد إدخال مجموعة من البيانات الضخمة إلى أنظمة‬
‫(‪)2‬‬
‫‪.‬‬ ‫الحواسيب‪ ،‬ما يسمح بالوصول إلى المعلومة في فترة زمنية أسرع‬

‫كما أن السجالت الطبية اإللكترونية جعلت عملية استخراج البيانات ودراسة‬

‫أنواع العالج أسهل بكثير‪ ،‬فتحولت ملفات المرضى والوصفات الطبية الورقية‬
‫المكتوبة بخط اليد إلى شيء من الماضي فازدادت بيانات الرعاية الصحية‬
‫اإللكترونية بشكل هائل‪ ،‬وبالتالي فإن تحليل تلك البيانات التي تضم معلومات‬
‫حول المرضى يمكن أن يتم إنجازه بشكل أسرع ويمكن إنقاذ المزيد من األرواح‬
‫عبر تشغيل خوارزميات تم تصميمها باستخدام الذكاء االصطناعي‪،‬و هذه‬
‫اإليجابية من شأنها أن تساعد أخصائيي الرعاية الصحية والعاملين في أقسام‬
‫الطوارئ من الوصول إلى كميات كبيرة من المعلومات وفرزها خالل مدة زمنية‬
‫قصيرة‪ ،‬ما يسهم بالتالي في تقليص الوقت الذي يتم تكريسه للمريض الواحد‬
‫(‪)3‬‬
‫‪.‬‬ ‫بالشكل األمثل‬

‫(‪)1‬‬
‫د‪ /‬فايز النجار ‪ :‬نظم العلومات اإلدارية –منظور إداري – دار الحامد للنشر والتوزيع‬
‫–ط ‪ 4‬االردن ‪ – 2010‬ص ‪. 65‬‬
‫(‪)2‬‬
‫د‪ /‬أسماء محمد السيد ‪ :‬تطبيقات الذكاء االصطناعي ومستقبل تكنولوجيا التعليم –‬
‫مرجع سابق – ص ‪. 133‬‬
‫(‪)3‬‬
‫د‪ /‬عبد هللا موسي ‪ ،‬ود ‪ /‬أحمد بالل ‪ :‬الذكاء االصطناعي – ثورة في تقنيات العصر‬
‫– مرجع سابق– ص ‪. 101‬‬
‫وتعتمد المؤسسات الصحية والمستشفيات حول العالم على هذه األنظمة في‬
‫بنيتها التحتية لتقنية العمل ورقمنته بما يعزز الكفاءة ويزيد من دقة الرعاية‬
‫الصحية‪ ،‬لتتحول بذلك إلى مستشفيات تعمل بآلية مترابطة فيما بينها من‬
‫خالل منصات تعرض بيانات تتعلق بالمرضى إلى الحد المسموح به قانونياً‬
‫مع الحفاظ على خصوصية المريض وهي خطوة غاية في األهمية بحيث‬
‫يمكن للطبيب أن يستعرض المعلومات المتعلقة بمريضه قبل تحديد آلية‬
‫العالج وهو ما يضمن حصوله على رعاية صحية دقيقة وعالية الجودة بوقت‬
‫(‪)1‬‬
‫‪.‬‬ ‫أسرع‬

‫المطلب الثاني‬

‫مخاطر استخدامات الذكاء اإلصطناعي في المجال الطبي‬

‫بالرغم من إن استخدامات الذكاء اإلصطناعي تساهم في تحسين أداء‬

‫المؤسسات العالجية بأقل األخطاء‪ ،‬وتوفر وسائل التيسير واألمان لألطباء‬
‫خالل القيام بأعمالهم ‪ ،‬خصوصاً في التعامل مع األمراض المعدية ‪ ،‬وظهر‬
‫ذلك إبان جائحة كورونا حيث تطلبت الظروف معالجة المرضي عن بعد ‪،‬‬
‫واستخدام الروبوتات في التعامل مع المصابين بعدوي مرض كورونا المستجد‬
‫‪ ،‬إال إن استخدام الذكاء اإلصطناعي في المجال الطبي ال يخلو من المخاطر‬
‫؛ فال يحفل الذكاء اإلصطناعي باخالقيات مهنة الطب ‪ ،‬فهي آالت مصممة‬
‫لتحقيق هدف معين بصرف النظر عن أي اعتبار آخر ‪ ،‬كما أن استخدام‬
‫الذكاء االصطناعي عرضة للتعطيل والسيطرة من قبل الغير ‪ ،‬ونعرض‬
‫لمخاطر استخدام الذكاء اإلصطناعي في المجال الطبي فيما يلي ‪-:‬‬

‫(‪)1‬‬
‫‪Gabriel Hallevy, the criminal liability of the artificial intelligence‬‬

‫‪entities –from science fiction legal social control,Op .cit , 2016 .‬‬
 ‫أوالً ‪ -:‬سهولة تعطيل تقنيات الذكاء االصطناعي أو السيطرة عليها ‪:‬‬

‫من مخاطر الذكاء االصطناعي أن برامجه عرضه لإلصابة بالفيروسات ‪،‬‬

‫واألعطال الفنية ‪ ،‬والسيطرة عليها من الغير مما يجعلها تعمل بشكل غير‬
‫متوقع ‪ ،‬أو علي غير ما يطلب منها ‪ ،‬مما يؤدي إلي احتمالية وقوع األضرار‬
‫(‪)1‬‬
‫‪.‬‬ ‫الجسيمة ‪ ،‬فلم يصل الذكاء االصطناعي بعد إلي درجة الكمال‬

‫ويشهد الواقع وقوع الكثير من هجمات القراصنة اإللكترونيين والسيطرة علي‬

‫البرامج وقيادة األجهزة بصورة ضارة ‪ ،‬تهدد بوقوع الكثير من الخسائر عن‬
‫(‪)2‬‬
‫‪.‬‬ ‫طريق إدخال بيانات خاطئة أو العبث بنظام البرمجة‬

‫ومن جهة آخري فإن إحتمالية خطأ البرمجة ال تزال قائمة ‪ ،‬فيصدر بناء‬
‫عليها تصرفات من الروبوت غير مناسبة في مواقف معينة يترتب عليها‬
‫أخطاء فادحة قد تصل إلي حد القتل ‪.‬‬

‫ثانياً ‪ -:‬اختراق الخصوصية عن طريق تقنيات الذكاء اإلصطناعي ‪:‬‬

‫يعمل الذكاء االصطناعي اآلن على جمع بيانات المرضى وإعداد تقارير عنهم‬
‫لمساعدة األطباء على تشخيص حالتهم الصحية واتخاذ ق اررات العالج ‪ ،‬ومن‬
‫ثم تكون هذه البيانات المستخدمة إلنشاء الخوارزميات التي ت ِّ‬
‫ولد نتائج يتم على‬
‫أساسها اتخاذ ق اررات خاصة بصحة المرضى يمكن أن تكون عرضة للتشويه‪،‬‬

‫(‪)1‬‬
‫د‪ /‬محمد فهمي طلبة ‪ :‬الحاسب والذكاء االصطناعي – مطابع المكتب المصري‬
‫االسكندرية ‪ – 1997‬ص ‪. 56‬‬
‫(‪)2‬‬
‫د‪ /‬وفاء محمد أبو المعاطي صقر ‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي‬
‫– دراسة تحليلية استشرافية – مجلة روح القوانين العدد ‪ 96‬اكتوبر ‪ – 2021‬ص ‪. 153‬‬
‫فقد يساء استخدامها اعتماداً على من يقوم بتطويرها وعلى دوافع المبرمجين أو‬
‫(‪)1‬‬
‫‪.‬‬ ‫الشركات أو نظم الرعاية الصحية التي تصممها‬

‫وتسود تخوفات هائلة في المجتمع الطبي فيما يتعلق بمآالت البيانات التي‬
‫تجمع عن المرضى‪ ،‬والتي يمكن استخدامها دون اعتبار للجانب اإلنساني‬
‫للرعاية الصحية‪ ،‬وبالتالي يجب توخي الحذر في تلقين الذكاء االصطناعي‬
‫قانونا والتي ال يجب اإلفصاح عنها سوى للمريض نفسه ‪.‬‬
‫بالبيانات المحمية ً‬

‫ثالثاً ‪ -:‬ال يحفل الذكاء اإلصطناعي باخالقيات مهنة الطب ‪.‬‬

‫من المشكالت األخالقية التي يمكن أن يسببها استخدام الذكاء االصطناعي‬

‫في األنظمة الصحية أن هذه آالت مصممة لتحقيق هدف معين بصرف النظر‬
‫عن أي اعتبار آخر ‪ ،‬بمعني أن استخدام هذا النوع من األدوات‪ ،‬سواء إلجراء‬
‫تنبؤات خاصة بحاالت المرضي أو اتخاذ إجراءات بديلة لعالجهم‪ ،‬ال يمكن أن‬
‫يعبأ بمدي ما ينتج عنها من المشكالت األخالقية التي يسببها التشخيص القائم‬
‫(‪)2‬‬
‫‪.‬‬ ‫على الذكاء االصطناعي‬

‫(‪)1‬‬
‫د‪ /‬نفين فاروق فؤاد ‪ :‬اآللة بين الذكاء الطبيعي والذكاء االصطناعي –دراسة مقارنة –‬
‫مرجع سابق –ص ‪. 177‬‬
‫(‪)2‬‬
‫‪Gabriel Hallevy, the criminal liability of the artificial intelligence‬‬

‫‪entities –from science fiction legal social control,Op .cit ,. ,2016 .‬‬
 ‫المبحث الثاني‬

‫نماذج المسئولية الجنائية لجرائم الذكاء االصطناعي في المجال الطبي‬

‫في جرائم الذكاء االصطناعي ال يخرج موضع الروبوت عن ثالث صور ‪،‬‬
‫وهي إما أن يكون الروبوت مجرد أداة أو آله ترتكب بها الجريمة ‪ ،‬أو أن يكون‬
‫الروبوت مجرد منفذ لبرنامج خاطئ من المبرمج ‪ ،‬أو منفذ ألمر غير سليم من‬
‫قبل المستخدم ‪ ،‬وفي صورة ثالثة قد يكون الروبوت هو مرتكب الجريمة بدون‬
‫تدخل خارجي (‪.)1‬‬

‫ولقد ساد لفترة طويلة من الزمن اعتقاداً بأن اإلجرام يكون فقط لدى‬
‫اإلنسان‪ ،‬وبالرغم من رسوخ هذا االعتقاد في ذهن البشرية ‪ ،‬فقد تطورت‬
‫التقنيات في مختلف المجاالت ‪ ،‬وخاصة في مجال الذكاء االصطناعي‪ ،‬مما‬
‫قد يظهر لنا مسئولين جدد في مجال الجريمة ‪ ،‬وقد يكونوا أكثر خط اًر من‬
‫اإلنسان نفسه ‪ ،‬فما هذا التطور الذي قد يظهر لنا مجرماً غير اإلنسان ؟‬

‫ففي الحقيقة فإن اتصاف الروبوت بعض السمات اإلنسانية كاإلدراك أو‬
‫التصرف الحر‪ ،‬باإلضافة إلي منحه الشخصية القانونية المحدودة ‪ ،‬ذلك ما‬
‫وضعنا في أزمة قانونية كبيرة ‪ ،‬وهي تحمل هذه الروبوت للمسئولية الجنائية ‪،‬‬
‫طالما ارتكبت الفعل المادي المكون للجريمة ‪،‬مع توافر القصد الجنائي من علم‬
‫وإرادة ‪ ،‬ولكن قد يصطدم ذلك بفرضية أن يكون الروبوت مجرد آلة في يد‬
‫الجاني ‪ ،‬وهنا ال يتصور في هذه الحالة قيام المسئولية الجنائية حيال الروبوت‬
‫‪ ،‬كما قد تتوافر فرضية آخري بأن الجريمة تنشأ عن خطأ المبرمجين ‪ ،‬وهنا‬
‫أيضاً تنتفي المسئولية الجنائية عن الروبوت ‪ ،‬أما الفرضية الثالثة فهي التي‬

‫(‪)1‬‬
‫د‪ /‬نفين فاروق فؤاد ‪ :‬اآللة بين الذكاء الطبيعي والذكاء االصطناعي –دراسة مقارنة‬
‫–مرجع سابق –ص ‪. 179‬‬
‫تتوافر فيها جريمة الروبوت بسلوكه المباشر المنفرد بناء علي البيانات المخزنة‬
‫بداخله ‪ ،‬وفي هذه الصورة تبرز اإلشكالية التي تحتاج إلي حلول سريعة من‬
‫الناحية التقنية والفنية ‪ ،‬ومن القانونية والتي هي محل دراستنا ‪ ،‬والتي سنحاول‬
‫معالجتها فيما يلي ‪:‬‬

‫المطلب األول ‪ :‬جريمة الروبوت بوصفه أداة أو آلة ‪.‬‬

‫المطلب الثاني ‪ :‬جريمة الروبوت بناء علي خطأ البرمجة أو االهمال في‬
‫التشغيل ‪.‬‬

‫المطلب الثالث ‪ :‬جريمة الروبوت بناء علي تصرفه المباشر ‪.‬‬

‫المطلب األول‬

‫جريمة الروبوت بوصفه أداة أو آلة‬

‫في هذه الصورة يكون الواضح للعيان أن الروبوت مهما أتصف بالذكاء‬
‫واإلدراك والحس ‪ ،‬إال أنه ال يمكن اعتباره إال أداة أو آلة تخضع إلرادة خارجية‬
‫تتمثل في المبرمج أو في المستخدم ‪ ،‬ففي النهاية فإن الذي استفتح خطة‬
‫العمل أو خط السير هو إنسان آخر ‪،‬يملك إرادة ورؤية مختلفة عن الروبوت‬
‫حتي وإن سار علي تنفيذها هذا الروبوت منفرداً ‪.‬‬

‫وبداية يجب أن نفرق بين حالتين ‪ :‬الحالة األولي تعمد استخدام الروبوت‬
‫في ارتكاب جريمة بواسطة المبرمج أو المستخدم ‪ ،‬والحالة الثانية الخطأ أو‬
‫االهمال من المبرمج أو المستخدم في استخدام الروبوت أو صيانته مما تسبب‬
‫(‪)1‬‬
‫‪.‬‬ ‫في وقوع جريمة‬

‫ففي الحالة تكون جريمة المبرمج أو المستخدم جريمة عمدية ‪ ،‬بينما في‬
‫الحالة الثانية تكون غير عمدية ‪ ،‬وال يسأل أبداً الروبوت في هذه الحالة عن‬
‫اي جريمة ‪ ،‬وقبل الدخول في نفي مسئولية الروبوت ‪ ،‬فال بد من تعريف‬
‫المسئولية الجنائية بوجه عام‪ ،‬وهي صالحية الشخص لتحمل الجزاء الجنائي‬
‫الناشئ عما يرتكبه من جرائم ‪.‬‬

‫ِّ‬
‫وتحمل المسئولية الجنائية يتوقف على توفر شرطين‪ ،‬ال يغني أحدهما عن‬
‫اآلخر‪ ،‬وهما‪ :‬اإلدراك واالختيار‪ ،‬فإذا انعدم أحد هذين الشرطين انعدمت‬
‫(‪)2‬‬
‫‪.‬‬ ‫المسئولية الجنائية‬

‫وتفترض المسئولية الجنائية في الشخص أياً كان أن يتوافر في شأنه‬

‫عنصران ‪ :‬األول عنصر مادي وهو السلوك المادي اإلرادي النابع عن حرية‬
‫وإدراك وال إرغام أو جبر فيه ‪.‬‬

‫والثاني عنصر معنوي هو القصد الجنائي أي العلم واإلرادة لتحقيق نتيجة‬

‫إجرامية ‪ ،‬وال يمكن قيام المسئولية الجنائية إذا غاب أي عنصر منهما ‪ ،‬فال‬
‫يكفي العنصر المادي منفرداً ‪ ،‬فعلي سبيل المثال يقوم الحيوان بارتكاب‬
‫الجرائم بفعله المؤذي ‪ ،‬فيقوم الكلب بعض المارة في الشارع وإحداث‬

‫(‪)1‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 154‬‬
‫(‪)2‬‬
‫د‪ /‬أحمد صبحي العطار ‪ :‬اإلسناد واإلذناب والمسئولية في الفقه المصري والمقارن –‬
‫بحث منشور في مجلة العلوم القانونية واالقتصادية – العددان ‪ 1‬و ‪ 2‬مطبعة جامعة عين‬
‫شمس ‪ – 1990‬ص ‪. 198‬‬
‫اإلصابات بهم ‪ ،‬ولكن ما يقوم به ال ينسب الجريمة إليه وال تنشأ في حقه أي‬
‫(‪)1‬‬
‫‪.‬‬ ‫مسئولية جنائية‬

‫وتقوم هذه الصورة استناداً إلي أن الروبوت ال يملك أياً من السمات البشرية‬
‫الموصوف بها من الذكاء واإلدراك والوعي والحسن ‪ ،‬كما ال يملك حرية‬
‫االختيار أو القدرة علي اتخاذ القرار ‪ ،‬فال يعترف له إال بالشخصية القانونية‬
‫الناقصة التي تمكنه من اكتساب بعض الحقوق دون تحمل االلتزامات ‪.‬‬

‫وال يعدو الروبوت في هذه الصورة إال أن يكون مجرد وسيلة الرتكاب‬
‫الجريمة ‪ ،‬مثله مثل البندقية أو المسدس أو حتي السكين ‪ ،‬خصوصاً وأن‬
‫قانون العقوبات ال يعبأ كثي اًر بنوع وسيلة الجريمة في كثير من األحيان إال في‬
‫(‪)2‬‬
‫‪.‬‬ ‫جرائم معينة‬

‫فبالرغم من القدرات الهائلة للروبوت والتي ال يمكن تجاهلها ‪ ،‬والتي يعترف له‬
‫بها من وجهة النظر القانونية وأيضاً من الوجهة الفنية ‪ ،‬إال أن هذه القدرات ال‬
‫تؤهله لتحمل المسئولية الجنائية ‪ ،‬وال عجب في ذلك فاإلنسان ذاته قد تعتريه‬
‫حاالت معينة يكون فيها غير مسئول جنائياً ‪ ،‬أو ناقص األهلية ‪ ،‬كحالته عند‬
‫الجنون أو في صغر السن ‪.‬‬

‫(‪ )1‬د‪ /‬محمد محي الدين عوض ‪ :‬مشكالت السياسة الجنائية المعاصرة في جرائم نظم‬
‫المعلومات –الكمبيوتر – بحث مقدم للمؤتمر السادس للجمعية المصرية للقانون الجنائي في‬
‫‪ 28-25‬اكتوبر ‪. 1993‬‬
‫(‪)2‬‬
‫انظر نص المادة ‪ 233‬من قانون العقوبات التي تنص علي القتل باستخدام الجواهر‬
‫السامة ‪.‬‬
‫وفي هذه الصورة يكون الفاعل األصلي للجريمة ذلك الشخص الذي يملك‬
‫القدرة علي تحريك الروبوت أو السيطرة عليه وهو الفاعل المعنوي ‪ ،‬وال يكون‬
‫(‪)1‬‬
‫‪.‬‬ ‫الروبوت في هذه الحالة إال أداة أو آلة الرتكاب الجريمة وال أكثر‬

‫فكرة الفاعل المعنوي ‪:‬‬

‫يقصد بالفاعل المعنوي الشخص الذي يدفع غيره الرتكاب الجريمة ‪ ،‬فيرتكبها‬
‫األخير الذي يعد من وجهة نظر الفقه مجرد وسيلة أو أداة باعتباره غير‬
‫مسئول جنائياً ‪.‬‬

‫وفي الحقيقة فإن نظرية الفاعل المعنوي تنطبق علي هذه الصورة ‪ ،‬حيث‬
‫تنطبق طبيعة الروبوت مع الشخص غير المسئول جنائياً الذي يفتقد للوعي‬
‫واإلدراك ‪ ،‬كالشخص المجنون أو الطفل غير المميز ‪ ،‬ونعتقد أن القياس في‬
‫هذه الحالة غير محظور ؛ ألنه يعد قياس في قواعد غير عقابية تتعلق‬
‫باألهلية وليس بالعقاب ‪ ،‬كما أنه ال يوجد نص جنائي يحدد ما هية الفاعل‬
‫المعنوي علي سبيل الحصر ‪ ،‬فيقصره علي الشخص الطبيعي ‪ ،‬وإال كان ذلم‬
‫(‪)2‬‬
‫‪.‬‬ ‫يستوجب االلتزام به من غير اجتهاد‬

‫ويكون الفاعل المعنوي مسئول مسئولية جنائية كاملة عن تصرفات‬

‫الروبوت باعتباره متحكم فيه أو مسيطر عليه ‪ ،‬ومن ثم فما يصدر عن هذا‬
‫األخير من أفعال تكون صادرة في األصل عن الفاعل المعنوي عن قصد‬
‫جنائي ‪ ،‬ويسأل عنها بالتبعية ‪،‬وفي أقل تقدير يمكن أن يسأل الفاعل المعنوي‬

‫(‪)1‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪155‬‬
‫(‪)2‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 155‬‬
‫عن نتائج تصرفات الروبوت كنتائج محتملة ‪ ،‬لتوافر القصد الجنائي االحتمالي‬
‫‪ ،‬فالنتيجة المحتملة للنشاط اإلجرامي هي تلك النتيجة التي يحتمل عمالً‬
‫وبحكم المجري العادي لألمور أن تتسبب عن النشاط اإلجرامي إذا كان‬
‫باستطاعته ومن واجبه توقعها حسب المجري العادي لألحداث ولو لم يكن قد‬
‫(‪)1‬‬
‫‪.‬‬ ‫توقعها فعالً‬

‫فعلي سبيل المثال إذا قام المبرمج أو المصمم بتصميم برنامج لنظام الذكاء‬
‫االصطناعي أو الروبوت في مصنع لجعله يقوم بإحراق المصنع ولكن أثناء‬
‫قيام الروبوت بتنفيذ الجريمة قام أحد األشخاص بمقاومته لمنعه من ارتكاب‬
‫الجريمة مما دفع الروبوت إلي قتله في هذه الحالة يسأل المبرمج أو المصمم‬
‫وفقاً لقواعد مسئولية الفاعل المعنوي عن ارتكاب جريمة عمدية وهي جريمة‬
‫الحريق العمد وجريمة القتل علي أساس أن القتل كان نتيجة محتملة لجريمة‬
‫الحريق ؛ ألنه كان في مقدوره وكان من واجبه أن يتوقع حدوثها ‪.‬‬

‫تحديد شخصية الفاعل المعنوي ‪:‬‬

‫شخصية الفاعل المعنوي ال تخرج عن احتمالين ‪ ،‬فإما أن يكون المبرمج أو‬

‫المصمم لبرنامج الروبوت ‪ ،‬وإما أن يكون المستخدم لهذا الروبوت ‪.‬‬

‫المسئولية الجنائية للمصنع أو المبرمج ‪ :‬وقد يقوم مطور برمجيات الروبوت‬

‫بتصميم برنامج الرتكاب جرائم بواسطة الروبوت ‪ ،‬فيتم وضع برنامج إلشعال‬
‫النيران في موقع عندما ال يكون هناك أحداً ‪ ،‬فيقوم الروبوت بتنفيذ البرنامج ‪،‬‬
‫وعلي ذلك فإن هذا الروبوت هو من قام بوضع النار وتنفيذ الجريمة ‪ ،‬ولكن‬

‫(‪)1‬‬
‫د‪ /‬أحمد صبحي العطار ‪ :‬اإلسناد واإلذناب والمسئولية في الفقه المصري والمقارن –‬
‫مرجع سابق – ص ‪. 199‬‬
‫الذي يسأل عنها هو المبرمج ‪ ،‬وتعد المسئولية الجنائية لمنتج أو مصنع‬
‫الروبوت من أهم ما يثار عند ارتكاب األخير ألي فعل إجرامي ‪ ،‬فيعتبر‬
‫المنتج أو المبرمج مسئوالً عن كل ما ينجم عنها من أفعال نتيجة عيوب‬
‫الصناعة ‪ ،‬حيث قد تحدث الجريمة نتيجة خطأ في البرمجة أو في التكوين‬
‫الداخلي للروبوت مما يتسبب في حدوث جريمة جنائية وبالتالي يكون المصنع‬
‫أو المبرمج مسئوالً عنها جنائياً ‪.‬‬

‫حيث تنص المادة ‪ 1 / 67‬من قانون التجارة رقم ‪ 17‬لسنة ‪ 1999‬علي إنه‬
‫‪ " -:‬يسأل منتج السلعة وموزعها قبل كل من يلحقه ضرر بدني أو مادي‬
‫يحدثه المنتج إذا ثبت هذا الشخص أن الضرر نشأ بسبب عيب في المنتج ‪.‬‬

‫ويترتب علي ذلك أنه يجب علي المنتج أو المبرمج االلتزام بمراعاة الجودة‬
‫ومطابقة المواصفات المطلوبة فهي تتعلق بمنظور العميل وتوقعاته وذلك‬
‫بمقارنة األداء الفعلي للمنتج مع التوقعات المرجوة منه ‪ ،‬فالهدف الذي يسعي‬
‫المنتج إليه هو تحقيق الربح وفي سبيل تحقيق ذلك قد ال يهتم بمراعاة الجودة‬
‫في التصنيع مما يؤدي إلي حدوث أضرار يتسبب فيها الذكاء االصطناعي‬
‫(‪)1‬‬
‫‪.‬‬ ‫بسبب عدم مراعاة الجودة في انتاجه‬

‫ويجب أيضاً مراعاة أن تكون الروبوت متوافقة مع قيم وتقاليد المجتمع ‪ ،‬فال‬
‫تكون دمية الغراض جنسية ‪ ،‬وال تكون ناطقة بإلفاظ غير الئقه ‪.‬‬

‫المسئولية الجنائية للمستخدم ‪ :‬مستخدم الذكاء االصطناعي هو الشخص‬

‫الذي يتمتع بتقنياته فيمكنه استخدامه واالستفاده من قدراته الهائلة ومن المتوقع‬
‫أن يقوم المالك أو المستخدم بإساءة استخدام برنامج الذكاء االصطناعي مما‬
‫يترتب عليه حدوث جريمة معينة يعاقب عليها القانون ونكون هنا أمام عدة‬

‫(‪)1‬‬
‫د‪ /‬يحيي إبراهيم دهشان ‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي – مرجع‬
‫سابق – ص ‪. 54‬‬
‫احتماالت وهو الشخص الذي ال يقوم ببرمجة الروبوت بل هو من يقوم‬
‫باستخدامه لتنفيذ مصالحه الخاصة ‪ ،‬فيشتري المستخدم روبوت خادم مصمم‬
‫لتنفيذ أي أمر من صاحبه ‪ ،‬ويحدد الروبوت مستخدمه أو صاحبه علي أنه‬
‫الموجه ‪ ،‬فيأمره هذا الموجه بمهاجمة من يتسلل ليالً ألسوار المنزل فيقوم‬
‫الروبوت بتنفيذ األمر فيقتل المتسلل ‪ ،‬وفي هذه الحالة فإن من قام بالتنفيذ هو‬
‫(‪)1‬‬
‫الروبوت ولكن المستخدم هو من أعطي األمر ومن ثم فهو المسئول جنائياً‬
‫‪.‬‬

‫وفي كلتا الحالتين تم ارتكاب الجريمة من قبل الروبوت ‪ ،‬ولم يقم المبرمج أو‬
‫المستخدم بتنفيذها وفقاً للنموذج القانوني للسلوك اإلجرامي ‪ ،‬إال أن هذه‬
‫الصورة تنطبق عليها المسئولية الجنائية للفاعل المعنوي ‪ ،‬فعندما يستخدم‬
‫المبرمجون أو المستخدمون الروبوت علي هذا النحو ‪ ،‬فإن ما يقوم الروبوت‬
‫بتنفيذه ينسب إليهم ‪ ،‬وذلك لتوافر الركن المعنوي الرتكاب الجريمة عندهم ‪،‬‬
‫حيث توافرت نية ارتكاب الجريمة لدي المبرمج الذي صمم البرنامج لحرق‬
‫الموقع ‪ ،‬كما توافرت نية ارتكاب الجريمة لدي المستخدم عندما وجه الروبوت‬
‫لقتل من يتسلل أسوار المنزل ليالً ‪ ،‬فبالرغم من تنفيذ هذه الجرائم بيد الروبوت‬
‫‪ ،‬إال إنها تنسب للمبرمج والمستخدم ‪.‬‬

‫(‪)1‬‬
‫د‪ /‬وفاء محمد أبو المعاطي صقر‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي –‬
‫مرجع سابق – ص ‪. 60‬‬
 ‫المطلب الثاني‬

‫جريمة الروبوت بناء علي خطأ البرمجة أو خطأ التشغيل‬

‫من المتصور أن يرتكب الروبوت الجريمة ليس بناء علي برنامج صممه‬
‫المبرمج الرتكاب الجريمة ‪ ،‬أو أمر يصدره المستخدم لتنفيذها ‪ ،‬ولكن يرتكب‬
‫الروبوت الجريمة بناء علي خلل في البرمجة أو خطأ في التشغيل ‪.‬‬

‫فإذا كان الخلل الذي أصاب الروبوت ناتج عن إهمال في الصيانة أو‬
‫الخطأ في التشغيل مما أدي إلي ارتكابه للسلوك اإلجرامي وفقاً لما تراكم لديه‬
‫من بيانات وخبرات ‪ ،‬ولكن دون توجيه من أحد مما يتسبب في وقوع كوارث‬
‫نتيجة لألخطاء غير المتوقعة ‪ ،‬فهنا تقع المسئولية الجنائية علي الشحص‬
‫الذي أهمل في إجراء الصيانة الالزمة التي تفرضها عليه واجبات مهنته سواء‬
‫كان هذا الشخص هو المبرمج أو المصنع أو المشغل أو المستخدم ‪،‬وتكون‬
‫المسئولية غير عمدية عن اإلهمال في اتخاذ ما يوجبه القانون من الحيطة‬
‫والحذر من المخاطر التي يمكن أن تقع من سوء استخدام الروبوت أو اإلهمال‬
‫(‪) 1‬‬
‫‪.‬‬ ‫في صيانته أو فحصه‬

‫ويكون السلوك الذي تسبب بارتكاب الجريمة هو الخطأ من المبرمج أو‬

‫المصنع‪ ،‬كما لو كان الخلل بسبب خطأ المبرمج في البرمجة أو بسبب خطأ‬
‫في التصنيع كعدم مراعاة معايير األمان والسالمة مما يدخل في المسئولية‬
‫التقصيرية أو ارتكاب الجريمة دون قصد بخطأ من المستخدم‪ ،‬أو سلوك‬
‫إجرامي ارتكبه المالك أو المستخدم للذكاء االصطناعي وهو قاصد الرتكاب‬

‫(‪)1‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 156‬‬
‫الجريمة ‪ ،‬فال خالف أن المسئولية الجنائية تقع على أحد األطراف السابق‬
‫ذكرها ‪ ،‬فتقع إما على المصنع أو المبرمج أو المستخدم حسب الظروف (‪.)1‬‬

‫ويفترض هذا النموذج للمسئولية الجنائية التورط العميق للمبرمجين أو‬

‫المستخدمين في سلوك الروبوت ‪ ،‬ولكن دون توافر نية ارتكاب الجريمة ‪،‬‬
‫بحيث ال يكون عندهم علم بالجريمة حتي يتم ارتكابها بالفعل ‪ ،‬فهم لم‬
‫يخططوا الرتكاب أي جريمة ‪ ،‬ولم يشاركوا في أي جزء في ارتكاب تلك‬
‫الجريمة المحددة ‪.‬‬

‫وفي مثال لذلك الروبوت المبرمج علي العمل كجراح آلي‪ ،‬والذي تتم برمجته‬
‫علي غلق الشريان في حالة حدوث نزيف كجزء من مهمة الروبوت كمساعد‬
‫للطبيب الجراح ‪ ،‬وفي أثناء العملية وعند قيام الطبيب بإجراء العملية يقوم‬
‫الروبوت الجراح اآللي بغلق الشريات بطريقة تتسبب في تجلط الدم فيموت‬
‫المريض بسبب سلوك الروبوت ‪ ،‬ومن الواضح هنا أن المبرمج لم يكن قصده‬
‫ارتكاب أي جريمة قتل ‪.‬‬

‫وتقوم المسئولية الجنائية تجاه المستخدم أو المبرمج في صورة الخطأ في‬

‫البرمجة أو االهمال في التشغيل علي أساس المسئولية الجنائية غير العمدية ‪،‬‬
‫حيث ال يوجد سبب لمحاسبتهم علي التعمد ‪ ،‬في حين يتوافر في حقهم عنصر‬
‫االهمال والتقصير وعدم االحتراز ‪.‬‬

‫(‪)1‬‬
‫د‪ /‬وفاء محمد أبو المعاطي صقر‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي –‬
‫مرجع سابق – ص ‪. 64‬‬
 ‫المطلب الثالث‬

‫جريمة الروبوت بناء علي تصرفه المباشر‬

‫يتصور في الواقع العملي أن يرتكب الروبوت السلوك اإلجرامي بناء‬

‫علي تطوره الذاتي دون تدخل من الشخص الطبيعي الذي قام بتصنيعه أو‬
‫برمجته أو تشغيله ‪ ،‬وذلك ألن التقدم العلمي والتكنولوجي في مجال تقنيات‬
‫الذكاء االصطناعي قد يؤدي إلي اتخاذها لق اررات خاطئة وارتكاب السلوك‬
‫االجرامي بصورة مستقلة مثل جرائم فصل أجهزة التنفس الصناعي عن‬
‫المريض ‪ ،‬أو غلق وريد المريض مما يؤدي إلي تجلط الدم ‪ ،‬أو وصف دواء‬
‫خاطئ أو حقن أبر غير مطابقة في الجسم ‪ ،‬أو اتخاذ قرار غير مناسب‬
‫‪.‬‬ ‫(‪)1‬‬
‫للحالة المرضية أو غيرها من الصور االجرامية األخري‬

‫وفي هذه الحالة يستفحل الخطر ويزداد الضرر إذا كانت برامج أو آليات‬
‫الذكاء االصطناعي تتمتع باستقاللية كاملة وتتخذ ق ارراتها دون الرجوع إلى‬
‫اإلنسان ‪ ،‬إذا يتصرف الروبوت بمفرده بقصد تغيير الظروف الواقعية المحيطة‬
‫‪ ،‬ويكون هذا التصرف بإدراك اصطناعي وعلي قدر من االختيار المبرمج ‪.‬‬

‫وعلي ذلك يجب أن يكون للروبوت وضع قانوني معين يتجاوز وضع اآللة‬
‫أو األداة ‪ ،‬باإلضافة إلي امتالله للقدرة علي التصرف واتخاذ القرار بحرية‬
‫واقتدار دون تدخل من خارج أنظمته الداخلية ‪.‬‬

‫وهو ما يعني تحرر الروبوت عن أي مؤثرات خارجية ‪ ،‬مما يجعله يتصف‬

‫بالقدرة الذاتية ‪ ،‬والذكاء االصطناعي الذي يؤهله للقيام بتطوير نفسه ‪ ،‬والتعلم‬

‫(‪)1‬‬
‫د‪ /‬وفاء محمد أبو المعاطي صقر‪ :‬المسئولية الجنائية عن جرائم الذكاء االصطناعي –‬
‫مرجع سابق – ص ‪. 68‬‬
‫المستمر‪ ،‬وإصدار ق اررات ذاتية خارجة عن النظام الذي يضعه المبرمج ‪،‬‬
‫فيخرج هنا الذكاء االصطناعي عن عباءة مصنعيه ليسيطر ذاتياً على نفسه‬
‫ويكون السلوك المجرم المرتكب من قبله نابعاً عن ق ارراته الذاتية ‪.‬‬

‫ومن األمثلة الواقعية على هذه الحالة قيام الروبوت الجراح بفصل جهاز‬
‫األكسجين عن المريض ‪ ،‬أو ضخ كمية كبيرة من الدم في جسد المريض مما‬
‫أصابه بالتجلط ‪ ،‬وأيضاً السيارات ذاتية القيادة ‪ ،‬كما لو قامت سيارة ذاتية‬
‫القيادة لها كامل السيطرة على حركتها بالتحرك من مكان إلى آخر‪ ،‬وفي‬
‫طريقها قامت بصدم شخص ما من المشاة وتسببت بإصابته أو بمقتله‪ ،‬أو‬
‫تسبب روبوت بأحد المصانع مع مراعاة جميع األنظمة واللوائح الخاصة‬
‫باألمن والسالمة بقطع يد أحد العاملين في المصنع بسبب خطأ في تقدير‬
‫الروبوتات التي تعمل بشكل منفرد عن اإلنسان ولها كامل السيطرة على‬
‫(‪)1‬‬
‫‪.‬‬ ‫أفعالها وق ارراتها الذاتية‬

‫وما نود اإلشارة إليه إن الروبوت الجراح يتمتع بقدر ٍ‬

‫كاف من الذكاء يمكنه‬
‫من اتخاذ القرار بشكل مستقل في غرفة العمليات ‪ ،‬ويمكنه التمييز بين السلوك‬
‫النافع والسلوك الضار‪ ،‬فعندما يكون للروبوت السيطرة الكاملة على الفعل دون‬
‫تدخل بشري‪،‬فإن هذا ينبئ بخطر اإلفالت من العقاب علي أي جريمة تقع من‬
‫هذا الروبوت ‪.‬‬

‫ففي ظل عدم إثبات المسئولية الجنائية علي المبرمج أو المستخدم اللذان لم‬
‫يشتركا بأي صورة في سلوك الروبوت ‪ ،‬وفي نفس الوقت عدم القدرة علي‬
‫إسناد المسئولية الجنائية علي الروبوت ‪ ،‬ومن ثم فال بد وأن تواكب التشريعات‬

‫(‪ )1‬د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 159‬‬
‫ذلك النموذج الجديد من المسئولية الجنائية‪ ،‬وليس من المتصور معاقبة‬
‫الروبوتات بإيقافه عن العمل كما دعا لذلك البعض‪ ،‬كون ذلك ال يحقق الردع‬
‫الذي يصبو إليه المشرع من العقوبة وحماية للمجني عليه والمجتمع ‪.‬‬

‫ونحن بصدد ذلك يبرز السؤال عمن هو المسئول عن هذه الجرائم ‪ ،‬ومن‬
‫يتحمل المسئولية الجنائية عن هذه الجرائم التي تبدو وكأنها قضاء وقدر ؟؟!!‬

‫ففي معظم البلدان المتقدمة تستخدم الروبوتات الجراحية ‪ ،‬والروبوتات‬

‫الصناعية ‪ ،‬والخوارزميات التجارية ‪ ،‬والروبوتات الشخصية ‪ ،‬وغيرها من‬
‫طبيا أو‬
‫شخصيا أو ً‬
‫ً‬ ‫كيانات الذكاء االصطناعي ‪ ،‬وقد يكون هذا االستخدام‬
‫صناعيا ‪ ،‬وإزاء تورط الروبوت الجراح في أخطاء‬
‫ً‬ ‫عسكرًيا أو تجارًيا أو‬
‫ج ارحية بمفرده وبشكل مستقل‪ ،‬فمن الذي يتحمل المسئولية الجنائية عن هذه‬
‫الجرائم ؟‬

‫فإذا كان من غير المنطقي معاقبة المصنع أو المبرمج أو المستخدم عن خطأ‬

‫الذكاء االصطناعي الذي ال دخل لهم به ‪ ،‬ومن ناحية أخرى فإنه ال يمكن‬
‫إهمال حق المجني عليه والمجتمع في معاقبة الجاني في الجريمة‪ ،‬واعتبار‬
‫جرائم الذكاء االصطناعي عبارة عن قضاء وقدر ‪ ،‬فنحن أمام جريمة ناجمة‬
‫عن الذكاء االصطناعي نفسه‪ ،‬لذا نحن بحاجة لتدخل تشريعي لمواكبة هذا‬
‫التطور بوضع قواعد قانونية للمسئولية الجنائية الناجمة عن جرائم الذكاء‬
‫االصطناعي‪ ،‬بالتعاون مع المختصين في مجال التكنولوجيا والبرمجيات‪.‬‬

‫علي أن يتم النص على اعتبار استخدام الذكاء االصطناعي كوسيلة‬

‫الرتكاب الجريمة‪ ،‬ظرفاً مشدداً للعقوبة نظ اًر لما لهذه الوسيلة من أثر كبير في‬
‫تسهيل ارتكاب الجرائم بحيث يمكن للجاني أن يرتكب الجريمة دون أن يتحرك‬
‫من مكانه‪ ،‬وبضغطة زر باستخدام تقنية الذكاء االصطناعي ‪ ،‬مع ضرورة‬
‫الموازنة بين التشجيع في استخدام وتطوير تقنيات الذكاء االصطناعي في‬
‫شتى المجاالت‪ ،‬ووضع القواعد القانونية المنظمة التي تحمي المجتمع من‬
‫مخاطره ويسهل تحديد المسؤولية الجنائية عن الجرائم التي قد ترتكب من‬
‫تقنيات الذكاء االصطناعي نفسه ‪ ،‬ومما يضاعف من أهمية التنظيم القانوني‪،‬‬
‫تالفي اإلحجام عن استخدام أو تطوير تقنية الذكاء االصطناعي وبالتالي‬
‫حرمان المجتمع من فوائدها الجمة ‪.‬‬

‫المبحث الثالث‬

‫حدود المسئولية الجنائية لتقنيات الذكاء اإلصطناعي في المجال الطبي‬

‫من أهم تقنيات الذكاء اإلصطناعي ما يسمي باإلنسان اآللي أو الروبوت ‪،‬‬
‫وفي الحقيقة فإن هذا المنتج وإن كان ما يزال النظر إليه علي إنه شيئاً‬
‫مصنوعاً أو مجرد آلة ‪ ،‬إال أن هناك إرهاصات قانونية تخطو نحو منح هذا‬
‫الشيئ الشخصية القانونية المحدودة ‪ ،‬فيسمي بأسم ‪ ،‬ويسمح له بالحصول‬
‫علي الجنسية ‪ ،‬ويتمتع بالذمة المالية المستقلة ‪ ،‬ويجري بعض التصرفات‬
‫القانونية كإبرام العقود وما إلي ذلك من التصرفات ‪.‬‬

‫إال الجدل ما زال قائماً بخصوص تحمل الروبوت بالمسئولية الجنائية حال‬
‫ارتكاب الجرائم ‪ ،‬وهل تقع عليه المسئولية الجنائية ‪ ،‬أم علي الشركة المصنعة‬
‫‪ ،‬أم علي المبرمج ‪ ،‬أم علي المستخدم ‪ ،‬نعرض فيما يلي لهذه التساؤالت علي‬
‫النحو األتي ‪:‬‬

‫المطلب األول ‪ :‬تطور مفهوم المسئولية الجنائية في مجال استخدام الذكاء‬

‫االصطناعي في المجال الطبي‬
‫المطلب الثاني ‪ :‬الجدل الفقهي حول إقرار المسئولية الجنائية لتقنيات الذكاء‬
‫اإلصطناعي في المجال الطبي‬

‫المطلب الثالث ‪ :‬حل أزمة عدم وجود النص المتعلق بجرائم تقنيات الذكاء‬
‫االصطناعي‬

‫المطلب األول‬

‫تطور مفهوم المسئولية الجنائية في مجال استخدام الذكاء االصطناعي في‬

‫المجال الطبي‬

‫خطت التشريعات المعاصرة خطوة متقدمة نحو منح الريبوت شخصية‬

‫قانونية محدودة ‪ ،‬ولعل ذلك نتيجة للتطور الهائل الذي لحق ببرامج الذكاء‬
‫اإلصطناعي الذي جعل الروبوت ليس مجرد آله ‪ ،‬ولكنه صنيع له إدراك وقدرة‬
‫علي التعلم الذاتي ‪ ،‬واتخاذ القرار المناسب في الوقت المناسب من خالل‬
‫معالجة كم هائل من البيانات ‪ ،‬فأصبح بإمكان الريبوت أن يكون له رد فعل ‪،‬‬
‫(‪)1‬‬
‫‪.‬‬ ‫وقرار مستقل عن صانعه‬

‫وفي الحقيقة فإن منح الروبوت الشخصية القانونية المحدودة ليست بدعة‬
‫قانونية ‪ ،‬فهي فكرة قانونية خالصة ترتبط بمدي إمكانية التمتع بالحقوق‬
‫والتحمل باإللتزامات وليس بالصفة اآلدمية البحتة ‪ ،‬وبسبب التطور المستمر‬
‫للقانون منحت الشخصية القانونية ألشخاص غير الشخص الطبيعي ‪،‬مثل‬

‫(‪ )1‬د‪/‬حمد محي الدين عوض ‪ :‬مشكالت السياسة الجنائية المعاصرة في جرائم نظم‬
‫المعلومات –الكمبيوتر – مرجع سابق – ص ‪219‬‬
‫الشخص اإلعتباري كالشركات والكيانات العامة والمؤسسات بالرغم من إنها‬
‫(‪)1‬‬
‫‪.‬‬ ‫تفتقر ألية صفات آدمية‬

‫ولقد اعترف المشرع الفرنسي في عام ‪ 2015‬للحيوان بالشخصية القانونية‬

‫المحدودة بما يتناسب مع طبيعته ؛ نتيجة للحاجة القانونية لهذا االعتراف ‪،‬‬
‫ومن ثم فإن منح الشخصية القانونية لم يكن مرتبط بصفة اإلنسان وبالتالي‬
‫فإن تقنيات الذكاء اإلصطناعي إذا أمكن جعلها أهالً للتمتع بالحقوق والتحمل‬
‫باإللتزامات أمكن اإلعتراف لها بالشخصية القانونية ‪.‬‬

‫وبتحليل نصوص القانون المدني األوروبي الخاص بالروبوت الصادر في‬

‫فبراير ‪ 2017‬وجدنا أن المشرع األوروبي قد أعتمد علي نظرية النائب‬
‫اإلنساني الذي يكون هو المسئول عن تعويض المضرور بسبب تشغيل‬
‫الروبوت علي أساس الخطأ ‪ ،‬وأن واجب اإلثبات يكون علي النائب الذي قد‬
‫يكون صانع أو مشغل أو مالك أو مستغل للروبوت ‪.‬‬

‫وهذا يدل علي إن منح الروبوت مكانة قانونية مستقلة ‪ ،‬قد تؤدي إلي منحه‬
‫الشخصية القانونية المحدودة ‪ ،‬وهو ما بدأ به بالفعل االتحاد األوروبي بتاسيس‬
‫منزلة للشخص اإللكتروني كامل األهلية الذي سيحصل علي اسم معين ‪،‬‬
‫وسينال الجنسية ‪،‬والذمة المالية المستقلة ‪ ،‬وبعدها سيخضع الروبوت للعقاب‬
‫عن أفعاله التي تعد جريمة وهو ما كان يعد في الماضي ضرباً من الخيال ‪.‬‬

‫ولقد أكدت قواعد القانون المدني األوروبي إن اإلطار القانوني الحالي سوف‬
‫يكون كافياً لمواجهة المسئولية الجنائية عن اإلضرار التي قد تتسبب فيها‬
‫األجيال الجديدة من الروبوتات التي سيتم تزويدها بقدرات تكيف وتعلم فائقة‬

‫(‪)1‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 170‬‬
‫التقنية مما سيولد تقلب في سلوكها وسيجعلها في حالة انقالب تام عن السيطرة‬
‫البشرية ‪.‬‬

‫كذلك قرر البرلمان األوروبي في ‪ 2019/2/ 12‬ضرورة وضع إطار قانوني‬

‫يحكم عمل أنظمة الذكاء اإلصطناعي والروبوتات ليتمحور في األساس حول‬
‫وضع معايير أخالقية تنظم تعميم واستخدام أنظمة الذكاء اإلصطناعي ‪.‬‬

‫وعلي الصعيد العربي فقد تطرق قانون المعامالت والتجارة اإللكترونية‬

‫االتحادي لدولة اإلمارات العربية المتحدة رقم ‪ 1‬لسنة ‪ 2006‬في المادة األولي‬
‫منه علي إن الوكيل أو الوسيط اإللكتروني هو برنامج أو نظام إلكتروني‬
‫لوسيلة تقنية المعلومات تعكل تلقائياً بشكل مستقل كلياً أو جزئياً دون إشراف‬
‫من شخص طبيعي في الوقت الذي يتم فيه العمل أو اإلستجابة له (‪.)1‬‬

‫كما اعترف هذا القانون بصحة تلك العقود التي تبرم بين رسائل إلكترونية‬
‫متضمنة نظامي معلومات إلكترونية أو أكثر تكون معدة ومبرمجة سلفاً من‬
‫أجل القيام بذلك حتي في حالة عدم التدخل الشخصي أو المباشر ألي شخص‬
‫طبيعي في عملية إبرام العقود علي هذا النحو ‪ ،‬وأعتبر القانون كل ما يصدر‬
‫عن هذه األنظمة وكأنه صادر عن الشخص المنشئ شخصياً ‪.‬‬

‫وعلي الرغم من كل هذه اإلرهاصات السابقة إال إنه وحتي األن لم نجد نص‬
‫صريح يرتب المسئولية الجنائية لتلك التقنيات رغم ما وصلت إليه من‬
‫إمكانيات فاقت قدرات البشر ‪،‬فالعمليات المعقدة التي يقوم بها الروبوت ينبغي‬
‫معها منحه كيان خاص ووضع قانون خاص له ‪.‬‬

‫(‪ )1‬د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪65‬‬
 ‫المطلب الثاني‬

‫الجدل الفقهي حول إقرار المسئولية الجنائية لتقنيات الذكاء اإلصطناعي في‬
‫المجال الطبي‬

‫في ظل تزايد استخدامات الذكاء االصطناعي في المجال الطبي ‪ ،‬ومشاركة‬

‫الروبوتات لألطباء والجراحين في األعمال الطبية ‪ ،‬فقد تزايدات احتماالت‬
‫حدوث جرائم الذكاء االصطناعي ‪ ،‬ومن هنا نشأ الجدل الفقهي حول إقرار‬
‫المسئولية الجنائية لتقنيات الذكاء االصطناعي في المجال الطبي ‪ ،‬وفي ذلك‬
‫انقسم الفقه إلي اتجاهين ‪ ،‬األول مؤيد لفكرة إقرار المسئولية الجنائية لتقنيات‬
‫استخدام الذكاء االصطناعي في المجال الطبي‪ ،‬والثاني معارض‪ ،‬ونعرض‬
‫ذلك فيما يلي ‪:‬‬

‫االتجاه األول ‪ :‬تأييد إقرار المسئولية الجنائية لتقنيات الذكاء االصطناعي‬

‫في المجال الطبي ‪:‬‬

‫باستقراء الواقع الحالي نجد أن الروبوت يمكن أن يكون له الشخصية‬

‫القانونية المحدودة فيكون له اسم ‪ ،‬ويتمتع بالذمة المالية المستقلة ‪ ،‬ويكون له‬
‫(‪)1‬‬
‫‪ ،‬وله القدرة علي اتخاذ قرار بشكل منفرد ‪ ،‬ومن ثم فيمكن أن‬ ‫جنسية‬
‫يرتكب جريمة طبية ؛ فتقوم بشأنه المسئولية الجنائية ؛ لذلك فإن البعض ذهب‬
‫إلي االعتراف للروبوت بالمسئولية الجنائية استناداً إلي أن ذلك يعد ضرورة‬

‫(‪)1‬‬
‫الروبوت صوفيا هي أشهر روبوت حتي اآلن صممته شركة هانسون روبوتيكس الكائنة‬
‫في هونج كونج ‪ ،‬صممت شبيهة بالبشر ‪ ،‬ولها القدرة علي التعلم والتأقلم مع السلوك‬
‫البشري ‪ ،‬والتعامل معه ‪ ،‬وحصلت صوفيا علي الجنسية السعودية في أكتوبر ‪. 2017‬‬
 ‫(‪)1‬‬
‫نوردها علي‬ ‫واقعية‪ ،‬ويبني أصحاب هذا االتجاه رأيهم علي حجج واقعية‬
‫النحو األتي‪:‬‬

‫‪ -1‬مع االعتراف للروبوت بأنه آلة ‪ ،‬إال أنه يجب مع ذلك االعتراف أيضاً‬
‫بأن لهذه اآللة إدراك وذكاء اصطناعي ‪ ،‬وقدرة علي التصرف وكذلك‬
‫قدرة علي اتخاذ القرار المنفرد ‪ ،‬فإذا كان مناط المسئولية الجنائية هي‬
‫ارتكاب الفعل بعلم وإرادة ‪ ،‬فإن هذا الروبوت يمتلك القدرة علي القيام‬
‫باألفعال بعلم وإرادة ‪ ،‬حيث تخزن بداخله البيانات والمعلومات ‪ ،‬ويقوم‬
‫بتحليلها ويصدر فعله بوعي اصطناعي بناء علي هذه البيانات ‪.‬‬
‫‪ -2‬االعتراف بالمسئولية الجنائية لتقنيات الذكاء االصطناعي هو نتيجة‬
‫حتمية للتحليل الدقيق لطبيعة الروبوتات التي أصبحت لها الشخصية‬
‫القانونية حتي ولو كان ذلك بشكل محدود ‪ ،‬ويعد ذلك وسيلة ال غني‬
‫عنها لحماية مصالح المجتمع؛ فليس صحيحاً االحتجاج بأن الروبوت ال‬
‫إرادة له‪ ،‬فإن ساغ هذا القول عند من يرون في الروبوت مجرد آلة أو‬
‫أداة ‪ ،‬فهو غير مقبول في منطق النظرية الواقعية التي تسود الفقه‬
‫الحديث‪ ،‬وتري أن للروبوت وجوداً حقيقياً قائماً (‪ ،)2‬ويمكنه اتخاذ‬
‫(‪)3‬‬
‫‪.‬‬ ‫الق اررات المنفردة والتصرف بحرية وإرادة‬

‫‪ -2‬إنكار المسئولية الجنائية للروبوت يتعارض مع نصوص القانون المدني‬

‫االوروبي الخاص بالروبوتات الصادر في فبراير ‪ 2017‬والذي يميل‬

‫(‪)1‬وه ووو الم ووذهب الوض ووعي ال ووذي ي ووري أن أس وواس المس ووئولية الجنائي ووة ه ووو الحتمي ووة وعوام وول‬
‫خارجة عن إرادة اإلنسان‪.‬‬
‫انظر في عرض نظرية الحقيقة‪:‬‬ ‫(‪)2‬‬

‫‪Planiol, Ripert et Boulanger: T raiteelementaire de droitcivil , 1 (1948) , no. 706, p ,‬‬

‫‪270.‬‬
‫(‪)3‬‬
‫د‪/‬حمد محي الدين عوض ‪ :‬مشكالت السياسة الجنائية المعاصرة في جرائم نظم‬
‫المعلومات –الكمبيوتر – مرجع سابق – ص ‪217‬‬
‫نحو منح بعض من الشخصية القانونية المحدود لتقنيات الذكاء‬
‫االصطناعي ‪.‬‬

‫‪ -3‬أن القول بأن العقوبات التي يعرفها قانون العقوبات قد وضعت خصيصاً‬
‫لآلدميين فال يتصور تطبيقها علي الروبوتات ‪ ،‬فهذا القول ال يصدق‬
‫علي العقوبات المالية كالغرامة أو المصادرة بحسبان أن للروبوت ذمة‬
‫مالية مستقلة ويستطيع المشرع حرمانه من بعض عناصرها ‪ ،‬ومن جهة‬
‫آخري فإن بإمكان المشرع أن يضع عقوبات تناسب الروبوت كالتعطيل‬
‫أو المنع من االستخدام ‪.‬‬
‫‪ -4‬االعتراف للروبوت بالمسئولية الجنائية يعد أم اًر طبيعياً في ظل‬
‫االعتراف له بأنه قد يكون مجنياً عليه في بعض الجرائم (‪ ،)1‬فهذا‬
‫التطور المذهل في الذكاء االصطناعي يجعل من الروبوت شخصاً‬
‫جديداً يتمتع بحقوق محدودة ‪ ،‬نظ اًر لما يتمتع به من أدارك حسي ‪،‬‬
‫ووعي ‪ ،‬وردود فعل ذكية ‪.‬‬
‫‪ -5‬يتمتع الروبوت في حاالت معينة باالستقاللية عن صانعه أومستخدمه‬
‫‪ ،‬فيستطيع الروبوت أن يأخذ القرار بمفردة ‪ ،‬ومن جهة آخري فهناك‬
‫حاالت يستحيل فيها تحديد المسئول الحقيقي عن الجريمة ممن اشتركوا‬
‫فيها مع الروبوت ‪ ،‬وهل هو المستخدم ام المبرمج أم الصانع ‪.‬‬
‫االتجاه الثاني ‪ :‬رفض إقرار المسئولية الجنائية لتقنبات الذكاء اإلصطناعي‬
‫في المجال الطبي ‪:‬‬

‫د ‪ /‬ش وريف سوويد كاموول‪ :‬المسووئولية الجنائيووة لألشووخاص المعنويووة – د ارسووة مقارنووة – دار‬ ‫(‪)1‬‬

‫النهضة العربية – ص ‪.29‬‬

‫المسئولية بوجه عام هي حال أو صفة من يسأل عن أمر تقع عليه‬
‫تبعته‪ ،‬فهي تحمل الفرد تبعة أفعاله حال مخالفته للقانون (‪ ،)1‬وحيث أصبح من‬
‫الممكن أن يرتكب الروبوت جريمة طبية حال ممارسته لبعض األنشطة الطبية‬
‫من خالل إجراء عملية جراحية ‪ ،‬أو نقل العدوى من خالل نقل دم ملوث‪ ،‬أو‬
‫الغسيل الكلوي‪ ،‬أو زرع عضو مصاب بفيروس ٍ‬
‫معد‪ ،‬أو الخطأ إثناء العمليات‬
‫‪ ،‬إال أن ذلك يكون بوصفه آلة في يد الطبيب البشري ‪.‬‬ ‫(‪)2‬‬
‫الجراحية‬

‫ووفقاً لهذا االتجاه فإن المسئولية الجنائية ال تثبت إال لإلنسان الطبيعي ‪،‬‬
‫أما اإلنسان اآللي ‪ Robot‬ال يمكن أن تثبت بشأنه أي مسئولية ‪ ،‬ويسوق‬
‫هذا االتجاه الحجج األتية لتبرير هذا الرأي ‪:‬‬

‫أوالً ‪ :‬طبيعة اإلنسان اآللي تأبي علي تحمل المسئولية الجنائية ‪:‬‬

‫فاإلنسان اآللي مجرد شئ أو آلة ال إرادة لها ‪ ،‬وال يمكنها االختيار ‪ ،‬وإذا‬
‫كان أساس المسئولية الجنائية هو الحرية واالختيار‪ ،‬فإنه إذا انتفت لدي‬
‫الجاني حرية اإلرادة ‪ ،‬وانعدمت حرية االختيار فال يمكن قيام المسئولية‬
‫الجنائية تجاهه ‪.‬‬

‫فالجريمة ليست كيان مادي فقط يتكون من سلوك ونتيجة ورابطة سببية‬
‫‪ ،‬ولكنها كيان نفس أيضاً مضمونه وجود رابطة نفسية تمثل الركن المعنوي‬
‫للجريمة ‪ ،‬فال يكفي إلصاق السلوك المادي بالجاني بل يلزم توافر القصد‬

‫أ‪ /‬أحمد مجحودة‪ :‬أزمة الوضوح في األثم الجنائي في القانون الج ازئوري والقوانون المقوارن‬ ‫(‪)1‬‬

‫‪ -‬الجزء األول ‪ -‬دار هومة ‪ -‬الجزائر ‪ -‬ط ‪ - 2004‬ص ‪.56‬‬

‫(‪)2‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪.171‬‬
‫الجنائي ‪ ،‬وهو الرابطة النفسية بين الجاني وبين سلوكه ‪ ،‬وهو ما يمثل اإلثم‬
‫(‪)1‬‬
‫‪.‬‬ ‫الجنائي‬

‫ويخلص هذا االتجاه إلي أن اإلنسان وحده هو من يخاطب بالقاعدة‬

‫القانونية ‪ ،‬وبمقتضي ذلك أنه ال ينسب الفعل المكون للجريمة إال لهذا‬
‫الشخص الطبيعي الذي يفهم نصوص القانون وما تتضمنه من أوامر ونواهي‬
‫‪.‬‬

‫فإذا قلنا مجا اًز أن الروبوت ارتكب الجريمة فإن افتقاده للوعي واإلدراك‬
‫وحرية اإلختيار لحظة ارتكاب الجريمة ينفي عنه المسئولية الجنائية ‪،‬‬
‫باإلضافة إلي إنه ال يعد إال آلة منقادة تخضع لألوامر والتعليمات من خالل‬
‫البرمجة فال يملك حرية اإلرادة أو اإلختيار ‪.‬‬

‫ثانياً ‪ :‬تعارض إسناد المسئولية الجنائية للروبوت مع فلسفة الجزاء‬

‫الجنائي ‪:‬‬

‫إذا كان الجزاء الجنائي ال بد وأن يمس الجاني في بدنه أو حريته أو‬
‫ماله أو شرفه أو اعتباره ‪ ،‬ومن ثم فإن الحكم علي الروبوت بالعقوبة عند‬
‫ارتكابه الجريمة يعد عبثاً ‪ ،‬فهذه العقوبات ال تؤتي ثمارها إال مع اإلنسان‬
‫الطبيعي الذي يشعر ويتألم ‪،‬كما أن تطبيق العقوبة علي الروبوت ال يأتي‬
‫بجدوي فال تحقق ال ردع عام ‪ ،‬وال ردع خاص ‪ ،‬حيث ال تحقق أهم أهدفها‬
‫وهو إصالح المحكوم عليه ‪ ،‬وتأهيله ‪ ،‬وفي الحقيقة فإن الريبوت ال تجدي‬

‫(‪)1‬‬
‫د‪ /‬أحمد صبحي العطار ‪ :‬اإلسناد واإلذناب والمسئولية في الفقه المصري والمقارن –‬
‫مرجع سابق – ص ‪. 201‬‬
‫معه أي وسيلة من وسائل الجزاء ‪ ،‬فهو ال يشعر وال يتألم وال يملك القدرة علي‬
‫(‪)1‬‬
‫‪.‬‬ ‫اإلدراك‬

‫ثالثاً ‪ :‬نظام العقوبات الجنائية غير قابل للتطبيق علي الروبوت ‪:‬‬

‫يستعصي من الوجهة الواقعية تطبيق أي عقوبة من العقوبات الجنائية‬

‫المعروفة علي الريبوت ‪ ،‬سواء الماسة بالبدن كاإلعدام‪ ،‬أو المقيدة للحرية‬
‫كالسجن أو الحبس ‪ ،‬أو الماسة بأموال المحكوم عليه كالغ ارمة أو المصادرة ‪،‬‬
‫أو المتعلقة بالشرف أو االعتبار‪ ،‬أما ما يقال عن الوقف عن العمل أو‬
‫التعطيل والتغريم فإن هذه العقوبات هي في حقيقتها تعد عقوبة علي مالك‬
‫الروبوت أو مستخدمه ‪.‬‬

‫بعد أن‬ ‫حتي بعد التطور الذي لحق بالعقوبة في اآلوانة األخيرة‬
‫أصبحت العقوبة تستهدف مقاصد آخري غير إيالم المحكوم عليه ‪ ،‬عن طريق‬
‫إعادة تأهيله وإعادته للمجتمع مرة آخري ‪ ،‬فلن تصبح العقوبة مناسبة للروبوت‬
‫‪ ،‬حيث أن إعادة ضبط الروبوت لن يصلح من أدائه شيئاً ‪.‬‬

‫رابعاً ‪ :‬الجرائم التي تقع من الروبوت لها فاعل معنوي ‪:‬‬

‫ففي الحقيقة فإن جرائم الروبوت تقع ممن يسخر هذا الريبوت ويكون في‬
‫يده زمام أمورها ‪ ،‬فالروبوت ما هو إال أداة يستعين بها الفاعل في تحقيق‬
‫أفعاله ‪ ،‬فيكون هذا الفاعل هو مرتكب الجريمة بواسطة غيره ‪.‬‬

‫(‪ )1‬د‪/‬محمد محي الدين عوض ‪ :‬مشكالت السياسة الجنائية المعاصرة في جرائم نظم‬
‫المعلومات –الكمبيوتر – مرجع سابق – ص ‪220‬‬
 ‫المطلب الثالث‬

‫حل أزمة عدم وجود النص الذي يحكم جرائم تقنيات الذكاء االصطناعي‬

‫في ظل الوضع الراهن يجد الباحث في المجال الجنائي نفسه مجبر علي‬
‫البحث في النصوص الجنائية القائمة‪ ،‬لمحاولة الخروج من إشكالية عدم وجود‬
‫النص الخاص الذي يحكم االنماط المختلفة لجرائم تقنيات الذكاء االصطناعي‬
‫‪ ،‬وذلك إلي أن يصدر قانون خاص يحكم جرائم تقنيات الذكاء االصطناعي ‪،‬‬
‫وفيوما يلي محواولة للبحوث عون حلوول إلشكالية شرعية هذه الجرائم من خالل‬
‫الفرعين اآلتيين‪:‬‬
‫‪ :‬قراءة النصوص القائمة لتطبيق ما يتناسب مع هذه الجرائم‬ ‫الفرع األول‬
‫المستجدة ‪.‬‬

‫الفرع الثاني ‪ :‬دعوة المشرع إلصدار التشريع الجديد الذي يحكم هذه الجرائم‬
‫بما يتناسب مع طبيعتها وخصائصها ‪.‬‬

‫الفرع األول‬

‫قراءة النصوص القائمة لتطبيق ما يتناسب منها علي جرائم الذكاء‬

‫االصطناعي‬

‫بالرغم من أن إشكالية المسئولية الجنائية الناشئة عن جرائم تقنيات الذكاء‬

‫االصطناعي تبلغ غايتها حين النظر في القواعد القانونية القائمة لعدم وجود‬
‫النص الذي يحكمها ‪ ،‬ولتعدد األطراف التي يمكن أن تنسب إليها الجريمة ‪،‬‬
‫كالمص نع ‪ ،‬أو المبرمج أو المستخدم أو الروبوت ذاته ‪ ،‬ومن ثم فإن القواعد‬
‫القانونية القائمة قد ال تتناسب مع هذه الجرائم ‪ ،‬إال إنه بالنظر إلي فكرة‬
‫الفاعل المعنوي ‪ ،‬فقد نجد حالً مالئماً لجرائم تقنيات الذكاء االصطناعي ‪،‬‬
‫وهي أن يرتكب الشخص الجريمة بدون أن يقترف أي سلوك مادي مستخدماً‬
‫شخص آخر ليقوم بالركن المادي في الجريمة ‪ ،‬وقد يتمثل هذا الفاعل المعنوي‬
‫‪.‬‬ ‫(‪)1‬‬
‫في المصنع أو المبرمج ‪ ،‬أو قد يكون المستخدم‬

‫وفي التشريع الجنائي المصري نجد النصوص العقابية التي تجرم كل‬
‫السلوكيات التي تمثل أذي للغير(‪ ،)2‬ومن ثم رؤى إعادة قراءة هذه النصوص‬
‫القائمة إلسباغها علي جرائم الذكاء االصطناعي ‪،‬ومعالجة هذا الفراغ التشريعي‬
‫(‪)3‬‬
‫‪.‬‬ ‫عن طريق البحث في هذه النصوص وتفسيرها‬
‫فقد يرتكب الفعل و يترتب علي ارتكابه اإلخالل بمصلحة جديرة بالحماية‪،‬‬
‫ويري المشرع أن هذا الفعل بالرغم من حداثته يخضع للتجريم وفقاً للقواعد‬
‫العامة‪ ،‬فيكتفي بذلك فال يتدخل بالتعديل أو بإصدار قانون جديد ليحكم هذا‬
‫الفعل‪ ،‬مكتفياً بالقواعد القائمة التي يمكن أن توفر الحماية القانونية الالزمة ‪.‬‬
‫وتبرز جرائم الذكاء االصطناعي كحالة واضحة في هذا الشأن فتمس‬
‫مصلحة جديرة بالحماية‪ ،‬تتمثل في الحق في الصحة والحق في الحياة‪ ،‬وهذين‬
‫الحقين من أهم الحقوق التي يتمتع بها الفرد والجماعة علي السواء‪ ،‬إذ ال‬
‫يمكن للجماعة أن تحتفظ بوجودها إال إذا كان هذان الحقان محاطين بحماية‬
‫(‪) 4‬‬
‫‪.‬‬ ‫دستورية و جنائية كاملة‬

‫(‪)1‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪.172‬‬
‫د‪ /‬عصووام عفيفووي عبوود البصووير‪ :‬النصوووص العقابيووة فووي الق ووانين غيوور الجنائيووة – نحووو‬ ‫(‪)2‬‬

‫سياسة جنائية جديدة – دار النهضة العربية – ص ‪.57‬‬

‫د‪ /‬رف وواعي س وويد س ووعيد ‪ :‬تفس ووير النص وووص الجنائي ووة – د ارس ووة مقارن ووة – دار النهض ووة‬ ‫(‪)3‬‬

‫العربية – ط ‪ – 2008‬ص ‪.57‬‬

‫(‪ )4‬راجع الدستور المصوري الصوادر فوي ‪ 2014‬فوي مادتوه الثامنوة عشور والتوي نصوت علوي‬
‫إنه لكل مواطن الحق في الصحة وفي الرعاية الصحية المتكاملة وفقاً لمعايير الجوودة‪،‬‬
‫وتكفل الدولة الحفاظ علوي م ارفوق الخودمات الصوحية العاموة التوي تقودم خودماتها للشوعب‬
‫ودعمها والعمل علي رفع كفاءتها وانتشارها الجغرافي العادل‪.".....‬‬
‫وفيما يتعلق بجرائم األذي التي يحدثها الذكاء االصطناعي فكل فعل من‬
‫شأنه إصابة الشخص في ملكاته باإلختالل أياً كان‪ ،‬ويفقده القدرة علي ممارسة‬
‫حياته بشكل طبيعي‪ ،‬أو نقص اإلدراك والتمييز لديه فهو عدوان يمس سالمة‬
‫الجسد يعاقب عليه المشرع بموجب قانون العقوبات؛ إلحداث األذي أو العاهة‬
‫المستديمة بالمجني عليه متي ثبت أن االعتداء الذي ارتكبه الجاني علي جسم‬
‫المجني عليه قد نال من سالمته الجسدية ‪.‬‬
‫لذلك رصد المشرع بالمواد ‪ 265 ،241 ،240 ،236‬من قانون‬
‫العقوبات حماية الحق في سالمة الجسم من أي أذي؛ فعاقب علي أفعال‬
‫الضرب والجرح وإعطاء المواد الضارة (‪ ،)1‬وما من شك أن هذه النصوص‬
‫تغطي بالحماية أكثر من مصلحة جديرة بالحماية ضد أي صورة من صور‬
‫األذي التي تتسبب عنها جرائم الذكاء االصطناعي ‪.‬‬
‫وعند تطبيق قواعد التفسير علي هذه النصوص فإن الضرورة تستتبع قياس‬
‫النتيجة التي تنتج عن جرائم الذكاء االصطناعي علي النتيجة التي تنتج عن‬
‫أفعال أخري جرمها القانون كإعطاء مواد ضارة أو الضرب أو الجرح حتي يتم‬
‫إنزال العقاب علي هذه األفعال التي تتسبب في إحداث هذا األذي أو الضرر‪.‬‬
‫وبمقتضي ذلك فإن بيان األفعال التي يجرمها القانون يتطلب تحديد الحق‬
‫الذي يحميه تحديداً دقيقاً وتفصيل عناصره‪ ،‬فالحق في سالمة الجسم هو الحق‬
‫في ضمان السير العادي للجسم‪ ،‬وكل فعل يمس هذا السير العادي يعد ضرباً‬
‫أو جرحاً أو إعطاء مواد ضارة حتي ولو كان المدلول اللغوي لهذه التعبيرات‬
‫غير متسع لذلك الفعل‪ ،‬وتطبيقاً لذلك قيام الروبوت بتوجيه أشعة إلي جسم‬
‫مريض دون أن تنال من أعضاءه الخارجية بسوء‪ ،‬ولكنها تخل بالسوير العادي‬
‫لجهاز من أجهزته الداخلية‪ ،‬فإن ذلك يعد مساساً بالحوق في سالمة الجسم‪،‬‬

‫د ‪ /‬فوزيووة عبوود السووتار‪ :‬شوورح قووانون العقوبووات – القسووم الخوواص – الطبعووة الثانيووة – دار‬ ‫(‪)1‬‬

‫النهضة العربية – ‪ -1988‬رقم ‪ – 496‬ص ‪.449 ،448‬‬

 ‫‪.‬‬
‫وكان بذلك خاضعاً لتجريم القانون‬
‫أما فيما يتعلق بجرائم القتل التي يحدثها الذكاء االصطناعي فكل فعل من‬
‫شأنه المساس بالحق في الحياة عن طريق تقنيات الذكاء االصطناعي ‪ ،‬فإنه‬
‫(‪)2‬‬ ‫(‪)1‬‬
‫الواردتين في‬ ‫أو لجريمة التسميم‬ ‫يخضع للنموذج القانوني لجريمة القتل‬
‫قانون العقوبات لتشابه النتيجة في الحالتين‪ ،‬ففي حالة قيام الروبوت بمنع‬
‫تدفق الدم في أوردة المريض ‪ ،‬أو قيام الروبوت بحقن المريض بمادة قاتلة ‪،‬‬
‫ونتج عن ذلك الموت تنهض المادتان ‪ 233 ،230‬عقوبات لتحكم الواقعة في‬
‫هذه الحالة‪ ،‬وفقاً للقالب القانوني لجريمتي القتل أو التسميم ‪.‬‬

‫فألول وهلة يظهر أن عدة وقائع تقع تحت نص واحد من قانون العقوبات‪،‬‬
‫فيطبق عليها هذا النص ويحكمها‪ ،‬وسبب ذلك هو وجود قاسم مشترك بين هذه‬
‫الوقائع يتمثل في أثارها أو نتائجها‪ ،‬فقيام الروبوت بفصل أجهزة التنفس‬
‫الصناعي عن المريض ‪ ،‬ينتج عنه الوفاة‪ ،‬يتشابه مع أي جريمة قتل اخري ؛‬
‫ألن النتيجة واحدة وهي إزهاق الروح ‪.‬‬

‫إال إنه علي القاضي أن يتحرز في ذلك والتأكد من عدم مشروعية الفعل‪،‬‬
‫فال يجوز له أن يقيس فعالً غير مجرم قانوناً علي فعل آخر مجرم وفقاً لنص‬
‫تشريعي ورد بتجريمه (‪.)3‬‬

‫توونص المووادة ‪ 230‬موون قووانون العقوبووات علووي إنووه‪" :‬كوول موون قتوول نفس واً عمووداً مووع سووبق‬ ‫(‪)1‬‬

‫اإلصرار على ذلك أو الترصد يعاقب باإلعدام "‬

‫توونص المووادة ‪ 233‬موون قووانون العقوبووات علووي إنووه‪" :‬موون قتوول أحووداً عمووداً بجوواهر يتسووبب‬ ‫(‪)2‬‬

‫عنها الموت عاجالً أو آجالً يعد قواتالً بالسوم أيواً كانوت كيفيوة اسوتعمال تلوك الجوواهر ويعاقوب‬
‫باإلعدام "‬
‫انظو وور‪ :‬د ‪ /‬محمو ووود نجيو ووب حسو ووني‪ :‬القسو ووم العو ووام ‪ -‬رقو ووم ‪ 80‬ص ‪ ،93‬والو وودكتور عمو وور‬ ‫(‪)3‬‬

‫السووعيد رمض ووان ‪ -‬القسووم الع ووام ‪ -‬رق ووم ‪ - 55‬ص ‪ ، 89‬ود ‪ /‬ش وريف س وويد كام وول ‪:‬‬
‫تعليق علي قانون العقوبات الفرنسي الجديد ‪ -‬ص ‪.42‬‬
‫أن‬ ‫(‪)1‬‬
‫أما في مجال الجرائم غير العمدية للذكاء االصطناعي فيري البعض‬
‫النصوص القائمة في قانون العقوبات المصري تكفي لمواجهة حاالت جرائم‬
‫تقنيات الذكاء االصطناعي التي تقع عن طريق الخطأ‪ ،‬وال داع الستصدار‬
‫قانون جديد ‪ ،‬فالحاالت التي يتم فيها األذي أو القتل عن طريق اإلهمال أو‬
‫الرعونة أو عدم االحتراز أو عدم مراعاة القوانين واللووائح واألنظومة والقو اررات‬
‫الخاصة بتدابير االحتراز والدقة (‪ ،)2‬كل ذلك يخضع للتجريم الوارد في‬
‫المادتين ‪ 244‬و ‪ 238‬من قانون العقوبات (‪. )3‬‬

‫ومن جماع ما تقدم يتضح إنه إذا كانت القواعد العامة في القانون الجنائي‬
‫تغطي جزء كبير من جرائم تقنيات الذكاء االصطناعي‪ ،‬إال أن ذلك قد يجهد‬
‫القاضي في تطبيقه لهذه القواعد علي بعض أفعال الروبوت التي تتم بدون‬
‫اعتداء‪ ،‬كالروبوت الذي يتعطل عن العمل فال يؤدي أعماله الطبية المتطلبة‬
‫مما يؤدي إلي وفاة المريض (‪.)4‬‬

‫فإذا كان لمن يفسر النص الجنائي أن يبحث عن قصد الشارع مستعيناً بكل‬

‫(‪EL Chazli ( F.) ; Le sida au regard du droit egyption , Raport )1‬‬

‫‪presente au colloque international sur " " droit et sida comparaison‬‬
‫‪international" Paris du 26-28 Octobre 1991 , Publie in droit et sida‬‬
‫‪Comparaison international ,ed CNRS , 1994. Op. cit. P. 133..‬‬

‫لووم يسوولك المشوورع طريق واً واحووداً فووي تحديوود صووور الخطووأ غيوور العموودي حيووث ذكوور صووورة‬ ‫(‪)2‬‬

‫واحدة وهي اإلهمال في بعض المواضوع‪ ،‬وذكور صوورتين هموا اإلهموال وعودم االحتوراز‬
‫في مواضع آخري‪ ،‬أو اإلهمال والتقصير في موضع ثالث‪ ،‬وفي موضع رابع ذكر عدة‬
‫صووور مثوول اإلهمووال والرعونووة وعوودم االحتوراز وعوودم م ارعوواة القووانين واللووائح واألنظمووة‪،‬‬
‫وأخي اًر قد يذكر هذه الصور دون تحديد مثل " بسبب إهمال آخر"‬
‫(‪)3‬‬
‫د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء الذكاء‬
‫االصطناعي في التشريع اإلماراتي – مرجع سابق – ص ‪. 175‬‬
‫(‪)4‬‬
‫‪LEPEE (P.) problems medicaux legaux souleves par le sida‬‬
‫‪Gaz. Pal. 1991. P.206.‬‬
‫أسلوب يمكنه من ذلك‪ ،‬فإن عليه أن يحترم مبدأ شرعية الجرائم والعقوبات‪،‬‬
‫ويعني ذلك أن عليه أن يقف في بحثه عند الحد الذي يتبين له فيه أن تفسيره‬
‫قد يجعله يبتدع جرائم أو عقوبات لم ينص عليها القانون (‪ ،)1‬فيجب التحرز‬
‫في تفسوير القوانين الجنائية والتزام جانب الدقة في ذلك وعودم تحميل عباراتها‬
‫فوق ما تحتمل (‪.)2‬‬
‫الفرع الثاني‬

‫دعوة المشرع إلصدار التشريع الجديد الذي يحكم هذه الجرائم بما يتناسب‬
‫مع طبيعتها وخصائصها‬

‫في ظل غياب النص الذي يحكم جرائم تقنيات الذكاء االصطناعي فإنه‬
‫يكون من اليسير ضياع حقوق المجني عليه ‪ ،‬وافالت مرتكب الجريمة من‬
‫العقاب ‪ ،‬لذلك فإن المشرع ما زال مدعو للتدخل التشريعي لتجريم هذه الجرائم‬
‫بنص خاص شامل ومباشر‪ ،‬وهذه الدعوة تجد ما يبررها لسببين ‪-:‬‬
‫السبب األول ‪ :‬القياس محظور في مجال القانون الجنائي‪:‬‬
‫القياس محظور في مجال العقاب ‪ ،‬ويؤدي التسليم بهذا القويد إلي حظر‬
‫القياس علي من يفسر نص التجريم (‪ ،)3‬فليس له أن يقيوس فعالً لم يرد نص‬
‫بتجريمه علي فعل ورد نص بتجريمه فيقورر لألول عقوبة الثاني محتجوا ًً‬
‫بتشابه الفعلين أو بكون العقاب علي الثاني يحقق نفس المصلحة التي يحققها‬

‫ارج ووع د‪ /‬محم ووود نجي ووب حس ووني – القس ووم الع ووام ‪ -‬المرج ووع الس ووابق ص ‪ ،99‬ال وودكتور ‪/‬‬ ‫(‪)1‬‬

‫مأمون محمد سالمة ‪ -‬القسم العام ‪ -‬ص ‪ ،45‬ود ‪ /‬عوض محمد ‪ -‬قوانون العقوبوات‬
‫‪ -‬القسم العام ‪ -‬رقم ‪ - 8‬ص ‪ ، 9‬ود ‪ /‬فوزية عبد الستار ‪ :‬شرح قانون العقوبات –‬
‫القسم العام – دار النهضة العربية ط ‪ – 2018‬ص ‪ 68‬وما بعدها ‪.‬‬
‫نقض جنائي – الطعون رقوم ‪ 14514‬لسونة ‪ 76‬ق جلسوة ‪ – 2008/3/18‬السونة ‪– 59‬‬ ‫(‪)2‬‬

‫ق ‪ – 35‬ص ‪.212‬‬
‫(‪)3‬‬
‫‪Sorour ( Ahmed Fathi); droit penal special , Alexandrie‬‬
‫‪,1997,R.I.D.P. 1998. P 89.‬‬
‫‪ ،‬وال شك أن هذا الحظر يسري علي فعل الروبوت في‬ ‫(‪)1‬‬
‫العقاب علي األول‬
‫ظل عدم وجود نص بتجريمه ‪ ،‬ومن ثم فوال يجووز قيواس قتل إنسان عن طريق‬
‫السلوك المباشر للروبوت علي جرائم القتل العادية ‪.‬‬
‫و طالما لم يجرم هذا الفعل بنص صريح في القانون الواجب تطبيقه فال عقاب‬
‫عليه‪ ،‬فقد ذهبت محكمة النقض المصرية إلي أنه ال محل لالجتهاد عند‬
‫صراحة نص القانون الواجب تطبيقه‪ ،‬وأنه ال يجوز اللجوء إلي حكمة النص‬
‫(‪.)2‬‬
‫أو التشوريع المقارن إذا كان ذلك يؤدي إلي مخالفة صريح نص القانون‬
‫وعلينا أن نعترف بأن هناك فراغاً تشريعياً واضحاً في مجال جرائم الذكاء‬
‫االصطناعي ‪ ،‬وأن الفقه القانوني قد تأخر نسبياً في التنبيه إلي المشكالت‬
‫القانونية التي تثيرها مخاطر هذه الجرائم ‪ ،‬كما أن المشرع لم ينشط لتنظيم هذا‬
‫األمر أيضاً‪ ،‬ولم يقم بالتدخل الفعال بالتجريم الرادع ألي فعل قد يرتكب‬
‫‪.‬‬
‫بتقنيات الذكاء االصطناعي ويؤدي إلي التسبب في األذي للغير‬
‫إال أن هذا الفراغ التشريعي ال يثير القلق ففي مواد قانون العقوبات ما يغطي‬
‫بالتجريم كل أنماط السلوك التي تلحق الضرر بالحق في الصحة والحياة‪ ،‬ومن‬
‫جهة آخري فإن معالجة هذا األمر لن يستعص علي التطور التشريعي‪ ،‬فقانون‬

‫اسووتقر قضوواء محكمووة الوونقض فووي مصوور علووي أن " القيوواس فووي تفسووير نصوووص التجوريم‬ ‫(‪)1‬‬

‫محظووور‪ ،‬وأنووه موون المقوورر أنووه ال عقوبووة إال بوونص يعوورف الفعوول المعاقووب عليووه ويبووين‬
‫العقوبة الموضوعة لوه مموا مقتضواه عودم التوسوع فوي تفسوير نصووص القوانون الجنوائي‪،‬‬
‫وعدم األخذ فيه بطريق القيواس " ي ارجوع فوي ذلوك نقوض ‪19‬موايو سونة ‪ 1941‬مجموعوة‬
‫القواعد القانونية جو‪ 5‬رقم ‪ 259‬ص ‪ ،471‬نقض ‪20‬مارس سنة‪ 1956‬مجموعة أحكام‬
‫الو و و وونقض س ‪ 7‬رقو و و ووم ‪ 122‬ص ‪ ،422‬والطعو و و وون رقو و و ووم ‪ 4865‬لسو و و وونة ‪ 85‬ق جلسو و و ووة‬
‫‪ ..2016/2/6‬منشور علي موقع البوابة القانونية لمحكمة النفض‪:‬‬
‫‪WWW.CC.gov.eg/Courts/Cassation-‬‬
‫‪Court/Crininal/Cassation-Court‬‬
‫نقض جنائي – الطعن رقم ‪ 66149‬لسنة ‪ 75‬ق ‪ -‬جلسة ‪ – 2006/4/4‬السنة ‪– 57‬‬ ‫(‪)2‬‬

‫ق ‪ – 56‬ص ‪.493‬‬
‫العقوبات المصري في صدر هذا القرن قد تدخل لتنظيم العديد من القضايا‬
‫التي لم تكن في ذهن الباحث الجنائي‪ ،‬فلم يكن يعرف مثالً اإلتجار في‬
‫األعضاء البشرية‪ ،‬فأدي تفاقم مشكلة مافيا األعضاء البشرية واالتجار فيها‬
‫إلي سرعة أنجاز القانون رقم ‪ 5‬لسنة ‪ 2010‬بشأن تنظيم زراعة األعضاء‪،‬‬
‫وهكذا مهما بلغ التطور التشريعي فلن يكتمل مرة واحدة ‪ ،‬و الواقع يشير إلي‬
‫أن المشرع ال يمكن بأي حال من األحوال أن يضع قواعد لتجريم كل أنماط‬
‫السلوك غير المشروع جملة واحدة (‪.)2( )1‬‬
‫ثانياً ‪ :‬االصطدام مع مبدأ عدم شرعية الجرائم والعقوبات ‪:‬‬
‫نري إنه من األولي بالفقه الجنائي حث المشرع علي إصدار القانون الذي‬
‫(‪)3‬‬
‫‪ ،‬أما االجتهاد في إيجاد‬ ‫يجرم مضار الذكاء االصطناعي بنص خاص‬
‫نص ينطبق علي هذه الجرائم‪ ،‬فهو اجتهاد غير صائب؛ ألنه يضع العربة أمام‬
‫الحصان‪ ،‬بمعني أنه يضع الجزاء قبل أن يقنن الجرم‪ ،‬فهذا االتجاه قد أغفل أن‬
‫األصل هو أن يأتي شق التجريم أوالً‪ ،‬بحيث يسبق في وضعه شق الجزاء‪،‬‬
‫وأنه تبعاً لذلك واتساقاً مع مبدأ الشرعية الجنائية فإنه ال يمكن توجيه الخطاب‬
‫للسلطات بتوقيع العقاب أوالً قبل مخاطبة األفراد بشق التكليف أو التجريم(‪.)4‬‬

‫د‪ /‬رمسوويس بهن ووام ‪ :‬الكف وواح ض وود اإلج ورام – منش ووأة المع ووارف باإلس ووكندرية ‪ -‬ط ‪1996‬‬ ‫(‪)1‬‬

‫ص ‪.5‬‬
‫وانظر أيضاً ‪ -‬د‪ /‬رمسويس بهنوام – نظريوة التجوريم فوي القوانون الجنوائي ‪ ,‬معيوار سولطة‬ ‫(‪)2‬‬

‫العقاب تشريعاً وتطبيقاً – منشأة المعارف باإلسكندرية – الطبعة الثانية ‪ -‬ص‪.327‬‬

‫في مجال غياب النص التجريمي فقد استقرت أحكام محكمة النقض علي أنوه ال جريموة‬ ‫(‪)3‬‬

‫وال عقوبة إال بنص‪ ،‬وال يجوز التوسع في تفسير نصوص القانون الجنائي‪ ،‬كما يحظور‬
‫القياس عليها‪ "..‬راجع الطعن رقم ‪ 50800‬لسنة ‪ 85‬ق جلسوة ‪ 2017/2/15‬منشوور‬
‫علي موقع البوابة القانونية لمحكمة النفض‪:‬‬
‫‪WWW.CC.gov.eg/Courts/Cassation-‬‬
‫‪Court/Crininal/Cassation-Court‬‬
‫ارج ووع د ‪ /‬م ووأمون محم وود س ووالمة‪ :‬ق ووانون العقوب ووات – القس ووم الع ووام – ج ‪– 1990 – 3‬‬ ‫(‪)4‬‬

‫ص ‪.19‬‬
‫ومن جهة آخري فإن البحث عن قاعدة عقابية (شق الجزاء) لتطبيقها‬
‫علي جرائم تقنيات الذكاء االصطناعي‪ ،‬يعد أساس غير منطقي(‪)1‬؛ ألن‬
‫المخاطب بهذه القاعدة الجزائية في األساس هو القاضي المنوط به تطبيق‬
‫القاعدة القانونية‪ ،‬وإن كان األفراد مخاطبون بها أيضاً إال أنهم مخاطبون‬
‫بدرجة أكبر بقاعدة التجريم‪ ،‬وليس بقاعدة الجزاء‪ ،‬أي أن الشق المتعلق بالجزاء‬
‫موجه للقاضي في المرتبة األولي‪ ،‬أما الشق المتعلق بالتجريم فهو يخاطب‬
‫األفراد بصفة أساسية في المرتبة األولي (‪.)2‬‬
‫ونخلص مما سبق أن التجريم بوجه عام يسبق العقاب‪ ،‬أي أن التجريم يأتي‬
‫أوالً ثم يأتي بعد ذلك العقاب‪ ،‬ومن ثم فمن غير المستساغ أن يجهد الفقه نفسه‬
‫في البحث عن عقوبة للروبوت في القواعد القانونية القائمة‪ ،‬قبل أن يجتهد في‬
‫تقنين هذا الفعل وتجريمه بنص صريح وواضح‪ ،‬خصوصاً في ظل عدم جواز‬
‫القياس في قانون العقوبات (‪.)3‬‬
‫سمة النص المرتقب لتجريم مضار تقنيات الذكاء االصطناعي ‪:‬‬

‫يلزم أن يكون التدخل التشريعي المرتقب مناسباً للتطورات والمستجدات‬

‫الحديثة في المجال الطبي‪ ،‬بحيث يغطي كل السلوكيات التي تهدد الحق في‬
‫الصحة والحياة‪ ،‬وتحد من مضار الذكاء االصطناعي‪ ،‬ومن ثم نهيب بالمشرع‬
‫أن يضع في اعتباره عند تجريم مضار الذكاء االصطناعي ما يلي‪- :‬‬

‫د ‪ /‬عصام عفيفي عبد البصير‪ :‬أزمة الشرعية الجنائيوة ووسوائل عالجهوا – دار النهضوة‬ ‫(‪)1‬‬

‫العربية – ط ‪ – 2007‬ص ‪.46‬‬

‫الدكتور ‪ /‬عبد الفتاح الصيفي‪ :‬القاعدة الجنائية – طبعة الشركة الشرقية للنشر والتوزيوع‬ ‫(‪)2‬‬

‫– بيروت – لبنان – بدون تاريخ – ص ‪.15‬‬

‫انظر حظر القياس في تفسير نصوص التجريم والعقواب د ‪ /‬شوريف كامول‪ :‬تعليوق علوي‬ ‫(‪)3‬‬

‫قووانون العقوبووات الفرنسووي الجديوود – مرجووع سووابق – ص ‪ ،42‬د ‪ /‬أشوورف توفيووق شوومس‬
‫الدين – شرح قانون العقوبات – القسم العام – النظرية العامة للجريموة والعقوبوة – دار‬
‫النهضة العربية ‪ – 2015‬ص ‪.135‬‬
‫• أن يكون تجريم مضار تقنيات الذكاء االصطناعي والعقاب عليه بالحد‬
‫الضروري لتحقيق المصلحة االجتماعية العادلة للمجتمع‪ ،‬ويتطلب ذلك عدم‬
‫إسراف السلطة التشريعية في التجريم والعقاب آخذة في ذلك ما تقدمه هذه‬
‫التقنيات من فوائد للبشرية ‪ ،‬ولكن ذلك ال يمنع السلطة التشريعية من‬
‫صياغة النصوص في شكل فضفاض يمكن أن يتناول الكثير من األفعال‬
‫التي تتالءم مع تطور المصالح محل الحماية الجنائية‪ ،‬فتحتوي هذه‬
‫النصوص السلوكيات المستجدة التي تتسبب في الضرر بسبب تقنيات‬
‫الذكاء االصطناعي ؛ ألن العلوم الطبية كل يوم في تطور (‪. )1‬‬

‫• يجب عند حماية القانون للحق في الصحة أو الحياة من مضار الذكاء‬

‫االصطناعي كأساس للتجريم‪ ،‬إال يصطدم ذلك بالشعور االجتماعي العام‪،‬‬
‫كتجريم سلوك يتم ممارسته طبقاً لحق من الحقوق التي كفلها الدستور مثل‬
‫البحث العلمي والتجارب الطبية المشروعة (‪)2‬؛ لذلك فإن وضع الطبيب‬
‫الذي يستخدم تقنيات الذكاء االصطناعي بصورة صحيحة في موضع‬
‫(‪.)3‬‬
‫المتهم أم اًر في غاية الصعوبة ويتطلب حظ اًر شديداً‬
‫• من حيث العقاب‪ :‬فإنه إذا كان االطباء الذين يستخدمون تقنيات الذكاء‬
‫االصطناعي ‪ ،‬ليسوا كالمجرمين؛ فإنه ال يجوز التمعن في عقابهم بصورة‬
‫مبالغ فيها(‪ ،)4‬أو معاملتهم بصورة قاسية؛ فمن المفترض أنهم يهدفون إلي‬
‫خدمة المرضي بصورة ال تقبل إثبات العكس ؛ لذلك يجب علي القاضي‬

‫د ‪ /‬م ووأمون محم وود س ووالمة – ق ووانون العقوب ووات ‪-‬القس ووم الخ وواص – مرج ووع س ووابق ‪ -‬ص‬ ‫(‪)1‬‬

‫‪.27‬‬
‫د ‪ /‬شريف سيد كامل‪ :‬القسم العام – مرجع سابق – ص ‪. 150‬‬ ‫(‪)2‬‬

‫(‪BOUBI (B.) et GUIGUE (J.), Le droit penal et le SIDA , la Revue )3‬‬

‫‪d‬‬ ‫‪pratieien,Medecine generale,T.5.N 124,du 28 Janvier‬‬
‫‪1991,p.247.‬‬
‫(‪KEYMAN; Leresuiltat penal Rev. sc. crim. 1986. Op. Cit.P. 781. )4‬‬
‫أن يطبق العقوبات التي تتناسب مع السلوك الذي تسبب في الضرر ‪.‬‬
 ‫الخاتمة‬
‫بعد تزايد استخدام تقنيات الذكاء االصطناعي في جميع مجاالت الحياة ‪،‬‬
‫وخصوصاً في المجال الطبي ‪ ،‬يستلزم تبعاً لذلك تطوير المنظومة التشريعية‬
‫لتتماشي مع التطور المذهل في تقنيات الذكاء االصطناعي ‪ ،‬وفي هذه‬
‫الدراسة تناولنا مفهوم الذكاء االصطناعي ‪ ،‬وتطبيقاته ‪ ،‬وأهم صور استخداماته‬
‫في المجال الطبي ‪.‬‬
‫وظهر لنا من خالل الدراسة مخاطر استخدام تقنية الذكاء االصطناعي في‬
‫المجال الطبي حيث يسهل السيطرة علي هذا الكيان وتعطيلة ‪ ،‬والعبث‬
‫ببرمجته ‪ ،‬ثم تناولنا صور المسئولية الجنائية للذكاء االصطناعي ‪ ،‬ومدي‬
‫تحمله للمسئولية الجنائية والجدل الفقهي حول إمكانية تحمل تقنيات الذكاء‬
‫االصطناعي للمسئولية الجنائية ‪.‬‬
‫كما تناولت الدراسة إنزال القواعد القانونية القائمة علي الجرائم المستجدة‬
‫للذكاء االصطناعي ‪ ،‬ثم تناولت حتمية التدخل التشريعي لمواجهة جرائم الذكاء‬
‫االصطناعي ‪.‬‬
‫النتائج ‪:‬‬
‫‪ -1‬تبين من خالل الدراسة أن النصوص الجنائية القائمة أصبحت غير‬
‫كافية لمواجهة جرائم تقنيات الذكاء االصطناعي ‪ ،‬وذلك ينبأ حتماً‬
‫باالصطدام مع مبدأ شرعية الجرائم والعقوبات ‪.‬‬
‫‪ -2‬االعتراف بالشخصية القانونية المحدودة لتقنيات الذكاء االصطناعي‬
‫غير كاف للتغلب علي إشكالية قيام المسئولية الجنائية تجاه كيان‬
‫مصنوع ال يتعدي كونه آلة تتحرك وتتصرف بوسائط خارجية ‪.‬‬
‫‪ -3‬استقالل تقنيات الذكاء االصطناعي في تحمل تبعات المسئولية‬
‫الجنائية منفردة يفتح الباب واسعاً أما إجرام الفاعل المعنوي ‪ ،‬الذي‬
‫يسهل له ارتكاب الجرائم عن بعد ويفلت من العقاب بسهولة ويسر ‪.‬‬
‫‪ -4‬تقنيات الذكاء االصطناعي تلعب دو اًر مهماً في مستقبل البشرية ‪،‬‬
‫حيث تقوم بحل الكثير من المشكالت ‪ ،‬وتتدخل في الظروف الصعبة‬
‫للقيام بالمهام شديدة الخطورة ‪ ،‬كما في حاالت الجوائح الصحية ‪،‬‬
‫وتفشي األوبئة ‪.‬‬
‫‪ -5‬الجرائم التي يمكن أن ترتكب عن طريق الذكاء االصطناعي ال يمكن‬
‫حصرها ‪ ،‬و في تزايد مستمر ‪ ،‬وهو ما يتصادم مع التشريعات القائمة‬
‫من حيث إمكانية إثبات المسئولية الجنائية ‪.‬‬
‫التوصيات ‪:‬‬
‫‪ -1‬توصي الدراسة بحتمية إصدار تشريع خاص بجرائم الذكاء‬
‫االصطناعي ‪ ،‬لذلك نجدد الدعوة للمشرع للتدخل التشريعي الفوري‬
‫لتجريم ما ينجم عن مضار تقنيات الذكاء االصطناعي في المجال‬
‫الطبي ‪.‬‬
‫‪ -2‬توصي الدراسة بوضع تصور يسمح بإمكانية تطبيق قواعد المسئولية‬
‫الجنائية علي كل أطراف جرائم تقنية الذكاء االصطناعي بما فيها‬
‫منظومة الذكاء االصطناعي ذاته ‪ ،‬والمصنع أو المبرمج ‪ ،‬والمستخدم‬
‫‪ ،‬مع وضع عقوبات تناسب هذه الجرائم وتناسب مرتكبيها ‪.‬‬
‫‪ -3‬توصي الدراسة بوضع قواعد إجرائية خاصة لجرائم الذكاء‬
‫االصطناعي ‪ ،‬من حيث سهولة االثبات والتحقيق ‪ ،‬مع ضرورة إنشاء‬
‫دوائر قضائية خاصة لهذه الجرائم ‪ ،‬ولعل أقربها المحاكم االقتصادية‬
‫‪.‬‬
‫‪ -4‬توصي الدراسة بتقنين مسئوليات المصنع والمستخدم ومنظومة‬
‫الذكاء االصطناعي بكل دقة ‪ ،‬مع اعادة النظر في النظام العقابي‬
‫الذي يتالئم مع هذا النوع من الجرائم ‪ ،‬ويناسب األشخاص الحديثة‬
‫المخاطبة به ‪.‬‬
‫‪ -5‬توصي الدراسة بضرورة وضع تقنيات الذكاء االصطناعي تحت‬
‫التأمين االجباري ‪ ،‬وإصدار شهادة باسم مصنعها ‪ ،‬ومبرمجها ‪،‬‬
 ‫ومستخدمها ‪ ،‬وشهادة لضمان مخاطرها ‪.‬‬
‫‪ -6‬توصي الدراسة باالعتراف بالشخصية القانونية المحدودة لتقنيات‬
‫الذكاء االصطناعي ‪ ،‬بالقدر الذي يسمح باالشتراك في المسئولية‬
‫الجنائية المشتركة مع المبرمج والمستخدم حال ارتكاب الجرائم ‪.‬‬
 ‫قائمة المراجع ‪ :‬المراجع العربية ‪:‬‬

‫‪ -1‬د‪ /‬أحمد إبراهيم محمد إبراهيم ‪ :‬المسئولية الجنائية الناتجة عن أخطاء‬

‫الذكاء االصطناعي في التشريع اإلماراتي – دراسة مقارنة – رسالة‬
‫دكتوراه ‪-‬جامعة عين شمس‪. 2020 -‬‬
‫‪ -2‬د‪ /‬أحمد شوقي عمر أبو خطوة ‪ :‬القانون الجنائي والطب الحديث –‬
‫دراسة تحليلية مقارنة – لمشروعية نقل وزرع األعضاء البشرية – دار‬
‫النهضة العربية ‪. 2007‬‬
‫‪ -3‬د‪ /‬أحمد صبحي العطار ‪ :‬اإلسناد واإلذناب والمسئولية في الفقه‬
‫المصري والمقارن – بحث منشور في مجلة العلوم القانونية‬
‫واالقتصادية – العددان ‪ 1‬و ‪ 2‬مطبعة جامعة عين شمس ‪– 1990‬‬
‫ص ‪. 198‬‬
‫‪ -4‬د‪ /‬أحمد عبد الظاهر ‪ :‬الطب الذكي – طباعة األعضاء البشرية –‬
‫مقال قانوني منشور في جريدة الوطن المصرية بتاريخ ‪. 2021/12‬‬
‫‪ -5‬أ‪ /‬أحمد مجحودة‪ :‬أزمة الوضوح في األثم الجنائي في القانون‬
‫الجزائري والقانون المقارن ‪ -‬الجزء األول ‪ -‬دار هومة ‪ -‬الجزائر ‪-‬‬
‫ط ‪. 2004‬‬
‫‪ -6‬د‪ /‬أسامة عبد هللا قايد ‪ :‬المسئولية الجنائية لألطباء – دراسة مقارنة –‬
‫دار النهضة العربية ‪. 2003‬‬
‫‪ -7‬د‪ /‬أسماء محمد السيد ‪ :‬تطبيقات الذكاء االصطناعي ومستقبل‬
‫تكنولوجيا التعليم – رسالة دكتوراه كلية التربية جامعة المنيا ‪2020‬‬
‫‪.‬‬
‫‪ -8‬د‪ /‬الكرار حبيب مجهول ‪ ،‬ود ‪ /‬حسام عيسي عودة ‪ :‬المسئولية‬
‫المدنية عن األضرار التي تسببها الروبوتات – دراسة تحليلية مقارنة‬
 ‫– بحث منشور في مجلة العلوم االجتماعية والقانونية – المجلد ‪6‬‬
‫مايو ‪. 2019‬‬
‫‪ -9‬د‪ /‬رفاعي سيد سعيد ‪ :‬تفسير النصوص الجنائية – دراسة مقارنة –‬
‫دار النهضة العربية – ط ‪. 2008‬‬
‫د‪ /‬رمسيس بهنام ‪ :‬الكفاح ضد اإلجرام – منشأة المعارف‬ ‫‪-10‬‬
‫باإلسكندرية ‪ -‬ط ‪. 1996‬‬
‫د ‪ /‬شريف سيد كامل‪ :‬المسئولية الجنائية لألشخاص المعنوية‬ ‫‪-11‬‬
‫– دراسة مقارنة – دار النهضة العربية ‪.‬‬
‫د‪ /‬عبد هللا موسي ‪ ،‬ود ‪ /‬أحمد بالل ‪ :‬الذكاء االصطناعي –‬ ‫‪-12‬‬
‫ثورة في تقنيات العصر – الطبعة األولي دار الكتب المصرية القاهرة‬
‫‪. 2019‬‬
‫د‪ /‬عصام عفيفي عبد البصير‪ :‬النصوص العقابية في القوانين‬ ‫‪-13‬‬
‫غير الجنائية – نحو سياسة جنائية جديدة – دار النهضة العربية ‪.‬‬
‫د‪ /‬فايز النجار ‪ :‬نظم العلومات اإلدارية –منظور إداري –‬ ‫‪-14‬‬
‫دار الحامد للنشر والتوزيع –ط ‪ 4‬االردن ‪. 2010‬‬
‫د ‪ /‬فوزية عبد الستار‪ :‬شرح قانون العقوبات – القسم الخاص‬ ‫‪-15‬‬
‫– الطبعة الثانية – دار النهضة العربية – ‪. 1988‬‬
‫د ‪/‬محمد حسين منصور ‪ :‬المسئولية الطبية – منشأة المعرف‬ ‫‪-16‬‬
‫باإلسكندرية –ط ‪. 2001‬‬
‫د‪ /‬محمد سامي الشوا ‪ :‬الخطأ الطبي أمام القضاءالجنائي –‬ ‫‪-17‬‬
‫دراسة مقارنة –دار النهضة العربية – ط ‪. 1993‬‬
‫د‪ /‬محمد عبد الوهاب الخولي ‪ :‬المسئولية الجنائية لألطباء‬ ‫‪-18‬‬
‫عن استخدام األساليب المستحدثة في الطب والجراحة – الطبعة‬
‫األولي ‪. 1997‬‬
 ‫د‪ /‬محمد فهمي طلبة ‪ :‬الحاسب والذكاء االصطناعي –‬ ‫‪-19‬‬
‫مطابع المكتب المصري االسكندرية ‪. 1997‬‬
‫د‪ /‬محمد محي الدين عوض ‪ :‬مشكالت السياسة الجنائية‬ ‫‪-20‬‬
‫المعاصرة في جرائم نظم المعلومات –الكمبيوتر – بحث مقدم للمؤتمر‬
‫السادس للجمعية المصرية للقانون الجنائي في ‪ 28-25‬اكتوبر‬
‫‪. 1993‬‬
‫د‪ /‬محمود أحمد طه ‪ :‬المواجهة التشريعية لجرائم الكمبيوتر‬ ‫‪-21‬‬
‫واالنترنت – دراسة مقارنة – دار الفكر والقانون – المنصورة ‪2012‬‬
‫‪.‬‬
‫د‪ /‬مطاوع عبد القادر ‪ :‬تحديات ومتطلبات استخدام الذكاء‬ ‫‪-22‬‬
‫االصطناعي في التطبيقات الحديثة لعمليات إدارة المعرفة – دار‬
‫‪.‬‬ ‫النهضة العربية – ‪2012‬‬
‫د‪ /‬نفين فاروق فؤاد ‪ :‬اآللة بين الذكاء الطبيعي والذكاء‬ ‫‪-23‬‬
‫االصطناعي –دراسة مقارنة مجلة البحث العلمي في اآلداب كلية‬
‫البنات جامعة عين شمي العدد‪ 13‬الجزء ‪ 3‬عام ‪. 2012‬‬
‫د‪ /‬همام القوصي ‪ :‬إشكالية الشخص المسئول عن تشغيبل‬ ‫‪-24‬‬
‫الروبوت – تاثير نظرية النائب عن اإلنسان علي جدوي القانون في‬
‫المستقبل – دراسة تحليلية استشرافية – مجلة البحوث القانونية‬
‫المعمقة – العدد ‪ – 25‬سنة ‪. 2018‬‬
‫د‪ /‬وفاء محمد أبو المعاطي صقر ‪ :‬المسئولية الجنائية عن‬ ‫‪-25‬‬
‫جرائم الذكاء االصطناعي – دراسة تحليلية استشرافية – مجلة روح‬
‫القوانين العدد ‪ 96‬اكتوبر ‪. 2021‬‬
‫د‪ /‬ياسر محمد اللمعي ‪ :‬المسئولية الجنائية عن أعمال الذكاء‬ ‫‪-26‬‬
‫االصطناعي ما بين الواقع والمأمول – دراسة تحليلية استشراقية –‬
‫بحث مقدم للمؤتمر الدولي السنوي العشرين – بكلية الحقوق – جامعة‬
. 2021 ‫ مايو‬24- 23 ‫المنصورة في الفترة من‬
‫ المسئولية الجنائية عن جرائم الذكاء‬: ‫ يحيي إبراهيم دهشان‬/‫د‬ -27
– 82 ‫االصطناعي – بحث منشور بمجلة الشريعة والقانون – العدد‬
. 2020 ‫ابريل‬

: ‫المراجع األجنبية‬

1- Gabriel Hallevy, the criminal liability of the artificial

intelligence entities –from science fiction legal
social control ,Akron law Journal ,2016 .
2- Jonathan herring criminal law palgrave Macmillan
fourth edition 2005.
3- Michael Jefferson ;

criminal law Longman group edition 1995.

4- Russell Heation ;
5- criminal law Oxford University press second edition
2006.
6- Steven J.Frank,adjudication and the emergence of
artificial intelligence software,Suffolk,
U.1.Rev,623,1987 .
7- Ying HU : robot criminal , university of Michigan
Journal of law reform,volume 52- 2019 .