‫كلية حقوق‬

‫جامعة اسوان‬

‫حبث عن‬

‫اضرار الذكاء االصطناعي‬

‫االسم ‪ /‬ديفيد رافت يوسف سالمة‬

‫فرقة ثالثة‪ :‬عربي‬

‫املادة ‪ /‬العقود املسماه‬

‫حتت اشراف‬

‫د‪ /‬عطا حواس‬

‫ُيتوقع للذكاء االصطناعي التوليدي أن يطلق موجة من اإلبداع واإلنتاجية‪ ،‬غير أنه يطرح أسئلة مهمة للجنس‬
‫البشري‬

‫القصاصين أو حتى االقتصاديين‪ ،‬وتقدم محتوى يحاكي ما‬

‫َّ‬ ‫َت َ‬
‫ص َّور عالما تحل فيه اآلالت محل الفنانين أو‬
‫يصنعه الذكاء البشري‪ .‬كان آالن تورينغ‪ ،‬عالِم الكمبيوتر الرائد‪ ،‬أول من تصور إمكانية وصول اآلالت إلى‬
‫مستويات اإلتقان تلك‪ ،‬وهو ما عبر عنه في بحث صدر عام ‪ .0591‬ومع ظهور نموذج الذكاء االصطناعي‬
‫"‪ "ChatGPT‬وغيره مما يسمى بأدوات الذكاء االصطناعي التوليدي‪ ،‬أصبح تنبؤه بشأن "لعبة المحاكاة"‬
‫واقعا ملموسا‪ .‬ويبدو األمر وكأن هناك من قذف بنا فجأة في عالم كان مقصورا على دنيا الخيال العلمي‪.‬‬
‫ولكن ما الذي يعنيه بالضبط الذكاء االصطناعي التوليدي؟‬

‫الذكاء االصطناعي التوليدي (‪ )GenAI‬هو التقدم األكثر إبهارا على اإلطالق بين جميع تكنولوجيات تعلُّم‬
‫اآللة‪ .‬فهو يمثل قفزة كبيرة في قدرة الذكاء االصطناعي على فهم أنماط البيانات المعقدة والتفاعل معها‪ ،‬ومن‬
‫المتوقع أن يطلق موجة جديدة من اإلبداع واإلنتاجية‪ .‬بيد أنه يطرح أسئلة مهمة أيضا للجنس البشري‪.‬‬
‫وهناك ابتكارات أساسية فارقة رسمت الطريق نحو ما أحرزه من تطور هائل‪.‬‬

‫ففي ستينات القرن الماضي‪ ،‬أُع ِجب العلماء ببرنامج اسمه روبوت الدردشة "إليزا" لقدرته على توليد‬
‫استجابات مماثلة الستجابات اإلنسان‪ .‬كان برنامجا بسيطا يعمل وفق مجموعة من القواعد‪ ،‬لكنه كان مقدمة‬
‫لما يعرف اآلن باسم "روبوتات الدردشة" (‪ .)chatbots‬وبعد مرور عقدين من الزمن‪ ،‬ظهرت الشبكات‬
‫العصبية االصطناعية (‪ .)neural networks‬وبفضل هذه الشبكات‪ ،‬المستوحاة من عقل اإلنسان‪ ،‬اكتسبت‬
‫اآلالت مهارات جديدة‪ ،‬مثل فهم الفوارق اللغوية الدقيقة والتعرف على الصور‪ .‬بيد أن محدودية كم البيانات‬
‫المتاحة للتدريب وعدم كفاية القدرة الحاسوبية أعاقا إحراز تقدم حقيقي‪ .‬ومن الالفت للنظر أن هذين‬
‫الموردين المتالزمين استمرا في التضاعف كل عام‪ ،‬مما مهد الطريق نحو انطالق الموجة الثالثة من الذكاء‬
‫االصطناعي في العقد األول من القرن الحادي والعشرين‪ :‬موجة التعلُّم العميق (‪.)deep learning‬‬
 ‫التعلُّم العميق‬

‫وفي ظل ابتكارات مثل خدمة الترجمة اآللية ‪ ،Google Translate‬والمساعدِين الرقميين مثل ‪Alexa‬‬
‫و‪ ،Siri‬ومع ظهور السيارات ذاتية القيادة‪ ،‬بدأت اآلالت تفهم العالم وتتفاعل معه‪ .‬وبرغم كل هذا التقدم‪ ،‬ظل‬
‫هناك جزء مفقود من اللغز‪ .‬فاآلالت استطاعت أن تساعد وتتنبأ‪ ،‬لكنها عجزت عن أن تفهم فعليا تعقيدات‬
‫المحادثة البشرية‪ ،‬وأبدت ضعفا في توليد محتوى يشبه المحتوى الذي يصنعه اإلنسان‪.‬‬

‫وبعد ذلك‪ ،‬في عام ‪ ،4102‬استفادت الشبكات الخصومية التوليدية ( ‪generative adversarial‬‬
‫‪ )networks‬من قدرة شبكتين عصبيتين متنافستين بحيث تعمل كل منهما على صقل مهارات األخرى بشكل‬
‫متواصل‪ .‬فقد أنشأت "الشبكة العصبية المولِّدة" (‪ )generator‬بيانات أو نصوص أو صور بالمحاكاة‪ ،‬في‬
‫حين حاولت "الشبكة العصبية المم ِّيزة" (‪ )discriminator‬التمييز بين المحتوى الحقيقي والمحاكي‪.‬‬
‫وأحدثت هذه المنافسة بين الشبكتين ثورة في الطريقة التي يفهم بها الذكاء االصطناعي األنماط المعقدة‬
‫ويكررها‪.‬‬

‫وتم العثور على الجزء األخير من اللغز في ‪ 4102‬عند صدور بحث رائد بعنوان "االنتباه هو كل ما تحتاج‬
‫إليه"‪ .‬فمن خالل تعليم الذكاء االصطناعي التركيز على األجزاء المهمة من المدخالت‪ ،‬بدا فجأة أن اآللة‬
‫اكتسبت اإلدراك – أي استيعاب جوهر المدخالت‪ .‬ونتج عن هذا الذكاء االصطناعي التوليدي محتوى يحمل‬
‫شبها مخيفا بالمحتوى الذي يبتكره اإلنسان‪ ،‬على األقل في المختبرات‪.‬‬

‫وأدت "الشبكات الخصومية التوليدية" مع آليات االنتباه‪ ،‬بدعم من المعلومات المتنامية والقدرة الحاسوبية‪،‬‬
‫إلى تمهيد الطريق أمام نموذج الذكاء االصطناعي "‪ - "ChatGPT‬وهو روبوت الدردشة األكثر إثارة للدهشة‬
‫على اإلطالق‪ .‬وقد أطلقت هذا النموذج شركة ‪ OpenAI‬في نوفمبر ‪ ،4144‬وسرعان ما تبعتها شركات‬
‫أخرى من عمالقة التكنولوجيا بإنتاج روبوتات دردشة خاصة بها تقوم على استخدام الذكاء االصطناعي‪.‬‬
 ‫االقتصاد والتمويل‬

‫وبطبيعة الحال‪ ،‬ال يمثل الذكاء االصطناعي مفهوما جديدا في االقتصاد والتمويل‪ .‬فالذكاء االصطناعي التقليدي‬
‫(التحليل المتقدم‪ ،‬وتعلُّم اآللة‪ ،‬والتعلُّم العميق التنبؤي) لم يتوقف عن معالجة األرقام‪ ،‬وقياس اتجاهات‬
‫السوق‪ ،‬وتصميم المنتجات المالية بما يتوافق مع االحتياجات‪ .‬وما يميز الذكاء االصطناعي التوليدي عن‬
‫غيره هو قدرته على التعمق في البيانات المعقدة وتفسيرها بطريقة أكثر ابتكارا‪ .‬وعبر التحليل المفصل‬
‫للعالقات المعقدة بين المؤشرات االقتصادية أو المتغيرات المالية‪ ،‬ال ُيصدِر الذكاء االصطناعي مجرد تنبؤات‬
‫فحسب‪ ،‬إنما ينتج أيضا سيناريوهات بديلة‪ ،‬ورسوم بيانية متعمقة‪ ،‬بل وحتى مقتطفات كودية يمكن أن ُت ْحدِث‬
‫تغييرا كبيرا في كيفية عمل هذا القطاع‪.‬‬

‫وكان التطور من الذكاء االصطناعي التقليدي إلى الذكاء االصطناعي التوليدي فاتحة عصر جديد من‬
‫اإلمكانات في القطاعين العام والخاص‪ .‬فقد بدأت الحكومات في استخدام هذه األدوات األكثر ذكاء لتحسين‬
‫الخدمات التي تقدمها للمواطنين والتغلب على نقص القوى العاملة‪ .‬كذلك تهتم البنوك المركزية بهذه‬
‫اإلمكانات‪ ،‬إذ ترى في الذكاء االصطناعي التوليدي قدرة أكبر على غربلة كميات هائلة من البيانات‬
‫المصرفية‪ ،‬من أجل تحسين التنبؤات االقتصادية ورصد المخاطر‪ ،‬بما في ذلك االحتيال‪.‬‬

‫وتتجه الشركات االستثمارية إلى استخدام الذكاء االصطناعي التوليدي لرصد التحوالت الدقيقة في أسعار‬
‫األسهم ومعنويات السوق‪ ،‬مستفيدة في ذلك من مجموعة كبيرة من المعارف القتراح خيارات أكثر إبداعا‪،‬‬
‫مما يمهد الطريق لوضع استراتيجيات استثمارية قد تكون أكثر ربحية‪ .‬وفي الوقت نفسه‪ ،‬تعمل شركات‬
‫التأمين على استكشاف الكيفية التي يمكن بها للنماذج التوليدية أن تنشئ عقود تأمين مخصصة تتماشى‬
‫بشكل أوثق مع االحتياجات والتفضيالت الفردية‪.‬‬

‫مخرجات الذكاء االصطناعي التوليدي يمكن أن تكون مقنعة لدرجة تخلق شعورا زائفا بكونها واقعا حقيقيا‪.‬‬
‫وينطوي ذلك على إمكانية نشر معلومات مغلوطة‪ ،‬وإثارة الذعر‪ ،‬بل وزعزعة استقرار النظم االقتصادية أو‬
‫المالية‪.‬‬
‫ويواصل الذكاء االصطناعي التوليدي التطور بوتيرة مذهلة‪ ،‬بحيث يتجاوز حدود قدرات الذكاء االصطناعي‬
‫في مجالي االقتصاد والتمويل‪ ،‬ويقدم حلوال مبتكرة للتحديات القديمة‪ .‬وتساور بعض الناس شكوك؛ إذ يقولون‬
‫إن الذكاء االصطناعي‪ ،‬كمثل ببغاء عشوائي‪ ،‬يمكن أن يخلق حقائق غير منطقية وال صحيحة ‪ -‬وهي ظاهرة‬
‫تسمى "الهلوسة" ‪ -‬وال يعرف حقا المعنى الكامن وراء الكلمات‪ .‬ويشيرون إلى أن المعارف التي يمتلكها‬
‫نموذج الذكاء االصطناعي "‪ "ChatGPT‬تتوقف عند آخر تاريخ تم تدريبه فيه‪ .‬ربما كانوا على صواب‪.‬‬
‫ولكن في ظل سرعة االبتكار المذهلة‪ ،‬فإلى متى ستظل هذه اآلراء منطقية؟‬

‫وبرغم ذلك‪ ،‬فإن اإلثارة الكبيرة التي أحدثها الذكاء االصطناعي التوليدي في البداية حلت محلها مخاوف‬
‫متزايدة وحقيقية‪ .‬فالتحديات التقليدية المرتبطة بالذكاء االصطناعي‪ ،‬مثل تضخيم التحيزات القائمة في بيانات‬
‫التدريب‪ ،‬أو االفتقار إلى الشفافية في صنع القرار‪ ،‬قد اكتسبت طابعا ملحا جديدا‪ ،‬كما نشأت مخاوف جديدة‪.‬‬

‫الذكاء االصطناعي يتحول إلى سالح‬

‫ومن المخاطر المثيرة للقلق البالغ ما يتمتع به الذكاء االصطناعي التوليدي من قدرة فائقة على سرد قصص‬
‫تجد صدى في معتقدات األفراد ووجهات نظرهم الراسخة‪ ،‬مما قد يعزز من ظاهرة "غرف الصدى"‬
‫و"الصوامع األيديولوجية"‪ .‬وبمقدور األطراف ذات النوايا الخبيثة أن تستفيد من هذه القدرة‪ ،‬ليس فقط من‬
‫خالل الكلمة المكتوبة‪ .‬ففي مارس ‪ ،4144‬ظهر مقطع فيديو من إنتاج الذكاء االصطناعي شوهد فيه الرئيس‬
‫األوكراني فولوديمير زيلينسكي وكأنه يستسلم للقوات الروسية‪ .‬وتبين مثل هذه األحداث كيف يمكن تحويل‬
‫الذكاء االصطناعي التوليدي إلى سالح للتالعب بالسياسة واألسواق والرأي العام‪.‬‬

‫وسواء كانت قصة ملفقة‪ ،‬أو صورة مركبة‪ ،‬أو فيديو اصطناعي‪ ،‬فإن مخرجات الذكاء االصطناعي التوليدي‬
‫يمكن أن تكون مقنعة لدرجة تخلق شعورا زائفا بكونها واقعا حقيقيا‪ .‬وينطوي ذلك على إمكانية نشر‬
‫معلومات مغلوطة‪ ،‬وإثارة الذعر‪ ،‬بل وزعزعة استقرار النظم االقتصادية أو المالية بكفاءة وقوة غير‬
‫مسبوقتين‪ .‬وقد ال يكون األمر متعمدا دائما؛ فقد تنشر اآلالت معلومات مغلوطة عن غير قصد نتيجة لهلوسات‬
‫الذكاء االصطناعي‪.‬‬
‫وال يقتصر خطر الذكاء االصطناعي على التالعب‪ .‬فإزاحة الوظائف تمثل شاغال آخر مع استمرار التقدم في‬
‫الذكاء االصطناعي التوليدي‪ ،‬مما قد يؤدي إلى أتمتة مهام كان يؤديها اإلنسان‪ ،‬ومن ثم فقدان الكثير من‬
‫الوظائف‪ ،‬وظهور الحاجة إلى استراتيجيات للتوظيف وإعادة التدريب‪.‬‬

‫وكان كبار خبراء الذكاء االصطناعي‪ ،‬ومنهم مبتكر نموذج "‪ ،"ChatGPT‬قد اشتركوا في مطلع هذا العام في‬
‫التوقيع على رسالة* تحذر من أن "التخفيف من حدة مخاطر االنقراض بسبب الذكاء االصطناعي ينبغي أن‬
‫يصبح أولوية عالمية إلى جانب المخاطر األخرى على مستوى المجتمعات‪ ،‬مثل األوبئة والحرب النووية"‪.‬‬
‫وكان في تلك الرسالة تعبير عن المخاوف التي أعرب عنها تورينغ منذ عقود سابقة‪ ،‬حيث حذر من "خطر‬
‫سيطرة اآلالت على حياتنا في نهاية المطاف"‪.‬‬

‫إننا نقف على مفترق طرق بين التكنولوجيا واألخالقيات‪ .‬فال يمك التراجع عن اختراع الذكاء االصطناعي‬
‫التوليدي‪ ،‬بما يحمله من وعود كبيرة وأسئلة وجودية عميقة‪ .‬وبينما نستفيد من قوته التحويلية‪ ،‬فمن‬
‫الضروري أن نتذكر نصيحة تورينغ الباقية‪ .‬فالذكاء االصطناعي التحويلي يمثل تحوال هائال يتطلب رقابة‬
‫يقظة‪ ،‬وأطرا تنظيمية جديدة‪ ،‬والتزاما راسخا باالبتكارات األخالقية التي تتسم بالشفافية ويمكن التحكم فيها‬
‫وتتسق مع القيم اإلنسانية‪.‬‬

‫ويواصل الذكاء االصطناعي التوليدي التطور بوتيرة مذهلة‪ ،‬بحيث يتجاوز حدود قدرات الذكاء االصطناعي‬
‫في مجالي االقتصاد والتمويل‪ ،‬ويقدم حلوال مبتكرة للتحديات القديمة‪ .‬وتساور بعض الناس شكوك؛ إذ يقولون‬
‫إن الذكاء االصطناعي‪ ،‬كمثل ببغاء عشوائي‪ ،‬يمكن أن يخلق حقائق غير منطقية وال صحيحة ‪ -‬وهي ظاهرة‬
‫تسمى "الهلوسة" ‪ -‬وال يعرف حقا المعنى الكامن وراء الكلمات‪ .‬ويشيرون إلى أن المعارف التي يمتلكها‬
‫نموذج الذكاء االصطناعي "‪ "ChatGPT‬تتوقف عند آخر تاريخ تم تدريبه فيه‪ .‬ربما كانوا على صواب‪.‬‬
‫ولكن في ظل سرعة االبتكار المذهلة‪ ،‬فإلى متى ستظل هذه اآلراء منطقية؟‬

‫وبرغم ذلك‪ ،‬فإن اإلثارة الكبيرة التي أحدثها الذكاء االصطناعي التوليدي في البداية حلت محلها مخاوف‬
‫متزايدة وحقيقية‪ .‬فالتحديات التقليدية المرتبطة بالذكاء االصطناعي‪ ،‬مثل تضخيم التحيزات القائمة في بيانات‬
‫التدريب‪ ،‬أو االفتقار إلى الشفافية في صنع القرار‪ ،‬قد اكتسبت طابعا ملحا جديدا‪ ،‬كما نشأت مخاوف جديدة‪.‬‬
 ‫الذكاء االصطناعي يتحول إلى سالح‬

‫ومن المخاطر المثيرة للقلق البالغ ما يتمتع به الذكاء االصطناعي التوليدي من قدرة فائقة على سرد قصص‬
‫تجد صدى في معتقدات األفراد ووجهات نظرهم الراسخة‪ ،‬مما قد يعزز من ظاهرة "غرف الصدى"‬
‫و"الصوامع األيديولوجية"‪ .‬وبمقدور األطراف ذات النوايا الخبيثة أن تستفيد من هذه القدرة‪ ،‬ليس فقط من‬
‫خالل الكلمة المكتوبة‪ .‬ففي مارس ‪ ،4144‬ظهر مقطع فيديو من إنتاج الذكاء االصطناعي شوهد فيه الرئيس‬
‫األوكراني فولوديمير زيلينسكي وكأنه يستسلم للقوات الروسية‪ .‬وتبين مثل هذه األحداث كيف يمكن تحويل‬
‫الذكاء االصطناعي التوليدي إلى سالح للتالعب بالسياسة واألسواق والرأي العام‪.‬‬

‫وسواء كانت قصة ملفقة‪ ،‬أو صورة مركبة‪ ،‬أو فيديو اصطناعي‪ ،‬فإن مخرجات الذكاء االصطناعي التوليدي‬
‫يمكن أن تكون مقنعة لدرجة تخلق شعورا زائفا بكونها واقعا حقيقيا‪ .‬وينطوي ذلك على إمكانية نشر‬
‫معلومات مغلوطة‪ ،‬وإثارة الذعر‪ ،‬بل وزعزعة استقرار النظم االقتصادية أو المالية بكفاءة وقوة غير‬
‫مسبوقتين‪ .‬وقد ال يكون األمر متعمدا دائما؛ فقد تنشر اآلالت معلومات مغلوطة عن غير قصد نتيجة لهلوسات‬
‫الذكاء االصطناعي‪.‬‬

‫وال يقتصر خطر الذكاء االصطناعي على التالعب‪ .‬فإزاحة الوظائف تمثل شاغال آخر مع استمرار التقدم في‬
‫الذكاء االصطناعي التوليدي‪ ،‬مما قد يؤدي إلى أتمتة مهام كان يؤديها اإلنسان‪ ،‬ومن ثم فقدان الكثير من‬
‫الوظائف‪ ،‬وظهور الحاجة إلى استراتيجيات للتوظيف وإعادة التدريب‪.‬‬

‫وكان كبار خبراء الذكاء االصطناعي‪ ،‬ومنهم مبتكر نموذج "‪ ،"ChatGPT‬قد اشتركوا في مطلع هذا العام في‬
‫التوقيع على رسالة* تحذر من أن "التخفيف من حدة مخاطر االنقراض بسبب الذكاء االصطناعي ينبغي أن‬
‫يصبح أولوية عالمية إلى جانب المخاطر األخرى على مستوى المجتمعات‪ ،‬مثل األوبئة والحرب النووية"‪.‬‬
‫وكان في تلك الرسالة تعبير عن المخاوف التي أعرب عنها تورينغ منذ عقود سابقة‪ ،‬حيث حذر من "خطر‬
‫سيطرة اآلالت على حياتنا في نهاية المطاف"‪.‬‬
 ‫المراجع‬

Peter (2009). "26.3: The Ethics and Risks of Developing ،Norvig ‫؛‬Stuart ،Russell
Artificial Intelligence". Artificial Intelligence: A Modern Approach. Prentice Hall.
.ISBN:978-0-13-604259-4

.‫ ج‬.Nick (2002). "Existential risks". Journal of Evolution and Technology ،Bostrom

.10–0 :0 .‫ ع‬5

Classification of global " .)4102 ‫ مايو‬David (3 ،Denkenberger ‫؛‬Alexey ،Turchin

:0 .‫ ع‬19 .‫ ج‬.catastrophic risks connected with artificial intelligence". AI & Society
.DOI:10.1007/s00146-018-0845-5. ISSN:0951-5666. S2CID:19208453 .061–022

First). .‫ (ط‬Nick (2014). Superintelligence: Paths, Dangers, Strategies ،Bostrom

.Oxford University Press. ISBN:978-0199678112

Parkin, Simon (14 Jun 2015). "Science fiction no more? Channel 4's Humans and
Archived from the original on 2018- .)‫ الغارديان (باإلنجليزية‬."our rogue AI obsessions
.02-05. Retrieved 2018-02-05

Roose, Kevin (30 May 2023). "A.I. Poses 'Risk of Extinction,' Industry Leaders
ISSN:0362-4331. Archived from the .)‫ (باإلنجليزية األمريكية‬Warn". The New York Times
.original on 2023-10-01. Retrieved 2023-06-03

Jackson, Sarah. "The CEO of the company behind AI chatbot ChatGPT says the
worst-case scenario for artificial intelligence is 'lights out for all of us'". Business
Archived from the original on 2023-07-11. Retrieved .)‫ (باإلنجليزية األمريكية‬Insider
.2023-04-10

Rishi Sunak Wants the U.K. to Be a Key Player in " .)4141 ‫ يونيو‬Rishi (14 ،Sunak
.00-12-4141 ‫ مؤرشف من األصل في‬.Global AI Regulation". Time

Fung, Brian (18 Jul 2023). "UN Secretary General embraces calls for a new UN
agency on AI in the face of 'potentially catastrophic and existential risks' | CNN
Archived from the original on 2023-07-20. Retrieved .)‫ (باإلنجليزية‬Business". CNN
.2023-07-20

Eliezer (2008). "Artificial Intelligence as a Positive and Negative ،Yudkowsky

Factor in Global Risk" (PDF). Global Catastrophic Risks: 308–345.
‫ اطلع عليه بتاريخ‬.14-11-4101 ‫) من األصل في‬PDF( ‫ مؤرشف‬.Bibcode:2008gcr..book..303Y
.42-12-4102

Max (2015). "Research Priorities for ،Tegmark ‫؛‬Daniel ،Dewey ‫؛‬Stuart ،Russell
Robust and Beneficial Artificial Intelligence" (PDF). AI Magazine. Association for
the Advancement of Artificial Intelligence: 105–114. arXiv:1602.03506.
‫ اطلع عليه‬.12-12-4105 ‫) من األصل في‬PDF( ‫ مؤرشف‬.Bibcode:2016arXiv160203506R
cited in "AI Open Letter - Future of Life Institute". Future of ،.01-12-4105 ‫بتاريخ‬
-12-4105 ‫ اطلع عليه بتاريخ‬.01-12-4105 ‫ مؤرشف من األصل في‬.4109 ‫ يناير‬.Life Institute
.15

Archived .)‫ (باإلنجليزية‬AlphaGo Zero: Starting from scratch". www.deepmind.com"

.from the original on 2023-07-28. Retrieved 2023-07-28

Breuer, Hans-Peter. 'Samuel Butler's "the Book of the Machines" and the
Modern .‫ على موقع واي باك مشين‬March 2023 09 ‫' نسخة محفوظة‬.Argument from Design
Philology, Vol. 72, No. 4 (May 1975), pp. 365–383

Hilliard, Mark (2017). "The AI apocalypse: will the human race soon be
Archived from the original on 2020-05- .)‫ (باإلنجليزية‬terminated?". The Irish Times
.22. Retrieved 2020-03-15

Peter (2003). "Section 26.3: The Ethics and Risks of ،Norvig ‫؛‬.Stuart J ،Russell
Developing Artificial Intelligence". Artificial Intelligence: A Modern Approach.
Upper Saddle River, N.J.: Prentice Hall. ISBN:978-0137903955. Similarly, Marvin