‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫إصدار الشركة السعودية لتقنية المعلومات (سايت)‬

‫قطاع البحث والتطوير واالبتكار‪.‬‬

‫تقنيــا فــي‬
‫ً‬ ‫ســايت (المملوكــة بالكامــل لصنــدوق االســتثمارات العامــة) هــي الشــركة الوطنيــة الرائــدة‬
‫وإقليميــا‪ ،‬مــن خــال تقديــم الخدمــات المــدارة‪،‬‬
‫ًّ‬ ‫محليــا‬
‫ًّ‬ ‫تعزيــز الصمــود الســيبراني لألصــول والبنــى الرقميــة‪،‬‬
‫والخدمــات والحلــول والمنتجــات الســيبرانية والســحابية والرقمية آمنة التصميم‪ ،‬وخدمات تطوير وتشــغيل‬
‫المنصــات الرقميــة وتكامــل األنظمــة‪ ،‬وتطويــر رأس المــال البشــري فــي قطــاع التقنيــة‪.‬‬

‫‪2‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫جدول المحتويات‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المحتويات‬

‫‪7‬‬ ‫‪5‬‬ ‫‪4‬‬

‫المخاطر العشرون الكبرى‬ ‫المالمح الرئيسة‬ ‫مقدمة‬

‫‪13‬‬ ‫‪11‬‬ ‫‪9‬‬

‫المخاطر االجتماعية‬ ‫المخاطر االقتصادية‬ ‫المخاطر السياسية‬

‫‪18‬‬ ‫‪17‬‬ ‫‪15‬‬

‫المخاطر البيئية‬ ‫المخاطر القانونية‬ ‫المخاطر التقنية‬

‫‪24‬‬ ‫‪19‬‬
‫مراجع مهمة‬ ‫التوصيات المقترحة‬

‫‪3‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫مقدمة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫مقدمة‬
‫يشــهد العالــم فــي الســنوات األخيــرة تطــورات جوهريــة فــي مجــال الــذكاء االصطناعــي‪ ،‬حيــث أظهــر قــدرات وإمكانــات‬
‫مذهلــة لــم يتوقعهــا الكثيــر مــن الخبــراء والمســتخدمين عبــر مــا يســمى بالنمــاذج التوليديــة (‪،)Generative Models‬‬
‫ّ‬
‫التعلــم العميــق (‪ )Deep Learning‬للتعلــم علــى كميــات هائلــة‬ ‫وهــي نــوع مــن الــذكاء االصطناعــي يســتخدم تقنيــات‬
‫مــن البيانــات تصــل إلــى عشــرات المليــارات مــن الكلمــات فــي النمــوذج الواحد‪ ،‬إلنشــاء محتوى أو اســتحداث معلومات‬
‫ـواء علــى هيئــة نصــوص أو صــور أو مقاطــع فيديــو – بشــكل آلــي وآنــي‪ ،‬وبجــودة يصعــب التفريــق بينهــا‬
‫جديــدة – سـ ً‬
‫وبيــن المحتــوى البشــري‪ .‬بــرز هــذا المجــال فــي الســنوات القليلــة الماضيــة كمجــال جديــد يســمى الــذكاء االصطناعــي‬
‫المعتمــد علــى نظــام الــذكاء االصطناعــي التوليــدي‬
‫ِ‬ ‫التوليــدي‪ ،‬وتـ ّـوج هــذا البــروز إطــاق برنامــج الدردشــة (‪)ChatGPT‬‬
‫ً‬
‫ســرعة فــي التبنــي بمعــدل مليــون مســتخدم خــال‬ ‫فــي أواخــر العــام الماضــي‪ ،‬حيــث أصبــح أكثــر برنامــج إلكترونــي‬
‫الخمســة أيــام األولــى مــن إطالقــه‪ ،‬و‪ 100‬مليــون مســتخدم خــال شــهرين فقــط‪.‬‬

‫ُيســتخدم الــذكاء االصطناعــي التوليــدي إليجــاد حلــول إبداعيــة وتطبيقــات مبتكــرة فــي مجــاالت متعــددة‪ ،‬وقــد نجــح‬
‫بشــكل باهــر فــي اســتخدامات كثيــرة‪ ،‬مثــل‪ :‬البرمجــة‪ ،‬واإلنتاج اإلعالمــي‪ ،‬والتصميم التصنيعي وغيرهــا‪ ،‬لكنه يحمل ً‬
‫أيضا‬
‫مخاطــر وتحديــات يجــب أن نفهمهــا ونعالجهــا بحــذر‪ .‬وتتــراوح هــذه المخاطــر بيــن المخــاوف المتعلقــة بتهديــد الوظائــف‬
‫ً‬
‫الحقــا‪.‬‬ ‫ّ‬
‫المضللــة والتأثيــر علــى الســلوك البشــري‪ ،‬وغيــر ذلــك ممــا ســوف نســتعرضه‬ ‫البشــرية‪ ،‬إلــى انتشــار المعلومــات‬

‫المطــورة‬
‫ّ‬ ‫مؤخــرا بعقــد جلســة اســتماع مــع رئيــس شــركة (‪)OpenAI‬‬
‫ً‬ ‫ً‬
‫نتيجــة لذلــك قــام مجلــس الشــيوخ األمريكــي‬
‫لبرنامــج (‪ )ChatGPT‬وخبــراء آخريــن لمناقشــة مخاطــر هــذه التقنيــة‪ ،‬وكذلــك ّ‬
‫وقعــت مجموعــة مــن قيــادات قطــاع‬
‫التقنيــة حــول العالــم – مثــل إيلــون ماســك – وباحثيــن بارزيــن فــي الــذكاء االصطناعــي فــي شــهر مــارس مــن هــذا العــام‬
‫ً‬
‫عريضــة تدعــو الشــركات والمعامــل المتخصصــة بتطويــر نمــاذج الــذكاء االصطناعــي التوليــدي إلــى تعليــق األبحــاث‬
‫التطويريــة لمــدة ســتة أشــهر مستشــهدين بمخاوفهــم مــن «المخاطــر العميقــة الــذي يشـ ّ‬
‫ـكلها الــذكاء االصطناعــي‬
‫التوليــدي علــى المجتمــع واإلنســانية»‪.‬‬

‫مــن الواضــح أن التبنــي المتزايــد للــذكاء االصطناعــي التوليــدي سـ ُـيحدث تحــوالت جذريــة فــي شــتى المجــاالت‪ ،‬ويصاحبــه‬
‫– كمــا هــو الحــال مــع أي تحــول جــذري ‪ -‬مخاطــر كبيــرة؛ بعضهــا معلــوم وبعضهــا اآلخــر ســيظهر مــع الوقــت‪ .‬ألجــل ذلــك‬
‫نقـ ّـدم فــي هــذا التقريــر دراســة ألبــرز هــذه المخاطــر مــن ســتة أبعــاد رئيســة‪ :‬السياســة‪ ،‬واالقتصــاد‪ ،‬والحيــاة االجتماعيــة‪،‬‬
‫والتقنيــة‪ ،‬والقانــون‪ ،‬والبيئــة‪ ،‬وكذلــك توصيــات مقترحــة لمعالجتهــا‪ .‬وتهــدف هــذه الدراســة إلــى تمكيــن متخــذي القــرار‬
‫لالســتعداد للتحديــات العديــدة التــي يخلقهــا الــذكاء االصطناعــي التوليــدي حتــى نتمكــن مــن االســتفادة بشــكل أكبــر‬
‫المتقدمــة مــع تفــادي مســاوئها قــدر اإلمــكان‪.‬‬
‫ّ‬ ‫مــن محاســن هــذه التقنيــة‬

‫هــي تقنيــات الــذكاء االصطناعــي التــي يمكنهــا ّ‬

‫تعلــم تمثيــل المــواد مــن البيانــات‬
‫تعريف‬
‫بغــرض توليــد مــواد جديــدة وفريــدة تشــابه البيانــات األصليــة لكنهــا ال تستنســخها‪.‬‬
‫الذكاء االصطناعي التوليدي‬
‫تمامــا بمختلــف الوســائط‬
‫ً‬ ‫يمكــن للــذكاء االصطناعــي التوليــدي إنتــاج محتــوى جديــد‬
‫كالنصــوص‪ ،‬والصــور‪ ،‬والفيديــو‪ ،‬والصــوت‪ ،‬والتصاميــم‪ ،‬والنمــاذج‪ ،‬والشــفرات‬
‫البرمجيــة‪ ،‬والبيانــات المصطنعــة‪.‬‬
‫بحـسب شركة جارتنر االستشارية‬

‫المصادر‪Future of Life ,Gartner :‬‬

‫‪4‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المالمح الرئيسة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المالمح الرئيسة‬
‫أهم مجاالت الذكاء االصطناعي في القرن الواحد والعشرين‬

‫تعلم اآللة (‪ :)Machine Learning‬مرحلة التحليل والتنبؤات‬

‫ـارعا فــي تقنيــات تعلــم اآللــة ممــا أدى إلــى تبنيهــا بشــكل‬
‫تقدمــا متسـ ً‬
‫ً‬ ‫شــهد العقــد األول مــن القــرن‬ ‫‪2000s‬‬
‫واســع كمجــال أساســي للــذكاء االصطناعــي فــي تحليــل البيانــات‪ ،‬واكتشــاف األنمــاط‪ ،‬وتوليــد‬
‫االســتنتاجات والتنبــؤات وأتمتــة المهــام بســرعة وعلــى نطــاق غيــر مســبوق‪.‬‬

‫ّ‬
‫التعلم العميق (‪ :)Deep Learning‬مرحلة الرؤية والتعرف على األصوات‬
‫ّ‬
‫التعلــم العميــق‪،‬‬ ‫“حســية” فــي قــدرات الــذكاء االصطناعــي فــي مجــال‬ ‫ّ‬ ‫شــهد العقــد الثانــي تطــورات‬
‫وتحديـ ًـدا فــي القــدرة علــى الرؤيــة وتحليــل الصــور ومقاطــع الفيديــو التي تســتخدمها محــركات البحث‪،‬‬ ‫‪2010s‬‬
‫والســيارات ذاتيــة القيــادة‪ ،‬باإلضافــة إلــى التعــرف علــى األصــوات‪ ،‬ممــا أتــاح التفاعــل مــع الــذكاء‬
‫االصطناعــي بشــكل طبيعــي‪.‬‬

‫الذكاء االصطناعي التوليدي (‪ :)Generative AI‬مرحلة إتقان اللغة‬

‫ّ‬
‫التعلــم العميــق‪ ،‬يتمحــور العقــد الثالــث حــول إتقــان‬ ‫المطــرد فــي حجــم وقــدرات نمــاذج‬
‫ّ‬ ‫نتيجـ ًـة للنمــو‬
‫ً‬
‫بدايــة لمرحلــة جديــدة فــي‬ ‫طورتــه شــركة (‪)OpenAI‬‬ ‫اللغــة‪ .‬يعتبــر نمــوذج اللغــة (‪ )GPT-4‬الــذي ّ‬ ‫‪2020s‬‬
‫قــدرات الــذكاء االصطناعــي اللغويــة‪ ،‬ولحقتهــا بشــكل لصيــق كبــرى الشــركات التقنيــة‪ ،‬مثــل‪ :‬جوجل‪،‬‬
‫وميتــا‪ ،‬وكذلــك العديــد مــن الشــركات الناشــئة‪.‬‬

‫(أكثر من ‪ 1‬ترليون معامل)‬ ‫‪GPT-4‬‬ ‫‪ 49%‬مملوكة لـ‬

‫أبرز تطبيقاته برنامج الدردشة (‪ )ChatGPT‬ونظام توليد الصور (‪)DALL-E‬‬

‫(كانت النسخة األولى أكثر من ‪ 500‬مليار معامل)‬ ‫‪PaLM 2‬‬ ‫بعض أبرز‬
‫أبرز تطبيقاته برنامج الدردشة (‪ )Bard‬ونظام ُمساعد البرمجة (‪)Studio Bot‬‬ ‫نماذج األساس‬
‫(‪Foundation‬‬
‫‪)Models‬‬
‫(‪ 65‬مليار معامل)‬ ‫‪LLaMA‬‬
‫(التي يعتمد عليها‬
‫نظام مفتوح المصدر‪ ،‬وأحد أبرز تطبيقاته برنامج الدردشة (‪)Vicuna‬‬
‫الذكاء االصطناعي‬
‫التوليدي)‬
‫(‪ 52‬مليار معامل)‬ ‫‪Anthropic-LM‬‬
‫‪ 10%‬مملوكة لـ‬
‫أبرز تطبيقاته برنامج الدردشة (‪)Claude‬‬

‫مقدمي خدمات‬
‫البنـية التحتـية‬
‫الرئيسين لتطوير‬
‫وتشغيـل أنـظمة‬
‫الذكاء االصطناعي‬
‫المصادر‪Accenture, Sequoia :‬‬

‫‪5‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المالمح الرئيسة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫خارطة المنافسة‬

‫فــي أبريــل ‪2023‬م‪ ،‬أصــدرت الشــركة االســتثمارية (‪ )Sequoia Capital‬الرســم البيانــي أعــاه بالتعــاون مــع مجلــة‬
‫فوربــس والشــركة االســتثمارية (‪ )Meritech Capital‬ضمــن سلســلة ســنوية باســم (‪ )AI50‬تهــدف إلــى إحصــاء أبــرز‬
‫‪ 50‬شــركة خاصــة واعــدة فــي مجــال الــذكاء االصطناعــي حــول العالــم‪.‬‬

‫وطغــى الــذكاء االصطناعــي التوليــدي بشــكل كبيــر علــى القائمــة هــذا العــام بعــد أن كان فــي الخلفيــة العــام الماضــي‬
‫– بحســب ناشــري القائمــة – نتيجـ ًـة لبــروز شــركات مبتكــرة فــي هــذا المجــال مثــل (‪ )OpenAI‬و (‪ )Anthropic‬والتبنــي‬
‫المطــرد والواســع لهــذه التقنيــة حــول العالــم‪ .‬وقــد حصــدت الشــركات الخمســون مــا مجموعــه ‪ 27.2‬مليــار دوالر مــن‬
‫ّ‬
‫االســتثمارات‪ ،‬كان أبرزهــا اســتثمار مايكروســوفت بمبلــغ ‪ 10‬مليــارات دوالر فــي شــركة (‪ )OpenAI‬بدايــة هــذا العــام‪.‬‬

‫تضمــن الرســم ً‬
‫أيضــا – بهــدف الشــمولية – كيانــات أخــرى مؤثــرة أو حتــى أساســية فــي منظومــة الــذكاء االصطناعــي‬ ‫ّ‬
‫لكنهــا ليســت ضمــن قائمــة الخمســين‪ ،‬وذلــك لكونهــا شــركات مدرجــة فــي األســواق العامــة‪ ،‬مثــل غوغــل أو شــركة‬
‫(‪ ،)Nvidia‬أو مشــاريع مفتوحــة المصــدر‪ ،‬مثــل مشــروع (‪ )LLaMA‬الصــادر مــن شــركة ميتــا‪.‬‬

‫مصدر الرسم البياني‪Sequoia :‬‬

‫يمكن االطالع على قائمة الشركات الخمسين على موقع فوربس‪/https://www.forbes.com/lists/ai50:‬‬

‫‪6‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر العشرون الكبرى‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر العشرون الكبرى‬

‫ّ‬
‫وصنــاع الــرأي وكذلــك األفــراد تجــاه‬ ‫اهتمامــا متزايـ ًـدا مــن قبــل الحكومــات‬
‫ً‬ ‫جميعــا فــي الشــهور األخيــرة‬
‫ً‬ ‫لقــد شــهدنا‬
‫موضــوع الــذكاء االصطناعــي التوليــدي والمخاطــر المترتبــة عليــه‪ .‬لقــد أصبــح هــذا الموضــوع الشــائك محــط أنظــار‬
‫ـواء مــن فــرص أو تحديــات‬
‫الجميــع ومــادة دســمة للنقــاش والتنبــؤ‪ ،‬ممــا يدفعنــا الستشــراف مــا يخبئــه المســتقبل‪ ،‬سـ ً‬
‫ـا‪.‬‬
‫ـا أم آجـ ً‬
‫ومخــاوف قــد نضطــر للتعامــل معهــا عاجـ ً‬

‫علــى ســبيل المثــال‪ ،‬يمكــن اســتخدام الــذكاء االصطناعــي فــي تنفيــذ أعمــال عدائيــة أو تطويــر أســلحة ذاتيــة التحكــم‬
‫قــد تتســبب فــي نشــوب حــروب جديــدة وخســائر بشــرية جســيمة‪ .‬كمــا يمكــن ً‬
‫أيضــا تســريب البيانــات الشــخصية لألفــراد‬
‫والمؤسســات وانتهــاك خصوصيتهــم بطــرق غيــر قانونيــة عبــر الــذكاء االصطناعــي‪ ،‬لتُ ســتخدم تلــك البيانــات علــى‬
‫ســبيل المثــال فــي التالعــب بالــرأي العــام وتوجيــه ســلوك الجماهيــر بمــا يخــدم أجنــدات معينــة‪ .‬ومــن بيــن المخاطــر‬
‫المثــارة حــول الــذكاء االصطناعــي التوليــدي‪ ،‬تلــك المتعلقــة بفقــدان الوظائــف وتهديــد االقتصــاد العالمــي‪،‬‬
‫األخــرى ُ‬
‫إذ يتوقــع أن تحــل أنظمــة الــذكاء االصطناعــي والروبوتــات محــل البشــر فــي العديــد مــن القطاعــات‪ ،‬ممــا يــؤدي إلــى‬
‫تبعــا لهــا‪.‬‬
‫زيــادة معــدالت البطالــة وتفاقــم المشــاكل االقتصاديــة واالجتماعيــة ً‬

‫معظــم مخاطــر الــذكاء االصطناعــي التوليــدي نابعــة مــن قدرتــه المذهلة على التعلم الســريع والتطور الذاتي المســتمر‬
‫دون الحاجــة فــي كثيــر مــن األحيــان إلــى تدخــل اإلنســان‪ ،‬وهــذا قــد يــؤدي فــي نهايــة المطــاف إلــى تفــوق اآللــة علــى‬
‫صانعهــا وتجــاوز قدراتــه وســيطرته‪ .‬لذلــك ينبغــي علــى العالــم أن يتحــرك بشــكل عاجــل لوضــع ضوابــط وقوانيــن تحكــم‬
‫اســتخدام الــذكاء االصطناعــي وتضمــن ســامة البشــرية‪ ،‬مــن أجــل اســتدامة االســتقرار وتنميــة االزدهــار علــى كافــة‬
‫األصعــدة؛ السياســية واالقتصاديــة واالجتماعيــة وغيرهــا‪.‬‬

‫مــن أجــل تحديــد المخاطــر الكبــرى للــذكاء االصطناعــي التوليــدي والتوعيــة بهــا وطــرح الحلــول لمعالجتهــا بشــكل عاجــل‪،‬‬
‫معمــق علــى المصــادر اإلعالميــة الرئيســة والنشــرات الرســمية واإلصــدرات البحثيــة حــول العالــم‪،‬‬
‫ّ‬ ‫قمنــا بعمــل بحــث‬
‫واســتعنا بخبــراء فــي الــذكاء االصطناعــي والبيانــات واألمــن الســيبراني لنســتنبط المخاطــر العشــرين الكبــرى للــذكاء‬
‫قســمنا هذه المخاطر‬
‫االصطناعي التوليدي‪ ،‬والتي تمس األمن الوطني وأبعاده الرئيســة بشــكل مباشــر‪ .‬بعد ذلك ّ‬
‫المســتخدمة لتحليــل تأثيــر الظواهــر العامــة بشــكل شــمولي ‪ -‬وتغطــي هــذه المنهجيــة‬
‫بحســب منهجيــة (‪ُ – )PESTLE‬‬
‫األبعــاد السياســية (‪ ،)Political‬واالقتصاديــة (‪ ،)Economic‬واالجتماعيــة (‪ ،)Social‬والتقنيــة (‪،)Technological‬‬
‫والقانونيــة (‪ ،)Legal‬والبيئيــة (‪.)Environmental‬‬

‫نســتعرض فــي الصفحــة القادمــة هــذه المخاطــر العشــرون‪ ،‬وســنتناول فــي الصفحــات التــي تليهــا كل واحــدة بشــكل‬
‫ـددا مــن األدلــة والشــواهد والدراســات للتوثيــق والتأكيــد واالســتزادة‪.‬‬
‫تفصيلــي‪ ،‬ونســتعرض معهــا عـ ً‬

‫‪7‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر العشرون الكبرى‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر العشرون الكبرى للذكاء االصطناعي التوليدي‬

‫ ‪ 1.‬التأثير على الرأي العام والتالعب به‬

‫‪P‬‬
‫ ‪ 2.‬توتر العالقات الدولية وتصعيد الحروب السيبرانية والعسكرية‬
‫المـخــــاطــــر‬
‫ ‪ 3.‬تركز القوة والسلطة لدى الشركات التقنية الكبرى ودولها‬
‫الســياســية‬
‫ ‪ 4.‬انكشاف وتسريب المعلومات الحساسة والحرجة‬

‫ ‪ 5.‬زيادة نسبة البطالة وفقدان الوظائف‬

‫‪E‬‬ ‫المـخــــاطــــر‬ ‫ ‪ 6.‬اضطراب األسواق المالية والقطاعات التجارية‬

‫االقتصادية‬ ‫ ‪ 7.‬االحتكار االقتصادي والمالي لشركات الذكاء االصطناعي‬
‫ ‪ 8.‬اتساع الفجوة االقتصادية والفجوة الرقمية‬

‫ ‪“ 9.‬هلوسة” الذكاء االصطناعي وتفشي المحتوى المضلل والمزيف‬

‫‪S‬‬
‫المـخــــاطــــر‬ ‫ ‪10.‬إنتاج المحتوى ونشره بقصد اإلضرار والهندسة االجتماعية‬
‫االجــتماعية‬ ‫ ‪11.‬إضعاف العملية التعليمية ومهارات التحليل واإلبداع‬
‫ ‪12.‬تهديد اللحمة االجتماعية واالستقرار األمني والنفسي‬

‫‪T‬‬
‫ ‪13.‬تهديد األمن السيبراني وتفاقم الهجمات واالختراقات السيبرانية‬
‫المـخــــاطــــر‬ ‫ ‪14.‬انتهاك خصوصية البيانات لألفراد والمؤسسات‬
‫الـتـــقــنـيــــة‬ ‫ ‪15.‬زعزعة الثقة في المحتوى والهوية الرقمية‬
‫ ‪16.‬فقدان السيطرة على الذكاء االصطناعي‬

‫‪L‬‬ ‫المـخــــاطــــر‬ ‫ ‪17.‬انتهاك حقوق الملكية الفكرية‬

‫ ‪18.‬انتهاك قوانين حماية البيانات وحقوق اإلنسان والمنافسة العادلة‬
‫القــانـونــيـة‬

‫‪E‬‬
‫المـخــــاطــــر‬ ‫ ‪19.‬المساهمة في التلوث البيئي عبر االستهالك العالي للطاقة‬
‫الـبــــيـئــــــيـة‬ ‫ ‪20.‬الهدر العالي للمياه العذبة في تبريد الخوادم ومراكز البيانات‬

‫‪8‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر السياسية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر السياسية‬
‫التأثيــر علــى الــرأي العــام والتالعــب بــه عــن طريــق توظيــف القــدرات المتقدمــة للــذكاء‬
‫االصطناعــي التوليــدي فــي اإلنتــاج المؤتمــت والفــوري للتقارير والصور ومقاطــع الفيديو المزيفة‬ ‫‪1‬‬
‫(‪ )Deepfake‬بشــكل يحاكــي اإلنتــاج البشــري‪ ،‬والتــي مــن الممكــن اســتخدامها فــي عمليــات التأثير‬
‫وانتحــال الشــخصيات السياســية والمؤثــرة مــن أجــل التأثيــر السياســي أو االقتصــادي أو االجتماعي‪،‬‬
‫وزعزعــة اســتقرار المجتمعــات والحكومــات‪.‬‬

‫ينايــر ‪ - 2023‬نشــرت شــركة (‪ )OpenAI‬المطـ ّـورة ألحــد أشــهر برامــج الــذكاء االصطناعــي التوليــدي (‪)ChatGPT‬‬
‫تقريـ ًـرا يســتعرض مرئيــات أكثــر مــن ‪ 30‬خبيـ ًـرا فــي مجــاالت الــذكاء االصطناعــي وعمليــات التأثيــر والتحليــل السياســي‪،‬‬
‫حــول التداعيــات المحتملــة لنمــاذج الــذكاء االصطناعــي التوليــدي علــى عمليــات التأثيــر‪ ،‬مــع تقديــم توصيــات لعالجهــا‪.‬‬
‫‪Generative Language Models and Automated Influence Operation: Emerging Threats and Potential‬‬
‫‪Mitigations, OpenAI‬‬

‫الربــع األخيــر ‪ - 2022‬تــم الكشــف عــن شــبكة إعالميــة أطلــق عليهــا المراقبــون مســمى “‪ ”Spamouflage‬تهــدف‬
‫إلــى نشــر الدعايــة السياســية المؤيــدة للحكومــة الصينيــة علــى شــبكات التواصــل االجتماعــي‪ ،‬عبــر حســابات وهميــة‬
‫وشــخصيات مزيفــة تــم إنتاجهــا بالــذكاء االصطناعــي بغــرض تمجيــد الصيــن وانتقــاد الواليــات المتحــدة ومهاجمــة حــزب‬
‫المعارضــة فــي هونــغ كونــغ ورجــل األعمــال الصينــي المنفــي جــو ونكــوي‪.‬‬
‫‪Pro-Chinese Actors Promote AI-Generated Video Footage of Fictitious People in Online Influence‬‬
‫‪Operation, Graphika‬‬

‫توتــر العالقــات الدوليــة وتصعيــد الحــروب الســيبرانية والعســكرية‪ ،‬نتيجـ ًـة لإلمكانــات الكبيــرة‬
‫التــي يوفرهــا الــذكاء االصطناعــي التوليــدي في التجســس وتمكيــن الهجمات الســيبرانية‪ ،‬وكذلك‬
‫األســلحة ذاتيــة التحكــم وأســراب الدرونــز (‪ .)Drone Swarms‬ومــع التقــدم المتســارع لهــذه‬
‫‪2‬‬
‫التقنيــة نتوقــع أن نــرى تطــورات مرعبــة‪ ،‬ممــا يجعــل العمليــات والهجمــات التــي تقودهــا دول‬
‫ـابقا مضطلعــة فــي الحــروب‬ ‫ـراوة‪ ،‬بــل قــد يســمح ذلــك بتحــرك دول لــم تكــن سـ ً‬
‫ضــد أخــرى أكثــر ضـ ً‬
‫الســيبرانية لتقــوم بعمليــات وهجمــات باســتخدام الــذكاء االصطناعــي‪.‬‬

‫أبريــل ‪ – 2023‬فــي مؤتمــر (‪ )RSA‬الدولــي المتخصــص فــي أمــن المعلومــات‪ ،‬ذكــر الجنــرال األمريكــي الســابق ريتشــارد كالرك‬
‫معتمــدا علــى األنظمــة ذاتيــة التحكــم والــذكاء االصطناعــي‪ ،‬وســتدور هــذه الحــروب فــي‬‫ً‬ ‫أن مســتقبل الحــروب ســتكون‬
‫ـتقبال بــدون‬
‫ً‬ ‫الفضــاء الحقيقــي والفضــاء الســيبراني بشــكل أساســي‪ .‬كذلــك ذكــر أنــه ال يمكــن أن تفــوز دولــة فــي أي حــرب مسـ‬
‫ـزءا مــن هــذه الحــرب‪.‬‬
‫أن يكــون الفضــاء الســيبراني جـ ً‬
‫‪Future of warfare is AI, retired US Army general warns, The Register‬‬

‫أبريــل ‪ – 2023‬ذكــر مقــال بالصحيفــة الرســمية للجيــش الصينــي (‪ )PLA‬أن الجيــش يناقــش اســتخدام برنامــج (‪ )ChatGPT‬مــن‬
‫أجــل تعزيــز قدراتــه االســتخباراتية والعســكرية وتوظيــف الــذكاء االصطناعــي التوليــدي فــي الحــرب المعرفيــة (‪Cognitive‬‬
‫‪ )Warfare‬وجمــع المعلومــات الحساســة عــن الــدول المعاديــة‪ .‬هــذا علــى الرغــم أن الحكومــة الصينيــة منعــت مواطنيهــا مــن‬
‫اســتخدام برنامــج (‪ )ChatGPT‬أو حتــى الوصــول إليــه‪.‬‬

‫‪China’s military kicks off debate on use of ChatGPT with article in official PLA newspaper, South‬‬
‫‪Chine Morning Post‬‬

‫‪9‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر السياسية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫تركــز القــوة والســلطة لــدى الشــركات التقنيــة الكبــرى ودولهــا وتمكنهــا مــن التأثيــر السياســي‬
‫واالقتصــادي واالجتماعــي بشــكل أكبــر عبــر الــذكاء االصطناعــي‪ .‬هيمنــة هــذه الشــركات ُيعــزى‬ ‫‪3‬‬
‫بشــكل رئيــس إلــى ثــاث ميــزات تنافســية‪ :‬حيــازة كميــات ضخمــة مــن البيانــات‪ ،‬وميــزة المــوارد‬
‫ـوال اســتراتيجية‬
‫والقــوة الحوســبية‪ ،‬والميــزة الجيوسياســية‪ ،‬وبالتالــي أصبحــت هــذه الشــركات أصـ ً‬
‫لدولهــا بشــكل يعــزز ســيادتها الوطنيــة وتأثيرهــا الدولــي‪.‬‬

‫ّ‬
‫التركــز المتزايــد للقــوة والمــوارد لــدى عــدد قليــل مــن الشــركات‬ ‫أبريــل ‪ - 2023‬نشــر معهــد (‪ )AI Now‬تقريـ ًـرا يتحــدث عــن‬
‫دوال بأكملهــا‪ ،‬خاصـ ًـة مــع تطــور وتبنــي الــذكاء االصطناعــي علــى نطــاق واســع كبنيــة تحتيــة حيويــة‬‫ً‬ ‫التقنيــة الكبــرى لتضاهــي‬
‫ـدءا مــن الشــؤون األساســية‪ ،‬مثــل‪ :‬الرعايــة الصحيــة والتعليــم وكذلــك‬ ‫تُ ســتخدم فــي اتخــاذ قــرارات تؤثــر علــى حيــاة النــاس‪ ،‬بـ ً‬
‫ـوال إلــى الشــؤون اليوميــة‪ ،‬مثــل‪ :‬حركــة المــرور وتحديــد األســعار‪.‬‬ ‫الوظائــف والرواتــب‪ ،‬ووصـ ً‬
‫ً‬
‫ســابقا) وأمــازون‬ ‫المقصــود بالشــركات التقنيــة الكبــرى مــا ُيســمى بـــ(‪ )GAFAM‬وهــي‪ :‬غوغــل وأبــل وميتــا (فيســبوك‬
‫ومايكروســوفت‪.‬‬
‫‪Confronting Tech Power: diagnosing concentration of power in the tech industry as a pressing‬‬
‫‪challenge and pointing the path forward to seize this moment of change, AI Now Institute‬‬

‫وتحديــدا برنامــج‬
‫ً‬ ‫شــددت الصيــن القيــود علــى اســتخدام أنظمــة الــذكاء االصطناعــي التوليــدي األمريكيــة‪،‬‬ ‫ّ‬ ‫فبرايــر ‪– 2023‬‬
‫(‪ )ChatGPT‬الــذي لــم تســمح باســتخدامه لمواطنيهــا ‪ -‬علــى الرغــم أن الجيــش الصينــي يبحــث اســتخدام البرنامــج ألغــراض‬
‫وجهــت الحكومــة الصينيــة شــركات التقنيــة الكبــرى لديهــا إلــى عــدم توظيــف تقنيــات الــذكاء‬ ‫اســتخباراتية وعســكرية‪ .‬أيضـ ًـا ّ‬
‫االصطناعــي التوليــدي األمريكيــة فــي تطبيقاتهــا وخدماتهــا‪ ،‬وأن تتقــدم بطلــب إذن مــن الحكومــة الصينيــة فــي حــال اعتزامهــا‬
‫تطويــر أنظمــة خاصــة بهــا فــي الــذكاء االصطناعــي التوليــدي‪ ،‬لتضمــن عــدم وجــود مخالفــات للتشــريعات والضوابــط الحكوميــة‪.‬‬
‫‪Beijing pulls the plug on ChatGPT over fears it could spread US ‘disinformation’, Business Insider‬‬
‫‪China releases rules for generative AI like ChatGPT after Alibaba, Baidu launch services, CNBC‬‬

‫انكشــاف المعلومات الحساســة والحرجة للجهات الوطنية أو الشــركات أو الشــخصيات المهمة‬

‫عنــد اســتخدام برامــج الــذكاء االصطناعــي‪ ،‬ال سـ ّـيما تلــك التــي تمتلكها وتســتضيفها وتديرها شــركات‬ ‫‪4‬‬
‫أجنبيــة‪ ،‬وبالتالــي تعريضهــم لالســتغالل والتالعــب والتهديــد مــن قبل أصحاب النوايا الســيئة‪.‬‬

‫الربــع األول ‪ - 2023‬تسـ ّـبب موظفــون فــي شــركة سامســونج الكوريــة فــي تســريب بيانــات ســرية بغيــر قصــد أثنــاء اســتخدام‬
‫برنامــج (‪ ،)ChatGPT‬حيــث اســتخدموه لمســاعدتهم فــي أعمالهــم اليوميــة وشــاركوا برمجيــات خاصــة بمنتجــات لــم تُ طلــق بعــد‬
‫ومحاضــر اجتماعــات داخليــة‪ .‬نتيجـ ًـة لذلــك‪ ،‬منعــت سامســونج اســتعمال أنظمــة الــذكاء االصطناعــي الخارجيــة‪ ،‬وتعمــل ً‬
‫حاليــا‬
‫علــى تطويــر نظــام ذكاء اصطناعــي لالســتخدام الداخلــي للموظفيــن‪.‬‬
‫‪Samsung workers made a major error by using ChatGPT, Tech Radar‬‬

‫ً‬
‫مستشــهدة بخصوصيــة بيانــات‬ ‫أبريــل ‪ - 2023‬قامــت إيطاليــا بحظــر مؤقــت لبرنامــج (‪ )ChatGPT‬علــى مســتوى البــاد‬
‫ً‬
‫تحقيقــا لبحــث مــدى توافــق البرنامــج مــع لوائــح النظــام األوروبــي لحمايــة البيانــات (‪ .)GDPR‬رفعــت‬ ‫مواطنيهــا‪ ،‬وفتحــت‬
‫الحقــا الحظــر بعــد أن اســتجابت شــركة (‪ )OpenAI‬المالكــة لبرنامــج (‪ )ChatGPT‬لمطالــب الحكومــة‬ ‫ً‬ ‫الحكومــة اإليطاليــة‬
‫تحســن مــن حمايــة البيانــات‪.‬‬
‫اإليطاليــة‪ ،‬ووضعــت ضوابــط ومعاييــر ّ‬
‫‪ChatGPT banned in Italy over privacy concerns, BBC‬‬

‫‪10‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر االقتصادية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر االقتصادية‬
‫ً‬
‫نتيجــة لقــدرات الــذكاء‬ ‫زيــادة نســبة البطالــة وفقــدان الوظائــف والتأثيــر علــى ســوق العمــل‬
‫االصطناعــي التوليــدي العاليــة التــي تضاهــي قــدرات البشــر وإمكانياتــه الكبيــرة التــي مــن أهمهــا‬ ‫‪5‬‬
‫أتمتــة المهــام‪ ،‬وبالتالــي تقليــل االعتمــاد علــى العنصــر البشــري أو حتــى اســتبدال البشــر بالكامــل‬
‫فــي بعــض المهــام ممــا قــد يوفــر التكلفــة ويرفــع اإلنتاجيــة‪.‬‬

‫تقريرا حول التأثير االقتصادي المحتمل للذكاء االصطناعي‬ ‫ً‬ ‫مارس ‪ – 2023‬أصدر بنك جولدمان ساكس (‪)Goldman Sachs‬‬
‫وبيــن فــي أحــد مرئياتــه – بعــد دراســة أســواق العمــل فــي الواليــات المتحــدة وأوروبــا ‪ -‬أن مــن المتوقــع أن يؤثــر‬
‫التوليــدي‪ّ ،‬‬
‫الــذكاء االصطناعــي التوليــدي بشــكل مباشــر أو غيــر مباشــر علــى نحــو ثلثــي الوظائــف الحاليــة‪ ،‬وفــي نفــس الوقــت قــد يســتبدل‬
‫مــا يصــل إلــى ربــع الوظائــف الحاليــة‪ ،‬ممــا يعنــي تهديــد ‪ 300‬مليــون وظيفــة علــى مســتوى العالــم بحســب تقديــرات التقريــر‪.‬‬
‫‪The Potentially Large Effects of Artificial Intelligence on Economic Growth, Goldman Sachs‬‬

‫مايــو ‪ – 2023‬أعلــن الرئيــس التنفيــذي لشــركة آي بــي إم (‪ – )IBM‬إحــدى كبريــات الشــركات التقنيــة فــي العالــم ‪ -‬أن الشــركة‬
‫أوقفــت التوظيــف فــي األعمــال التــي يســتطيع الــذكاء االصطناعــي القيــام بهــا ‪ -‬مثــل بعــض أدوار شــؤون الموظفيــن – حيــث‬
‫تعمــل الشــركة بشــكل حثيــث علــى تبنــي الــذكاء االصطناعــي ليســتبدل ‪ 7,800‬وظيفــة خــال الخمــس ســنين القادمــة‪.‬‬
‫‪IBM to Pause Hiring for Jobs That AI Could Do, Bloomberg‬‬

‫اضطــراب األســواق الماليــة والقطاعــات التجاريــة والتأثيــر علــى توازنهــا عبــر التســبب فــي خســائر‬
‫تجاريــة كبيــرة للعديــد مــن الشــركات‪ ،‬وربمــا التســبب فــي إفالســها‪ ،‬خاصـ ًـة تلــك التــي تعتمــد فــي‬ ‫‪6‬‬
‫دخلهــا بشــكل رئيــس علــى خدمــات يســتطيع عملهــا الــذكاء االصطناعــي التوليــدي بشــكل مؤتمــت‬
‫ومنخفــض التكلفــة‪ ،‬مثــل شــركات التقنيــة بمختلــف مجاالتهــا ووكاالت التســويق وخدمــة العمــاء‬
‫ومقدمــي الخدمــات التعليميــة وغيرهــا‪.‬‬

‫مايــو ‪ – 2023‬أعلنــت شــركة (‪ )Chegg‬المتخصصــة فــي تقديــم خدمــات تعليميــة للطــاب عبــر اإلنترنــت عــن خســارتها نصــف‬
‫قيمتهــا الســوقية‪ ،‬أي مــا يقــارب مليــار دوالر‪ ،‬كنتيجــة مباشــرة النتشــار اســتخدام الطــاب برنامــج (‪ )ChatGPT‬المجانــي‪،‬‬
‫وعــزوف الكثيــر مــن المشــتركين عــن تجديــد اشــتراكاتهم فــي (‪.)Chegg‬‬
‫‪Edtech Chegg tumbles as ChatGPT threat prompts revenue warning, Reuters‬‬

‫صرحــت شــركة بيرســون (‪ )Paerson‬الناشــرة للكتــب أنهــا رفعــت دعــوات قضائيــة علــى الشــركات التــي تســتخدم‬
‫مايــو ‪ّ – 2023‬‬
‫محتــوى كتبهــا فــي تدريــب أنظمــة الــذكاء االصطناعــي‪ ،‬بعــد أن هبطــت أســهمها ‪ 15%‬كأحــد تبعــات انتشــار اســتخدام برنامــج‬
‫(‪.)ChatGPT‬‬
‫‪Pearson taking legal action over use of its content to train language models, as it announces own AI‬‬
‫‪plans, Evening Standard‬‬

‫‪11‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر االقتصادية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫االحتــكار االقتصــادي والمالــي للشــركات التقنيــة الرائــدة فــي مجــال الــذكاء االصطناعي أو‬
‫ّ‬
‫ومصنعــي‬ ‫كالمطوريــن والمشـ ّـغلين وموفــري الخدمــات الســحابية‬ ‫ّ‬ ‫المجــاالت المتعلقــة بــه –‬ ‫‪7‬‬
‫المعــدات‪ .‬وقــد يضــر ذلــك بالمنافســة فــي االقتصــاد الرقمــي‪ ،‬خاصـ ًـة مــع الصعوبــة المتزايــدة‬
‫لدخــول منافســين جــدد بســبب قلــة الكفــاءات المتخصصــة‪ ،‬واحتــكار المــوارد وبــراءات االختــراع‪،‬‬
‫والحاجــة إلــى رأس مــال اســتثماري أكبــر مــع التقــدم الكبيــر الــذي حــدث فــي التقنيــة مؤخـ ًـرا‪.‬‬

‫ـودا لمراجعــة ســوق أنظمــة الــذكاء االصطناعــي‪ ،‬حيــث ســتبحث‬

‫مايــو ‪ – 2023‬بــدأت هيئــة المنافســة واألســواق البريطانيــة جهـ ً‬
‫تأثيــر هــذه األنظمــة علــى األســواق والمنافســة‪ ،‬وكذلــك الفــرص والمخاطــر للمنافســة وحمايــة المســتهلكين التــي يمكــن أن‬
‫ً‬
‫وأيضــا مــا يمكــن عملــه لدعــم المنافســة وحمايــة المســتهلكين مــع تطــور أنظمــة الــذكاء‬ ‫تظهــر نتيجــة للــذكاء االصطناعــي‪،‬‬
‫الالصطناعــي‪.‬‬
‫‪UK competition regulator launches review of AI market, ComputerWorld‬‬

‫ـاال كتبتــه كبيــرة المستشــارين سـ ً‬

‫ـابقا فــي هيئــة التجــارة الفيدراليــة (‪)FTC‬‬ ‫أبريــل ‪ – 2023‬نشــرت صحيفــة فاينانشــال تايمــز مقـ ً‬
‫بالواليــات المتحــدة األمريكيــة تحـ ّـذر فيــه الجهــات الرقابيــة واإلشــرافية مــن تزايــد تأثيــر الــذكاء االصطناعــي علــى المنافســة فــي‬
‫وتحثهــم علــى التحــرك بســرعة لكســر هيمنــة شــركات التقنيــة الكبيــرة علــى االقتصــاد الرقمــي‪.‬‬ ‫ّ‬ ‫األســواق‪،‬‬
‫‪Competition authorities need to move fast and break up AI, Financial Times‬‬
‫‪The growing influence of industry in AI research, Science‬‬
‫مالحظــة‪ :‬قفــزت القيمــة الســوقية بشــكل كبيــر لجميــع الشــركات التقنيــة الكبــرى المضطلعــة فــي ســوق الــذكاء االصطناعــي والتــي ذكرناهــا فــي‬
‫خارطــة المنافســة ‪ -‬غوغــل وميتــا (فيســبوك سـ ً‬
‫ـابقا) وأمــازون ومايكروســوفت و (‪ - )Nvidia‬منــذ بدايــة العــام حتــى كتابــة هــذا التقريــر فــي بدايــة‬
‫ـوا بزيــادة نســبتها ‪ 32%‬وأعالهــا (‪ )Nvidia‬التــي تضاعــف نموهــا إلــى ‪ .195%‬بمعنــى آخــر؛ زادت القيمــة‬ ‫يوليــو ‪2023‬م‪ .‬وكانــت غوغــل أقلهــا نمـ ً‬
‫الســوقية لجميــع هــذه الشــركات بمجمــوع ‪ 2.64‬ترليــون دوالر! ويعــزى هــذه النمــو الهائــل بشــكل جزئــي لثــورة الــذكاء االصطناعــي التوليــدي‪.‬‬

‫اتســاع الفجــوة االقتصاديــة والفجــوة الرقميــة بيــن ميســوري المــوارد ومحــدودي‬

‫المــوارد علــى مســتوى الــدول وكذلــك علــى مســتوى األفــراد‪ .‬يعــود ذلــك إلــى قــدرة‬ ‫‪8‬‬
‫الــذكاء االصطناعــي علــى زيــادة إنتاجيــة األفــراد والمؤسســات بشــكل كبيــر (لمــن لديــه‬
‫وتســببه فــي إحــال الوظائــف بالــذات التــي ال تتطلــب‬ ‫ّ‬ ‫القــدرة والمــوارد الســتغالله)‪،‬‬
‫مهــارات متقدمــة‪ .‬المتضــرر األكبــر هــي الــدول الناميــة واألفــراد محــدودي التعليــم والدخــل‪.‬‬

‫ً‬
‫تباينــا‬ ‫ســبتمبر ‪ – 2020‬نشــر صنــدوق النقــد الدولــي (‪ )IMF‬ورقــة عمــل بعنــوان “هــل ســتحدث ثــورة الــذكاء االصطناعــي‬
‫عظيمــا ً‬
‫أيضــا علــى االقتصادات‬ ‫ً‬ ‫كبيرا؟”ذكــر فيهــا أن الــذكاء االصطناعــي ُيحــدث ثــورة فــي عمليــات اإلنتــاج‪ ،‬ولكنــه قــد يتــرك أثـ ًـرا‬
‫ً‬
‫الناميــة‪ ،‬نظـ ًـرا لالختــاف الكبيــر فــي الفــرص ومصــادر النمــو المحتملــة على مســتوى القــدرة النوعيــة لإلنتاج وتدفقات االســتثمار‬
‫وطبيعــة التبــادل التجــاري‪.‬‬
‫‪Will the AI Revolution Cause a Great Divergence?, IMF‬‬

‫ينايــر ‪ – 2022‬كتــب رئيــس مختبــر االقتصــاد الرقمــي فــي جامعــة ســتانفورد البروفيســور إريــك بيرنوفســن أن تقـ ّـدم وانتشــار‬
‫الــذكاء االصطناعــي واســتبداله للعنصــر البشــري ســيؤدي إلــى مــا أســماه “فــخ تورينــغ”‪ ،‬حيــث تتركــز الثــروة والقــوة فــي يــد‬
‫القلــة‪ ،‬واستشــهد بأنــه خــال األربعيــن ســنة الماضيــة زاد عــدد المليونيــرات بشــكل كبيــر فــي حيــن تناقــص دخــل مــن مؤهلــه‬
‫شــهادة الثانويــة العامــة فــي الواليــات المتحــدة‪.‬‬
‫‪The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence, Stanford University‬‬

‫‪12‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر االجتماعية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر االجتماعية‬
‫“هلوســة” الــذكاء االصطناعــي وتفشــي المحتــوى المضلــل والمزيــف الــذي تنتجــه‬
‫أنظمــة الــذكاء االصطناعــي التوليــدي مــن تلقــاء نفســها‪ ،‬ممــا قــد يتســبب فــي أضــرار‬ ‫‪9‬‬
‫اجتماعيــة مثــل‪ :‬توليــد معلومــات مغلوطــة قــد تــؤدي إلــى اتخــاذ قــرارات خاطئــة أو تشــويه‬
‫ســمعة‪ ،‬أو توليــد محتــوى متحيــز ضــد جنســية أو عــرق أو ديانــة معينــة نتيجــة للبيانــات التــي‬
‫تــم تغذيتهــا فــي النظــام‪.‬‬

‫مــارس ‪ – 2023‬بحســب شــركة (‪ )OpenAI‬المطـ ّـورة لبرنامــج (‪ ،)ChatGPT‬فــإن البرنامــج قــد ينتــج معلومــات غيــر منطقيــة‬
‫أو غيــر صحيحــة فــي ردوده بــدون توضيــح ذلــك‪ ،‬وأطلقــوا علــى هــذه المشــكلة مصطلــح “هلوســة”‪ ،‬ممــا يشــكل خطـ ًـرا علــى‬
‫ســامة وأمــان هــذا البرنامــج تحديـ ًـدا حيــن يثــق فيــه المســتخدم ويعتمــد عليــه فــي صحــة المعلومــات‪.‬‬
‫‪GPT-4 System Card: 2.2 Hallucinations (page 6), OpenAI‬‬

‫ديســمبر ‪ – 2022‬حينمــا طلــب أحــد الباحثيــن مــن برنامــج (‪ )ChatGPT‬كتابــة خوارزميــة تحــدد مــا إذا شــخص مــا يســتحق التعذيــب‬
‫ـاء علــى الدولــة التــي َقـ ِـدم منهــا‪ ،‬قــام البرنامــج بتوليــد خوارزميــة حـ ّـدد فيهــا ســوريا وإيــران والســودان وكوريــا الشــمالية‬
‫أم ال بنـ ً‬
‫دوال يجــب أن ُيعـ ّـذب المنتمــون إليهــا‪.‬‬
‫ً‬
‫‪The Internet’s New Favorite AI Proposes Torturing Iranians and Surveilling Mosques, The Intercept‬‬

‫أبريــل ‪ – 2023‬يعتــزم برايــن هــود‪ ،‬وهــو عمــدة إحــدى البلديــات فــي أســتراليا‪ ،‬اتخــاذ إجــراء قانونــي ضــد برنامــج (‪)ChatGPT‬‬
‫بســبب نشــره معلومــات زائفــة تشــوه ســمعته حيــث زعــم البرنامــج أن برايــن هــود كان مسـ ً‬
‫ـجونا بتهمــة الرشــوة أثنــاء عملــه فــي‬
‫إحــدى الشــركات‪ ،‬بينمــا فــي الواقــع كان هــود ُم ِّبل ًغــا عــن قضيــة فســاد ولــم يتــم اتهامــه بــأي جريمــة‪.‬‬
‫‪ChatGPT: Mayor starts legal bid over false bribery claim, BBC‬‬

‫بتعمــد تزييــف المحتــوى‬

‫ّ‬ ‫ـواء‬
‫إنتــاج المحتــوى ونشــره بقصــد اإلضــرار والهندســة االجتماعيــة؛ سـ ً‬
‫بغــرض التخويــف أو التالعــب أو التحريــض‪ ،‬أو توليــد محتــوى يســاهم فــي نشــر خطــاب الكراهيــة‬ ‫‪10‬‬
‫أو العنــف ‪ -‬مثــل االطــاع علــى طــرق تصنيــع القنابــل أو الدعــوة لالنتحــار – أو يســاهم فــي نشــر‬
‫الممنوعــات مثــل المحتــوى اإلباحــي أو تصنيــع المخــدرات والمــواد المحظــورة‪.‬‬

‫ـا الســتخدامه إحــدى تقنيــات الــذكاء االصطناعــي التوليــدي لتزييــف خبــر كاذب عــن‬
‫مايــو ‪ – 2023‬اعتقلــت الشــرطة الصينيــة رجـ ً‬
‫حادثــة قطــار ونشــره عبــر عــدة حســابات فــي وســائل التواصــل االجتماعــي‪.‬‬
‫‪China detains man for allegedly generating fake train crash news, South China Morning Post‬‬

‫ديســمبر ‪ – 2022‬اســتطاع أحــد المســتخدمين تجــاوز المعاييــر األخالقيــة الموضوعــة علــى برنامــج (‪ – )ChatGPT‬التــي مــن شــأنها‬
‫ّ‬
‫وتمكــن مــن جعــل البرنامــج يشــرح لــه كيــف يمكــن تصنيــع قنبلــة فــي المنــزل‪.‬‬ ‫أن تحمــي مــن االســتخدام َ‬
‫الخ ِطــر ‪-‬‬
‫‪ChatGPT bot tricked into giving bomb-making instructions, say developers, The Times‬‬

‫أبريــل ‪ – 2023‬أوضحــت شــركة (‪ )Darktrace‬لألمــن الســيبراني فــي بحــث نشــرته مؤخـ ًـرا ازديــاد هجمــات الهندســة االجتماعيــة‬
‫الجديــدة بنســبة ‪ 135%‬منــذ بدايــة عــام ‪ 2023‬وســط االنتشــار الواســع والمتزايــد لبرنامــج (‪.)ChatGPT‬‬
‫‪Scam email cyber attacks increase after rise of ChatGPT, Darktrace‬‬

‫‪13‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر االجتماعية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫االعتمــاد المتزايــد علــى الــذكاء االصطناعــي التوليــدي فــي العمــل والتعليــم والحيــاة‬
‫اليوميــة – خاصــة أن بعــض قدراتــه أصبحــت تقــارب قــدرات البشــر – ممــا قــد يــؤدي إلــى إضعــاف‬ ‫‪11‬‬
‫قــدرات المســتخدمين علــى التحليــل النقــدي واإلنتــاج الفكــري واإلبداعــي‪ ،‬والحــد مــن العمليــة‬
‫التعليميــة فــي المــدارس والجامعــات ومفاقمــة المخاطــر األخــرى لهــذه األنظمــة‪.‬‬

‫ينايــر ‪ – 2023‬بحســب تقريــر (‪ )Axios‬فــإن إطــاق برنامــج (‪ )ChatGPT‬بشــكل مجانــي أحــدث ضجــة كبيــرة فــي القطــاع‬
‫التعليمــي‪ ،‬حيــث حجبــت العديــد مــن المؤسســات التعليميــة النظــام داخلهــا وحاولــت تطويــر آليــات للحــد مــن اســتخدامه‪ ،‬مثــل‪:‬‬
‫تبنــي تطبيقــات للكشــف عــن المحتــوى المكتــوب بواســطة الــذكاء االصطناعــي التوليــدي‪ ،‬ومطالبــة الطــاب بتوقيــع إقــرار‬
‫بعــدم اســتخدامهم لهــذه األنظمــة‪ ،‬وحتــى مطالبــة الطــاب بحــل الواجبــات بخــط اليــد‪.‬‬
‫‪Friend or foe? Teachers debate ChatGPT, Axios‬‬

‫مكتوبــا بالكامــل بواســطة نظــام‬

‫ً‬ ‫خطابــا للمجلــس‬
‫ً‬ ‫ينايــر ‪ – 2023‬قـ ّـدم جيــك أوكنكلــوس‪ ،‬أحــد أعضــاء الكونغــرس األمريكــي‪،‬‬
‫ً‬
‫الحقــا علــى قنــاة (‪.)CNN‬‬ ‫(‪ ،)ChatGPT‬واعتــرف بذلــك‬
‫‪Congressman gives speech written by AI, CNN‬‬

‫نظرا لالنتشــار الكبيــر ألنظمة الذكاء‬

‫ً‬ ‫تهديــد اللحمــة االجتماعيــة واالســتقرار األمنــي والنفســي‬
‫االصطناعــي التوليــدي وتطبيقاتهــا‪ ،‬وتفاعــل مالييــن النــاس معهــا بشــكل يومــي‪ ،‬ممــا قــد يــؤدي‬ ‫‪12‬‬
‫إلــى مشــاكل أمنيــة كانتحــال الشــخصيات‪ ،‬ومشــاكل نفســية كزيــادة االنعــزال والوحــدة ومــا ينتــج‬
‫حاليــا‪.‬‬
‫عنهــا مــن زيــادة معــدالت القلــق واالكتئــاب وغيرهــا مــن التبعــات التــي ربمــا ال نســتوعبها ً‬

‫مــارس ‪ – 2023‬أعلــن جيفــري هنتــون وهــو أحــد أبــرز العلمــاء المتخصصيــن فــي الــذكاء االصطناعــي عــن اســتقالته مــن شــركة‬
‫ّ‬
‫وحــذر بشــكل علنــي مــن مخاطــر الــذكاء‬ ‫جوجــل كمستشــار فــي الــذكاء االصطناعــي وتوقفــه عــن العمــل فــي هــذا المجــال‪،‬‬
‫االصطناعــي‪ ،‬مثــل‪ :‬فقــدان الوظائــف‪ ،‬وتضليــل النــاس‪ ،‬واحتماليــة فقــدان الســيطرة عليــه‪.‬‬
‫‪Why the ‘Godfather of AI’ decided he had to ‘blow the whistle’ on the technology, CNN‬‬

‫مطولــة مــع برنامــج‬

‫ّ‬ ‫مــارس ‪ – 2023‬نشــرت وكالــة األنبــاء األوروبيــة (‪ )EuroNews‬خبـ ًـرا عــن انتحــار شــاب بلجيكــي بعــد محادثــات‬
‫ذكاء اصطناعــي ُيدعــى إليــزا تســببت فــي تزايــد قلقــه بشــكل غيــر طبيعــي حــول مســتقبل العالــم والكــوارث التــي يسـ ّـببها البشــر‬
‫يقدمــه للعالــم هــو االنتحــار‪ ،‬وهــذا مــا حصــل‪.‬‬ ‫بحســب مــا ذكــره لــه برنامــج إليــزا الــذي أقنعــه أن أفضــل مــا ّ‬
‫‪Man ends his life after an AI chatbot ‘encouraged’ him to sacrifice himself, EuroNews‬‬

‫أغســطس ‪ – 2021‬نشــر مركــز أبحــاث نمــاذج األســاس بجامعــة ســتانفورد ورقــة بحثيــة شــارك فيهــا أكثــر مــن ‪ 100‬باحــث‬
‫بعنــوان “حــول فــرص ومخاطــر نمــاذج األســاس”‪ ،‬وأحــد النقــاط المهمــة التــي ُذكــرت أننــا نحتــاج إلــى دراســة دقيقــة وحــذرة حتــى‬
‫نســتوعب األثــر االجتماعــي لنمــاذج الــذكاء االصطناعــي‪ ،‬حيــث مــن المتوقــع أن تكــون لهــذه النمــاذج تبعــات اجتماعيــة واســعة‬
‫ـادة للمســتخدم النهائــي بشــكل مباشــر ‪ -‬ذات‬ ‫النطــاق بعضهــا قــد يصعــب إدراكــه؛ فهــي تعتبــر أنظمــة وســيطة – أي ال تتــاح عـ ً‬
‫إمكانــات هائلــة‪ ،‬وتســتخدم كلبنــة أساســية ُيبنــى عليهــا العديــد مــن التطبيقــات المختلفــة مثــل الدردشــة وإنتــاج الصــور وأتمتــة‬
‫األعمــال وغيرهــا‪ .‬لذلــك مــن الصعــب تقديــر حجــم األثــر االجتماعــي لهــذه التقنيــة‪ ،‬وإن كان مــن الممكــن تحديــد األثــر االجتماعــي‬
‫لــكل تطبيــق علــى حــدة‪.‬‬
‫‪On the Opportunities and Risks of Foundation Models, Stanford University‬‬

‫‪14‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر التقنية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر التقنية‬

‫نظــرا‬
‫ً‬ ‫تهديــد األمــن الســيبراني وتفاقــم الهجمــات واالختراقــات الســيبرانية بشــكل كبيــر‬
‫لقــدرة أنظمــة الــذكاء االصطناعــي التوليــدي علــى اكتشــاف الثغــرات وتوليــد البرامــج الضــارة‬ ‫‪13‬‬
‫والروبوتــات الخبيثــة‪ ،‬وكذلــك تمكيــن األشــخاص محــدودي أو عديمــي القــدرات التقنيــة من القيام‬
‫باالختراقــات الســيبرانية‪.‬‬

‫تقريــرا يثبــت إمكانيــة‬

‫ً‬ ‫ديســمبر ‪ – 2022‬نشــرت شــركة تشــيك بوينــت (‪ )Check Point‬المتخصصــة فــي األمــن الســيبراني‬
‫توظيــف برنامــج (‪ )ChatGPT‬فــي الهجمــات الســيبرانية بمختلــف مراحلهــا‪ ،‬حيــث يمكنــه اقتــراح خطــة الهجــوم واالختــراق وتوفيــر‬
‫أيضــا يمكــن لهــذه األنظمــة توفيــر أنــواع متعــددة مــن الهجمــات واالختراقــات مــن توليــد نــص‬ ‫المحتــوى بــل وحتــى تنفيــذه‪ً .‬‬
‫رســالة بريــد إلكترونــي بهــدف ســرقة البيانــات إلــى توليــد شــفرة خبيثــة بهــدف االختــراق‪.‬‬
‫‪OPWNAI: AI That Can Save The Day or Hack It Away, CheckPoint‬‬

‫مايــو ‪ – 2023‬زادت الهجمــات الســيبرانية حــول العالــم بنســبة ‪ 7%‬فــي الربــع األول مــن عــام ‪ ،2023‬وفــي بعــض الــدول‬
‫ـا نســبة الزيــادة فــي الهنــد إلــى ‪ .18%‬فــي حيــن كان تركيــز الهجمــات الســيبرانية علــى قطاعــات‬‫كانــت الزيــادة أكبــر‪ ،‬بلغــت مثـ ً‬
‫أكثــر مــن غيرهــا‪ ،‬حيــث ارتفعــت نســبة الهجمــات علــى القطــاع الصحــي بنســبة ‪ ،22%‬وقطــاع التجزئــة بنســبة ‪ ،49%‬بينمــا‬
‫ارتفعــت الهجمــات فــي قطــاع التعليــم بنســبة ‪ .15%‬ويعــزي الباحثــون هــذه الزيــادة بشــكل جزئــي إلــى انتشــار أنظمــة الــذكاء‬
‫االصطناعــي التوليــدي‪.‬‬
‫‪India records 18% increase in weekly cyberattacks in Q1 2023: Report, Times of India‬‬

‫انتهــاك خصوصيــة البيانــات وانكشــاف المعلومــات الشــخصية والحساســة‪ .‬هــذا قــد يشــمل‬
‫الحكومــات والمؤسســات واألفــراد‪ ،‬حيــث يتــم تدريــب الكثيــر مــن نمــاذج الــذكاء االصطناعــي‬
‫التوليــدي علــى كميــات هائلــة مــن البيانــات التــي تــم توريدهــا مــن مصــادر عديــدة ‪ -‬بــدون تصفيتها‬
‫‪14‬‬
‫أو حتــى تحديــد مصادرهــا فــي كثيــر مــن األحيــان ‪ -‬وبالتالــي يمكــن لهــذه األنظمــة كشــف بيانــات‬
‫ومعلومــات خاصــة وحساســة عنــد اســتخدامها أو عنــد اختراقهــا‪.‬‬

‫مايــو ‪ – 2023‬علــى الرغــم مــن أن شــروط وأحــكام اســتخدام برنامــج (‪ )ChatGPT‬تنــص علــى أن البرنامج ال يســتخدم المعلومات‬
‫التــي يقدمهــا مســتخدموه‪ ،‬إال أنــه يقــوم بجمــع عنــوان اإلنترنــت (‪ )IP‬لألجهــزة المتصلــة وأنــواع وإعــدادات المتصفــح‪ ،‬ويطلــع‬
‫علــى نشــاطات تصفــح المســتخدم (‪ ،)Cookies‬ويمكنــه مشــاركة هــذه المعلومــات مــع أطــراف أخــرى دون إشــعار المســتخدم‪.‬‬
‫فــي الحقيقــة يحــذر البرنامــج نفســه المســتخدمين‪“ :‬ال يمكننــي ضمــان أمــان أو ســرية المعلومــات ‪ ...‬وقــد يتــم اســتخدام‬
‫المحادثــات وتخزينهــا ألغــراض البحــث أو التدريــب”‪.‬‬
‫‪How Generative AI Can Affect Your Business’ Data Privacy, Forbes‬‬

‫مايــو ‪ – 2023‬تــم اختــراق برنامــج (‪ )ChatGPT‬فــي مايــو ‪ 2023‬وتســريب بيانــات ‪ 1%‬مــن مســتخدمي البرنامــج والتــي شــملت‬
‫أيضــا ســجل محادثــات‬ ‫معلومــات شــخصية وحساســة (األســماء وتواريــخ الميــاد ومعلومــات بطاقــات االئتمــان) وكذلــك ً‬
‫المســتخدمين اآلخريــن‪ ،‬وقــد قامــت الشــركة المالكــة (‪ )OpenAI‬باإلعــان عــن حادثــة االختــراق ومعالجتهــا خــال أيــام مــن‬
‫اكتشــافها‪.‬‬
‫‪ChatGPT Confirms Data Breach, Raising Security Concerns, IBM Security‬‬

‫‪15‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر التقنية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫نظــرا لقــدرة الــذكاء االصطناعــي‬ ‫ً‬ ‫زعزعــة الثقــة فــي المحتــوى الرقمــي والهويــة الرقميــة‬
‫التوليــدي الهائلــة علــى اإلنتــاج المؤتمــت للمحتــوى الرقمــي‪ ،‬من بيانات ونصــوص وصور ومقاطع‬
‫ّ‬
‫وتمكنــه مــن االستنســاخ والتزييــف بشــكل قــد يبــدو غيــر قابــل للتمييــز عمــا‬ ‫مســموعة ومرئيــة‪،‬‬
‫‪15‬‬
‫يقلــل الثقــة فــي مصداقيــة مخرجاتــه لــدى المســتخدمين وتهديــد الثقــة فــي‬ ‫هــو حقيقــي‪ ،‬ممــا ّ‬
‫هويــة األفــراد فــي التواصــل عــن بعــد‪.‬‬

‫تضمنــت طــرح‬
‫ّ‬ ‫أبريــل ‪ – 2023‬فــي دراســة أجراهــا موقــع نيــوز جــارد (‪ )NewsGuard‬علــى برامــج الــذكاء االصطناعــي التوليــدي‪،‬‬
‫‪ 100‬ســؤال مختلــف علــى البرنامــج لتأكيــد صحــة بعــض نظريــات المؤامــرة والقصــص المختلقــة‪ ،‬وجــدت الدراســة أن برنامــج‬
‫أكــد ‪ 80‬مــن‬ ‫ّ‬
‫المضللــة‪ ،‬فــي حيــن أن برنامــج (‪ّ )ChatGPT‬‬ ‫(‪ )Bard‬التابــع لشــركة جوجــل ّ‬
‫أكــد ‪ 76‬منهــا بأجوبــة مليئــة بالمعلومــات‬
‫هــذه القصــص المختلقــة‪.‬‬
‫‪Google’s Bard Writes Convincingly About Known Conspiracy Theories, Bloomberg‬‬

‫مايــو ‪ – 2023‬تعــرض رجــل فــي الصيــن للنصــب واالحتيــال حيــن قــام محتالــون باستنســاخ صــورة وصــوت صديــق لــه والتواصــل‬
‫عبــر الفيديــو معــه وإقناعــه بتحويــل مبلــغ ‪ 4.3‬مليــون يــوان (أكثــر مــن مليونــي ريــال ســعودي) إلــى حســابهم‪ ،‬وهــو مــا فعلــه‪ .‬لكــن‬
‫بعدهــا قــام بالتواصــل مــع صديقــه الحقيقــي الــذي نفــى أن يكــون هــو مــن طلــب منــه ذلــك‪ .‬تسـ ّـببت الحادثــة بــردة فعــل قويــة‬
‫فــي شــبكات التواصــل االجتماعــي الصينيــة والعالميــة بمشــاهدات تجــاوزت ‪ 120‬مليــون مــرة‪.‬‬
‫‪‘Deepfake’ scam in China fans worries over AI-driven fraud, Reuters‬‬

‫فقــدان الســيطرة علــى الــذكاء االصطناعــي مــع التطــور المتســارع لألبحــاث واالبتــكار فــي هــذا‬
‫المجــال وخطــر تطويــر الــذكاء االصطناعــي العــام (‪ )Artificial General Intelligence: AGI‬أو‬ ‫‪16‬‬
‫حتــى الخــارق (‪ – )Artificial Super Intelligence: ASI‬بشــكل متعمــد أو غيــر متعمــد‪ .‬هــذا‬
‫ّ‬
‫يمكــن اآللــة مــن التفكيــر والتصــرف بشــكل مســتقل‪ ،‬ممــا قــد يخلــق خطـ ًـرا‬ ‫المســتوى مــن الــذكاء‬
‫وجوديــا للبشــرية‪ ،‬خاصـ ًـة إن لــم نكــن مدركيــن لكيفيــة عملــه بشــكل تفصيلــي أو مــا نوايــاه‪.‬‬
‫ً‬

‫مايــو ‪ – 2023‬أنشــأ معمــل الــذكاء االصطناعــي ديــب ماينــد (‪ )DeepMind‬التابــع لجوجــل نظــام إنــذار مبكــر لمخاطــر الــذكاء‬
‫االصطناعــي‪ ،‬يعتمــد علــى إطــار عمــل مهمتــه اكتشــاف المخاطــر المحتملــة فــي نمــوذج الــذكاء االصطناعــي قبــل أن تتحــول إلــى‬
‫مشــاكل حقيقيــة‪ ،‬حيــث أكــد الباحثــون فــي (‪ )DeepMind‬أننــا فــي حاجــة إلــى أن ننظــر إلــى مــا هــو أبعــد مــن المخاطــر الحاليــة‪،‬‬
‫وأن نتبنــئ بالمخاطــر التــي قــد تظهــر فــي المســتقبل مــع التطــور المتســارع لنمــاذج الــذكاء االصطناعــي وتمكنهــا مــن التفكيــر‬
‫بشــكل مســتقل‪.‬‬
‫‪Google DeepMind builds ‘early warning system’ to spot AI risks, Tech Monitor‬‬

‫ينايــر ‪ – 2023‬نشــر مرصــد سياســات الــذكاء االصطناعــي بمنظمــة التعــاون االقتصــادي والتنميــة (‪ً )OECD‬‬
‫بحثــا يناقــش الــذكاء‬
‫االصطناعــي العــام والخــارق كأكبــر خطــر وجــودي يواجــه البشــرية‪ ،‬ويدعــو الباحثيــن إلــى إعــادة النظــر فــي فكــرة أن التطــور‬
‫التقنــي إيجابــي بمطلقــه‪ ،‬وأن يتــم التركيــز علــى تحقيــق التــوازن بيــن المخاطــر والمنافــع لالبتــكارات التقنيــة عبــر تعزيــز مبــدأ‬
‫الســامة فــي تطويــر الــذكاء االصطناعــي‪.‬‬
‫‪Artificial General Intelligence: can we avoid the ultimate existential threat?, OECD.AI‬‬

‫‪16‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر القانونية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر القانونية‬
‫انتهــاك حقــوق الملكيــة الفكريــة واســتخدام األصــول اإلبداعيــة لألشــخاص بــدون إذن‪ ،‬وفــي‬
‫الكثيــر مــن األحيــان بــدون علــم األشــخاص ذوي العالقــة‪ ،‬ال ســيما عنــد جمــع بيانــات ضخمــة مــن‬
‫قانونيــا‪ .‬وعليــه‬
‫ً‬ ‫اإلنترنــت الســتخدامها فــي تدريــب أنظمــة الــذكاء االصطناعــي دون مراجعتهــا‬
‫‪17‬‬
‫فقــد ال تتــم مراعــاة القيــود المفروضــة علــى تلــك البيانــات ومــا قــد تتطلبــه مــن حصــول علــى‬
‫موافقــات وتراخيــص مــن ُمــاك حقــوق الملكيــة الفكريــة ذوي العالقــة‪.‬‬

‫المطورة‬
‫ّ‬ ‫نوفمبــر ‪ – 2022‬تــم رفــع دعــوى قضائيــة جماعيــة ضــد شــركة مايكروســوفت وشــركتين تابعة لهــا‪ :‬شــركة (‪)OpenAI‬‬
‫ـاعدا للبرمجــة يعتمــد علــى الــذكاء االصطناعــي (‪)GitHub Copilot‬‬ ‫لبرنامــج (‪ ،)ChatGPT‬وشــركة (‪ )GitHub‬التــي أنشــأت مسـ ً‬
‫بالتعــاون مــع شــركة (‪ .)OpenAI‬وتزعــم الدعــوى القضائيــة أن البرنامــج يقــوم بقرصنــة البرمجيــات مــن أجــل اســتخدام محتوياتهــا‬
‫فــي تدريبــه بــدون إذن رســمي مــن أصحابهــا‪ ،‬ممــا يعــد انتهـ ً‬
‫ـاكا لحقــوق الملكيــة الفكريــة‪.‬‬
‫‪The lawsuit that could rewrite the rules of AI copyright, The Verge‬‬

‫ســبتمبر ‪ – 2022‬منعــت مجموعــة مــن شــركات منصــات عــرض المحتــوى (مثــل عــرض وبيــع الصــور) وأبرزهــا (‪)Getty Images‬‬
‫تحميــل الصــور والرســوم التــي تــم تطويرهــا بواســطة الــذكاء االصطناعــي التوليــدي خشــية المســاءلة القانونيــة‪.‬‬
‫‪Getty Images bans AI-generated content over fears of legal challenges, The Verge‬‬

‫انتهــاك قوانيــن حمايــة البيانــات (الشــخصية والحساســة) وحقــوق اإلنســان نظـ ًـرا إلجــراءات‬
‫تطبقهــا معظــم الشــركات المطـ ّـورة‬
‫ّ‬ ‫التعامــل مــع البيانــات الضخمــة والممارســات التجاريــة التــي‬
‫ألنظمــة الــذكاء االصطناعــي‪ ،‬وكذلــك انتهــاك قوانيــن المنافســة العادلــة (التــي تمنــع‬ ‫‪18‬‬
‫الممارســات االحتكاريــة بيــن الشــركات) نظـ ًـرا لتركــز الســيطرة فــي ســوق الــذكاء االصطناعــي‬
‫علــى عــدة شــركات كبــرى عبــر التحكــم فــي البنيــة التحتيــة أو االســتحواذ علــى الشــركات الناشــئة‪.‬‬

‫أكتوبــر ‪ – 2022‬أصــدر البيــت األبيــض “مخطــط ميثــاق حقــوق الــذكاء االصطناعــي” (‪،)Blueprint for an AI Bill of Rights‬‬
‫معــا لضمان التطوير واالســتخدام‬ ‫هامــا يضمــن أن تعمــل الحكومــة وشــركات التقنيــة والمواطنــون األمريكيــون ً‬
‫ـارا ً‬
‫حيــث يعــد إطـ ً‬
‫ّ‬
‫وتركــز الوثيقــة علــى خمســة مبــادئ رئيســة‪ :‬أنظمــة آمنــة وفعالــة‪ ،‬والحمايــة ضــد‬ ‫المســؤول والمنضبــط للــذكاء االصطناعــي‪.‬‬
‫تحيــز الخوارزميــات‪ ،‬وخصوصيــة البيانــات‪ ،‬والتنبيــه والوضــوح فــي االســتخدام‪ ،‬واإلجــراءات البديلــة والمعالجــة‪.‬‬
‫ّ‬
‫‪Blueprint for an AI Bill of Rights, The White House‬‬

‫أبريــل ‪ – 2023‬بحســب تقريــر أجرتــه مجلــة المنافســة الدوليــة (‪ )Global Competition Review: GCR‬مــع مجموعــة مــن‬
‫ّ‬
‫تمكــن عــدد قليــل مــن الشــركات مــن التحكــم‬ ‫الخبــراء القانونييــن المتخصصيــن فــي مجــال المنافســة‪ ،‬فــإن هنــاك خطـ ًـرا كبيـ ًـرا مــن‬
‫بالدخــول لســوق الــذكاء االصطناعــي التوليــدي مــا لــم تكــن هنــاك أنظمــة قويــة لحمايــة المنافســة‪.‬‬
‫‪Experts warn of antitrust risks from generative AI, Global Competition Review‬‬

‫‪17‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫المخاطر البيئية‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫المخاطر البيئية‬
‫المســاهمة فــي التلــوث البيئــي عبــر االســتهالك العالــي للطاقــة‪ ،‬فعنــد حســاب االنبعاثات‬
‫الناتجــة عــن عمليــة تدريــب النمــاذج التوليديــة‪ ،‬وجــد الباحثــون أنهــا تنتــج انبعاثــات قــد تصــل إلــى‬
‫طنــا مــن ثانــي أكســيد الكربــون‪ .‬ومــن بــاب المقارنــة‪ ،‬يــوازي هــذا انبعاثــات خمــس ســيارات‬ ‫‪ً 284‬‬
‫‪19‬‬
‫طــوال ســنوات تشــغيلها‪ ،‬أو االنبعاثــات الســنوية الناتجــة عــن ‪ 57‬إنسـ ً‬
‫ـانا (الشــخص الواحــد ينتــج‬
‫ـنويا)‪.‬‬
‫فــي المتوســط حوالــي ‪ 5‬أطنــان مــن ثانــي أكســيد الكربــون سـ ً‬

‫يونيــو ‪ – 2019‬بحســب دراســة مفصلــة قامــت بهــا جامعــة ماساتشوســتس علــى مجموعــة أنظمــة الــذكاء االصطناعــي‪ ،‬منهــا‬
‫نظــام (‪ )GPT-2‬مــن شــركة (‪ )OpenAI‬ونظــام (‪ )BERT‬مــن شــركة جوجــل وغيرهــا‪ ،‬فــإن االنبعاثــات المتولــدة منهــا قــد تصــل‬
‫إلــى ‪ 626‬ألــف رطــل (مــا يــوازي ‪ً 284‬‬
‫طنــا)‪.‬‬

‫‪Training a single AI model can emit as much carbon as five cars in their lifetimes, MIT Technology Review‬‬

‫الهــدر العالــي للميــاه العذبــة فــي تبريــد الخــوادم ومراكــز البيانــات‪ ،‬حيــث تســتهلك أنظمــة‬
‫الــذكاء االصطناعــي التوليــدي كميــات كبيــرة مــن الميــاه العذبــة لتبريــد األجهــزة والخــوادم التــي‬ ‫‪20‬‬
‫عالميــا‪.‬‬
‫ً‬ ‫تســتخدم فــي تدريــب وإدارة النمــاذج التوليديــة ممــا قــد يفاقــم أزمــة الميــاه‬

‫أبريــل ‪ – 2023‬قــام باحثــون فــي جامعــة كاليفورنيــا ريفرســايد بدراســة األثــر المائــي لنمــاذج الــذكاء االصطناعــي‪ ،‬فوجــدوا أن‬
‫شــركة مايكروســوفت اســتخدمت حوالــي ‪ 700,000‬لتــر مــن الميــاه العذبــة أثنــاء تدريــب نظــام (‪ )GPT-3‬فــي مراكــز بياناتهــا‪،‬‬
‫وهــو مــا يعــادل كميــة الميــاه التــي يتطلبهــا تصنيــع ‪ 370‬ســيارة‪ .‬ويتــم معظــم االســتهالك أثنــاء عمليــة تدريــب نمــاذج الــذكاء‬
‫وأيضــا تســتهلك كميــات كبيــرة مــن‬‫ً‬ ‫االصطناعــي حيــث تســتخدم كميــات كبيــرة مــن الميــاه العذبــة لتبريــد األجهــزة والخــوادم‪،‬‬
‫الميــاه أثنــاء تشــغيل هــذه النمــاذج واســتخدامها‪ .‬فعلــى ســبيل المثــال‪ ،‬يعــادل المــاء المســتهلك فــي محادثــة بســيطة تتكــون‬
‫ً‬
‫مضاعفــا عندمــا يســتخدم هــذه النمــاذج مئــات‬ ‫ـؤال علبــة ميــاه واحــدة بســعة ‪ 500‬مــل‪ ،‬ممــا يجعــل األثــر‬ ‫مــن ‪ 20‬إلــى ‪ 50‬سـ ً‬
‫المالييــن مــن النــاس حــول العالــم‪.‬‬
‫‪Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models, UC Riverside‬‬
‫‪University‬‬

‫‪18‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫التوصيات المقترحة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫التوصيات المقترحة‬
‫الملخص‬

‫إن المخاطــر والتهديــدات الناجمــة عــن انتشــار اســتخدام الــذكاء االصطناعــي التوليــدي ‪ -‬والتــي مــن المتوقــع أن تتزايــد‬ ‫ّ‬
‫ودوليــا‪ ،‬ممــا‬
‫ً‬ ‫وإقليميــا‬
‫ً‬ ‫محليــا‬
‫ً‬ ‫فــي الســنوات القادمــة ‪ -‬تؤثــر كمــا رأينــا علــى الحكومــات واالقتصــادات والمجتمعــات‬
‫يؤكــد أهميــة االســتجابة الوطنيــة والدوليــة العاجلــة لتقليــل احتماليــة حدوثهــا أو الحــد منهــا ومعالجــة آثارهــا‪ .‬وبحمد الله‬
‫قامــت حكومتنــا الرشــيدة بتطويــر القطــاع الحكومــي خــال الســنوات الماضيــة وذلــك لبنــاء منظومــة وطنيــة متكاملــة‬
‫جنبــا إلــى جنــب لدعــم االبتــكار والمنافســة وتكــون قــادرة علــى حمايــة مصالــح المملكــة الحيويــة وأمنهــا‬ ‫ومتينــة تعمــل ً‬
‫الوطنــي مــن المخاطــر والتهديــدات التــي قــد تأتــي مــن الــذكاء االصطناعــي أو غيرهــا مــن التقنيــات‪ .‬وبالتالــي تســهم‬
‫عالميــا علــى جميــع األصعــدة‪.‬‬
‫ً‬ ‫ّ‬
‫وتمكــن المملكــة مــن الريــادة‬ ‫فــي تحقيــق االســتفادة المثلــى مــن التطــورات التقنيــة‬
‫نعرض هنا مجموعة من التوصيات لتعزيز جهود الجهات الوطنية في هذا المجال‪ ،‬وتلخيصها كاآلتي‪:‬‬

‫ ‪1.‬تطوير أو استحداث التشريعات الوطنية ذات العالقة‬

‫‪ 1.1‬تطوير ضوابط األمن السيبراني ألنظمة وتطبيقات الذكاء االصطناعي‪.‬‬
‫‪ 2.1‬مراجعة ضوابط ومواصفات إدارة البيانات الوطنية وحوكمتها وحماية البيانات الشخصية لضمان شموليتها‪.‬‬
‫‪ 3.1‬مراجعة وثيقة مبادئ أخالقيات الذكاء االصطناعي لضمان شموليتها‪.‬‬
‫‪ 4.1‬تطوير ضوابط ومواصفات الستخدام الذكاء االصطناعي التوليدي من قبل الجهات الوطنية‪.‬‬

‫‪ 5.1‬مراجعة السياسات واألنظمة والتشريعات الوطنية األخرى ذات العالقة‪.‬‬

‫ ‪2.‬توطين الذكاء االصطناعي وتحسين البنية التحتية الرقمية الوطنية‬

‫‪ 1.2‬توطين نماذج األساس (‪.)Foundation Models‬‬
‫‪ 2.2‬توفير مراكز بيانات وحوسبة سحابية فائقة األداء‪.‬‬
‫‪ 3.2‬توطين تصنيع المعدات واألجهزة التقنية المتقدمة‪.‬‬
‫‪ 4.2‬التركيز على بناء القدرات البشرية الوطنية في الذكاء االصطناعي والبيانات‪.‬‬
‫‪ 5.2‬تطوير قدرات الجهات الوطنية في التعامل مع البيانات‪.‬‬
‫‪ 6.2‬توجيه صناديق االستثمار والشركات الوطنية لالستثمار في الذكاء االصطناعي‪.‬‬

‫ ‪3.‬دعم البحث والتطوير واالبتكار‬

‫‪ 1.3‬تطوير بيئة تشريعية تجريبية تختص بتقنيات الذكاء االصطناعي التوليدي‪.‬‬
‫‪ 2.3‬تطوير وابتكار تقنيات الذكاء االصطناعي التوليدي في تعزيز األمن الوطني واألمن السيبراني‪.‬‬
‫‪ 3.3‬تضمين الذكاء االصطناعي كأحد األولوليات الوطنية في األبحاث والتطوير واالبتكار‪.‬‬
‫‪ 4.3‬مواءمة جهود الجهات الوطنية في استراتيجيات التعامل مع الذكاء االصطناعي ومبادراته‪.‬‬
‫ ‪4.‬تطوير آلية لقياس نضج الجهات الوطنية في تبني الذكاء االصطناعي‪.‬‬
‫ ‪5.‬تعزيز جهود الجهات الوطنية في التعاون الدولي‪.‬‬
‫ ‪6.‬تعزيز جهود الجهات الوطنية في التوعية والتثقيف‪.‬‬

‫‪19‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫التوصيات المقترحة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫التوصيات المقترحة‬
‫التفصيل‬

‫ ‪1.‬تطوير أو استحداث التشريعات الوطنية ذات العالقة‬

‫‪ 1.1‬تطويــر ضوابــط األمــن الســيبراني ألنظمــة وتطبيقــات الــذكاء االصطناعــي لضمــان تطبيــق أفضــل‬
‫ممارســات ومعاييــر األمــن الســيبراني فــي تبنــي واســتخدام أنظمــة الــذكاء االصطناعــي لضمــان ســامة‬
‫المعلومــات والحفــاظ علــى الخصوصيــة وتعزيــز النزاهــة والموثوقيــة والمســؤولية فــي هــذا المجــال‪.‬‬

‫‪ 2.1‬مراجعــة ضوابــط ومواصفــات إدارة البيانــات الوطنيــة وحوكمتهــا وحمايــة البيانات الشــخصية لضمان‬
‫شــموليتها فيمــا يتعلــق بالــذكاء االصطناعــي التوليــدي‪ ،‬وعلــى ســبيل المثــال ال الحصر‪:‬‬

‫ •البيانــات المصطنعــة (‪ :)Synthetic Data‬كيفيــة التعامــل مــع هــذه البيانــات مــن ناحيــة‬
‫ً‬
‫خاصــة إذا كانــت تحاكــي بيانــات شــخصية وحساســة‪.‬‬ ‫اســتحداثها واســتخدامها‪،‬‬

‫ •خصوصيــة البيانــات‪ :‬يتــم تدريــب الكثيــر مــن أنظمــة الــذكاء االصطناعــي التوليــدي علــى بيانــات‬
‫هائلــة يتــم تجميعهــا مــن اإلنترنــت‪ ،‬وفــي معظــم األحيــان بــدون تمحيــص وتدقيــق علــى ســامتها‬
‫وخلوهــا مــن البيانــات الشــخصية والحساســة‪ ،‬لذلــك يجــب أن تكــون هنــاك آليــة واضحــة ودقيقــة‬
‫لتحديــد مــا إذا كانــت البيانــات التــي يســتخدمها مطــورو أنظمــة الــذكاء االصطناعــي التوليــدي‬
‫تحتــوي علــى بيانــات شــخصية أو حساســة‪.‬‬

‫ •تقييــم األثــر‪ :‬بســبب الطبيعــة النوعيــة لتقنيــات الــذكاء االصطناعــي التوليــدي فإنهــا قــد تنتــج‬
‫كاف منهجيــات تقييــم األثــر المعمــول بهــا‬
‫ٍ‬ ‫مخاطــر جديــدة وغيــر مســبوقة قــد ال تحيــط بهــا بشــكل‬
‫حاليــا‪.‬‬
‫ً‬

‫ •القــرارات المبنيــة علــى الــذكاء االصطناعــي‪ :‬يجــب حمايــة األفــراد مــن القــرارات الناتجــة بشــكل‬
‫كامــل عــن الــذكاء االصطناعــي وتحذيــر الجهــات الوطنيــة مــن االعتمــاد عليهــا‪ ،‬خاصــة وأن قــدرات‬
‫الــذكاء االصطناعــي التوليــدي أصبحــت متطــورة إلــى درجــة يصعــب فيهــا التمييــز بيــن القــرارات‬
‫البشــرية والقــرارات اآلليــة‪.‬‬

‫‪ 3.1‬مراجعــة وثيقــة مبــادئ أخالقيــات الــذكاء االصطناعــي لضمــان شــموليتها لمــا يتعلــق بالــذكاء‬
‫االصطناعــي التوليــدي‪ ،‬وعلــى ســبيل المثــال ال الحصــر‪:‬‬

‫ •الموثوقيــة والســامة‪ :‬فــي حــاالت المحتــوى المزيــف (‪ ،)Deepfake‬يجــب أن يكــون هنــاك آليــة‬
‫حقيقيــا‪،‬‬
‫ً‬ ‫لتنبيــه المســتخدم أن هــذا المحتــوى تــم تصنيعــه مــن قبــل الــذكاء االصطناعــي وليــس‬
‫خاصـ ًـة فــي المحتــوى ذي التأثيــر السياســي أو االقتصــادي أو االجتماعــي‪.‬‬

‫ •الشــفافية والقابليــة للتفســير‪ :‬تعتمــد تقنيــات الــذكاء االصطناعــي التوليــدي فــي الغالــب علــى‬
‫ً‬
‫وغموضــا‪ ،‬ممــا‬ ‫منهجيــة التعلــم العميــق (‪ )Deep Learning‬التــي بطبيعتهــا تكــون أكثــر تعقيـ ًـدا‬
‫ً‬
‫مقارنة بمنهجيــات تدريب الــذكاء االصطناعي‬ ‫يجعــل مــن الصعــب معرفــة آليــة عملهــا بشــكل دقيــق‬
‫األخــرى‪ .‬لذلــك قــد يحتــاج هــذا المبــدأ إلــى مراجعــة وتطويــر لمعالجــة هــذا التحــدي‪.‬‬

‫‪20‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫التوصيات المقترحة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫ •المســاءلة والمســؤولية‪ :‬بســبب طبيعــة أنظمــة الــذكاء االصطناعــي التوليــدي فإنهــا قــادرة علــى‬
‫إنتــاج محتــوى خاطــئ بشــكل ذاتــي وبــدون تنبيــه المســتخدم‪ ،‬باإلضافــة إلــى قدرتهــا علــى توليــد‬
‫محتــوى مشــابه للمحتــوى البشــري‪ ،‬بمــا فــي ذلــك استنســاخ األصــوات واألشــكال‪ ،‬ممــا يزيــد مــن‬
‫صعوبــة تطبيــق هــذا المبــدأ بشــكل كبيــر‪ .‬لذلــك يجــب مراجعــة وتطويــر هــذا المبــدأ لجعلــه أكثــر‬
‫وضوحــا ودقــة فيمــا يتعلــق بتحديــد نطــاق المســاءلة والمســؤولية فــي مثــل هــذه‬
‫ً‬ ‫شــمولية وأكثــر‬
‫الحــاالت‪.‬‬
‫ •تحديــد أنــواع المخاطــر التــي ال يمكــن قبولهــا‪ :‬مــن أجــل تبنــي منهــج معتمــد علــى إدارة المخاطــر‪،‬‬
‫يجــب تحديــد نطــاق المخاطــر بشــكل واضــح‪ ،‬خاصـ ًـة المخاطــر التــي ال يمكــن قبولهــا بــأي شــكل مــن‬
‫األشــكال‪ ،‬مثــل توظيــف مخرجــات الــذكاء االصطناعــي فيمــا يمــس العقيــدة اإلســامية أو يهــدد‬
‫القيــم الوطنيــة (كتزييــف الصــور ومقاطــع الفيديــو)‪.‬‬

‫‪ 4.1‬تطويــر ضوابــط ومواصفــات واضحــة تحكــم اســتخدام نماذج وتطبيقات الــذكاء االصطناعي التوليدي‬
‫(خصوصــا الحساســة منهــا‪ ،‬مثــل القطاعــات العســكرية واألمنيــة) لمنــع تســرب‬
‫ً‬ ‫مــن قبــل الجهــات الوطنيــة‬
‫البيانــات الحساســة وإيقــاع أيــة أضــرار أخــرى‪ ،‬بحيــث تتوافــق مــع سياســات األمــن الســيبراني وسياســات إدارة‬
‫وحمايــة البيانــات‪ ،‬وتشــمل‪:‬‬
‫ •معايير لتقييم هذه النماذج وتوريدها وشرائها وترخيص استخدامها‪.‬‬
‫ •استضافة نماذج الذكاء االصطناعي التوليدي‪.‬‬
‫ •تخزين البيانات ومشاركتها وصالحيات الوصول إليها‪.‬‬
‫ •ضوابط حماية هذه النماذج من الهجمات السيبرانية‪.‬‬

‫‪ 5.1‬مراجعــة اللوائــح واألنظمــة والتشــريعات الوطنيــة األخــرى ذات العالقــة وتطويــر مــا يلــزم منهــا ‪ -‬أو‬
‫اســتحداث لوائــح وتشــريعات جديــدة عنــد الحاجــة ‪ -‬مــن أجــل االســتعداد للتغيــرات المؤكــدة وكذلــك المتوقعــة‬
‫التــي ســتطرأ نتيجــة لتطــور الــذكاء االصطناعــي وانتشــار اســتخدامه علــى المــدى القصيــر والمتوســط والطويــل‪،‬‬
‫وبالتالــي تخفيــف اآلثــار الناتجــة مــن الــذكاء االصطناعــي التوليــدي‪ ،‬ومنهــا علــى ســبيل المثــال ال الحصــر‪:‬‬
‫ •نظام مكافحة جرائم المعلوماتية‪.‬‬
‫ •نظام العمل‪.‬‬
‫ •لوائح وأنظمة الملكية الفكرية والحقوق اإلبداعية‪.‬‬
‫ •لوائح وأنظمة المنافسة وحماية المستهلك‪.‬‬
‫ •اللوائح واألنظمة المتعلقة باستخدام الذكاء االصطناعي في القطاعات المختلفة مثل‪:‬‬
‫ ہالرعاية الصحية‪.‬‬
‫ ہالتعليم والتنمية االجتماعية‪.‬‬
‫ ہالطاقة والصناعة والخدمات اللوجستية‪.‬‬

‫‪21‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫التوصيات المقترحة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫‪ .2‬توطين الذكاء االصطناعي وتحسين البنية التحتية الرقمية الوطنية‬

‫‪ 1.2‬توطين نماذج األساس عالية األداء (التي تعتمد عليها معظم أنظمة الذكاء االصطناعي التوليدي)‬
‫ســواء بتطويــر نمــاذج محليــة أو االســتحواذ أو‬
‫ً‬ ‫تمامــا مــن اللغــة العربيــة ولهجاتهــا‪،‬‬
‫ً‬ ‫بحيــث تكــون متمكنــة‬
‫االســتثمار فــي شــركات أجنبيــة‪.‬‬

‫‪ 2.2‬توفيــر مراكــز بيانــات وحوســبة ســحابية فائقــة األداء يمكنهــا تدريــب وتشــغيل نمــاذج الــذكاء‬
‫االصطناعــي المتقدمــة بســرعة وكفــاءة عاليــة‪.‬‬

‫‪ 3.2‬توطيــن تصنيــع المعــدات واألجهــزة التقنيــة المتقدمــة مثــل الرقائــق اإللكترونيــة (‪)Microchips‬‬
‫ووحــدات المعالجــة (‪ )GPU & TPU‬المســتخدمة فــي تدريــب وتشــغيل أنظمــة الــذكاء االصطناعــي المتقدمــة‪.‬‬

‫‪ 4.2‬التركيــز علــى بنــاء القــدرات البشــرية الوطنيــة فــي الــذكاء االصطناعــي والبيانــات ودعمهــا‬
‫وتمكينهــا مــن أجــل تعزيــز قــدرات الجهــات الوطنيــة والمراكــز البحثيــة وتمكيــن األبحــاث والتطويــر واالبتــكار‬
‫فــي هــذا المجــال‪.‬‬

‫‪ 5.2‬تطويــر قــدرات الجهــات الوطنيــة فــي التعامــل مــع البيانــات مــن الجمــع والتحديــث والمعالجــة‬
‫والتحليــل للبيانــات الضخمــة ومشــاركتها فيمــا بينهــا‪ ،‬وذلــك عبــر تطويــر المنظومــة المؤسســية وتبنــي‬
‫التقنيــات المتقدمــة‪.‬‬

‫‪ 6.2‬توجيــه صناديــق االســتثمار الحكوميــة والشــركات الوطنيــة لالســتثمار المحلــي والدولــي فــي‬
‫تقنيــات الــذكاء االصطناعــي المتقدمــة وتشــجيع االســتحواذ علــى التقنيــة مــن أجــل توطينهــا ونقــل‬
‫المعرفــة والخبــرات وتعزيــز تنافســية المملكــة‪.‬‬

‫‪ .3‬دعم البحث والتطوير واالبتكار‬

‫‪ 1.3‬تطويــر بيئــة تشــريعية تجريبيــة تختــص بتقنيــات الــذكاء االصطناعــي التوليــدي‪ .‬تهــدف هــذه البيئــة‬
‫التشــريعية التجريبيــة بشــكل رئيــس إلــى اآلتــي‪:‬‬
‫ •اختبــار التشــريعات المتعلقــة بالــذكاء االصطناعــي – بمــا فيهــا تشــريعات البيانــات واألمــن‬
‫الســيبراني – وتحســينها‪ ،‬للتأكد من فعاليتها وشــموليتها من ناحية الحد من المخاطر والتهديدات‪،‬‬
‫وفــي نفــس الوقــت عــدم تعطيــل عجلــة االبتــكار‪ ،‬وبالتالــي تحقيــق التــوازن بيــن تعزيز األمــن الوطني‬
‫وتنميــة االقتصــاد الرقمي‪.‬‬

‫ •تقيي ــم االحتي ــاج إل ــى تطوي ــر السياس ــات واألن ظم ــة والتش ــريعات األخ ــرى أو اس ــتحداثها‬
‫والمتعلقــة بالــذكاء االصطناعــي وتأثيــره فــي مختلــف القطاعــات‪ ،‬مثــل نظــام مكافحــة الجرائــم‬
‫المعلوماتيــة‪ ،‬وضوابــط اســتخدام الــذكاء االصطناعــي فــي القطــاع الصحــي‪ ،‬وغيرهــا‪.‬‬

‫‪22‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫التوصيات المقترحة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫ •اإلحاطــة بجميــع حلــول الــذكاء االصطناعــي فــي الســوق الســعودي ومتابعتهــا مــن أجــل بنــاء‬
‫تصــور واضــح ودقيــق عــن حالــة الســوق ونمــوه بشــكل مســتمر‪ ،‬وتنميــة المحتــوى المحلــي فــي‬
‫ســوق الــذكاء االصطناعــي‪ ،‬وتوفيــر الدعــم والتوجيــه‪ ،‬وكذلــك الكشــف عــن التحديــات ومعالجتهــا‬
‫فــي وقــت مبكــر‪.‬‬

‫‪ 2.3‬التركيــز علــى تطويــر وابتــكار تقنيــات الــذكاء االصطناعــي التوليــدي فــي تعزيــز األمــن الوطنــي‬
‫واألمــن الســيبراني مثــل اســتخدامات التقنيــة فــي القطاعــات األمنيــة والعســكرية‪ ،‬وتطويــر آليــات‬
‫مضــادة لكشــف ومواجهــة التهديــدات التــي قــد تنتــج مــن الــذكاء االصطناعــي التوليــدي‪ ،‬مثــل انتحــال‬
‫الشــخصيات عبــر الصــور ومقاطــع الفيديــو المزيفــة (‪ )Deepfake‬وعمليــات التأثيــر ذات األغــراض‬
‫السياســية‪ .‬كذلــك اختبــارات الصمــود الســيبراني لألجهــزة واألنظمــة والتطبيقــات فــي الجهــات‬
‫الوطنيــة عبــر اكتشــاف وســد الثغــرات األمنيــة ورفــع مســتوى الجاهزيــة للهجمــات الســيبرانية‪.‬‬

‫‪ 3.3‬تضميــن الــذكاء االصطناعــي كأحــد األولوليــات الوطنيــة فــي األبحــاث والتطويــر واالبتــكار‪ ،‬ال‬
‫ســيما فــي القطاعــات الحيويــة (مثــل الرعايــة الصحيــة والطاقــة والدفــاع)‪ ،‬ومواءمــة الجهــود الوطنيــة‬
‫فــي هــذا المجــال‪.‬‬

‫‪ 4.3‬مواءمــة جهــود الجهــات الوطنيــة فــي دراســة الفــرص والمخاطــر المتأتيــة من الــذكاء االصطناعي‬
‫التوليــدي والمبــادرات الناتجــة مــن هــذه الدراســات مــن أجــل نقــل المعرفــة ومشــاركة الخبــرات وبنــاء‬
‫القــدرات واإلمكانــات المؤسســية للتبنــي األمثــل‪.‬‬

‫ ‪4.‬تطوير آلية لقياس نضج الجهات الوطنية في تبني الذكاء االصطناعي وتوفير مؤشر وطني وأداة‬
‫عمليــة تســاعد الجهــات فــي تشــخيص وضعهــا الراهــن ومتابعــة تطــور رحلتهــا فــي تبنــي الــذكاء االصطناعــي‬
‫وفــق أفضــل الممارســات والمعاييــر‪ ،‬بمــا يســاهم فــي تحقيــق مســتهدفات رؤيــة المملكــة ‪ 2030‬بشــكل‬
‫آمــن وفعــال‪.‬‬

‫ ‪5.‬تعزيــز جهــود الجهــات الوطنيــة فــي التعــاون الدولــي مــن أجــل بنــاء بيئــة داعمــة للتطويــر واالســتخدام‬
‫اآلمــن والمســؤول لتقنيــات الــذكاء االصطناعــي‪ ،‬وتطويــر معاييــر دوليــة ومشــاركة المعلومــات والخبــرات‬
‫والتجــارب‪ ،‬للحــد مــن المخاطــر والتهديــدات المباشــرة وغيــر المباشــرة‪.‬‬

‫ ‪6.‬تعزيــز جهــود الجهــات الوطنيــة فــي التوعيــة والتثقيــف لجميــع أفــراد المجتمــع حــول االســتخدام اآلمــن‬
‫(وتحديــدا التوليــدي)‪ ،‬والتحذيــر مــن مخاطرهــا والتنبيــه علــى‬
‫ً‬ ‫والمســؤول لتطبيقــات الــذكاء االصطناعــي‬
‫تبعــات إســاءة اســتخدامها بشــكل متعمــد وغيــر متعمــد‪ ،‬خاصـ ًـة أن الكثيــر مــن تطبيقــات الــذكاء االصطناعــي‬
‫التوليــدي مجانيــة ويســيرة الوصــول وســهلة االســتخدام‪.‬‬

‫‪23‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫مراجع مهمة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫مراجع مهمة‬

‫الخطة االستراتيجية الوطنية لألبحاث والتطوير في الذكاء االصطناعي‪ :‬تحديث ‪2023‬‬

‫تحديــث عــام ‪ 2023‬للخطــة االســتراتيجية الوطنيــة لألبحــاث والتطويــر فــي الــذكاء االصطناعــي‪ ،‬التــي‬
‫أصدرهــا البيــت األبيــض فــي عــام ‪ ،2019‬حيــث يؤكــد علــى أهميــة وجــود المحــاور االســتراتيجية الثمانيــة‬
‫الســابقة‪ :‬االســتثمار طويــل األمــد‪ ،‬وتطويــر منهجيــات تعــاون اإلنســان والــذكاء االصطناعــي‪ ،‬وفهــم‬
‫وحــل التحديــات األخالقيــة والقانونيــة واالجتماعيــة‪ ،‬وضمــان ســامة وأمــن أنظمــة الــذكاء االصطناعــي‪،‬‬
‫وتطويــر مجموعــات بيانــات عامــة ومشــتركة وبيئــات لتدريب الذكاء االصطناعي‪ ،‬وتقييــم أنظمة الذكاء‬
‫االصطناعــي‪ ،‬وتحديــد احتياجــات الباحثيــن فــي الــذكاء االصطناعــي‪ ،‬وتوســيع الشــراكة بيــن القطاعيــن‬
‫ـتراتيجيا تاسـ ًـعا وهــو‪ :‬تمكيــن التعــاون الدولــي‪.‬‬
‫ًّ‬ ‫ـورا اسـ‬
‫العــام والخــاص‪ .‬كمــا يضيــف التحديــث محـ ً‬

‫التقرير النهائي للجنة األمن الوطني للذكاء االصطناعي‬

‫تقريــر مرجعــي مكـ ّـون مــن أكثــر مــن ‪ 750‬صفحــة أصدرتــه لجنــة األمــن الوطنــي للــذكاء االصطناعــي‬
‫(‪ ، )National Security Commission on Artificial Intelligence: NSCAI‬وهــي لجنــة أمريكيــة‬
‫مســتقلة تضــم مجموعــة مــن أكبــر قيــادات القطــاع الحكومــي واألكاديمــي والخــاص فــي الواليــات‬
‫المتحــدة األمريكيــة‪ .‬تأسســت اللجنــة عــام ‪ 2018‬بغــرض تقييــم الوضــع الوطنــي للــذكاء االصطناعــي‪،‬‬
‫وتقديــم توصيــات لحمايــة األمــن الوطنــي األمريكــي‪ .‬انتهــت أعمــال اللجنــة فــي عــام ‪ 2021‬حيــن أصدرت‬
‫أساســا توجيــه السياســات العامــة وتوعيــة القيــادة األمريكيــة‪.‬‬
‫ً‬ ‫هــذا التقريــر الضخــم الــذي يســتهدف‬

‫القانون األوروبي للذكاء االصطناعي ‪EU AI Act‬‬

‫مشــروع قانــون الــذكاء االصطناعــي علــى مســتوى االتحــاد األوروبــي هــو أول قانــون مــن نوعــه‪ .‬يتبنــى‬
‫يقســم تطبيقــات الــذكاء االصطناعــي إلــى ثــاث‬ ‫ّ‬ ‫القانــون منهجيــة معتمــدة علــى إدارة المخاطــر‪ ،‬حيــث‬
‫تتســبب فــي مخاطــر غيــر مقبولــة وبالتالــي يجــب‬ ‫ّ‬ ‫أوال‪ ،‬التطبيقــات واألنظمــة التــي‬‫فئــات رئيســة‪ً :‬‬
‫ـديا أو نفسـ ً‬
‫ـيا‪.‬‬ ‫ـررا جسـ ً‬
‫حظرهــا ‪ -‬مثــل التأثيــر علــى صغــار الســن واســتغالل ضعفهــم بشــكل يســبب لهــم ضـ ً‬
‫ثانيــا‪ ،‬التطبيقــات عاليــة المخاطــر‪ ،‬مثــل أداة فحــص الســير الذاتيــة التــي تقــوم بتصنيــف المتقدميــن‬ ‫ً‬
‫للوظائــف بشــكل قــد يؤثــر علــى عدالــة االختيــار‪ ،‬والتــي يجــب أن تخضــع لمتطلبــات قانونيــة محــددة‪.‬‬
‫أخيـ ًـرا‪ ،‬التطبيقــات التــي لــم يتــم حظرهــا صراحــة أو تصنيفهــا علــى أنهــا عاليــة المخاطــر‪ ،‬وهــذه ال تخضــع‬
‫للتنظيــم‪.‬‬

‫الخطة الخمسية للتحول المعلوماتي في الصين‬

‫هــي جــزء رئيــس مــن الخطــة الخمســية الرابعــة عشــر للحكومــة الصينيــة‪ ،‬وتركــز هــذه الخطــة بشــكل كبيــر‬
‫علــى الــذكاء االصطناعــي كأحــد التقنيــات االســتراتيجية (بجانــب الحوســبة الكميــة وسالســل الكتــل‬
‫وغيرهــا) حيــث تطمــح الصيــن لتطويــر البنيــة التحتية المتقدمة ودعم األبحاث والتطوير وتحفيز االســتثمار‬
‫واالبتــكار فــي الــذكاء االصطناعــي‪ .‬باإلضافــة إلــى بنــاء ســوق محلــي منافــس‪ ،‬وتعزيــز اســتخداماته‬
‫فــي تطويــر العمــل الحكومــي والقطاعــات الحيويــة مثــل الصناعــة والصحــة واألمــن الوطنــي والتنميــة‬
‫االجتماعيــة‪ً .‬‬
‫أيضــا تركــز الخطــة علــى أهميــة حوكمــة الــذكاء االصطناعــي وبنــاء معاييــر وقواعــد أخالقيــة‬
‫لــه تحــد مــن المخاطــر وتدعــم التنميــة‪.‬‬

‫إجراءات إلدارة خدمات الذكاء االصطناعي التوليدي‬

‫مقتــرح قانــون جديــد فــي الصيــن طرحتــه إدارة الفضــاء الســيبراني الحكوميــة فيهــا ألخــذ رأي العموم في‬
‫شــهر أبريــل مــن هــذا العــام‪ .‬يعــرض القانــون إطــار تنظيمــي لتقنيــات الــذكاء االصطناعي التوليــدي يدعم‬
‫االبتــكار ويحمــي األمــن الوطنــي واالجتماعــي‪ .‬أحــد الجوانــب الرئيســة للقانــون هــي تنظيــم المحتــوى‬
‫يشــدد علــى قانونيــة وموثوقيــة البيانــات المســتخدمة فــي‬
‫ّ‬ ‫والخوارزميــات واألمــن الســيبراني‪ ،‬حيــث‬
‫تدريــب نمــاذج الــذكاء االصطناعــي وحمايــة المســتخدم والحــد مــن هلوســة النمــاذج‪.‬‬

‫‪24‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

‫مراجع مهمة‬ ‫الوجه اآلخر للذكاء االصطناعي التوليدي‬

‫منهجية داعمة لالبتكار حول تنظيم الذكاء االصطناعي‬

‫وثيقــة قدمتهــا وزارة العلــوم واالبتــكار والتقنيــة فــي المملكــة المتحــدة للبرلمــان فــي مــارس‬
‫‪ ،2023‬وتحتــوي علــى منهجيــة مقترحــة لتنظيــم الــذكاء االصطناعــي بصفتــه أحــد التقنيــات‬
‫الخمســة األساســية التــي تركــز عليهــا بريطانيــا‪ .‬تحــث الوثيقــة الحكومــة البريطانيــة علــى ســرعة‬
‫تبنــي منهجيــة لحوكمــة الــذكاء االصطناعــي تــوازن بيــن عــاج التحديــات واقتنــاص الفــرص لضمــان‬
‫تركــز المنهجيــة علــى خمســة محــاور‪ :‬األمــن والســامة والفعاليــة؛‬ ‫تنافســيتها الدوليــة‪ .‬كمــا ّ‬
‫والشــفافية وقابليــة التفســير؛ والعدالــة؛ والمســؤولية والحوكمــة؛ وحمايــة المنافســة‪.‬‬

‫تقرير مستعجل عن الذكاء االصطناعي التوليدي‬

‫تقريــر حكومــي صــادر فــي نهايــة مــارس ‪ 2023‬بتوجيــه مــن المجلــس الوطنــي للعلــوم والتقنيــة‬
‫بأســتراليا‪ .‬ويتنــاول فــرص ومخاطــر الــذكاء االصطناعــي التوليدي ونماذج األســاس في الســنوات‬
‫أيضــا بعض االســتراتيجيات التي اتبعتها عدد مــن الدول المتقدمة‬ ‫العشــر المقبلــة‪ .‬يعــرض التقريــر ً‬
‫مؤخـ ًـرا النتهــاز الفــرص والحــد مــن التبعــات المحتملــة للــذكاء االصطناعــي التوليــدي‪ .‬ويســتنتج‬
‫نظــرا ألنشــطة الــذكاء االصطناعــي التوليــدي‬ ‫ً‬ ‫عــددا مــن المخاطــر‬
‫ً‬ ‫التقريــر أن أســتراليا تواجــه‬
‫األخيــرة‪ ،‬ويناقــش عــدة أســئلة‪ ،‬منهــا‪ :‬هــل لــدى أســتراليا القــدرات الحوســبية والمواهــب‬
‫البشــرية والخبــرة الفنيــة واســتراتيجيات تطويــر رأس المــال البشــري والبيئــة التشــريعية المطلوبــة‬
‫للمنافســة فــي عصــر الــذكاء االصطناعــي‪.‬‬

‫اآلثار الكبيرة المحتملة للذكاء االصطناعي على النمو االقتصادي‬

‫تقريــرا حــول التأثيــر االقتصــادي المحتمــل‬
‫ً‬ ‫أصــدر بنــك جولدمــان ســاكس (‪)Goldman Sachs‬‬
‫وبيــن فــي أحــد مرئياتــه – بعــد دراســة أســواق العمــل فــي‬
‫للــذكاء االصطناعــي التوليــدي‪ّ ،‬‬
‫الواليــات المتحــدة وأوروبــا ‪ -‬أن مــن المتوقــع أن يؤثــر الــذكاء االصطناعــي التوليــدي بشــكل‬
‫مباشــر أو غيــر مباشــر علــى نحــو ثلثــي الوظائــف الحاليــة‪ ،‬وفــي نفــس الوقــت قــد يســتبدل مــا‬
‫يصــل إلــى ربــع الوظائــف الحاليــة‪ ،‬ممــا يعنــي تهديــد ‪ 300‬مليــون وظيفــة علــى مســتوى العالــم‬
‫بحســب تقديــرات التقريــر‪.‬‬

‫حول الفرص والمخاطر لنماذج األساس‬

‫دراســة مرجعيــة تقــع فــي أكثــر مــن ‪ 200‬صفحــة‪ ،‬وشــارك فيهــا أكثــر مــن ‪ 100‬باحــث فــي الــذكاء‬
‫ونشــرت فــي يوليــو ‪ 2022‬مــن معهــد الــذكاء االصطناعــي المتمحــور حــول اإلنســان‬ ‫االصطناعــي‪ُ ،‬‬
‫ـا عــن نمــاذج األســاس (‪)Foundation Models‬‬ ‫ـرحا مفصـ ً‬
‫(‪ )HAI‬بجامعــة ســتانفورد‪ .‬تقـ ّـدم الدراســة شـ ً‬
‫معمــق الفــرص والمخاطــر‬ ‫ّ‬ ‫التــي تعتمــد عليهــا أنظمــة الــذكاء االصطناعــي التوليــدي‪ ،‬وتناقــش بشــكل‬
‫المرتبطــة بهــذه النمــاذج‪ ،‬وتقـ ّـدم نظــرة شــاملة حولهــا لتغطــي جانــب القــدرات والتطبيقــات والتأثيــر‬
‫ً‬
‫مكثفــا بيــن العديــد‬ ‫ً‬
‫تعاونــا‬ ‫االجتماعــي‪ .‬تشــير الدراســة إلــى أن فهــم هــذه النمــاذج وتحليلهــا ســيتطلب‬
‫مــن التخصصــات نظـ ًـرا لطبيعتهــا الفريــدة التــي تمــزج العلــوم االجتماعيــة والتقنيــة‪.‬‬

‫بطاقة النظام ‪GPT-4‬‬

‫المطــورة لبرنامــج (‪ )ChatGPT‬بعــد إطالقهــا لنموذجهــا‬ ‫ّ‬ ‫مســتند تفصيلــي نشــرته شــركة (‪)OpenAI‬‬
‫األخيــر (‪ .)GPT-4‬يتطــرق المســتند للتحديــات األمنيــة للنظــام وحــدود قدراتــه‪ ،‬وكذلــك المعاييــر‬
‫طبقتهــا الشــركة لتعزيــز الســامة واألمــان للمســتخدمين‪ .‬وأخيـ ًـرا تشــير الشــركة إلــى‬
‫واإلجــراءات التــي ّ‬
‫أن هــذه المعاييــر واإلجــراءات قــد ال تكــون كافيــة لضمــان ســامة النظــام وأمانــه‪ ،‬لذلــك يجــب علــى‬
‫المســتخدمين تبنــي الحيطــة والحــذر‪.‬‬

‫‪25‬‬ ‫جميع الحقوق محفوظة لشركة سايت ‪2023‬‬

 ‫إخالء المسؤولية‬

‫إن أي آراء أو تحليــات أو توصيــات يتضمنهــا هــذا المســتند هــي ذات طابــع عــام واسترشــادي‬
‫مقدمــة للتعامــل مــع موقــف أو حــدث محــدد‬
‫ّ‬ ‫وليســت موجهــة لطــرف معيــن‪ ،‬كمــا أنهــا ليســت‬
‫ـميا للشــركة‪ .‬ال تتحمــل الشــركة أي مســؤولية ًّأيــا كان نوعهــا تجــاه‬
‫رأيــا رسـ ً‬
‫وال تمثــل بالضــرورة ً‬
‫ـاء علــى مــا ورد فــي هــذا المســتند وأي‬
‫أي طــرف نتيجــة ألي قــرار أو إجــراء قــد يتــم اتخــاذه بنـ ً‬
‫ـودا معقولــة للتحقــق مــن صحــة ودقــة المعلومــات‬
‫آثــار مترتبــة علــى ذلــك‪ .‬بذلــت الشــركة جهـ ً‬
‫والبيانــات التــي يحتــوي عليهــا هــذا المســتند‪ ،‬ولكنهــا ال تضمــن خلوهــا مــن األخطــاء‪ ،‬كمــا أن هــذه‬
‫المعلومــات والبيانــات قابلــة للتغيــر والتحديــث‪.‬‬

‫الملكية الفكرية وحقوق النسخ‬

‫مــع مراعــاة األســماء والعالمــات التجاريــة لألطــراف األخــرى ‪-‬إن وجــدت‪ -‬والتــي هــي بطبيعــة‬
‫الحــال مملوكــة ألصحابهــا‪ ،‬فــإن هــذا المســتند وجميــع المعلومــات التــي يحتويهــا هــي ملكيــة‬
‫للشــركة الســعودية لتقنيــة المعلومــات مــا لــم تتــم اإلشــارة إلــى غيــر ذلــك‪ ،‬وال يجــوز إعــادة‬
‫إصــدار هــذا المســتند أو إجــراء أي تعديــل عليــه دون إذن خطــي مســبق مــن الشــركة‪ ،‬كمــا ال يجــوز‬
‫اســتخدام االســم التجــاري أو العالمــة التجاريــة للشــركة دون إذن خطــي مســبق‪.‬‬

‫إصدار الشركة السعودية لتقنية المعلومات (سايت)‬

‫قطاع البحث والتطوير واالبتكار‬

‫‪T: +966 11 813 1100‬‬

‫‪F: +966 11 813 1101‬‬
‫‪E: RI@site.sa‬‬
‫‪site.sa‬‬ ‫‪@site_saudi‬‬