‫ﻟﻤﺎذا ﺗﻨﺤﺎز اﻟﺘﻜﻨﻮﻟﻮﺟ�ﺎ‬

‫ﻟﻼﺳ��ﺪاد‬

‫تأل يف‬

‫نوح هراريل يواف‬

‫‪٢٠٢١‬‬

‫‪2‬‬
 ‫لماذا تنحاز التكنولوجيا للاستبداد‬

‫يمكن للذكاء الاصطناعي أن يمحو العديد من المزايا العملية للديمقراطية‪ ،‬و يقضي على م ُث ُل الحر ية‬

‫والمساواة‪ .‬سيزداد تركيز السلطة بين نخبة صغيرة إذا لم نتخذ خطوات لوقف ذلك‪.‬‬

‫أولا‪ .‬تزايد الخوف من اللامبالاة‬

‫لا يوجد شيء حتمي في الديمقراطية فعلى الرغم من كل النجاحات التي حققتها الديمقراطيات‬

‫على مدى القرن الماضي أو أكثر‪ ،‬إلا أنها أمر طارئ على التاريخ‪ .‬فقد كانت الأنظمة المل كية‪،‬‬

‫والأوليغارشية‪ ،‬وغيرها من أشكال الحكم الاستبدادي‪ ،‬أنماطًا أكثر شيوعًا للحكم البشري‪ .‬يرتبط‬

‫ظهور الديمقراطيات الليبرالية بقيم الحر ية والمساواة التي قد تبدو بديهية ولا رجعة فيها‪ .‬ل كن هذه‬

‫القيم العليا أكثر هشاشة مما نعتقد‪ ،‬حيث يعتمد نجاحها في القرن العشرين على ظروف تكنولوجية‬

‫فريدة قد تكون سر يعة الزوال‪.‬‬

‫في العقد الثاني من القرن الحادي والعشرين‪ ،‬بدأت‬

‫الليبرالية تفقد مصداقيتها‪ .‬تصاعدت حدة التساؤلات‬

‫حول قدرة الديمقراطية الليبرالية على إعالة الطبقة‬

‫الوسطى‪ .‬وفي ال كثير من البلدان‪ ،‬يُظهر القادة ميلًا‬

‫إلى الديماغوجية والاستبداد‪ .‬أسباب هذا التحول‬

‫السياسي معقدة‪ ،‬ل كنها تبدو متداخلة مع التطورات‬

‫التكنولوجية الحالية‪ .‬التكنولوجيا التي ساندت‬

‫الديمقراطية آخذة في التغير ومع تطور الذكاء‬

‫الاصطناعي فقد يتغير الوضع أكثر ‪.‬‬

‫تكنولوجيا المعلومات مستمرة في القفز إلى الأمام؛ بدأت التكنولوجيا الحيو ية في توفير نافذة على‬

‫حياتنا الداخلية‪ ،‬عواطفنا وأفكارنا وخياراتنا‪ .‬ستخلق تكنولوجيا المعلومات والتكنولوجيا الحيو ية‬
‫‪3‬‬
‫مع ًا اضطرابات غير مسبوقة في المجتمع البشري‪ ،‬مما سيؤدي إلى تآكل القدرة البشر ية‪ ،‬وربما‬

‫تقو يض الرغبات البشر ية‪ .‬في ظل هذه الظروف‪ ،‬قد تصبح الديمقراطية الليبرالية واقتصاديات‬

‫السوق الحرة بالية‪.‬‬

‫قد لا يفهم الأشخاص العاديون تفاصيل الذكاء الاصطناعي والتكنولوجيا الحيو ية‪ ،‬ل كن يمكنهم‬

‫الشعور بأن المستقبل يتخطاهم‪ .‬في عام ‪ ،١٩٣٨‬ربما كانت حالة الرجل العادي في الاتحاد‬

‫السوفيتي أو ألمانيا أو الولايات المتحدة‬

‫قاتمة‪ ،‬ول كن قيل له باستمرار إنه أهم شيء‬

‫في العالم‪ ،‬وأنه هو المستقبل‪ .‬حيث نظر‬

‫إلى الملصقات الدعائية‪ ،‬التي تُصور عادة ً‬

‫عمال مناجم الفحم وعمال الصلب في‬

‫أوضاع بطولية‪ ،‬ورأى نفسه هناك‪" :‬أنا في‬

‫ذلك الملصق! أنا بطل المستقبل" !‬

‫في عام ‪ ،٢٠١٨‬يشعر الشخص العادي بشكل متزايد بأنه غير مرتبط بشيء‪ .‬يتم تداول ال كثير‬

‫من المصطلحات الغامضة بحماس على منصة ‪ ،TED‬وفي مراكز الأبحاث الحكومية‪ ،‬وفي مؤتمرات‬

‫التكنولوجيا الفائقة كالعولمة والبلوكشين والهندسة الوراثية‪ ،‬والذكاء الاصطناعي‪ ،‬والتعلم الآلي‪،‬‬

‫وقد يشك عامة الناس أن هذه المصطلحات قد تعنيهم بشيء‪.‬‬

‫في القرن العشرين‪ ،‬ثارت الجماهير ضد الاستغلال وسعت إلى ترجمة دورها الحيوي في الاقتصاد‬

‫إلى قوة سياسية‪ .‬الآن تخشى الجماهير من عدم الأهمية‪ ،‬وهم متحمسون لاستخدام سلطتهم‬

‫السياسية المتبقية قبل فوات الأوان‪ .‬لذلك قد يظهر خروج بر يطانيا من الاتحاد الأوروبي وصعود‬

‫دونالد ترامب مسار ًا معاكسا ً لمسار الثورات الاشتراكية التقليدية‪ .‬الثورات الروسية والصينية‬

‫وال كوبية قام بها أناس كانوا حيو يين للاقتصاد ل كنهم كانوا يفتقرون إلى القوة السياسية‪ .‬في عام‬

‫‪ ،٢٠١٦‬تلقى ترامب وخروج بر يطانيا من الاتحاد الأوروبي الدعم من العديد من الأشخاص‬

‫الذين ما زالوا يتمتعون بالسلطة السياسية ل كنهم كانوا يخشون أن يفقدوا قيمتهم الاقتصادية‪ .‬ربما‬

‫‪4‬‬
‫في القرن الحادي والعشرين‪ ،‬لن يتم شن ثورات شعبو ية ضد النخب الاقتصادية التي تستغل‬

‫الناس ول كن ضد النخب الاقتصادية التي لم يعد الناس بحاجة إليها‪ .‬قد تكون هذه معركة خاسرة‬

‫فإن محاربة اللامبالاة أصعب بكثير من محاربة الاستغلال‪.‬‬

‫لا تزال الثو رات في تكنولوجيا المعلومات والتكنولوجيا الحيو ية في مهدها‪ ،‬ومدى مسؤوليتها عن‬

‫أزمة الليبرالية الحالية أمر قابل للنقاش‪ .‬معظم الناس في برمنغهام واسطنبول وسانت بطرسبرغ‬

‫ومومباي يدركون بشكل خفيف‪ ،‬ما إذا كانوا على درايةكاملة بصعود الذكاء الاصطناعي وتأثيره‬

‫المحتمل على حياتهم‪ .‬ومع ذلك‪ ،‬لا شك في أن الثورات التكنولوجية التي تكتسب زخمًا الآن‬

‫ستضع البشر ية في العقود القليلة القادمة أمام تجارب أقسى من التي واجهتها حتى الآن‪.‬‬

‫ثانيًا‪ .‬فئة جديدة عديمة الفائدة؟‬

‫لنبدأ بالوظائف والد َخل‪ ،‬لأنه وبغض النظر عن الجاذبية الفلسفية للديمقراطية الليبرالية‪ ،‬فقد‬

‫اكتسبت شعبية لا بأس بها بفضل ميزة عملية‪ :‬النهج اللامركزي في صنع القرار الذي تتميز به‬

‫الليبرالية‪ ،‬في كل من السياسة والاقتصاد‪ ،‬سمح للديمقراطيات الليبرالية بالتغلب على الدول‬

‫الأخرى وتقديم الثراء المتزايد لشعوبها‪.‬‬

‫لقد نجحت الليبرالية في التوفيق بين البروليتار يا والبرجواز ية‪ ،‬والمؤمنين والملحدين‪ ،‬والمواطنين‬

‫الأصليين والمهاجرين‪ ،‬والأوروبيين والآسيو يين من خلال وعد الجميع بحصة أكبر من الفطيرة‪.‬‬

‫مع فطيرة تنمو باستمرار كان ذلك ممكنًا‪ ،‬وقد تستمر‬

‫في النمو‪ .‬ومع ذلك‪ ،‬فإن النمو الاقتصادي قد لا‬

‫يحل المشكلات الاجتماعية التي تنشأ الآن‬

‫بسبب الاضطراب التكنولوجي‪ ،‬لأن هذا النمو‬

‫يعتمد بشكل متزايد على إ يجاد المزيد والمزيد من‬

‫التقنيات التخريبية‪.‬‬

‫‪5‬‬
‫لا شك أن المخاوف من قيام الآلات بطرد البشر إلى خارج سوق العمل ليست بالأمر الجديد‪،‬‬

‫وفي الماضي ثبت أن مثل هذه المخاوف لا أساس لها من الصحة‪ .‬ل كن الذكاء الاصطناعي‬

‫يختلف عن الآلات القديمة‪ .‬ففي الماضي‪ ،‬كانت الآلات تتنافس مع البشر بشكل رئيسي في‬

‫المهارات اليدو ية‪ .‬الآن بدأوا في التنافس معنا في المهارات المعرفية‪ .‬ونحن لا نعرف وجود نوع‬

‫ثالث من المهارات بخلاف المهارات اليدو ية والمعرفية والتي سيكون للبشر فيها دائمًا ميزة ‪.‬‬

‫على الأقل لبضعة عقود أخرى‪ ،‬من المرجح أن يتجاوز الذكاء البشري ذكاء الكمبيوتر في العديد من‬

‫المجالات‪ .‬ومن ثم‪ ،‬مع تولي أجهزة الكمبيوتر المزيد من الوظائف المعرفية الروتينية‪ ،‬ستستمر‬

‫الوظائف الإبداعية الجديدة للبشر في الظهور‪ .‬من المحتمل أن تعتمد العديد من هذه الوظائف‬

‫الجديدة على التعاون بدلا ً من المنافسة بين البشر والذكاء الاصطناعي‪ .‬ومن المرجح أن تثبت خلطة‬

‫الذكاء البشري والذكاء الاصطناعي أنها متفوقة ليس فقط على البشر‪ ،‬ول كن أيضًا على أجهزة‬

‫الكمبيوتر التي تعمل بمفردها ‪.‬‬

‫ومع ذلك‪ ،‬من المفترض أن تتطلب معظم الوظائف الجديدة مستو يات عالية من الخ برة‬

‫والإبداع‪ ،‬وبالتالي قد لا تقدم إجابة لمشكلة العمال غير المهرة العاطلين عن العمل‪ ،‬أو العمال‬

‫الذين لا يمكن توظيفهم إلا بأجور منخفضة للغاية‪ .‬علاوة على ذلك‪ ،‬مع استمرار تحسن الذكاء‬

‫الاصطناعي‪ ،‬حتى الوظائف التي تتطلب ذكاء ً وإبداعًا عاليين قد تختفي تدر يجياً‪ .‬يُعد عالَم الشطرنج‬

‫‪6‬‬
‫مثالا ً على الاتجاه الذي قد تتجه إليه الأشياء‪ .‬لعدة سنوات بعد أن هزم جهاز الكمبيوتر الخاص‬

‫بشركة ‪ IBM‬ديب بلو غاري كاسباروف في عام ‪ ،١٩٩٧‬لا يزال لاعبو الشطرنج البشر يين في‬

‫ازدهار‪ .‬تم استخدام الذكاء الاصطناعي لتدريب المعجزات البشر ية‪ ،‬وأثبتت الفرق المكونة من‬

‫البشر وأجهزة الكمبيوتر أنها متفوقة على الفرق المكونة من أجهزة الكمبيوتر فقط‪.‬‬

‫ومع ذلك‪ ،‬في السنوات الأخيرة‪ ،‬أصبحت أجهزة الكمبيوتر ممتازة في لعب الشطرنج حتى أن‬

‫المعاونين من البشر فقدوا قيمتهم وقد تنتفي الحاجة لهم قريبًا‪ .‬في ‪ 6‬كانون الأول (ديسمبر)‬

‫‪ ،٢٠١٧‬تم الوصول إلى نتيجة مهمة عندما هزم برنامج ‪ Google’s AlphaZero‬برنامج ‪the‬‬

‫‪Stock fish 8.‬فاز ‪ the Stockfish 8‬ببطولة عالمية لشطرنج الكمبيوتر في عام ‪.٢٠١٦‬‬

‫وقد تمكن من الوصول إلى قرون‬

‫من الخ برة البشر ية المتراكمة في‬

‫الشطرنج‪ ،‬فضلا ً عن عقود من‬

‫الخ برة في الكمبيوتر‪ .‬على النقيض‬

‫من ذلك‪ ،‬لم يتم تعليم ‪Google’s‬‬

‫‪AlphaZero‬أي استراتيجيات‬

‫شطرنج من قبل البشر‪ ،‬ولا حتى الافتتاحيات‪ .‬بدلا ً من ذلك‪ ،‬استخدم أحدث مبادئ التعلم‬

‫الآلي لتعليم نفسه الشطرنج من خلال اللعب ضد نفسه‪ .‬ومع ذلك‪ ،‬من بين ‪ ١٠٠‬مباراة لعبها‬

‫المبتدئ ‪ Google’s AlphaZero‬ضد‪ ، the Stockfish 8‬فاز ‪ Google’s AlphaZero‬ب ‪٢٨‬‬

‫وتعادل ‪ ٧٢‬ولم يخسر ولا مرة‪ .‬نظرًا لأن ‪ Google’s AlphaZero‬لم يتعلم شيئًا من أي إنسان‪،‬‬

‫فإن العديد من حركاته واستراتيجياته الفائزة بدت غير تقليدية للعين البشر ية و يمكن وصفها بأنها‬

‫إبداعية‪ ،‬إن لم تكن عبقر ية ‪.‬‬

‫هل يمكنك تخمين المدة التي قضاها ‪ AlphaZero‬في تعلم الشطرنج من الصفر‪ ،‬والاستعداد للمباراة‬

‫ضد‪ ، Stockfish 8‬وتطوير غرائزه العبقر ية؟ أربع ساعات‪ .‬لقرون‪ ،‬كان الشطرنج يعتبر أحد‬

‫‪7‬‬
‫أمجاد ذكاء الإنسان ل كن انتقل ‪ AlphaZero‬من الجهل المطلق إلى إتقان الإبداع في أربع‬

‫ساعات‪ ،‬دون مساعدة أي بشري‪.‬‬

‫‪ AlphaZero‬ليس البرنامج الخيالي الوحيد الموجود هناك‪ .‬تتمثل إحدى طرق القبض على‬

‫الغشاشين في بطولات الشطرنج اليوم في مراقبة مستوى الإبداع الذي يظهره اللاعبون‪ .‬إذا قاموا‬

‫بحركة استثنائية‪ ،‬فغالبًا ما يشك الحكام في كونها تحرك ًا بشري ًا‪ ،‬ويميلوا إلى اعتبارها حركةكمبيوتر‪.‬‬

‫على الأقل في لعبة الشطرنج‪ ،‬يعتبر الإبداع بالفعل علامة تجار ية لأجهزة الكمبيوتر وليس البشر!‬

‫سيتكرر سينار يو الذكاء الاصطناعي البشري في الشطرنج ول كن في مجالات مختلفة مثل الشرطة‬

‫والطب والمصارف والعديد من المجالات الأخرى‪.‬‬

‫علاوة على ذلك‪ ،‬يتمتع الذكاء الاصطناعي بقدرات غير بشر ية فريدة‪ ،‬مما يجعل الفرق بين الذكاء‬

‫الاصطناعي والعامل البشري فريد ًا من نوعه وليس مجرد درجة علمية‪ .‬هناك نوعان من القدرات‬

‫غير البشر ية ذات الأهمية الخاصة التي يمتل كها الذكاء الاصطناعي وهما القدرة على التواصل‬

‫والتحديث‪.‬‬

‫مثلاً‪ ،‬ال كثير من السائقين لا يحفظون جميع لوائح المرور المتغيرة على الطرق التي يقودونها‪ ،‬وغالبًا‬

‫ما ينتهكونها‪ .‬ونظرًا لأن كل سائق هو كيان بحد ذاته‪ ،‬فعندما تقترب مركبتان من نفس التقاطع‪،‬‬

‫يسيء السائقون أحيان ًا فهم نواياهم و يصطدمون بسبب انقطاع التواصل بينهما‪ .‬على النقيض من‬

‫ذلك‪ ،‬ستعرف السيارات ذاتية القيادة جميع لوائح المرور ولن تخالفها أبد ًا عن قصد‪ ،‬ويمكن أن‬

‫يتصلوا جميع ًا ببعضهم البعض‪ .‬عندما تقترب‬

‫مركبتان من نفس التقاطع‪ ،‬لن تكونا في‬

‫الواقع كيانين منفصلين‪ ،‬ول كن جزءًا من‬

‫خوارزمية واحدة‪ .‬وبالتالي‪ ،‬فإن احتمالات‬

‫سوء التواصل والتصادم ستكون أقل بكثير‪.‬‬

‫‪8‬‬
‫وبالمثل‪ ،‬إذا حددت منظمة الصحة العالمية مرضًا جديد ًا‪ ،‬أو إذا أنتج المختبر دواء ً جديد ًا‪ ،‬فلا‬

‫يمكنها على الفور تحديث معلومات جميع الأطباء البشر يين في العالم‪ .‬ومع ذلك‪ ،‬حتى لو كان‬

‫لديك مليارات من أطباء الذكاء الاصطناعي في العالم‪ ،‬كل منهم يراقب صحة إنسان واحد‪ ،‬فلا‬

‫يزال بإمكانك تحديثهم جميع ًا في جزء من الثانية‪ ،‬ويمكنهم جميع ًا التواصل مع بعضهم البعض حول‬

‫تقييماتهم للمرض الجديد أو الدواء‪ .‬هذه المزايا المحتملة للاتصال وقابلية التحديث ضخمة جدًا‬

‫لدرجة أنه على الأقل في بعض مجالات العمل‪ ،‬قد يكون من المنطقي استبدال جميع البشر‬

‫بأجهزة كمبيوتر‪ ،‬حتى لو كان بعض البشر بشكل فردي لا يزالون يقومون بعمل أفضل من‬

‫الآلات‪.‬‬

‫هذه التقنيات التي قد تجعل ملايين الناس عديمي الفائدة اقتصاديا ًهي نفسها التي ستسهل مراقبتهم‬

‫والتحكم بهم‪.‬‬

‫كل هذا يؤدي إلى استنتاج واحد مهم‪ :‬لن تتكون ثورة الأتمتة من حدث مفصلي واحد‪ ،‬وبعده‬

‫يستقر سوق العمل على توازن جديد‪ .‬بل سيحدث سلسلة من الاضطرابات الأكبر من أي وقت‬

‫مضى‪ .‬ستختفي الوظائف القديمة وستظهر وظائف جديدة‪ ،‬ل كن الوظائف الجديدة ستتغير‬

‫وتتلاشى بسرعة أيضًا‪ .‬سيحتاج الناس إلى إعادة تدريب أنفسهم وإعادة ابتكار أنفسهم ليس مرة‬

‫واحدة فحسب‪ ،‬بل مرات عديدة‪.‬‬

‫تمام ًا كما في القرن العشرين‪ ،‬أنشأت الحكومات أنظمة تعليمية ضخمة للشباب‪ ،‬في القرن الحادي‬

‫والعشرين‪ ،‬ستحتاج إلى إنشاء أنظمة إعادة تأهيل ضخمة للبالغين‪ .‬فهل سيكون ذلك كافياً؟ دائمًا‬

‫ما يكون التغيير مرهق ًا‪ ،‬وقد أدى العالم المحموم في أوائل القرن الحادي والعشرين إلى انتشار وباء‬

‫عالمي من التوتر‪ .‬مع ز يادة تقلب الوظائف‪ ،‬هل سيتمكن الناس من التكيف؟ بحلول عام‬

‫‪9‬‬
‫‪ ،٢٠٥٠‬قد تظهر طبقة عديمة الفائدة‪ ،‬ليس فقط نتيجة نقص الوظائف أو نقص التعليم المناسب‪،‬‬

‫جديدة‪.‬‬ ‫ول كن أيضًا نتيجة عدم كفاية القدرة العقلية لمواصلة تعلم مهارات‬

‫ثالثا‪ .‬ظهور الديكتاتور يات الرقمية‬

‫نظرًا لأن ال كثير من الناس يفقدون قيمتهم الاقتصادية‪ ،‬فقد يفقدون أيضًا قوتهم السياسية‪ .‬فقد‬

‫تجعل التقنيات نفسها التي ستجعل مليارات الأشخاص بدون فائدة اقتصادية‪ ،‬أسهل في المراقبة‬

‫والتحكم‪.‬‬

‫يخيف الذكاء الاصطناعي ال كثير من الناس لأنهم لا يثقون به بسبب شكوكهم بإمكانية تمرده‪.‬‬

‫تصور كثيرا ً من أفلام الخيال العلمي أن أجهزة الكمبيوتر أو الروبوتات ستطور نوعا من الوعي‪،‬‬

‫وبعد ذلك بوقت قصير ستحاول قتل جميع البشر‪ .‬ل كن لا يوجد سبب محدد للاعتقاد بأن الذكاء‬

‫الاصطناعي سيطور هذا النوع من الوعي عندما يصبح أكثر ذكاءً‪ .‬يجب علينا بدلا ً من ذلك أن‬

‫نخشى الذكاء الاصطناعي لأنه يطيع دائمًا أسياده من البشر‪ ،‬ولن يتمرد أبد ًا‪ .‬الذكاء الاصطناعي‬

‫هو أداة وسلاح لا يشبه أي سلاح آخر طوره البشر؛ من المؤكد أنه سيسمح للأقو ياء بالفعل‬

‫بتعزيز سلطتهم بشكل أكبر‪.‬‬

‫‪10‬‬
‫إذا أخذنا في الاعتبار المراقبة فإن العديد من البلدان حول العالم‪ ،‬بما في ذلك العديد من‬

‫الديمقراطيات‪ ،‬منشغلة ببناء أنظمة غير مسبوقة للمراقبة‪ .‬مثال‪ ،‬تعتبر إسرائيل رائدة في مجال‬

‫تكنولوجيا المراقبة‪ ،‬وقد أنشأت في الضفة الغربية المحتلة نموذج ًا أوليًا عمليًا لنظام مراقبة شامل‪.‬‬

‫في الوقت الحالي‪ ،‬كلما أجرى الفلسطينيون مكالمة هاتفية أو نشروا شيئًا ما على فيسبوك أو سافروا‬

‫من مدينة إلى أخرى‪ ،‬فمن المحتمل أن تتم مراقبتهم بواسطة الميكروفونات الإسرائيلية أو الكاميرات‬

‫أو الطائرات بدون طيار أو برامج التجسس‪ .‬تقوم الخوارزميات بتحليل البيانات التي تم جمعها‪ ،‬مما‬

‫يساعد قوات الأمن الإسرائيلية على تحديد وتحييد ما يعتبرونه تهديدات محتملة‪ .‬قد يدير‬

‫الفلسطينيون بعض البلدات والقرى في الضفة الغربية‪ ،‬ل كن الإسرائيليين يسيطرون على السماء‪،‬‬

‫وموجات الأثير‪ ،‬والفضاء الإل كتروني‪ .‬وبالتالي‪ ،‬فإن الأمر يتطلب القليل من الجنود الإسرائيليين‬

‫للسيطرة بشكل فعال على ما يقرب من ‪ 2.5‬مليون فلسطيني يعيشون في الضفة الغربية‪.‬‬

‫في إحدى الحوادث في أكتوبر ‪ /‬تشرين الأول ‪ ،٢٠١٧‬نشر عامل فلسطيني على حسابه الخاص‬

‫على فيسبوك صورة لنفسه في مكان عمله‪ ،‬إلى جانب جرافة‪ .‬بجوار الصورة كتب‪" ،‬صباح الخ ير!"‬

‫ارتكبت خوارزمية فيسبوك للترجمة خطأ ً بسيطًا عند ترجمة الأحرف العربية‪ .‬بدلا ً من‬

‫‪(Ysabechhum‬التي تعني "صباح الخ ير")‪ ،‬حددت الخوارزمية الحروف على أنها‬

‫‪(Ydbachhum‬والتي تعني "أضرهم")‪ .‬قامت قوات الأمن الإسرائيلية باعتقاله بسرعة للاشتباه‬

‫بكونه إرهابيا يعتزم استخدام جرافة لدهس الناس‪ .‬أطلقوا سراحه بعد أن أدركوا أن الخوارزمية‬

‫قد ارتكبت خطأ‪ .‬ومع ذلك‪ ،‬تم حذف المنشور المسيء على فيسبوك فلا يكفي أن تكون شديد‬

‫يختبره‬ ‫ما‬ ‫يكون‬ ‫قد‬ ‫الحذر‪.‬‬

‫الفلسطينيون اليوم في الضفة الغربية‬

‫مجرد عينة مبدئية لما سيختبره‬

‫مليارات الأشخاص في نهاية المطاف‬

‫في جميع أنحاء ال كوكب ‪.‬‬

‫‪11‬‬
‫تخيل‪ ،‬على سبيل المثال‪ ،‬أن النظام الحالي في كور يا الشمالية اكتسب نسخة أكثر تقدم ًا من هذا‬

‫النوع من التكنولوجيا في المستقبل‪ .‬قد يُطلب من ال كور يين الشماليين ارتداء سوار بيولوجي‬

‫يراقب كل ما يفعلونه و يقولونه‪ ،‬بالإضافة إلى ضغط الدم ونشاط الدماغ‪ .‬باستخدام الفهم المتزايد‬

‫للدماغ البشري والاعتماد على القوى الهائلة للتعلم الآلي‪ ،‬قد تتمكن حكومة كور يا الشمالية في‬

‫النهاية من قياس ما يفكر فيه كل مواطن في كل لحظة‪ .‬إذا نظر شخص كوري شمالي إلى صورة‬

‫كيم جونغ أون والتقطت المستشعرات الحيو ية علامات منبهة للغضب (ارتفاع ضغط الدم)‪،‬‬

‫فقد يكون هذا الشخص في غولاغ (معتقل سيبير يا الشهير) في اليوم التالي‪.‬‬

‫الصراع بين الديمقراطية والديكتاتور ية هو في الواقع صراع بين نظامين مختلفين لمعالجة البيانات‪.‬‬

‫قد ترجح كفة الذكاء الاصطناعي لصالح الأخير‪.‬‬

‫ومع ذلك‪ ،‬قد لا تكون مثل هذه التكتيكات الصارمة ضرور ية‪ ،‬على الأقل في معظم الأوقات‪.‬‬

‫قد تظل واجهة الإرادة الحرة والتصويت الحر في مكانها في بعض البلدان‪ ،‬حتى عندما يمارس‬

‫الجمهور سيطرة فعلية أقل فأقل‪ .‬من المؤكد أن محاولات التلاعب بمشاعر الناخبين ليست جديدة‪.‬‬

‫ول كن بمجرد أن يكتسب شخص ما (سواء في سان فرانسيسكو أو بكين أو موسكو) القدرة‬

‫التكنولوجية على التلاعب بقلب الإنسان‪ ،‬بشكل موثوق ورخيص وعلى نطاق واسع‪ ،‬سوف‬

‫تتحول السياسة الديمقراطية إلى مسرحية عاطفية‪.‬‬

‫من غير المحتمل أن نواجه تمرد ًا للآلات التي تملك وعيا ً في العقود القادمة‪ ،‬ول كن قد نضطر إلى‬

‫التعامل مع جحافل من الروبوتات التي تعرف كيفية الضغط على أزرارنا العاطفية بشكل أفضل‬

‫مما تفعله والدتنا والتي تستخدم هذه القدرة الخارقة‪ ،‬بناء ً على طلب من النخبة البشر ية لمحاولة بيع‬

‫شيء ما لنا سواء كان ذلك سيارة أو سياسيًا أو أيديولوجية كاملة‪ .‬قد تحدد الروبوتات أعمق‬

‫مخاوفنا وكراهيتنا ورغباتنا الشديدة وتستخدمها ضدنا‪ .‬لقد تلقينا بالفعل فكرة مسبقة عن هذا في‬

‫‪12‬‬
‫الانتخابات والاستفتاءات الأخيرة في جميع أنحاء العالم‪ ،‬عندما تعلم المتسللون كيفية التلاعب‬

‫بالناخبين الفرديين من خلال تحليل البيانات المتعلقة بهم واستغلال تح يزاتهم‪ .‬بينما تنجذب أفلام‬

‫الإثارة للخيال العلمي إلى نهايات العالم المثيرة للنار والدخان‪ ،‬في الواقع قد نواجه نهاية العالم العادية‬

‫من خلال النقر‪.‬‬

‫إن التأثير الأكبر والأكثر رعبا ً لثورة الذكاء الاصطناعي هو على ال كفاءة النسبية للديمقراطيات‬

‫والديكتاتور يات‪ .‬تار يخياً‪ ،‬واجهت الأنظمة الاستبدادية معوقات تتعلق بالابتكار والنمو‬

‫الاقتصادي‪ .‬في أواخر القرن العشرين‪ ،‬تفوقت الديمقراطيات على الديكتاتور يات‪ ،‬لأنها كانت‬

‫أفضل بكثير في معالجة البيانات‪ .‬نميل إلى التفكير في الصراع بين الديمقراطية والديكتاتور ية على‬

‫أنه صراع بين نظامين أخلاقيين مختلفين‪ ،‬ل كنه في الواقع صراع بين نظامين يختلفان في طر يقة‬

‫معالجة البيانات‪ .‬توزع الديمقراطية القدرة على معالجة البيانات واتخاذ القرارات على العديد من‬

‫الأشخاص والمؤسسات‪ ،‬بينما تركز الديكتاتور ية البيانات والسلطة في مكان واحد‪ .‬نظرًا لتكنولوجيا‬

‫القرن العشرين‪ ،‬كان من غير الفعال تركيز ال كثير من البيانات والقوة في مكان واحد‪ .‬لم يكن‬

‫لدى أي شخص القدرة على معالجة جميع البيانات المتاحة بالسرعة الكافية واتخاذ القرارات‬

‫الصحيحة‪ .‬هذا هو أحد الأسباب التي جعلت الاتحاد السوفيتي يتخذ قرارات أسوأ بكثير من‬

‫الولايات المتحدة‪ ،‬وتخلف الاقتصاد السوفييتي كثير ًا عن الاقتصاد الأمريكي‪.‬‬

‫‪13‬‬
‫ومع ذلك‪ ،‬قد يعمل الذكاء الاصطناعي قريبًا على تحول الرأي العام من النقيض إلى النقيض‪.‬‬

‫و يجعل من الممكن معالجة كميات هائلة من المعلومات مركزي ًا‪ .‬في الواقع‪ ،‬قد يجعل الأنظمة‬

‫المركز ية أكثر كفاءة بكثير من الأنظمة اللامركز ية‪ ،‬لأن التعلم الآلي يعمل بشكل أفضل عندما‬

‫يكون لدى الجهاز المزيد من المعلومات لتحليلها‪ .‬إذا تجاهلت موضوع الخصوصية وركزت على‬

‫جميع البيانات المتعلقة بمليار شخص في قاعدة بيانات واحدة‪ ،‬فستنتهي بخوارزميات أفضل بكثير‬

‫مما لو كنت تح ترم الخصوصية الفردية ولديك في قاعدة بياناتك معلومات جزئية فقط عن مليون‬

‫شخص‪ .‬إن الحكومة الاستبدادية التي تأمر جميع مواطنيها بمشاركة تسلسل حمضهم النووي ومشاركة‬

‫بياناتهم الطبية مع بعض السلطات المركز ية ستكسب ميزة هائلة في علم الوراثة والبحوث الطبية‬

‫على المجتمعات التي تكون فيها البيانات الطبية خاصة‪ .‬قد تصبح العقبة الرئيسية للأنظمة‬

‫الاستبدادية في القرن العشرين‪ ،‬وهي الرغبة في تركيز كل المعلومات والقوة في مكان واحد‪،‬‬

‫ميزتها الحاسمة في القرن الحادي والعشرين‪.‬‬

‫سوف تستمر التقنيات الجديدة في الظهور وقد يشجع بعضها على الانتشار بدلا ً من تركيز‬

‫المعلومات والسلطة‪ .‬توصف حاليًا تقنية البلوكشين‪ ،‬والعملات المشفرة التي تستخدمها‪ ،‬على أنها‬

‫ثقل موازن محتمل للسلطة المركز ية‪ .‬ل كن تقنية البلوكشين لا تزال في أولى مراحلها‪ ،‬ولا نعرف‬

‫حتى الآن ما إذا كانت ستوازن بالفعل الميول المركز ية للذكاء الاصطناعي‪ .‬تذكر أن الإنترنت‪،‬‬

‫أيضًا‪ ،‬تم الترويج له في أيامه الأولى باعتباره دواء ً ليبراليا ً سحري ًا من شأنه أن يحرر الناس من جميع‬

‫الأنظمة المركز ية ول كنه الآن على استعداد لجعل السلطة المركز ية أكثر قوة من أي وقت مضى ‪.‬‬

‫رابعا‪ .‬نقل السلطة إلى الآلات‬

‫حتى لو ظلت بعض المجتمعات ديمقراطية ظاهري ًا‪ ،‬فإن ال كفاءة المتزايدة للخوارزميات ستظل‬

‫تحول المزيد والمزيد من السلطة من يد الأفراد إلى الآلات المتصلة بالشبكات‪ .‬قد نتخلى عن طيب‬

‫خاطر عن المزيد من السلطة على حياتنا لأننا سنتعلم مع الوقت أن نثق في الخوارزميات أكثر‬

‫من مشاعرنا‪ ،‬وفي النهاية نفقد قدرتنا على اتخاذ العديد من القرارات لأنفسنا‪ .‬ما عليك سوى‬

‫التفكير في الطر يقة التي سلم بها مليارات الأشخاص‪ ،‬في غضون عقدين فقط‪ ،‬واحدة من أهم‬

‫‪14‬‬
‫المهام على الإطلاق لخوارزمية غوغل وهي البحث والعثور على معلومات ذات صلة وجديرة‬

‫بالثقة‪ .‬نظرًا لأننا نعتمد أكثر على غوغل للحصول على إجابات‪ ،‬فإن قدرتنا على تحديد المعلومات‬

‫بشكل مستقل تتضاءل‪ .‬اليوم‪ ،‬يتم تحديد "الحقيقة" من خلال أفضل نتائج بحث غوغل‪ .‬أثرت‬

‫هذه العملية أيضًا على قدراتنا الجسدية‪ ،‬مثل التنقل في الفضاء‪ .‬لا يطلب الناس من غوغل فقط‬

‫العثور على المعلومات ول كن أيضًا لإرشادهم‪ .‬سوف تقود السيارات ذاتية القيادة وأطباء الذكاء‬

‫من‬ ‫مزيدٍ‬ ‫إلى‬ ‫الاصطناعي‬

‫الابتكارات‬ ‫فهذه‬ ‫الاضمحلال‪:‬‬

‫ستؤدي إلى إبعاد سائقي الشاحنات‬

‫والأطباء البشر يين‪ ،‬وأهميتها تكمن‬

‫في استمرار نقل السلطة والمسؤولية‬

‫إلى الآلات‪.‬‬

‫اعتاد البشر النظر للحياة كمجموعة من القرارات الصعبة التي يجب اتخاذها‪ .‬فتنظر الديمقراطية‬

‫الليبرالية ورأسمالية السوق الحرة للفرد كعامل مستقل يستمر في أخذ قراراته بنفسه‪ .‬فالأعمال‬

‫الفنية‪ ،‬سواء كانت مسرحيات لشكسبير‪ ،‬أو روايات جين أوستن‪ ،‬أو كوميديا هوليوود‪ ،‬عادة‬

‫ما تدور حول ضرورة أن يتخذ البطل بعض القرارات الحاسمة‪ .‬أكون أو لا أكون؟ أن أستمع‬

‫إلى زوجتي وأقتل الملك دنكان أم أصغي إلى ضميري وأنقذه؟ للزواج من السيد كولينز أو السيد‬

‫دارسي؟ وبالمثل‪ ،‬يركز اللاهوت المسيحي والإسلامي على مأساة اتخاذ القرار‪ ،‬بحجة أن الخلاص‬

‫الأبدي يعتمد على اتخاذ القرار الصحيح‪.‬‬

‫ماذا سيحدث لهذه النظرة عندما نعتمد على الذكاء الاصطناعي في اتخاذ المزيد من القرارات‬

‫نيابة عنا؟ حتى الآن نثق في نتفليكس لتقترح علينا بعض الأفلام و ‪ Spotify‬لاختيار الموسيقى‬

‫التي نحبها‪ .‬ول كن هل سيتوقف الذكاء الاصطناعي عند هذا الحد؟‬

‫يحتاج الملايين من طلاب الجامعات كل عام إلى تحديد ما سيدرسونه‪ .‬هذا قرار مهم وصعب‬

‫للغاية‪ ،‬تم اتخاذه تحت ضغط من الآباء والأصدقاء والأساتذة الذين لديهم اهتمامات وآراء‬

‫‪15‬‬
‫متباينة‪ .‬كما أنها تتأثر بمخاوف الطلاب الفردية وأوهامهم‪ ،‬والتي تتشكل بدورها من خلال الأفلام‬

‫والروايات والحملات الإعلانية‪ .‬ومما يزيد الأمور تعقيدًا أن طالبًا ما لا يعرف حق ًا ما يلزم للنجاح‬

‫في مهنة معينة‪ ،‬وليس بالضرورة أن يكون لديه إحساس واقعي بنقاط قوته وضعفه‪.‬‬

‫ليس من الصعب تخيل كيف يمكن للذكاء الاصطناعي مستقبلا ً أن يتخذ قرارات أفضل مما‬

‫نفعله بشأن الوظائف‪ ،‬وربما حتى بشأن العلاقات‪ .‬ول كن بمجرد أن نبدأ في الاعتماد على الذكاء‬

‫الاصطناعي لنقرر ما الذي ندرسه وأين نعمل وبمن نرتبط ستتوقف حياة الإنسان عن أن تكون‬

‫مجموعة من القرارات الصعبة‪ ،‬وسيتعين تغيير مفهومنا للحياة‪ .‬قد تتوقف الانتخابات الديمقراطية‬

‫والأسواق الحرة عن كونها منطقية‪ .‬هكذا قد تفعل معظم الأديان والأعمال الفنية‪ .‬تخيل أن آنا‬

‫كارنينا تخرج هاتفها الذكي وتسأل سيري عما إذا كان ينبغي عليها أن تظل متزوجة من كارينين‬

‫أو تهرب من ال كونت فرونسكي المحطم‪ .‬أو تخيل أن مسرحية شكسبير المفضلة لديك بجميع‬

‫القرارات الحاسمة فيها تم اتخاذها بناء على خوارزمية غوغل‪ .‬ستكون حياة هاملت وماكبث أكثر‬

‫راحة‪ ،‬ول كن أي نوع من الحياة ستكون؟ هل لدينا نماذج لفهم مثل هذه الأنماط؟‬

‫هل تستطيع البرلمانات والأحزاب السياسية التغلب على هذه التحديات وإحباط السينار يوهات‬

‫الأكثر سواداً؟ في الوقت الحالي لا يبدو هذا محتمل ًا‪ .‬الاضطراب التكنولوجي ليس حتى بندًا‬

‫رئيسيًا على جدول أعمال السياسي‪ .‬خلال السباق الرئاسي الأمريكي لعام ‪ ،٢٠١٦‬كانت الإشارة‬

‫الرئيسية للتكنولوجيا التخريبية تتعلق بكارثة البريد الإل كتروني لهيلاري كلينتون‪ ،‬وعلى الرغم‬

‫من كل الحديث عن فقدان الوظيفة‪ ،‬لم يعالج أي من المرشح ين بشكل مباشر التأثير المحتمل‬

‫للأتمتة‪ .‬حذر دونالد ترامب الناخبين من أن المكسيكيين سيأخذون وظائفهم‪ ،‬وبالتالي ينبغي‬

‫على الولايات المتحدة بناء جدار على حدودها الجنوبية‪ .‬لم يحذر الناخبين أبد ًا من أن الخوارزميات‬

‫ستأخذ وظائفهم‪ ،‬ولم يقترح بناء جدار حماية حول كاليفورنيا‪.‬‬

‫‪16‬‬
 ‫إذا ماذا يجب ان نفعل؟‬

‫كبداية‪ ،‬نحتاج إلى إعطاء أولو ية أعلى بكثير لفهم كيفية عمل العقل البشري‪ ،‬لا سيما كيف‬

‫يمكن تنمية حكمتنا ورحمتنا‪ .‬إذا استثمرنا ال كثير في الذكاء الاصطناعي والقليل جدًا في تطوير‬

‫العقل البشري‪ ،‬فإن الذكاء الاصطناعي المتطور جدًا لأجهزة الكمبيوتر قد يخدم فقط في تمكين‬

‫الغباء الطبيعي للبشر‪ ،‬وتغذية أسوأ غرائزنا‪ ،‬بينها الجشع وال كراهية‪ .‬لتجنب مثل هذه النتيجة‪،‬‬

‫مقابل كل دولار وكل دقيقة نستثمرها في تحسين الذكاء الاصطناعي‪ ،‬سيكون من الحكمة‬

‫استثمار دولار ودقيقة في استكشاف وتطوير الوعي البشري‪.‬‬

‫عمليًا‪ ،‬وبشكل فوري‪ ،‬إذا أردنا منع تركز كل الثروة والسلطة في أيدي نخبة صغيرة‪ ،‬يجب علينا‬

‫تنظيم مل كية البيانات‪ .‬في العصور القديمة‪ ،‬كانت الأرض هي أهم الأصول‪ ،‬لذلك كانت‬

‫السياسة صراعًا للسيطرة على الأرض‪ .‬في العصر الحديث‪ ،‬أصبحت الآلات والمصانع أكثر أهمية‬

‫من الأرض‪ ،‬لذلك تركزت الصراعات السياسية على السيطرة على هذه الوسائل الحيو ية للإنتاج‪.‬‬

‫في القرن الحادي والعشرين‪ ،‬ستتفوق البيانات على كل من الأرض والآلات باعتبارها أهم‬

‫الأصول‪ ،‬لذلك ستكون السياسة صراعًا للسيطرة على تدفق البيانات‪.‬‬

‫لسوء الحظ‪ ،‬ليست لدينا خبرة كبيرة في تنظيم مل كية البيانات‪ ،‬وهي مهمة أصعب بكثير من‬

‫تنظيم الأراضي أو الآلات‪ .‬البيانات موجودة في كل مكان وليس في أي مكان في نفس‬

‫الوقت‪ ،‬ويمكن أن تتحرك بسرعة الضوء‪ ،‬ويمكنك إنشاء العديد من النسخ كما تريد‪ .‬هل البيانات‬

‫التي تم جمعها عن الحمض النووي الخاص بي‪ ،‬وعقلي‪ ،‬وحياتي تخصني‪ ،‬أم للحكومة‪ ،‬أو لشركة‪،‬‬

‫أو إلى جماعة بشر ية؟‬

‫بدأ السباق لتجميع البيانات بالفعل‪ ،‬و يترأسه حاليًا عمالقة مثل غوغل وفيسبوك‪ ،‬وفي الصين‬

‫بايدو وتيسينت‪ .‬حتى الآن‪ ،‬عملت العديد من هذه الشركات ك "تجار اهتمام"‪ ،‬فهي تجذب‬

‫انتباهنا من خلال تزويدنا بمعلومات وخدمات وترفيه مجانية‪ ،‬ثم تعيد بيع انتباهنا للمعلنين‪ .‬ومع‬

‫ذلك‪ ،‬فإن عملهم الحقيقي ليس مجرد بيع الإعلانات‪ .‬بدلا ً من ذلك‪ ،‬من خلال جذب انتباهنا‪،‬‬

‫‪17‬‬
‫تمكنوا من تجميع كميات هائلة من البيانات عنا‪ ،‬والتي تساوي أكثر من أي عائد إعلاني‪ .‬نحن‬

‫لسنا زبائنهم‪ ،‬بل نحن منتجهم‪.‬‬

‫سيجد الأشخاص العاديون صعوبة بالغة في مقاومة هذه العملية‪ .‬في الوقت الحالي‪ ،‬يسعد ال كثير‬

‫منا بالتخلي عن أثمن أصولنا‪ ،‬بياناتنا الشخصية‪ ،‬مقابل خدمات البريد الإل كتروني المجانية ومقاطع‬

‫الفيديو المضحكة للقطط‪ .‬ول كن إذا قرر الأشخاص العاديون في وقت لاحق محاولة منع تدفق‬

‫البيانات‪ ،‬فمن المحتمل أن يواجهوا مشكلة في القيام بذلك‪ ،‬خاصة وأنهم ربما أصبحوا يعتمدون‬

‫على الشبكة لمساعدتهم في اتخاذ القرارات‪ ،‬وحتى من أجل صحتهم والبقاء الجسدي‪.‬‬

‫يمكن أن يوفر تأميم البيانات من قبل الحكومات حلا ً واحدًا؛ من المؤكد أنه سيحد من قوة‬

‫الشركات ال كبرى‪ .‬ل كن التاريخ يشير إلى أننا لسنا بالضرورة أفضل حال ًا في أيدي الحكومات‬

‫ذات القوة المفرطة‪ .‬لذلك كان من الأفضل لنا أن ندعو علمائنا وفلاسفتنا ومحامينا وحتى شعرائنا‬

‫لتحو يل انتباههم إلى هذا السؤال ال كبير‪ :‬كيف تنظم مل كية البيانات؟‬

‫حاليًا‪ ،‬يخاطر البشر بأن يصبحوا مشابهين للحيوانات الأليفة‪ .‬لقد قمنا بتربية أبقار سهلة الانقياد‬

‫تنتج كميات هائلة من الحليب ول كنها بخلاف ذلك تكون أدنى بكثير من أسلافها البر ية‪ .‬هم‬

‫أقل رشاقة وأقل فضول ًا وأقل قدرة‪ .‬نحن الآن نصنع بشر ًا مروضين ينتجون كميات هائلة من‬

‫البيانات و يعملون كشرائح فعالة في آلية ضخمة لمعالجة البيانات‪ ،‬ل كنهم بالكاد يزيدون من‬

‫إمكاناتهم البشر ية‪ .‬إذا لم نكن حذرين‪ ،‬فسوف ينتهي بنا المطاف بإساءة استخدام البشر لأجهزة‬

‫الكمبيوتر التي تمت ترقيتها لإحداث الخراب في أنفسهم وفي العالم‪.‬‬

‫إذا وجدت هذه الاحتمالات مثيرة للقلق‪ ،‬إذا كنت لا تحب فكرة العيش في ظل ديكتاتور ية‬

‫رقمية أو شكل من أشكال المجتمع المتدهورة بشكل مشابه‪ ،‬فإن أهم مساهمة يمكنك تقديمها هي‬

‫إ يجاد طرق لمنع تركيز ال كثير من البيانات في أيدي عدد قليل جدًا‪ ،‬وكذلك إ يجاد طرق للحفاظ‬

‫على معالجة البيانات الموزعة أكثر كفاءة من المعالجة المركز ية للبيانات‪ .‬لن تكون هذه مهام سهلة‪.‬‬

‫ل كن تحقيقها قد يكون أفضل حماية للديمقراطية‪.‬‬

‫‪18‬‬