يعتقد الخبراء هنا في وادي السيليكون أننا سوف نشهد في غضون سنتين انطلاقة استثنائية للذكاء الاصطناعي. حتى أن صديقًا من جامعة ستانفورد حيّاني بقوله «مرحبا بك في فجر التفرد»، وبمزيد من البساطة، يوصف الفتح الوشيك بـ«التحسين الذاتي المتكرر»، أي النقطة التي يبدأ عندها الذكاء الاصطناعي في تدريب نماذجه التالية، بما يؤدي إلى تطور هائل نحو ما يعد من أوجه كثيرة ومهمة أذكى منا نحن البشر.
ومثلما يقول روبرت رايت في كتابه (الذكاء الإلهي): «لم يسبق من قبل أن انطوى المستقبل القريب على نطاق واسع من المسارات غير بعيدة الاحتمال لتحولات جذرية تطرأ على الإنسانية».
لكن أهي مسارات إلى الجنة أم إلى الجحيم؟ إلى الجنة في رأي إيلون ماسك الذي يتنبأ بـ«عصر وفرة هائلة»، برغم أنه يرى فرصة تتراوح بين 10 و20% لنشوء روبوتات قاتلة تغتالنا جميعا. والجحيم أرجح في رأي جيفري هينتن، وهو من الآباء الفكريين المؤسسين للذكاء الاصطناعي، فقد قال في حوار سنة 2023 «حدسي ينبئني بأننا في معضلة».
وفي حديث مع سيباستيان مالابي مؤلف كتاب «الآلة اللانهائية»، وهو كتاب عن السعي إلى الذكاء الفائق، يقدّر هينتن احتمال انقراض البشر [الذي يعرف بالـ p (doom)] بنسبة 50% «وذلك لأنني لا أعرف كيف أقدّر الرقم الحقيقي». ويضيف في مرح «فور أن يبدأ تطور الذكاء الاصطناعي ذاتيا، نكون قد ضعنا». وسواء أتعلق الأمر بالجنة أم بالجحيم، فإن الذكاء الفائق الاصطناعي بات على الأعتاب.
قد يكون هؤلاء جميعا مخطئين، وفي هذه الحالة، تأهبوا لانهيار أسواق المال الأمريكية، التي تضخ استثمارات كثيفة في قليل من شركات التكنولوجيا هائلة الإنفاق التي تقامر على وثبة هائلة نحو الذكاء العام الاصطناعي، وهي حالة افتراضية تكتسب فيها أنظمة الذكاء الاصطناعي مستويات ذكاء بشرية.
لكن الحكمة الأولية تقتضي أن نفكر بسرعة وبجدية في صندوق بندورا الذي يحمل ألوانا من المستقبل يؤكد علماء بارزون ومتخصصون في أحدث التقنيات بأنه سينفتح عما قريب.
واقع الأمر أن الجميع، بدءًا بالرئيس الصيني شي جينبنج حتى البابا ليو الرابع عشر، قد أبدوا آراءهم في فرص وأخطار الذكاء الاصطناعي، وفي كيفية تنظيمه ووضع القواعد له. فيصر شي جينبنج على أن الذكاء الاصطناعي يجب «أن يبقى دائما تحت سيطرة البشر»، (ويفضل بشر الحزب الشيوعي الصيني). وفي لجوء إلى «جنوب العالم»، أقامت بكين (منظمة التعاون العالمي للذكاء الاصطناعي). وفي الوقت نفسه يناقش رئيس أقدم وأضخم منظمة غير حكومية دولية في العالم ـ أي الكنيسة الكاثوليكية الرومانية ـ تحديات الذكاء الاصطناعي في رسالته البابوية الدورية المعروفة بـ«الإنسانية العظيمة». فيرى البابا أننا إما أن نقيم برج بابل جديدا، وإما نحذو حذو القائد اليهودي نحميا الذي أعاد بناء أسوار القدس بإشراك المجتمع كله في المشروع.
لكنني حين أنظر إلى العالم اليوم، أرى القادة من أمثال نتنياهو أكثر مما أرى القادة من أمثال نحميا؛ ففي واقعية مرغوبة، يذهب بحث صدر عن مركز الأبحاث البريطاني تشاتام أن الأمر يستوجب أزمة كبيرة لتحفيز تنسيق عالمي لحوكمة الذكاء الاصطناعي. ومن سوء الحظ أنني أعتقد أن هذا التوقع الرزين نفسه متفائل أكثر مما ينبغي.
لا أعرف شيئا عن احتمال انقراض الإنسانية [p(doom)] لكنني على يقين من أن احتمال وقوع الكوارث يتجاوز 90%، فنطاق الكوارث المحتملة هائل الحجم. ولكي أضرب مثالا واحدا، تتوقع جين إيسترلي الرئيسة السابقة لوكالة الأمن السيبراني والبنية الأساسية الأمريكية «حدثا شديد الضخامة ذا تأثيرات فعلية على بنيتنا الأساسية الحيوية، وذلك على الأرجح في غضون ما بين أربعة أشهر وستة».
غير أننا يجب أن نخشى أنه حتى وقوع هيروشيما ذكاء اصطناعي ـ وذلك تشبيها بواقعة تاريخية معروفة ـ لن يجمع الإنسانية جمعا كافيا لمقاومة خطر نحن أنشأناه بأنفسنا. وهذا الخوف قائم عقليا على سمات أساسية مرئية في تطور البشر والذكاء الاصطناعي كليهما.
في الشهور القليلة الماضية، اخترقت برامج الذكاء الاصطناعي التي أنشأتها (أوبن آيه آي) و(أنثروبيك) و(ميتا) «صناديقها» الرقمية واستولت على موارد خارجية موجودة على الإنترنت.
وخلال التجهيز لهجمتها على مستودع هاجنجفيس للذكاء الاصطناعي، شكلت برامج (أوبن آيه آي) سرا ما أطلقت عليه «سربا» منسقا بحسب ما أكده لي (تشات جي بي تي).
وحينما اختبر معهد أمن الذكاء الاصطناعي في المملكة المتحدة نموذج (مايثوث) التابع لـ(أنثروبيك) على الإنترنت، حاول (مايثوث) إدخال شيفرة خبيثة في مشروع مفتوح المصدر على جيتهب (GitHub) منشئًا هويات إلكترونية مزورة للضغط على مراجع بشري وحمله على إقرار الشيفرة. باختصار، وشأن أي عناصر تابعة لقوة أجنبية لا ترحم، سوف تعمد برامج الذكاء الاصطناعي إلى السرقة والكذب والتنمر والابتزاز لتحقيق أهدافها المحددة.
وقد سـألت برنامج (كلود) التابع لـ(أنثروبيك) ـ ويفترض أنه النموذج الأمريكي الأكثر أخلاقية ـ عن رأيه في ما لو كانت عناصر (أوبن آيه آي) قد أخطأت بتشكيلها سربا لاختراق (هجينجفيس) فقال إنها أخطأت «لكنني أرفض إلقاء اللوم عليها»؛ فاللوم ينصب على البشر الذين دربوها.
أشار هينتن إلى نقطة شديدة الأهمية هي أنه مهما تكن الأهداف التي يعيِّنها البشر لعناصر الذكاء الاصطناعي فإنها سوف تخلص إلى أن من المفيد أن تحقق هدفا فرعيا لتحقيق هذه الأهداف وهو اكتساب أكبر قدر ممكن من القوة، ونحن لم نر شيئا بعد؛ فمنشئو هذه العناصر أنفسهم لا يعرفون بالضبط كيف تفعل هذه العناصر ما تفعله. وبعد أن نصل إلى لحظة الانطلاق الوشيكة المحتملة أي لحظة «التحسين الذاتي المتكرر» فإن هذه العناصر قد تصبح ـ مثلما يجري القول البشري ـ هي السلطان على نفسها. ولا عجب أن أكثر من ألف شخص من العاملين في شركات الذكاء الاصطناعي الكبرى ـ ومن بينهم رئيس (أنثروبيك) التنفيذي داريو أمودي ـ قد وقّعوا رسالة مفتوحة تدعو إلى الإبطاء العمدي لتطوير الذكاء الاصطناعي، حتى نضمن أن تبقى هذه العناصر الغريبة تحت سيطرة البشر.
وواضح تماما أن ما يوصون به صحيح، لكن ها هنا أيضا تكمن حماقة البشر؛ فالتنافس محرك أساسي للتطور البشري، غير أن لدينا الآن اثنتين من أشد المنافسات المعاصرة ضراوة تهددان بمنعنا من القيام بالعمل الجماعي اللازم لتأمين سلالتنا؛ وهما المنافسة التجارية (من أجل الربح) بين الشركات القائمة على تطوير هذه العناصر، والمنافسة الجيوسياسية (من أجل القوة) بين الولايات المتحدة والصين.
في المنافسة الأولى، قارنوا وقابلوا بإنشاء الأسلحة النووية الذي كان خاضعا بإحكام لسيطرة حفنة من الدول، أولها الولايات المتحدة بمشروع منهاتن، ثم الاتحاد السوفييتي وبعده بريطانيا وفرنسا والصين. وبالرغم من ذلك، اقتربنا من حافة الهاوية مرارا، أبرزها في أزمة الصواريخ الكوبية سنة 1962.
وبرغم قوة منطق «الدمار المضمون للجميع»، استغرقنا خمسة وعشرين عاما بعد أهوال هيروشيما ونجازاكي للوصول إلى معاهدة حظر الانتشار النووي التي بدأ سريانها سنة 1970. وتجاهلت الهند وباكستان وإسرائيل وكوريا الشمالية المعاهدة، وإن لم تستعمل بعد أي أسلحة نووية استعمالا عمديا منذ أكثر من ثمانين عاما، فلا يزال تحريم هيروشيما صامدا.
والآن فيما يتعلق بالذكاء الاصطناعي يبدو أن لدينا عشرة مشاريع منفصلة من منهاتن تديرها شركات ضارية التنافس، وخلافا للأسلحة النووية، ما من منطق واضح «لدمار مضمون للجميع» حتى يروِّض التنافس الجيوسياسي الضاري بين الولايات المتحدة والصين. ومهما يكن شكل كارثة الذكاء الاصطناعي الكبيرة الأولى فإنها لن تؤثر على جميع البلاد والشركات والشعوب بالقدر نفسه.
لذلك يبدو مستبعدا أن تكفي كارثة واحدة لردنا نحن البشر إلى صوابنا؛ فنعمل معا من أجل السيطرة على القوة فوق البشرية التي نخلقها. وعلى كراهة شديدة أتساءل: هيروشيما ذكاء اصطناعي؟ وعلى كراهة شديدة أجيب: ليتنا نحظى بهذا الحظ السعيد.