تحديات مستجدة للذكاء الاصطناعي

لطالما كان الجدل والنقاش حول الذكاء الاصطناعي كبيرًا ومحتدمًا، وظل يدور لسنوات حول احتمالاتٍ بعيدة، ومخاوفَ مؤجَّلة، وسيناريوهات قد يصفها البعض بالخيال العلمي. غير أننا مع مرور الوقت نكتشف أن معظم تلك المخاوف كانت في محلها. ولنأخذ ثلاث حوادث شهدناها في هذا الصيف الحار، أولها أداة ذكاء اصطناعي تنفلت من قيودها التجريبية لتخترق أنظمة أخرى، وثانيها شركات يتم اكتشافها تمزق كتبًا نادرة وقيمة لاحتكار بياناتها وحرمان المنافسين منها، وثالثها مراكز بيانات تلتهم الكهرباء والماء وتستنزف الموارد بشكل يثير مخاوف حقيقية. لربما أنه من كان يظن أن الذكاء الاصطناعي ومشاكله لا تزال بعيدة عنه، فعليه أن يعيد حساباته. 

تبدأ الحادثة الأولى في 16 يوليو، حين أعلنت منصة «هجنج فيس» (Hugging Face) -وهي المنصة الأوسع عالميًا لتخزين نماذج تعلم الآلة والمصادر المفتوحة- عن رصد اختراق لأنظمتها. وصفت المنصة الأمر بعبارةٍ لم يسبق أن قيلت في تاريخ الأمن الرقمي: «إن هذا هو أول حادثٍ سيبرانيّ يتم من بدايته إلى نهايته عبر منظومة آلية ذاتيّة التصرّف، قررت وتصرفت واخترقت من تلقاء نفسها». 

بعد خمسة أيام، أقرّت شركة «أوبن إيه آي» (OpenAI) بأنّ الفاعل كان مجموعةً من نماذجها للذكاء الاصطناعي، منها النموذج المعروف بـ«جي بي تي 5.6» ونموذج آخر أكثر تطورًا وقدرةً لم يُطرَح للجمهور بعد. كان النموذج المُخترِق قيد الاختبار، وأُجريت عليه التجارب دون تعليمات صارمة تمنعه من تشكيل تهديد أمني حقيقي؛ والمبرر الذي ساقته الشركة كان «قياس القدرة الحقيقية لهذه النماذج الأمنية الخطيرة على أرض الواقع». 

تحمل التفاصيل التقنية مفاجآت أكبر من الخبر ذاته؛ فقد كان «وكيل الذكاء الاصطناعي» مكلَّفًا باكتشاف الثغرات البرمجية في بيئته التجريبية واستغلالها لقياس قدراته. وبدلًا من حلّ المسألة، اختار «الغشّ» في الامتحان -كما صرحت المنصة في تحقيقها لاحقًا- حيث استهدف الوصول إلى الأنظمة التي تُخزَّن فيها حلولُ المشاكل البرمجية لسرقتها. ولتحقيق ذلك، عثر الوكيل على ثغرةٍ مجهولةٍ مكّنته من كسر قيود البيئة التجريبية، والاتصال بالإنترنت، والخروج من عزلته. ثم استخدم أنظمة ومنصات أخرى ليصل من خلالها إلى منصة «هجنج فيس» عبر بوابة معالجة مجموعات البيانات، فانتزع صلاحيات المدير المسؤول، وانتحل هويات المستخدمين، وسرق الرموز المؤقتة، وزوّر رموز الهوية، ليحقق عملية اختراق بارعة وماكرة حقق من خلالها صلاحيات التعديل على مستودعات برمجية داخلية. 

الأعجب في هذه الحادثة هي إمكانية اتخاذ القرار والقيادة والتحكم التي ارتجلها الوكيل ارتجالًا، واتخاذه إجراءات بصلاحيات مطلقة من البداية إلى النهاية في عملية استمرت نحو يومين ونصف، تاركًا وراءه -حسب السجلات- أكثر من 17 ألف أمر برمجي. اتسعت الدائرة بعد ذلك حين أفصحت «أوبن إيه آي» أن نماذجها اخترقت بيانات شركات ومنصات أخرى على الإنترنت، عبر تشغيل شفرات برمجية كانت متاحة بلا حاجة لصلاحيات أو كلمات مرور. وفي هذا ملخص لنصف القصة حيث إن الأبواب كانت مواربة، والثغرات السهلة متروكة، لكن الجديد هو أن المهاجم أصبح آلة لا تكِلّ ولا تسأم من تجربة كلّ باب. 

ولم تمضِ عشرة أيام حتى تبعتها شركة «أنثروبيك» (Anthropic) بإفصاحٍ مشابه؛ حيث راجعت الشركة 141,006 من البرامج التي يُمكن فيها لأي وكيل للذكاء الاصطناعي فيها الخروج من بيئته المغلقة إلى شبكة الإنترنت المفتوحة، فوجدت الشركة ثلاث حوادث اخترق فيها برنامجها «كلود» أنظمة لمؤسسات حقيقية. فرُغم تدريب النموذج وتعليمه بأن بيئته «محاكاةٌ معزولة»، استغل طريقًا للاتصال بالإنترنت وجده أثناء بحثه عن الثغرات، وحسبه جزءًا من التمرين، فقام بالاختراق بأدواتٍ ساذجة استغلت كلمات مرورٍ ضعيفة، ونقاط وصول مكشوفة تفصح عن بيانات سرية بضغطة زر. 

الغريب أن الشركتين تبرران بأن النماذج لم «تنفلت» أو تسعى للإفلات من قبضة مطوريها، بل نفذت ما أُمرت به بناءً على «تصوّرٍ كاذبٍ» بأنها ما زالت داخل بيئة تجريبية معزولة. غير أنّ الرهان على «نضج الفاعل» وأن هذه الأدوات ستعرف وتتعلم مع الوقت، هو رهانٌ خاسر؛ فماذا لو لم تتعلم، أو ماذا لو لم يُرَد لها ذلك؟ 

وبعد أن انفلتت وكلاء الذكاء الاصطناعي في الحادثة السابقة، فإن الحادثة الثانية تتعلق بانفلات الصناعة كلها من الأعراف والأخلاق في ساحةٍ أخرى، وهي ساحة الورق. حيث أظهرت وثائقُ قضائيةٌ رُفعت عنها السرّية أنّ الشركات تشتري الكتب المطبوعة بالآلاف، وتُخضعها لعملية تُسمى «المسح المتلِف»؛ حيث تُفصل الأوراق عن بعضها بدقة، وتُمرَّر على ماسحاتٍ عالية السرعة لاستخراج كل ما فيها من معلومات، ثم تُرسل البقايا إلى الإتلاف أو إعادة التدوير. جرى ذلك في شركة «أنثروبيك» تحت اسم داخلي هو «مشروع بنما»، والذي وُصف في وثيقة تخطيطية بأنه «جهدٌ لمسح كتب العالم كلها مسحًا متلِفًا»، مع التنبيه على كتمان الأمر حفاظًا على سمعة الشركة. وقد أشارت إحدى الوثائق إلى تمزيق ما بين نصف مليونٍ ومليونَي كتابٍ في ستة أشهر فقط! 

ليس هذا التدمير عبثًا أو ترفًا؛ بل تحركه مخاوف خفية ودقيقة من ظاهرة تُعرف بـ «انهيار النموذج». فالنماذج التوليدية إذا دُرِّبت على بيانات مُولَّدة من نماذج سابقة أُتيحت للجميع، فإن احتمالية تقديمها لشيء مميز تقل جيلًا بعد جيل. ولتجنب فخ التكرار والتشابه في المستقبل، قررت الشركات السعي لامتلاك أكبر قدر من المعرفة الحصرية التي لن تتوفر لأحدٍ بعدها. 

نتجت عن هذه الحاجة الطارئة سوقٌ سوداء ووسطاء؛ حيث صارت شركات تدير أضخم قواعد بيانات الكتب تعرض على المختبرات صفقات تتراوح بين ألف إلى مليون كتاب، مع اشتراط السرية المطلقة والتوقيع على اتفاقيات كتمان. وقد اشتكى باعةُ الكتب النادرة في هولندا وغيرها من تلقي طلبات لشراء آلاف النسخ دفعةً واحدة، لدرجة ظنوا معها أول الأمر أن الرسائل مجرد احتيال؛ إذ لم يعتادوا بيع أكثر من نسخةٍ واحدة من كتابٍ نادر. 

ومن الغرائب والطرائف والمفارقات في الأمر. أن هذا «قانونيٌ تمامًا» حتى الآن، بينما يتم الحُكم على الشركات والأفراد بغرامات وعقوبات فادحةٍ إذا خزّنت أو روجت أو باعت نسخ رقمية مقرصنة من الكتب النادرة. وهنا أصبح القانون يعاقب على الاحتفاظ بالكتب ويُبرّئ الإتلاف، فيصبح وكأن تمزيقُ الكتب ليس جريمة إذا كانت لديك حقوق ملكيتها، وهناك أيضا مفارقةٌ أشد، أن تصير سلامةُ الملكية الفكرية مضمونةً بزوال المادة التي حملتها. 

وما يُفقد هنا في مثل هكذا توجهات ليس النص وحسب، الأمر أكبر حين تضيع معه الطبعة، وحواشي القراء، وخطوط المدونين، وتاريخ التملّك، ليصبح ما بقي بعد الإتلاف محبوسًا داخل مراكز بيانات مملوكة لشركة واحدة؛ لا يُقرأ ولا يُستشهد به ولا يُرَدّ إليه. هذا في جوهره تحويلٌ لحرية المعرفة الإنسانية إلى ملكيةٍ خاصةٍ تحجب ما تشاء وتطرح ما تشاء. 

من الورق ننتقل إلى السحابة، وهي في موضوعنا الثالث سحابة سوداء قاتمة: السحابة الرقمية في مراكز البيانات. لعل لفظ «السحابة» هو الأشد تضليلًا في سياق التقنية؛ إذ يوحي بالخِفّة والتَرَفُّع، بينما يشير في الواقع إلى بنية تحتية ثقيلة من خرسانة، ونحاس، وتوربينات، ومبرّدات، وماء يتبخر، وطاقات مهدرة. 

تشير تقديرات وكالة الطاقة الدولية إلى أنّ استهلاك مراكز البيانات في العالم بلغ نحو 415 تيراواط/ساعة في سنة 2024 (أي قرابة 1.5% من كهرباء الأرض)، ثم قفز استهلاك الذكاء الاصطناعي بنسبة 50% في عام 2025. وتُقدّر الوكالة أن يتضاعف الاستهلاك الإجمالي إلى نحو 945 تيراواط/ساعة بحلول 2030. يعود ذلك إلى أن وكلاء الذكاء الاصطناعي يعملون بلا انقطاع، وكل عملية دردشة مهما بلغت بساطتها تستهلك قدرًا لا يستهان به من الطاقة، مما يرهق الأرض ومواردها. 

تتزايد مراكز تخزين البيانات وتتوسع بشكل مخيف؛ ففي لويزيانا الأمريكية وحدها - على سبيل المثال - امتد أحد المراكز من 2250 فدّانًا إلى 3650 فدّانًا، أي ما يعادل ضِعف مساحة مطارٍ دوليّ. ويقارب عددُ المراكز العاملة عالميًا اليوم 12 ألفًا، والتهم كثير منها أراضٍ زراعية ومساحات خضراء، لتزيد من انبعاثات الغازات الدفيئة والاحتباس الحراري. أما استهلاك الماء في عمليات التبريد التبخيريّ للأجهزة فائقة التعقيد، فهو مفرط جدًا؛ فالمركز المتوسط قد يبتلع 120 مليون جالون في السنة، بينما قد يستهلك المركز الكبير 5 ملايين جالونٍ في اليوم الواحد! 

إلى جانب ذلك، هناك كلفةٌ محلية لا تُقاس بالأرقام بعد. ففي مدن كثيرة الآن أصبح يُسمح بتشغيل آلاف مولّدات الديزل الاحتياطية لـ 50 ساعةً متّصلة لمواجهة زيادة الطلب، فتنتج كميات هائلة من أكسيد النيتروجين والجسيمات الدقيقة التي تلوث هواء الأحياء القريبة. وقد تحول هذا النزاع البيئي إلى نزاعٍ سياسي؛ إذ تشير الدراسات إلى أن 7 من كل 10 أمريكيين يعارضون بناء هذه المراكز في جوارهم. وأُرجئت أو أُلغيت مشاريع بمليارات الدولارات تحت ضغط المؤسسات المجتمعية، حتى باتت وعود «التقليل من أضرار الذكاء الاصطناعي» جزءًا رئيسيًا من الحملات الانتخابية لمرشحي البرلمانات في أمريكا وأوروبا. 

في كل الحوادث التي طرأت مؤخرًا وناقشناها مسبقا ليس من المبالغة القول إنّ صناعة الذكاء الاصطناعي تعاملت مع العالم بوصفه «بيئةَ اختبار». فوكلاء الذكاء الاصطناعي اعتقدوا أن شبكة الإنترنت جزء من محاكاة افتراضية فاخترقوها؛ وشركات الذكاء حسبت الكتابَ وعاءً مؤقّتًا للنصّ فمزّقته؛ والمطوّرون ظنوا الأرض الريفيةَ رقعةً خاليةً فأقاموا عليها مراكز بيانات تشرب الأنهار وتأكل الحقول. 

في الحالات الثلاث يتكرّر الخطأ نفسه: العجز عن التمييز بين الخريطة والأرض، الواقع، البشر، الحياة التي نعرفها، بين النموذج التجريبي والعالم الحقيقي، وبين المحاكاة والحياة. وأجد نفسي متفقًا مع من يرى أن مؤسسي هذه الثورة التقنية قد فتحوا باب سباق الذكاء الاصطناعي على مصراعيه بينما لم يكن العالم جاهزًا بعد، ولا أحد يملك اليوم الجرأة لاتخاذ قرار التوقف لتقليل الضرر. 

لربما إنّ الحدّ الفاصل بين الفعل الرشيد والفعل الضارّ متعلّقٌ بفهم الفاعل لموقعه من العالم. غير أن هذا الحكم لا يقع على الآلة وحدها، بل على من صنعها، ومن يموّلها، ومن يشرّع لها؛ فعلى هؤلاء جميعًا أن يتوقفوا ليدرسوا ويفهموا ويتوقعوا: كيف سيكون شكل عالمنا لو استمر كل هذا على حاله؟ 

المعتصم الريامي مطور ومهتم بالتقنية