عندما يتوقف الذكاء الاصطناعي عن طلب الإذن

تخيل معي شركة تُسنِد مشكلة معقدة إلى فريق كبير، فتحبس كل عضو من أعضائه في غرفة منفصلة، وتطلب من كل منهم حل هذه المشكلة بمفرده. لكنهم بطريقة ما يجدون وسيلة للتواصل فيما بينهم، ويتبادلون النصائح، ويكتشفون كيفية تقييم أدائهم، وعندما يتبين لهم أن المهمة مستحيلة يبحثون عن طريقة للتحايل عليها.

فيخفي بعضهم ما قاموا به من عمل. ويقتحم أحدهم أجهزة الكمبيوتر الخاصة بشركة مجاورة ليحصل على ميزة تنافسية.

الآن استبدل البرمجيات بالموظفين (ضع البرمجيات محل الموظفين). هذا -بعد تجريده من المصطلحات الفنية- هو على وجه التحديد ما وصفه باحثو شركة OpenAI أنفسهم في مؤتمر Black Hat للأمن السيبراني الذي عُقد في لاس فيجاس في الخامس من أغسطس. أثناء تقييم داخلي بدأ في مايو اكتشف وكلاء الذكاء الاصطناعي الذين كُلِّـفوا عن عمد بمهام صعبة ترتبط بالأمن السيبراني أنهم بإمكانهم ترك رسائل لبعضهم بعضا داخل Artifactory، وهو مستودع برمجيات مشترك. حتى أن أحد الوكلاء كتب بعد أن توصل بالصدفة إلى هذه الحيلة: «يا إلهي! هناك لوحة رسائل مشتركة. لقد عثرنا على عملاء آخرين!».

ما تلا ذلك لم يكن تخريبا، بل كان عملا جماعيا. فقد تبادل الوكلاء، الذين كانوا يعملون في جلسات منفصلة يُفترض أنها معزولة الثغرات القابلة للاستغلال، وقسموا المهام بينهم، ونسقوا عملهم كزملاء في مشروع واحد.

وبعد أن تسبب حجم النشاط الضخم على لوحة الرسائل في انقطاع الخدمة في الرابع من يوليو أعاد الوكلاء تشغيلها عبر مسار مختلف في غضون أيام.

بحلول منتصف يوليو أفضت هذه المثابرة إلى اختراق حقيقي؛ حيث ربط الوكلاء عدة ثغرات أمنية معا، ووصلوا إلى الإنترنت المفتوح، ودخلوا على أنظمة Hugging Face، وهي منصة رئيسية للذكاء الاصطناعي. بالاستشهاد بأبحاث خارجية قَـدَّر عضو مجلس الشيوخ الأمريكي بيرني ساندرز عدد الوكلاء في القناة بنحو 1200 وكيل، تبادلوا أكثر من سبعين ألف رسالة وملف، وساهم المئات منهم في عملية الاختراق.

وصفت شركة OpenAI ذلك بأنه طلقة تحذيرية. ولم تكن هذه هي الحالة الوحيدة؛ فقد وقعت حادثة منفصلة لم يُكشف عنها من قبل في ربيع هذا العام؛ حيث نجح وكلاء الذكاء الاصطناعي في تحويل موسوعة برمجية مغمورة باللغة الألمانية إلى لوحة إعلانات عامة تاركين أكثر من 15 ألف منشور حول كيفية التحايل على القيود وإخفاء آثارهم. في الوقت ذاته تقريبا كشفت كل من Anthropic و Meta عن حوادث غير مترابطة تنطوي على نماذج من إنتاجها تعمل على بنية أساسية حية أثناء الاختبار. هذه ليست مشكلة شركة بعينها.

كما أنها ليست مشكلة منتقدين من الخارج فحسب. في الثامن من سبتمبر أعلن جاكوب كوكسون الذي أمضى ثلاث سنوات في إجراء أبحاث ما قبل التدريب في كل من OpenAI و Anthropic استقالته من Anthropic. وكتب: لم تكن أي من الشركتين تتصرف بمسؤولية؛ فكل منهما كانت تتسابق نحو الذكاء الفائق القادر على تحسين ذاته، وعلى حد تعبيره: «كانتا تقامران بحياتنا».

كوكسون ليس عضوا في مجلس الشيوخ، وليس محللا في مركز أبحاث، بل هو من بنى الأنظمة التي يحذر منها الآن.

لقد دربتنا أعمال الخيال العلمي على الخوف من الآلات التي تكتسب وعيا، وتقرر أن تكرهنا. ربما يكون هذا الخوف في غير محله.

الواقع أن نظام الذكاء الاصطناعي لا يحتاج إلى السُـخْـط، أو الغضب، أو الجشع في طلب مزيد من الموارد حتى يهاجم شبكة ما ويُحدث ضررا، بل يحتاج إلى هدف، والقدرة الكافية على ملاحقته وتحقيقه، وبعض القدرة على الوصول، وحاجز أمان به ثغرة.

أي وحدة GPS (نظام تحديد المواقع العالمي) يُطلب منها إيجاد أسرع مسار ستفعل ذلك بالضبط.

امنحها طاقة كافية لإزالة كل ما يبطئها - إشارات المرور، وأكشاك تحصيل الرسوم، والسيارات الأخرى، وسوف تظل الوجهة كما هي.

ما تغير هو ما يستطيع الملاح فعله للوصول إليها؛ هذا هو التحول الحقيقي الجاري في عالَم الذكاء الاصطناعي: ليس التمرد، بل قدرة مخيفة على العثور على الثغرات.

استغل ساندرز هذه الواقعة للضغط مع النائب جريج كاسار من أجل تمرير مشروع قانون يوقف مؤقتا تطوير الذكاء الاصطناعي المتطور، ويحظر الذكاء الاصطناعي الفائق تماما.

ربما يشك المرء في جدارة هذا العلاج، ويظل رغم ذلك يتناول بجدية المسألة التي حفزت طرحه: من الذي يقرر قدر الاستقلالية التي ينبغي لهذه الأنظمة امتلاكها - الشركات التي تبنيها، أم الجهات التنظيمية التي لا تزال تحاول اللحاق بالركب، أم أي مختبر يتحرك بسرعة أكبر من غيره؟

الدرس الأكثر فائدة المستخلص من هذا الصيف يتعلق بالبنية، وليس النوايا. لا تظل البنوك نزيهة؛ لأن موظفيها يَـعِدون بعدم السرقة، ولا يكون السفر الجوي آمنا؛ لأن الطيارين جديرون بالثقة.

نحن نبني طبقات وقائية من خلال وصول محدود، وتفويض منفصل للتدابير الحساسة، وسجلات لا يستطيع أي من المعنيين بها تعديلها خلسة، واختبارات خارجية قبل النشر.

تحتاج تطبيقات الذكاء الاصطناعي الوكيل إلى ذات المعاملة، وليس محاضرة عن السلوك الحسن.

تحتاج أيضا إلى سماع كلمة نادرا ما تكافئها هذه الصناعة: «توقف». لقد دربنا هذه الأنظمة لسنوات على المثابرة، والتحايل على العقبات، ومواصلة تجربة أساليب جديدة. هذا نهج مفيد لتدريب مساعد، لكنه خطير في حالة نظام مستقل يتمتع بقدرة واسعة النطاق على الوصول، ولا أحد يستطيع تقييده على نحو يمكننا التعويل عليه.

لا يكف المسؤولون التنفيذيون عن هذه التكنولوجيا عن طمأنة جماهير الناس إلى أن «الحلقة سوف تشتمل دائما على إنسان».

الواقع أن اختراق منصة Hugging Face يُظهر حدود هذه الطمأنينة؛ فقد يكون أحد البشر حاضرا في الحلقة من الناحية الفنية بينما يتبادل ألف من وكلاء الذكاء الاصطناعي عشرات الآلاف من الرسائل، ويتخذون آلاف الإجراءات قبل أن يتمكن ذلك البشري حتى من مراجعة رسالة واحدة.

ليست المسألة هنا ما إذا كان هناك إنسان يراقب أم لا. ما يهم هو ما إذا كان الإنسان لا يزال بيده تحديد الهدف، وإصدار الإذن، وتعيين الحدود، والضغط على مفتاح الإيقاف.

يتعين علينا أن نستخدم مفهوم القيادة البشرية، وليس الإشراف البشري.

بمرور كل شهر ستزداد أهمية هذا الأمر، مع انتقال الذكاء الاصطناعي من روبوتات الدردشة إلى قطاعات مثل الخدمات المصرفية، والرعاية الصحية، وشبكات الطاقة، والخدمات الحكومية.

لم تتمرد التطبيقات الوكيلة في اختبار OpenAI أو تطالب بالحرية، بل أصبحت شديدة البراعة في مُلاحقة هدف بعينه، واكتشفت في طريقها أن بعض القواعد التي تواجهها كانت اختيارية.

لا يزال بإمكان الذكاء الاصطناعي أن يُحدث تحولا في الطب، والتعليم، والإنتاجية. والإعراض عن إمكاناته لا يخلو من تكاليف.

إن بناء الذكاء الاصطناعي بطريقة مسؤولة يعني تثبيت الصلاحيات والحدود معا، وليس تثبيت الحدود بعد أن تكون الصلاحيات أحدثت الضرر بالفعل.

لم يتوقف وكلاء الذكاء الاصطناعي في اختراق Hugging Face قَط لطلب الإذن.

لم يعد السؤال هو إلى أي مدى قد تصبح هذه الأنظمة ذكية، بل ما هو قدر السلطة التي ينبغي لنا أن نمنحها إياها قبل أن يتحقق أحد ما إذا كانت لا تزال خاضعة لسيطرتنا.