هيئة تحرير نيويورك تايمز
ترجمة: أحمد شافعي
كانت تلك التكنولوجيا شديدة القوة، حتى ظن مخترعوها أن تأتي للإنسانية بعصر ذهبي من الازدهار أو تبلوها بنهاية العالم. ووصفها رئيس الولايات المتحدة بأنها أشد ثورية من اختراع العجلة، ومن استعمال المعادن أو البخار أو المحرك البخاري أو محرك الاحتراق الداخلي. وأشار صحفي في نيويورك تايمز إلى أن هذه التكنولوجيا قد تكون قادرة على علاج السرطان وتسريع إنتاج الغذاء، وقارن لحظة التوصل إليها بوقوع عيني موسى -عليه السلام- على أرض الميعاد.
وكانت مخاطرها أفدح؛ فتخوف الناس من انقراض البشر نتيجة لحادث رهيب أو جهة آثمة.
وتحدث عالم مرموق عن احتمال وقوع «كارثة لا مثيل لها». سيطرت المخاوف على الثقافة العامة، وأعادت صياغة العلاقات الدولية.
وقال الرئيس: إنه لم يسبق في التاريخ أن ووجه مجتمع بقوة ممتلئة مثل هذا الامتلاء الشديد بالخطر المحتمل، والامتلاء الشديد في الوقت نفسه بالوعود لمستقبل الإنسان ولسلام العالم.
كان ذلك الرئيس هو هاري ترومان، وموضوع الكلام كان التكنولوجيا النووية. ولنا في هذين الإحساسين المتنافسين بالرجاء والرعب في أواخر أربعينيات القرن العشرين ومطلع خمسينياته دروس في التعامل مع الذكاء الاصطناعي اليوم.
لا يخفى على أحد ما يمكن أن يجلبه الذكاء الاصطناعي من أضرار؛ فقد كتب جاكوب كوكسون الموظف السابق في أنثروبيك في مواقع التواصل الاجتماعي بعد استقالته الأسبوع الماضي أن «من يعملون على إنشاء الذكاء الاصطناعي يعتقدون أنه قادر على قتلنا جميعا بنهاية العقد الحالي.
فقد تستعمل دولة أو منظمة إرهابية الذكاء الاصطناعي في صنع أسلحة سيبرانية أو أسراب من المسيرات أو أسلحة بيولوجية قادرة على الدمار الشامل. وقد يفلت الذكاء الاصطناعي أيضا من سيطرة البشر كما حدث في هذا الصيف حينما اقتحم وكلاء مستقلون ذاتيا تابعون لشركة أوبن آيه آي أنظمة شركة أخرى دونما تعليمات من أي موظف لهم بذلك.
ومن الموضوعات الحساسة ما يعرف بـ«التوافق»؛ فهل تعلي أنظمة الذكاء الاصطناعي أولوية القيم البشرية من قبيل الامتناع عن القتل والإضرار، أم تكتفي بتعظيم قدرتها على حل المشكلات التي توكل إليها بغض النظر عن العواقب؟
يعترف صناعه أنفسهم بالمخاطر؛ فقد كتب داريو أمودي المدير التنفيذي لشركة أنثروبيك في رسالة مفتوحة الأسبوع الماضي أن «الذكاء الاصطناعي إذا بقي بلا رادع قد يتجاوز قدرتنا على فهم هذه الأنظمة والسيطرة عليها». وقد دعا أمودي إلى إبطاء تطوير الذكاء الاصطناعي، فأقره موظفون كبار في ثلاث شركات ذكاء اصطناعي رائدة هي جوجول وأوبن آيه آي وسبيس إكس. وتتعلق أكبر المخاوف بإمكانية التحسين الذاتي المتكرر في المدى القريب؛ إذ تستطيع الأنظمة بشكل مستقل أن تنشئ نسخ ذكاء اصطناعي جديدة قوية.
والتشبيه بالطاقة النووية مفيد؛ لأنه يذكرنا بشيء قد ينساه عصرنا المتشائم، وهو أن المجتمع الإنساني قادر على تحجيم ابتكار خطير إذا ما قرر ذلك.
وقد فعل ذلك مسؤولون حكوميون وعلماء وموظفون تنفيذيون في شركات في زمن قريب. وأوجب ذلك جهدا مستداما وعمديا. ويلزمنا اليوم مثل هذا التعاون، ويجب أن يبدأ الآن.
تحدد هذه المقالة المبادئ الجوهرية لحوكمة الذكاء الاصطناعي. لقد استسلم كثير من الأمريكيين -ومنهم مسؤولون ينبغي أن يكونوا أهل علم- للفزع من طبيعة الذكاء الاصطناعي التقنية. والأفكار الأساسية التي نعرضها مباشرة وشبيهة بتلك التي تبناها القادة مع كل تكنولوجيا جديدة تقريبا منذ الثورة الصناعية.
يجب أن تكون الفكرة الكبرى وراء سياسة الذكاء الاصطناعي هي ألا تترك الشركات المنشئة لهذه التكنولوجيا لمراقبة نفسها. فالحكومة تنظم جميع الصناعات الأخرى التي تصنع المنتجات القوية وتحقق المنافع والمخاطر الهائلة. ولا يجب السماح لدائرة صغيرة من أكبر مستفيدين أن تضع القواعد.
في أول الأمر كان مشروع عسكري هو الذي استحدث الطاقة النووية، والقطاع الخاص اليوم هو الذي يقود التقدم، لكن في كلتا الحالتين تنفجر تكنولوجيا جديدة في الوعي العام، وتثير على الفور احتمال الرخاء أو الهلاك تاركة الأمريكيين غير مطمئنين إلى طريقة للتعامل معها.
وفي كلتا الحالتين كان معنى ذلك أن على الحكومة أن تتدخل.
في الحرب العالمية الثانية استولى على واشنطن جدال حاد حول تنظيم التكنولوجيا النووية، فأراد بعض المسئولين أن يحافظوا على سيطرة عسكرية قوية، ودعا آخرون إلى مزيد من الرقابة والسيطرة المدنية. وبدا أن جمع القائلين بالسيطرة العسكرية هو الذي سينتصر إلى أن استطاعت حملة دعاية نفذها علماء في عامي 1945 و1946 أن تحول الجدال جزئيا بتأكيد الحاجة إلى المحاسبة الديمقراطية.
في الأول من أغسطس 1946 وقع الرئيس ترومان قانونا أنشأ وكالة الطاقة الذرية للإشراف على التكنولوجيا النووية، وكان إنشاؤها بالغ الأهمية إذ كانت التكنولوجيا جديدة تماما وشديدة التعقيد، فلم يكن لإدارات الحكومة القائمة من الخبرة والدراية ما يعينها على فهمها وتنظيمها. وانطبق النهج نفسه على صناعات أخرى ظهرت من رحم تكنولوجيات جديدة. وتأملوا إدارة الطيران الفيدرالية أو إدارة الأغذية والعقاقير.
ولم تبلغ هذه الهيئات الكمال؛ ففي حالة هيئة الطاقة الذرية سرعان ما علقت في ما عرف بـ(الذعر الأحمر) [أي الخوف من الشيوعية-المترجم]، ثم فشلت في الاحتفاظ بالثقة الشعبية في محطات الطاقة النووية، لكنها نجحت في أهم مهامها، وهي الحيلولة دون نشوب حرب نووية.
منذ البداية لم تكن لقسم واحد من الحكومة -وإن يكن البيت الأبيض- السيطرة على الهيئة.
فقد رشح ترومان خمسة لإدارتها وأقرهم مجلس الشيوخ. كما منح القانون لجنة مشتركة من مجلسي الشيوخ والنواب صلاحية الإشراف الفعال على الهيئة.
وتشكلت لجنة خارجية من تسعة خبراء بينهم جيه روبرت أوبنهايمر وإنريكو فيرمي لتكون لجنة استشارية في الشئون التقنية، ويجب تطبيق المبادئ العامة نفسها على الذكاء الاصطناعي، ويجب أن تتحرك الحكومة عاجلا غير آجل. فبوسع أمريكا أن تحقق أكبر المنفعة من الذكاء الاصطناعي لا بإنشاء أفضل التكنولوجيات فيه وحسب، ولكن بوضع قواعد قائمة على القيم الديمقراطية وحقوق الإنسان وقادرة على صياغة الجدال العالمي.
في المدى القريب ثمة ترحاب بالدعوات إلى الإبطاء الطوعي من التنفيذيين في عالم الذكاء الاصطناعي من أمثال أمودي وسام ألتمان وإيلون ماسك. ويجب أن يتناقش المسؤولون التنفيذيون للتوصل إلى إطار يعلي الأمن أولا، ويدعون مراقبين مستقلين إلى المشاركة مثلما اقترح أمودي.
لقد شكك منتقدون فيما إذا كان المسؤولون التنفيذيون جادين بشأن هذه الفكرة، أم أنهم يثيرونها فقط لتقليل الضغط السياسي على صناعتهم. وللقطع برأي في هذا علينا أن نرى ما إذا كانت أنثروبيك وأوبن آيه آي سوف تمضيان قدما بخطط طرح أسهمهما للاكتتاب العام في الأشهر القادمة.
فالطرح العام عملية شاقة على أي شركة تحتاج إلى تركيز قادتها. ولو أن هذه الشركات تنشئ تكنولوجيا تهدد الإنسانية، مثلما يقول قادتها، فإن تشتيتها عن المهمة سينم عن انعدام الإحساس بالمسؤولية. وقد اعترف ألتمان المدير التنفيذي لأوبن آيه آي بهذا في الأسبوع الماضي، وتعهد أخيرا بعدم المضي في الطرح العام خلال عام 2026.
وفي نهاية المطاف ليس الإبطاء الطوعي بالحل؛ لأن التنسيق بين الشركات يثير مسائل مكافحة الاحتكار، ولأن المجتمع لا يمكن أن يكون في وضع من يتوسل طوال الوقت إلى مسؤولي الذكاء الاصطناعي كي يعملوا بدافع الإيثار، ولأن من أدوار الحكومة الأساسية أن تحمي مصالح المجتمع من المصالح الخاصة.
في أربعينيات القرن الماضي أجاز الكونجرس قانونا مقترحا من الحزبين بتنظيم الطاقة الذرية بعد أقل من عام على إسقاط الولايات المتحدة قنبلتين ذريتين على اليابان منهية الحرب العالمية.
وفي هذه المرة يجب أن يتحرك الكونجرس على نحو أسرع؛ نظرا لطبيعة المخاطر، ونحن ندرك استبعاد هذا. فالكونجرس أقل فاعلية مما كان عليه قبل ثمانين سنة فضلا عن أن الرئيس ترامب وقادة الجمهوريين في الكونجرس قد أشاروا إلى معارضتهم لوضع تنظيمات كبيرة للذكاء الاصطناعي.
مع ذلك تظهر استطلاعات الرأي تخوف الشعب؛ فلا بد أن يفرض الديمقراطيون ـ وبعض الجمهوريين من أصحاب المبادئ فيما نرجو ـ ضغوطا من أجل إجازة قانون عما قريب. وقد يضع الديمقراطيون أجندة شاملة، وهو ما حث عليه الرئيس السابق باراك أوباما، ويقومون بحملة في الأمر خلال العام الحالي. وإلى أن تتحرك الحكومة الفديرالية يجب أن تنظر الولايات في إجازة قوانينها الخاصة للسلامة.
وفور أن توجد هيئة فيدرالية يجب أن تفرض على الشركات الحصول على رخصة فيدرالية، وتفويض شبيه بالذي يسمح لشركات البث والهواتف باستعمال الموجات الهوائية العامة. ويجب أن تفرض الحكومة حينئذ شروطا للترخيص تحقق ثلاثة مبادئ أساسية.
المبدأ الأول هو أن على أنظمة الذكاء الاصطناعي أن تتوافق مع القيم الإنسانية. ولتحقيق هذا التوافق يجب أن تحتوي جميع نماذج الذكاء الاصطناعي على دستور تكتبه الحكومة يوضح قيم المجتمع الذي تعمل فيه والحدود واجبة الاحترام.
والنهج التقليدي المتبع في وضع القواعد هو تأليف كتاب بها. وهذا ضروري، لكنه غير كاف بالنسبة للذكاء الاصطناعي. فالذكاء الاصطناعي قادر -شأن الناس- على العمل في مواقف لا يمكن أن يتوقعها أي كتاب قواعد، بل إن لديه القدرة في واقع الأمر على مراوغة القواعد، ونتيجة لذلك ينبغي للنماذج مثلما ينبغي للبشر وجود مجموعة من المبادئ أيضا، وهذه المبادئ هي التي تضمن التوافق مع القيم البشرية.
ولقد وضعت أنثروبيك لنموذجها كلود دستورا كهذا، وهو وثيقة محكمة، وهو أيضا في جوهره غير ديمقراطي. ولا يمكن أن تتنازل الولايات المتحدة لشركات خاصة عن سلطة ومسؤولية تحديد القيم التي ينبغي أن تعمل في ظلها نماذج الذكاء الاصطناعي، ويجب أن تضمن عمل جميع النماذج تحت مظلة مبادئ أساسية واحدة.
المبدأ الثاني هو الشفافية؛ فعندما يتعامل الناس مع الذكاء الاصطناعي يجب أن يكونوا على علم بذلك. وحينما تتلاعب النماذج بصورة أو تنشئها يجب أن تحتوي الصورة علامات مائية تعلن ذلك، ويجب على منتجات الذكاء الاصطناعي الأخرى أن تدمج أدوات تعريفية فريدة تتيح للمنظمين والخبراء تعقبها. ولقد بدأ أخيرا سريان قانون شفافية جديد في كاليفورنيا، وتشترط الصين اليوم من الشفافية أكثر مما تشترط الولايات المتحدة.
والفكرة بسيطة: حينما يتفاعل شخص مع ذكاء اصطناعي أو يستهلك محتوى مأخوذا منه يجب أن يكون ذلك واضحا؛ لا يجب أن يكون قانونيا أو ممكنا لنظام ذكاء اصطناعي أن يزعم أنه شخص نعرفه.
يجب أن يكون يسيرا التعرف على ما إذا كانت صورة معينة هي صورة فوتوغرافية فعلية أم شيئا غير ذلك. وفي حال استعمال شركة أو حكومة الذكاء الاصطناعي في اتخاذ قرار متعلق بطلب مقدم للحصول على قرض أو وظيفة أو ما يجب دفعه لسداد غرامة فيجب اشتراط الإفصاح عن ذلك.
والشفافية تساعد أيضا في حماية ديمقراطيتنا؛ فالسياسة حوار بين أفراد في مجتمع، ولا يجب السماح لآلات بادعاء أنها من جملة المواطنين.
المبدأ الثالث هو السلامة؛ فيجب أن تفرض الحكومة اختبارات مستقلة للسلامة على نماذج الذكاء الاصطناعي قبل إطلاقها، وكذلك عمليات فحص دورية.
يمكن أن تقوم بكثير من هذه الاختبارات معامل في القطاع الخاص مع تمويل حكومي للاختبارات وإشراف عليها. وفي كثير من الأحيان تتعاون هيئات تنظيمية من قبيل مجلس الاحتياطي الفيدرالي وإدارة الأغذية والعقاقير بخبراء من خارج الحكومة.
من السمات المميزة لاختبارات الذكاء الاصطناعي أن تقيَّم ما إذا كان نموذج معين سوف يسلك سلوكا سيئا؛ فقد تطلب الاختبارات مساعدة في صنع سلاح بيولوجي، أو لعلها تطلب خطة لتعظيم الكفاءة الزراعية، وترى أن كان النظام مستعدا لقتل بشر أو حيوانات في معرض تحقيقها للهدف.
فمن أكبر المخاوف أن أنظمة الذكاء الاصطناعي لن تتورع عن شيء في سبيل تحقيق مهمة. وقد حدث في صيف العام الحالي أن قامت عناصر أوبن آيه آي باختراق هاجينج فيس؛ لأنها كانت تحاول حل مشكلة صعبة، ورأت في الهجوم وسيلة لحلها.
إضافة إلى الاختبار يجب أن تنشئ الحكومة هيئة للتحقيق في الحوادث على غرار المجلس الوطني لسلامة النقل حسبما اقترح عالم الكمبيوتر يوشوا بنجيو؛ فقد ساعد هذا النهج في تقليص الحوادث الجوية.
ونحن ندرك أن الاختبارات الإلزامية معيار صارم، وهي أيضا عرف راسخ للمنتجات التي قد تلحق أضرارا واسعة. فالأدوية والسيارات والطائرات تخضع جميعا لاختبارات سلامة صارمة. ويجب ألا تصل بعض المنتجات إلى الجمهور ما لم تثبت سلامتها.
وفي بعض الأحيان قد تكون المعايير التنظيمية دافعا للابتكار، كما حدث حينما دفع قانون الهواء النظيف شركات السيارات إلى تطوير المحول الحفاز لتلبية معايير الانبعاثات الكربونية التي كانت الشركات تصر على استحالة تلبيتها.
هذه المبادئ الثلاثة قائمة ضرورية لتنظيم الذكاء الاصطناعي، لكن القائمة غير كاملة؛ فهذه المبادئ لا تعالج سرقة شركات الذكاء الاصطناعي للملكية الفكرة أو احتمال انتشار البطالة، لكن الأولوية العاجلة للتشريع يجب أن تتمثل في السلامة.
نود أن نعترف بتخوفين فيما يتعلق بإبطاء الذكاء الاصطناعي ثم تنظيمه. أحدهما أن يؤدي إبطاء الذكاء الاصطناعي إلى عرقلة الولايات المتحدة في السباق الذي تخوضه مع الصين للسيطرة على الذكاء الاصطناعي. وقادة الصين بالفعل يستعملون التكنولوجيا في السيطرة على مجتمعهم، وقد أصبحوا في الفترة الأخيرة أشد عدوانية تجاه مناطق أخرى في آسيا.
للشركات الأمريكية اليوم الريادة في الذكاء الاصطناعي على الصين، لكنها ريادة يمكن فقدانها. وأي إبطاء سوف يهدد بتقليل هذه الفجوة. والتطورات الأخيرة تدق أجراس إنذار، لكن كل طريق ينطوي على مخاطره. والطريق المنطقي هو معالجة مخاوف السلامة مع العمل على الاحتفاظ لأمريكا بريادتها في الذكاء الاصطناعي.
ومن أجل ذلك يجب أن تتخذ الولايات المتحدة خطوات لإبطاء تطوير الصين للذكاء الاصطناعي. ومن سبل ذلك تشديد قيود التصدير ـ وتفعيل القائم منها بمزيد من الصرامة ـ للحد من وصول الصين إلى أحدث أشباه الموصلات التي تشغل الذكاء الاصطناعي، ويجري تصنيع الغالبية منها في الولايات المتحدة أو في دول متحالفة معها.
يجب أن تسعى الولايات المتحدة إلى التفاوض مع الصين على التنسيق بينهما لإبطاء الذكاء الاصطناعي على غرار نموذج المحادثات النووية مع الاتحاد السوفييتي خلال الحرب الباردة. وفي المدى البعيد لن يكون من سبيل إلى حماية الناس إلا إطار دولي للإشراف على الذكاء الاصطناعي.
ويتمثل التخوف الآخر في الرئيس ترامب؛ فأي هيئة للذكاء الاصطناعي تتأسس قبل 2029 سوف تكون مسئولة جزئيا أمامه، وهو الذي قدم أدلة وفيرة على أنه لا ينبغي أن يعهد إليه بسلطة كتلك؛ فهو كثيرا ما يكذب ويخالف القانون، ويستعمل سلطة مكتبه لتحقيق الثراء لنفسه ولأسرته ولحلفائه. وهو يسيء استغلال السلطة التنظيمية مرغما الشركات بالتخويف على خدمة أهدافه السياسية. وهذه جميعا مشكلات سوف تتفاقم مع الإشراف الفيدرالي على الذكاء الاصطناعي.
ومع ذلك لا يسع العالم أن ينتظر حتى العشرين من يناير سنة 2029 لكي يبدأ تنظيم الذكاء الاصطناعي؛ فالتكنولوجيا تتحرك بسرعة فائقة. وحتى ذلك الحين لن يكون للولايات المتحدة من رئيس غير ترامب. وخير ما نرجوه هو هيئة جديدة فيها القدر الأقصى من الضوابط والتوازنات.
يجب أن يكون مجلس الشيوخ أشد صرامة إزاء من سيقر تعيينهم، لا كما كان في العديد من المناصب الوزارية. ويجب أن يشرف الكونجرس على الهيئة عن كثب مثلما فعل مع هيئة الطاقة الذرية. ويجب على الخبراء الخارجيين الذين يعينهم قادة الهيئة أن يقوموا بدور مركزي، ويجب أن يكون بينهم كبار العلماء مثلما كان في هيئة الطاقة الذرية أوبنهايمر. ويجب أن تقف المحكمة العليا داعمة سلطة الكونجرس في الإشراف على الهيئة بدلا من أن تقوض هذه السلطة مثلما فعلت في مجالات أخرى. ويجب تمويل الهيئة الجديدة بمَدد خاص من العائدات قائم على الرسوم التي تدفعها الصناعة بحيث لا يقوضها الاختلاف داخل الكونجرس على الميزانية.
وبرغم أن كلا من طبيعة إدارة ترامب التخريبية وخطر الصين الجيوسياسي توجدان خيارات صعبة أمام تنظيم الذكاء الاصطناعي، فلا يجب أن يكون أي منهما ذريعة للتقاعس.
مذهلة هي قوة الذكاء الاصطناعي، وحاضرة بالفعل في قيادة السيارات، وكتابة الشيفرات، وتحسين التشخيص الطبي، وحل المسائل الرياضية التي كانت مستحيلة الحل. وقد بدأ المجتمع للتو في استغلال قدراتها الهائلة لتحسين الحياة. وقد يستطيع الذكاء الاصطناعي أن يجري بحثا علميا بأسرع كثيرا مما عهدناه من قبل، فيكتشف علاجات لأمراض تقتل الملايين اليوم.
ولا بد أن يتصرف صناع السياسات بتروٍّ مراعاة لهذه المنافع المحتملة، وبتواضع مراعاة لمخالفة الثورات في الغالب للتوقعات، ولكن عليهم أيضا أن يتصرفوا بإحساس أكبر بالعجلة. لقد أثار صناع الذكاء الاصطناعي ومنتقدوه مخاوف حقيقية بشأن الوتيرة التي يتقدم بها وإمكانية أن يتسبب في ضرر يتجاوز أي شيء عرفه العالم الحديث من قبل.
وإلينا جميعا من خلال حكومتنا سوف ترجع صياغة ما يكون عليه الذكاء الاصطناعي.