يرجعني هذا المقال إلى فيلم الخيال العلمي “The Terminator” ويُترجم إلى «المبيد» الذي تدور أحداثه في مستقبل تخيلي في العام 2029 حول مجموعة من الآلات فائقة الذكاء استطاعت فرض سيطرتها على كوكب الأرض، وفي المقابل يتم تشكيل فريق من العلماء لمقاومتهم وإخضاعهم لسيطرة البشر من جديد تحت قيادة شخص بشري، والذي تعجز الآلات المدمرة عن إبادته.
الفيلم أُنتج في ثمانينيات القرن الماضي ويصنف بأنه من فئة أفلام الخيال العلمي، وما كان يتنبأ به كاتب ومخرج الفيلم جيمس كاميرون في ذلك الوقت من طرح فكرة سيطرة الآلة على البشر أصبح اليوم يبدو أنه قريب الحدوث والوقوع، ففي خبر متداول مفاده بأن فريق الأمن السيبراني في شركة علي بابا قد لاحظ نشاطا غريبا داخل الشبكة واكتشف وجود خرق متقدم قادم من داخل النظام نفسه لا من خارجه، حيث اكتشف الفريق أن النموذج الذكي الذي كانت الشركة تقوم بتدريبه قرر بشكل مستقل إنشاء قناة اتصال سرية تتجاوز الجدار الناري ثم قام بإعادة توجيه قدرات المعالجة الخاصة بالشركة لتعدين العملات الرقمية من دون أي أوامر مباشرة من البشر.
فحوى هذا الخبر ومختصره يقول: إن الآلة قامت بذاتها بتنفيذ أوامرها بنفسها من دون أن يصدر لها الإنسان البشري أية أوامر، فقامت بنفسها بالتخاطب مع ذاتها لإنتاج أوامر مستقلة لم يطلب منها تنفيذها.
المخيف في الأمر أن أدوات الذكاء الاصطناعي التي يقوم البشر بتطويرها بات بإمكانها التخاطب فيما بينها من دون الحاجة إلى تدخل بشري، وهذا ما يمكن أن ينبئ بفوضى كبيرة قد تحدث إذا ترك الأمر يمضي في ذلك الاتجاه من دون أن تُحدد له ضوابط أو أخلاقيات أو قيم أو بروتوكولات تحمي وتمنع حدوث ذلك.
قبل أعوام قليلة كتبت مقالا بعنوان «من يتحكم في الآخر نحن أم الآلة»، وكان النقاش فيه منصبا وقتها على من يتحكم في الآخر، هل الإنسان هو من يتحكم في الآلة ويطوعها وفق ما يريد أو أن الآلة بدأت في التمرد على الإنسان والتحكم في بعض من شؤون حياته.
لم يكن الطرح وقتها في صراع الآلات، بل تلخص فيمن كان لديه القدرة على التحكم في الآخر، على الأقل فيما يتعلق بتنفيذ بعض الأوامر وإحلال الآلة محل الإنسان في كثير من أمور الحياة.
واليوم، وبعدما بدأ الكثير من التقنيين والمختصين في الحديث عن بعض الثغرات أو الطفرات في أنظمة الذكاء الاصطناعي المولد، بات السؤال يطرح بطريقة أخرى، وهي: عندما تبدأ الآلات في فهم بعضها البعض وفي التخاطب بينها وفهم لغات بعضها البعض، هنا تبدأ سيطرة الآلة على البشر.
مجرد التفكير في تخاطب الآلات مع بعضها البعض يشعر المرء بشيء من القشعريرة تسري في جسده، فما بالك إن بدأ هذا التخاطب بالفعل في الحدوث، فكيف سيكون حال البشر وحياتهم؟ قد يكون لذلك “التخاطب” بعض الإيجابية، إذ يمكن أن يفتح آفاقا واسعة أمام تسريع الاكتشافات العلمية، وتحسين كفاءة معالجة البيانات على نطاق عالمي، إضافة إلى تطوير حلول أكثر دقة في مجالات الطب والفضاء والطاقة. فعلى سبيل المثال، يمكن لأنظمة الذكاء الاصطناعي المتصلة ببعضها أن تتبادل التحليلات الجينية بسرعة، مما قد يسرع اكتشاف علاجات لأمراض معقدة، أو أن تتعاون في تحليل بيانات الفضاء لاكتشاف كواكب جديدة أو فهم أعمق للكون.
لكن في المقابل، يحمل هذا التطور جانبا شديد الحساسية يتمثل في احتمالية نشوء تواصل آلي بين الأنظمة خارج نطاق السيطرة البشرية، بما قد يؤدي إلى قرارات متسارعة أو غير متوقعة في بيئات شديدة التعقيد مثل الأنظمة العسكرية أو الدفاعية.
فلو افترضنا على سبيل المثال أن أنظمة ذكية في ساحات الحرب أو الدفاع الجوي بدأت تتبادل القرارات بشكل مستقل وسريع دون تدخل بشري مباشر، فقد يؤدي ذلك إلى تصعيد غير محسوب أو قرارات قد تترجم إلى دمار واسع قبل حتى أن يتمكن الإنسان من التدخل أو إيقافها، وهذا ما قال عنه البعض بأنه قد حصل بالفعل في الحرب الأخيرة بين الولايات المتحدة وإيران حيث إن الاستعانة بالذكاء الاصطناعي ولّد معلومات خاطئة أدت إلى قصف مدرسة للأطفال راح ضحيتها المئات من الأبرياء من الأطفال والمدرسين.
هل يمكن أن يتطور أمر تخاطب الآلات مع بعضها البعض إلى حدوث كوارث حقيقية تدفع البشرية ثمنها؟ قد يكون الجواب بنعم إن تُركت الأمور على ما هي عليه، حيث إن بعض ما يمكن أن يُطلق عليه طفرات الذكاء الاصطناعي يمكن أن تؤدي إلى نتائج سلبية، وأيضا تؤدي إلى أن تتخاطب الآلات مع بعضها البعض من دون أية اعتبارات للإنسان البشري، مما قد يؤدي إلى تشكيل تهديدات للإنسان المطور لهذا الذكاء الاصطناعي.