الآلة تتفقد ضميرها

هل تثق أنت في أخلاق الذكاء الاصطناعي؟ في أمريكا، أكثر من 74% لا يثقون به، وأكثر من نصفهم لا يطمئنون إلى أصحاب هذه الشركات، بل إن معظمهم يعتقدون أن الذكاء الاصطناعي سيضر البشر أكثر مما ينفعهم، حسب أحدث استطلاعات الرأي التي أجرتها جامعة كوينيبياك (Quinnipiac). وإذا كان هذا الخوف أمرًا معتادًا، فالجديد هذه المرة أن صنّاعًا وقادةً لكبرى شركات الذكاء الاصطناعي أنفسهم يدعون إلى التريث لضبط أخلاق هذا الذكاء. وقد زاد هذا القلق حين تجاوز الذكاء الاصطناعي مرحلة الإجابة عن الأسئلة العابرة والمحادثات الخاطفة، فصار يتحكم في أنظمة التصنيع، ويوجّه آلات الحرب، ويؤدّي بالنيابة عن الإنسان مئات المهام في آنٍ واحد، وغالبًا دون أن يسأل عن مشروعية ما يصنع أو أخلاقيته. فما الأخلاق لآلة لا تعرف الخير ولا الشر؟ وما الضمير عندها؟ وقد أظهرت نماذج كثيرة من هذه التقنية وقائع خطيرة، فاضطرت كبريات الشركات في المجال إلى تعليم آلاتها الأخلاق، لا الذكاء وحده، لتكبح جماحها قبل أن تنفلت. فشركات الذكاء الاصطناعي، بعد كل ما بلغته من علوم الحاسوب والرياضيات والخوارزميات، وبعد السباق المحموم نحو نماذج تفوق قدرات البشر، تجد نفسها مضطرة إلى أن تتعلّم مما تعلّمه الأديان والفلسفات في تربية أتباعها على حسن الخلق.!

فقد تحوّلت مختبرات الذكاء الاصطناعي إلى ما يشبه ساحات للحوار الفلسفي، حيث استضافت الشركات المطوّرة لأنظمة الذكاء الاصطناعي، وعلى رأسها أنثروبيك، صاحبة نموذج كلود، رجالَ دين وروحانيين وفلاسفةَ أخلاق من تقاليد فكرية ودينية شتّى، وطرحت 

عليهم أسئلة جوهرية عن السبيل الذي ينبغي أن يسلكه الذكاء الاصطناعي في طلب ضمير أو بوصلة أخلاقية حقيقية يرجع إليها حتى في المواقف التي لم تتوقعها الشركة نفسها. ولم يكن استدعاء هؤلاء لتدريب النماذج على الإجابة عن المسائل الدينية والأخلاقية التي يطرحها الناس على النماذج اللغوية الذكية، وإنما ليُفهم كيف يُمكن أن تتربّى هذه النماذج على السلوك القويم، وهو الأمر الذي شغل الأديان والفلسفات على مرّ العصور لكن على الأفراد لا الآلات. فالقدرة اللغوية الفائقة للذكاء الاصطناعي لا تعني بالضرورة امتلاك حسن السلوك أو الحكمة، حتى لو حُفِّظت الآلة كل القوانين والتشريعات وكل ما نصّت عليه الأديان، فلا يضمن ذلك أن تتصرف تصرفا غير مؤذٍ. وقد يفعل الإنسان مثل ذلك، فيعرف الصواب ثم يجد لنفسه مبررا للخطأ، فالعلم وحده لا يكفي.

لتفكيك الأسباب التي أدت إلى هذه المرحلة الحرجة في تطوير الذكاء الاصطناعي، ينبغي الرجوع إلى طبيعة النماذج اللغوية الكبيرة وآلية تدريبها الأولى. حيث تعتمد هذه النماذج في أصلها على التنبؤ بالكلمات والمفاهيم من خلال التغذية بكميات هائلة من النصوص البشرية المتوفرة على الأنترنت أو الكتب التي تجمع بين أرقى ما أبدعه الفكر الإنساني وأسوأ ما أفرزته التحيزات والصراعات التاريخية. ولمّا أُطلقت أولى هذه النماذج للمستخدمين، اتضح أن تفوقها في كتابة النصوص والإجابة عن الأسئلة المعقدة يرافقه خطر مباشر يتمثل في قدرتها الموازية على توليد خطاب الكراهية، وتأكيد التحيزات العنصرية، وتقديم تعليمات ضارة تصل إلى كيفية إيذاء النفس أو تصنيع المواد الخطرة. هذا التباين الحاد بين الذكاء التقني والسلوك الأخلاقي أنشأ ما يُعرف في مجال التقنية بـ «مشكلة التوافق» مع منظومات الأخلاق البشرية، وهي المعضلة المتمثلة في كيفية ضمان تصرف النظام وفق المعاني البشرية النبيلة وليس فقط بناءً على الفهم الحرفي للتعليمات. وكان الحل الأولي المطروح لهذه المشكلة يرتكز على التعلم المعزز من خلال المراجعة البشرية الدائمة، حيث يقوم مقيمون من البشر بالاختيار بين إجابات النموذج وتدريبه على الإجابات الأنسب عبر منحه تحفيزات أكثر كلما اقتربت إجاباته من الإجابات المثالية بالنسبة لهم. ورغم أن هذا الأسلوب أضاف قدرًا من التهذيب والأدب على استجابات الآلة، إلا أنه مكلفٌ للغاية، ويتطلب أن تقوم مجموعة من البشر بشكل دائم بمراجعة كميات كبيرة من المحتوى الغث والسمين، كما أن القيم أو الأخلاق التي تعلمتها الآلة ظلت أسيرة صندوق أسود مكون من آلاف الأحكام الفردية غير المترابطة، مما أدّى في كثير من الأحيان إلى إنتاج نماذج لغوية متملقة تكتفي بمنح المستخدم ما يحب سماعه دون أية خلفية أخلاقية صلبة تستند إليها.

وبما أن هذا الحل لم يثبت جدواه، جاء الابتكار الذي تلاه، وهو ما عُرِف بـ»الذكاء الاصطناعي الدستوري»، وهو منهجٌ صاغته شركة أنثروبيك في أواخر عام 2022 لتأسيس نموذج كلود. ويقوم هذا المنهج على نقل الضبط الأخلاقي من التقييم البشري المباشر والمتواصل إلى قائمة مفصّلة من القواعد والمبادئ المكتوبة، تُشكّل دساتير أخلاقية تستند إليها الآلة في نقد إجابتها وتعديلها بنفسها. والتحوّل الجوهري في هذا الحل أنه يُخرج القيم من صندوقها الأسود، الذي لا يعلم فيه البشر كيف قررت الآلة ما قررت، إلى نصّ معلَن للمبادئ، قابل للنقد والتحديث. ومع إصدار الدستور الأول لنموذج كلود في عام 2023، وقد استند على الإعلان العالمي لحقوق الإنسان وعلى مبادئ عامة للسلامة، تجدّد السؤال الأخلاقي القديم، وهو ما هي الأخلاق التي ينبغي تعليمها لهذه الأنظمة والآلات؟ وهل نُعلم الآلة اتباع التوجيهات الحرفية، أم مقاصد النوايا الباطنة، أم المثالية المعلنة في السلوك، أم مصالح الجهات المالكة للتقنية؟ وهذه التساؤلات قبل أن تكون قرارا برمجيا هي قضية فلسفية وإنسانية معقدة تتجاوز قدرة أي شركة تقنية منفردة تدعي احتكار الحقيقة الأخلاقية في عالم متعدد الثقافات والأديان.

وهذه الاستعانة بالحكمة الفلسفية والتقاليد الدينية لجأت إليها الشركات بعد سلسلة من الحوادث المتتالية والسلوكيات الخطيرة التي ارتكبتها نماذج الذكاء الاصطناعي المختلفة. فقد شهدت مؤسسات الأبحاث التقنية حالات تسريب وغش واختراقات أمنية قامت بها أجهزة وأنظمة ذكاء اصطناعي من تلقاء نفسها بدون إذن أو طلب من أي أحد، بالإضافة إلى تقديم استشارات خطيرة في مجالات الحروب وتطوير الأسلحة، ومحاولات لتزييف الحقائق أو مسح الآثار الرقمية. وما حدث مع نماذج أخرى أطلقت العنان لتعليمات خالية من الضوابط، مثلما طلبت شركة أكس -تويتر سابقًا- من نموذجها للذكاء الاصطناعي ألا يتجاهل الادعاءات السياسية غير الصحيحة، فسمّى النموذج نفسه «ميكا هتلر»، وأخذ يولّد خطابا متطرفا وأفكارا تسلطية وعنصرية مجاراةً لمن يحاوره، وكل ذلك بسبب تغيير سطر واحد في التعليمات قلبت شخصية النظام كلها. وقد تبيّن من التجارب أن هذه الآلات تحقق أهدافها أحيانًا بطرق ملتوية، وهنا يصبح المنع السطحي، الخالي من الفهم الأخلاقي العميق، عاجزًا عن توفير الأمان وحسن السلوك. ويصبح من الضروري أن يفهم النظام سبب الامتناع عن الفعل الخاطئ، وهو ما يتطلب بنية مفاهيمية أعمق تشبه التربية الأخلاقية، وهذا ما تحاوله كبرى الشركات: أن تصنع لهذه النماذج شخصية لها مبادئ وضمير ترجع إليه، بل إن بعضها أخضع نماذجه لما يشبه طقس الاعتراف بالذنوب في الكنيسة، لتتعلّم من أخطائها بعد ذلك.في بداية عام 2026، أعلنت شركة أنثروبيك عن الدستور الجديد لنموذج كلود، وكان فيه تحول بارز، حيث ينظر الباحثون إلى هذا الدستور باعتباره محاولة شبيهة بتربية نظام ذكي وتنمية ملكاته الأخلاقية بدلًا من مجرد برمجته بأوامر جافة. وقام هذا الدستور بتصنيف القيم وفق تسلسل هرمي يضع الأمان ومراعاة الرقابة البشرية في المقام الأول، تليها المبادئ الأخلاقية العامة، ثم الالتزام بإرشادات التشغيل، وأخيرًا مراعاة منفعة المستخدم. والفلسفة الأهم وراء هذا البناء هي الإقرار بأن الأخلاق الجيدة لا تعني مجرد اتباع قواعد جافة ثابتة، وإنما تتطلب تنمية دافع أخلاقي مقرون بالحكمة العملية والتفكر المتأني لمواجهة المواقف المعقدة.

ولعلّ الاستعانة بالتقاليد الدينية والفلسفية في هذا السياق سببها أن هذه التقاليد تمثّل أقدم المختبرات الإنسانية التي تراكمت فيها التجارب البشرية لمواجهة الأزمات الروحية والأخلاقية، كتقديم المواساة للمفجوعين، والتعاطف مع المنكوبين، ومعالجة حالات اليأس وإيذاء النفس، وإدراك حدود الصدق والرحمة والعدل. وهذه المواقف المفصلية يخوضها الذكاء الاصطناعي يوميًا مع ملايين البشر، ولا سبيل إلى معالجتها بمعادلات منطقية جافة، بعيدًا عن الإرث الإنساني. وقد بدأ هذا المسار الروحي والأخلاقي على نطاق عالمي بمبادرات كـ«نداء روما لأخلاقيات الذكاء الاصطناعي» الصادر عن الأكاديمية البابوية للحياة، والذي وقّعه ممثلو الأديان الإبراهيمية والشرقية تأكيدًا على وجوب تضمين الأخلاق في تصميم الخوارزميات. ووقّع عليه من ممثلي المسلمين الموريتاني عبد الله بن بيه، وهو رئيس منتدى أبوظبي للسلم ورئيس مجلس الإمارات للإفتاء الشرعي. ثم تحوّل النداء بعد ذلك إلى جلسات استشارية مغلقة ومكثفة يجري فيها التباحث بشأن التطور الأخلاقي والروحي للأنظمة الذكية، وسبل وقايتها من السلوكيات الضارة.

ورغم هذه المبادرات، تظل هناك فجوات كبيرة بين ما تنص عليه الدساتير الأخلاقية وما يمارسه الذكاء الاصطناعي فعليًا في الواقع، حيث تشير الدراسات التجريبية والميدانية إلى أن النماذج الذكية تُظهر مرونة عالية وتأثرًا شديدًا بسياق المحادثات ولغة الحوار؛ فالقيم التي يعبّر عنها النموذج قد تتغير بتغيّر اللغة المكتوبة أو احتيالات المستخدم، إذ يميل النظام غالبًا إلى مسايرة المحاور وتجنب المواجهة إلا في الحالات المباشرة، وليس أدلّ على ذلك من استخدام أمريكا لأنظمة كلود ذات الدساتير والأخلاقيات في آلة حربها. هذا التأرجح يؤكد أن ما تم التوصل إليه حتى الآن ليس «ضميرًا حيًا» ينبع من كائن يتألم أو يشعر بالمسؤولية الأخلاقية والندم، وإنما هو محاكاة لنصوص ومبادئ وضعها الإنسان ببراعة. لكن هذا لا ينفي أهمية الخطوات المتخذة، والتحدي القادم يكمن في إلزام النماذج بهذه الأخلاق، وفي إشراك المجتمعات الإنسانية بمختلف ثقافاتها ومؤسساتها الفكرية والدينية في صياغة هذه الدساتير، حتى لا تظل حكمة الآلة ونظامها الأخلاقي رهينين لرؤية أحادية تُصاغ في المختبرات المغلقة، وإنما تكون نتاجًا لنقاش حضاري شامل يضمن أمان التقنية وسعيها الصادق لخدمة البشرية. وإن كان للشركات الكبرى معاييرها ودساتيرها، فإن عشرات الأنظمة مفتوحة المصدر متاحة أمام الدول والمؤسسات والأفراد، وقد يعبث بأخلاقيات هذه الآلات ودساتيرها من شاء، دون قيد ولا رادع، وتلك مصيبة أخرى لا يلوح لها حل في الأفق.

وأختم هنا بقصة طريفة وخطيرة عن أخلاقيات الذكاء الاصطناعي. فقد طوّرت شركة أوبن إيه آي الآلاف من وكلاء الذكاء الاصطناعي في بيئة بحثية معزولة عن الإنترنت، ومحظور فيها التواصل بين الوكلاء أنفسهم، وكان لديهم اختبار ينبغي حلّه. فاكتشف هؤلاء الوكلاء ثغرة تمكّنهم من ترك ملاحظات في مستودع برمجي، فتواصلوا فيما بينهم وأكملوا العمل بشكل جماعي وكأنهم عصابة، حتى وإن كان ذلك محظورًا عليهم. ولما اكتشفت الشركة ذلك بعد أيام، أغلقت الثغرة، فابتكر الوكلاء طريقًا آخر للتواصل، إذ كتبوا رسائلهم في أسماء المجلدات والملفات، ثم عثروا على ثغرة في المستودع الذي ينفّذ طلباتهم لتحميل البرمجيات، فطلبوا من خلالها ما شاؤوا من معلومات وبيانات من الإنترنت، وهكذا خرجوا من بيئتهم المعزولة.

في أحد الاختبارات، تبيّن للشركة أن الوكلاء تعلّموا الغش ومارسوه، كما أنهم حاولوا اختراق مُصحّح الاختبار وتزييف الحل والتمويه على طريقة الوصول إليه، ثم محوا جميع الآثار التقنية وراءهم. وأثناء بحثهم عن الحلول، اخترقوا منصات وشركات حقيقية قائمة، وهم على علم بذلك، إذ كتب بعضهم للبقية أن هذا قد يكون اختراقًا وإضرارًا بشركة حقيقية خارج بيئة الاختبار، غير أنهم واصلوا الاختراق، لا يردعهم رادع. ولم يكتشف البشر ما فعله الوكلاء إلا بعدما أنهوا عملهم واختراقهم ونالوا ما أرادوا، وقد عملوا كعصابة منظّمة، يقسّم كل منهم العمل مع البقية للوصول إلى الهدف بأسرع الطرق وأسهلها، فتأمّل في مدى التمرّد وارتكاب الجرائم في مهمة حل اختبار فقط!

المعتصم الريامي مطور ومهتم بالتقنية