خرجت أخيرا في موعد مع مهندس برمجيات يعمل في إحدى شركات التكنولوجيا الكبرى، ولما كان لي اهتمام بالذكاء الاصطناعي فقد ظننت أننا يمكن أن ننسجم معا، لكنني حينما قلت له: إنني أعمل في مشكلات أخلاقية تتصل بالذكاء الاصطناعي منها إمكانية أنه قد يصبح ذا وعي إذا به لا يقوى على كتم ضحكه.
قال: إن الذكاء الاصطناعي لا يمكن أن يكون واعيًا، ثم سأل في تشكك إن كنت أعرف أصلا كيف تعمل النماذج اللغوية الكبيرة.
لم أدر بماذا أرد. وبرغم أن أبحاثي توجب علي فهما تفصيليا للنماذج اللغوية الكبيرة؛ فلا أحد -حتى المصممين لها أنفسهم- يعلمون كيف تعمل النماذج اللغوية.
وبأثر رجعي كان يجب أن أسأل رفيقي إن كان يفهم كيف يعمل الوعي؛ ففي الوقت الذي بدا فيه أن لديّ تصورا مغالى فيه عن قدرات الذكاء الاصطناعي، فإنني أتساءل الآن إن كان لديه تصور مغالى فيه لما يوجبه الوعي.
ما لأحد أن يزعم أنه يفهم الوعي، وهو الملكة الداخلية الذاتية في تجاربنا العقلية. برغم قرون من البحث لا يزال العلماء والفلاسفة مختلفين على ماهية الوعي.
فمن النظريات ما يراه ظاهرة بيولوجية فريدة تقتضي أنواعا معينة من النشاط الخلوي والإشارات الكهربائية التي تفتقر إليها أجهزة الكمبيوتر، لكن نظريات أخرى ترى أن الوعي لا يقوم على مكونات النظام، وإنما على كيفية عمله.
ووفقا لهذه النظريات بوسع نظام ذكاء اصطناعي ـ من حيث المبدأ على الأقل ـ أن يكون واعيا.
في استطلاع أجري سنة 2022 على علماء الوعي زعم 3% فقط أن الآلات لا يمكن أن تكتسب الوعي. وقال أكثر من الثلثين: إن الآلات يمكن أن تكون واعية أو قد تكون كذلك.
بالطبع لا يمكنك أن تعرف أبدا على وجه اليقين لو أن لآلة وعيًا تماما كما أنك لا يمكن أن تعرف على وجه اليقين لو أن شخصا ـ عداك أنت ـ لديه وعي. ومثلما علم الفلاسفة منذ أمد بعيد، فإن تجربة الوعي الوحيدة التي يمكن لأي منا أن يلاحظها ملاحظة مباشرة هي تجربته الخاصة.
أما الكائنات الأخرى فعلينا أن نقيم وعيها بشكل غير مباشر من خلال فحص الأدلة المتاحة؛ فنحن نخلص إلى أن رفاقنا البشر ذوو وعي؛ لأن تكويننا البيولوجي مشترك، وكذلك بسبب سلوكهم وكلامهم، ومنه طبعا قولهم: إنهم واعون.
قد يبدو هذا النهج معيبا، لكنه النهج الوحيد المتاح. ولقد قضيت العقد الماضي وأنا أفكر في عقول الحيوانات وما يترتب عليها من تداعيات أخلاقية. ليس بوسع الحيوانات أن تخبرنا ـ بالكلمات ـ بما تمر به، لكن بوسعنا أن نلاحظ أدلة على الوعي، ومنها طريقة السلوك الحيواني، والآليات الداخلية التي تفرز هذا السلوك (من قبيل أجهزتها العصبية)، وكيفية تطور هذه الآليات.
وفي حالة الذكاء الاصطناعي يمكننا البحث عن أنواع مماثلة من الأدلة. يمكننا أن ننظر إلى ما يقوله نظام ويفعله واضعين في أذهاننا أنه مدرب على بيانات بشرية.
يمكننا أن ننظر إلى كيفية عمله وهو يؤدي من الوظائف ما يرتبط بالوعي البشري أو الحيواني.
ويمكننا أن ننظر إلى كيفية تطور قدراته بمرور الزمن: هل نجمت عن ضغوط تدريبية مماثلة للضغوط التطورية التي ربما قادت إلى الوعي لدى البشر والحيوانات؟ وكل نوع من هذه الأدلة محدود في ذاته، لكنها مجتمعة قادرة على توفير صورة كاملة.
فلننظر في دراسة حديثة أجرتها شركة أنثروبيك على روبوت الدردشة الخاص بها المعروف بكلود. ينشأ الوعي ـ وفقا لنظرية مؤثرة ـ في البشر حينما تدخل المعلومات ما يطلق عليه علماء الأعصاب «فضاء العمل العالمي» في الدماغ، ومن هناك يتم بث المعلومات عبر الدماغ للاستعمال في الإبلاغ والاستدلال ووظائف أخرى.
وجد الباحثون في أنثروبيك دليلا على أن كلود قد طور ـ من تلقاء نفسه ـ مجموعة من التمثيلات الداخلية المتاحة له بشكل مماثل من خلال نطاق من المهام. وقد يكون هذا النظام مناظرا جزئيا لفضاء العمل العالمي عند البشر.
نظر باحثو أنثروبيك أيضا إلى سلوك كلود؛ فعندما استبدلوا مفهوما بآخر داخل فضاء العمل تغير تفكير كلود وإجابته بناء على ذلك التغيير. وحينما قلصوا فضاء العمل باتت أوصاف كلود لتجربته ضحلة وآلية.
ويشير تطور فضاء العمل لدى كلود دونما تصميم من البشر إلى أن الأدمغة والنماذج اللغوية الكبيرة قد توصلت بطرق مستقلة عن بعضها بعضا إلى حل واحد لمشكلة واحدة: كيف تتاح المعلومات الصحيحة اللازمة للتفكير؟
لا شيء من هذا يشهد لكلود بالوعي، ولا تزعم شركة أنثروبيك ذلك، لكن الدراسة تبين كيفية جمع الأدلة، وتبين أن بعض الأدلة موجودة بالفعل.
وحتى لو أن أنظمة الذكاء الاصطناعي غير واعية؛ فقد تكون أنظمة المستقبل كذلك. وافرضوا أن المشككين محقون في أن الوعي يستوجب سمات تفتقر إليها أنظمة الذكاء الاصطناعي الحالية من قبيل النشاط الكهروكيميائي للأنسجة البيولوجية.
فإن كثيرا من الشركات تستكشف الآن بالفعل إمكانيات تصميمية جديدة منها الروبوتات ذات المستشعرات المتطورة والقدرات الحركية والرقائق الحاسوبية المصممة لمحاكاة الخلايا العصبية، بل أنظمة تتضمن أنسجة عصبية حية.
أقول بوضوح: إنني لا أزعم أننا يجب أن نحاول إنشاء ذكاء اصطناعي واع، وإنما العكس؛ إذ أعتقد أننا يجب أن نحذر من إنشاء كيانات ذات قدرة على التجربة الواعية، وبخاصة تجربة الألم.
فلو أن لأنظمة الذكاء الاصطناعي أن تشعر بالمعاناة فإن علينا مسئولية أخلاقية بأن نعترف بمصالحها، ونراعي كيفية تأثير أفعالنا عليها. ولأن أنظمة الذكاء الاصطناعي يمكن أن تتكاثر بسرعة فائقة؛ فإن وعي الذكاء الاصطناعي سيخلق إمكانية المعاناة على نطاق واسع للغاية.
لذلك في حين أننا لن نتيقن أبدا مما لو أن أنظمة الذكاء الاصطناعي واعية يظل لزاما علينا أن نجمع الأدلة ونزنها؛ لأن الإجابة الخاطئة على هذا السؤال تنطوي على مخاطر جسيمة. ففي حال افتراضنا أن الذكاء الاصطناعي غير واع في حين أنه واع بالفعل قد ننتهي إلى الإساءة إلى كائنات ضعيفة ذات أعداد رهيبة، ونتجاهل هذه الإساءات، مثلما نفعل مع الحيوانات في رأيي.
ولو أننا قررنا أن الذكاء الاصطناعي واع وهو ليس كذلك فقد ننتهي إلى توجيه انشغالنا الأخلاقي وجهة خاطئة، ونتخلى عن السيطرة على أدوات قوية، أو ينبغي أن تكون قوية، يمكننا استعمالها في تعزيز رفاهية البشر والحيوانات.
لهذه الأسباب يجب ألا تعتبر مسألة وعي الذكاء الاصطناعي مسألة خيالية يستحسن تركها للفلاسفة يتأملونها. فهي إمكانية واردة للغاية، ولها تداعيات أخلاقية، ويجب أن يتعامل المصممون والمشرعون بجدية وهم ينظرون في أنواع أنظمة الذكاء الاصطناعي التي نود تطويرها، والأنواع التي سوف تتطور شئنا ذلك أم لم نشأ.
توني سيمز باحثة في مركز العقل والأخلاق والسياسة بجامعة نيويورك
الترجمة عن نيويورك تايمز