أستعرض في هذه المساحة مقالا منشورا في عدد هذا الشهر من مجلة Scientific American بعنوان «الثقة الاصطناعية» لـجاري ماركوس، وآخر من إرشيف المجلة بعنوان «هل سيرقى الذكاء الاصطناعي لدعايته» لجون هوغان. تأتي قيمة مقالي هذا في كونه يجمع بين المقالين ويستعرض محتواهما للقارئ العربي. وعليه، فهو ليس ذا قيمة بالنسبة للقراء المهتمين الذين يمكنهم الوصول للمقالين باللغة الأصلية.
على الرغم من أنه قد يبدو للكثيرين أن الذكاء الاصطناعي في طريقه لأن يُسيطر مُغيرا لا شكل حياتنا كما نعرفها فحسب بل ومهددا وجودنا حتى، إلا أنه في الواقع -كما يُجادل الكاتبان- بعيد كل البعد عن حيازة ذكاء يُعادل -فما بالك بذكاء يتجاوز- الذكاء البشري. يُجادل ماركوس أن أحدث أدوات الذكاء الاصطناعي اليوم ما زالت تعاني من المشاكل النظرية القديمة. ويُقدم تفسيرا محتملا للفجوة بين الدعاية الهائلة التي تجعل فتوحات الذكاء الاصطناعي تحتل العناوين الرئيسية، والإنجازات الهزيلة (أو التقدم البطيء) في الواقع. فيما أسأل بدوري ما الخطر في مبالغة التقدم الذي يحرزه الذكاء الاصطناعي اليوم؟
التنبؤات الطموحة التي تخص الذكاء الاصطناعي -خلال العقود الأخيرة من القرن الماضي- تُبعت بما يُسمى سبات الذكاء الاصطناعي، قبل أن يستعيد الموضوع متحمسيه خلال الألفية. شهدت السنوات الأخيرة تقدما في بعض مجالات الذكاء الاصطناعي مثل أنظمة التعرف إلى الوجوه والأصوات، وأنظمة تقديم التوصيات، والترجمة الآلية. إلا أننا -خارج هذه المهام المحددة- ما نزال بعيدين كل البعد عن ما يُسمى «الذكاء الشامل».
«مؤخرا، سارت سيارة تيسلا مزودة بنظام القيادة الذاتية باتجاه عامل يقف في منتصف الطريق حاملا إشارة «توقف»، ولم تتباطأ السيارة إلا بتدخل سائقها. لهذا النظام القدرة على التعرف إلى البشر وحدهم (كما يظهرون في بيانات التدريب)، كما يُمكنه التعرف على الإشارات في مواقعها المعتادة (كما ظهرت -هي الأخرى- في البيانات التي تدرب عليها النظام)، لكنه «أي النظام» فشل في التوصل إلى قرار تخفيف السرعة عندما وُضع وجها لوجه أمام حالة مركّبة -من شيئين لا يعرفهما إلا على نحو منفصل- نتج عنها وجود إشارة التوقف في غير المحل المعتاد». يُجادل ماركوس أن أخبار الفشل هذه، وما تعنيه من عجز الأنظمة عن التعامل مع الحالات المستجدة - يتم تجاهلها أو على الأقل التخفيف من حمولتها لصالح الأخبار التي تُبالغ في تقدير الإنجازات التقنية الجديدة. ويعود ذلك إلى أن «أكبر الفِرق البحثية في مجال الذكاء الاصطناعي اليوم ليست جزءًا من المؤسسة الأكاديمية - حيث مراجعات الأقران هي المحك- وإنما جزء من عالم المؤسسات الربحية. وعلى عكس الجامعات، ليست لدى الشركات أي دافع لتكون أمينة. عوضا عن إخضاع الباحثين أوراقهم العلمية -الجديدة والمتسولة للاهتمام- للفحص الأكاديمي، فإنهم يعتمدون طريقة البيان الصحفي، مغرين الصحفيين بنشرها، ومُتجنبين عملية مراجعة الأقران. وبهذا فنحن لا نعرف إلا ما تريدنا هذه الشركات أن نعرفه».
يقول ماركوس إن عيب الفرق البحثية التابعة لشركات التكنولوجيا يتمثل في الهدف الذي تسعى له. إذ تسعى نحو تطورات -ولو هزيلة- يمكنها الإبلاغ عنها فورا عبر البيانات الصحفية عوضا عن الاشتغال الجاد على أفكر تأسيسية ذات أساس نظري يمكن الاعتماد والبناء عليه.
أما هوغان فيؤكد أنه من السهل تصديق العاملين في المجال والذين يُقدمون أنفسهم على أنهم خبراء - إذا ما زعموا أن الوصول إلى ذكاء اصطناعي شامل ما هي إلا مسألة وقت. إلا أن الأدلة المتوفرة لا تدعم ثقتهم هذه في كون بلوغ الذكاء الشامل عالي الاحتمال. ويقول هوغان إنه لو تُرك له التخمين، فإنه يُخمن أن عقولنا من التعقيد بحيث لا يُمكن محاكاتها.
هكذا إذا، عرفنا المستفيدين من الدعاية للذكاء الاصطناعي الشامل حتى وإن لم يمتلكوا سندا علميا يدعم مزاعمهم. لكن لماذا أنتقد -كما يفعل ماركوس وهوغان وغيرنا- الترويج للذكاء الاصطناعي بهذا الشكل؟ فبعد كل شيء يُمكن أن تكون مساعي مطوريه مجرد استثمار سيئ في أسوأ الأحوال، فما الضرر في ذلك؟ أعود هنا إلى مقال كتبتُه قبل أسابيع حول البياناتية والسردية التي تقترحها. إن مشكلة هذه الدعاية لا تتوقف عند مجرد ضخ المزيد من الموارد دون مساءلة الجدوى (مع أن هذا سيئ بما يكفي)، ولكنها أيضا تُعزز الوهم بأن هذه الأنظمة الذكية -ولأنها تتطور بسرعة فائقة من بين أسباب أخرى- غير قابلة للفهم والمُساءلة. مما يُشكل ضغطا على الناس بأن يقبلوا بها كما هي. ولأن هذه الدعايات ذات طبيعة معتدّة وسلطوية فإنها تدفع بالمشككين لأن يتساءلوا «من أنا لأُشكك؟» وبدل أن يستفاد من نقدهم البناء، تغرق آراؤهم في زخم الدعاية المضادة.
لا أُريد أن يُفهم مقالي بأي شكل على أنه رافض بالمطلق لمواكبة التقدم التكنولوجي، كل ما أحاول فعله هنا هو التأكيد على أهمية أن تلتزم الاكتشافات التكنولوجية بمسار المؤسسة العلمية، وبالطريقة العلمية في الإعلان عن هذه الكشوف لتوضع في مكانها تماما دون مغالاة أو انتقاص.
المصادر:
Will Artificial Intelligence Ever Live Up to Its Hype? ( John Horgan, 2020)
Artificial Confidence: Even the newest, buzziest systems of artificial general intelligence are stymied by the same old problems (Gary Marcus, 2022)
على الرغم من أنه قد يبدو للكثيرين أن الذكاء الاصطناعي في طريقه لأن يُسيطر مُغيرا لا شكل حياتنا كما نعرفها فحسب بل ومهددا وجودنا حتى، إلا أنه في الواقع -كما يُجادل الكاتبان- بعيد كل البعد عن حيازة ذكاء يُعادل -فما بالك بذكاء يتجاوز- الذكاء البشري. يُجادل ماركوس أن أحدث أدوات الذكاء الاصطناعي اليوم ما زالت تعاني من المشاكل النظرية القديمة. ويُقدم تفسيرا محتملا للفجوة بين الدعاية الهائلة التي تجعل فتوحات الذكاء الاصطناعي تحتل العناوين الرئيسية، والإنجازات الهزيلة (أو التقدم البطيء) في الواقع. فيما أسأل بدوري ما الخطر في مبالغة التقدم الذي يحرزه الذكاء الاصطناعي اليوم؟
التنبؤات الطموحة التي تخص الذكاء الاصطناعي -خلال العقود الأخيرة من القرن الماضي- تُبعت بما يُسمى سبات الذكاء الاصطناعي، قبل أن يستعيد الموضوع متحمسيه خلال الألفية. شهدت السنوات الأخيرة تقدما في بعض مجالات الذكاء الاصطناعي مثل أنظمة التعرف إلى الوجوه والأصوات، وأنظمة تقديم التوصيات، والترجمة الآلية. إلا أننا -خارج هذه المهام المحددة- ما نزال بعيدين كل البعد عن ما يُسمى «الذكاء الشامل».
«مؤخرا، سارت سيارة تيسلا مزودة بنظام القيادة الذاتية باتجاه عامل يقف في منتصف الطريق حاملا إشارة «توقف»، ولم تتباطأ السيارة إلا بتدخل سائقها. لهذا النظام القدرة على التعرف إلى البشر وحدهم (كما يظهرون في بيانات التدريب)، كما يُمكنه التعرف على الإشارات في مواقعها المعتادة (كما ظهرت -هي الأخرى- في البيانات التي تدرب عليها النظام)، لكنه «أي النظام» فشل في التوصل إلى قرار تخفيف السرعة عندما وُضع وجها لوجه أمام حالة مركّبة -من شيئين لا يعرفهما إلا على نحو منفصل- نتج عنها وجود إشارة التوقف في غير المحل المعتاد». يُجادل ماركوس أن أخبار الفشل هذه، وما تعنيه من عجز الأنظمة عن التعامل مع الحالات المستجدة - يتم تجاهلها أو على الأقل التخفيف من حمولتها لصالح الأخبار التي تُبالغ في تقدير الإنجازات التقنية الجديدة. ويعود ذلك إلى أن «أكبر الفِرق البحثية في مجال الذكاء الاصطناعي اليوم ليست جزءًا من المؤسسة الأكاديمية - حيث مراجعات الأقران هي المحك- وإنما جزء من عالم المؤسسات الربحية. وعلى عكس الجامعات، ليست لدى الشركات أي دافع لتكون أمينة. عوضا عن إخضاع الباحثين أوراقهم العلمية -الجديدة والمتسولة للاهتمام- للفحص الأكاديمي، فإنهم يعتمدون طريقة البيان الصحفي، مغرين الصحفيين بنشرها، ومُتجنبين عملية مراجعة الأقران. وبهذا فنحن لا نعرف إلا ما تريدنا هذه الشركات أن نعرفه».
يقول ماركوس إن عيب الفرق البحثية التابعة لشركات التكنولوجيا يتمثل في الهدف الذي تسعى له. إذ تسعى نحو تطورات -ولو هزيلة- يمكنها الإبلاغ عنها فورا عبر البيانات الصحفية عوضا عن الاشتغال الجاد على أفكر تأسيسية ذات أساس نظري يمكن الاعتماد والبناء عليه.
أما هوغان فيؤكد أنه من السهل تصديق العاملين في المجال والذين يُقدمون أنفسهم على أنهم خبراء - إذا ما زعموا أن الوصول إلى ذكاء اصطناعي شامل ما هي إلا مسألة وقت. إلا أن الأدلة المتوفرة لا تدعم ثقتهم هذه في كون بلوغ الذكاء الشامل عالي الاحتمال. ويقول هوغان إنه لو تُرك له التخمين، فإنه يُخمن أن عقولنا من التعقيد بحيث لا يُمكن محاكاتها.
هكذا إذا، عرفنا المستفيدين من الدعاية للذكاء الاصطناعي الشامل حتى وإن لم يمتلكوا سندا علميا يدعم مزاعمهم. لكن لماذا أنتقد -كما يفعل ماركوس وهوغان وغيرنا- الترويج للذكاء الاصطناعي بهذا الشكل؟ فبعد كل شيء يُمكن أن تكون مساعي مطوريه مجرد استثمار سيئ في أسوأ الأحوال، فما الضرر في ذلك؟ أعود هنا إلى مقال كتبتُه قبل أسابيع حول البياناتية والسردية التي تقترحها. إن مشكلة هذه الدعاية لا تتوقف عند مجرد ضخ المزيد من الموارد دون مساءلة الجدوى (مع أن هذا سيئ بما يكفي)، ولكنها أيضا تُعزز الوهم بأن هذه الأنظمة الذكية -ولأنها تتطور بسرعة فائقة من بين أسباب أخرى- غير قابلة للفهم والمُساءلة. مما يُشكل ضغطا على الناس بأن يقبلوا بها كما هي. ولأن هذه الدعايات ذات طبيعة معتدّة وسلطوية فإنها تدفع بالمشككين لأن يتساءلوا «من أنا لأُشكك؟» وبدل أن يستفاد من نقدهم البناء، تغرق آراؤهم في زخم الدعاية المضادة.
لا أُريد أن يُفهم مقالي بأي شكل على أنه رافض بالمطلق لمواكبة التقدم التكنولوجي، كل ما أحاول فعله هنا هو التأكيد على أهمية أن تلتزم الاكتشافات التكنولوجية بمسار المؤسسة العلمية، وبالطريقة العلمية في الإعلان عن هذه الكشوف لتوضع في مكانها تماما دون مغالاة أو انتقاص.
المصادر:
Will Artificial Intelligence Ever Live Up to Its Hype? ( John Horgan, 2020)
Artificial Confidence: Even the newest, buzziest systems of artificial general intelligence are stymied by the same old problems (Gary Marcus, 2022)