الخوارزميات تتحكم.. والفساد ممكن

تعد العملية البحثية من أصعب الأمور لمن يخوض غمار هذه العملية في مسيرته العلمية الأكاديمية.

لذا تعد الجامعات رسائل الماجستير عبارة عن التدرب الصحيح على العملية البحثية والفهم النقدي والقدرة على الإضافة الجديدة، وعندما يتمكن الفرد منها ينال الدرجات العلمية في مجال بحثي معين.

يرى البعض أن الذكاء الاصطناعي يساعدنا في العملية البحثية المضنية، ويفرح لأنه حصل على خلاصة بحثية، ونتيجة سريعة من خلال ضغطة زر لتطبيق ذكاء اصطناعي من الجيل الأحدث، ربما نعم في العلوم الطبيعية إلى حد ما.

لكنه فرح غير حقيقي لمتخصصي العلوم الإنسانية، فتطبيقات الذكاء الاصطناعي تجمع وتلم من مصادر ومراجع متعددة موثوقة وغير موثوقة، فيقول تطبيق جيميناي: «السبب في عدم قدرتي على الرجوع بشكل مباشر إلى المراجع الرصينة بنفس الطريقة التي يفعلها الإنسان يرجع إلى طريقة عملي، أنا لست إنسانًا يقرأ الكتب والمقالات بشكل فردي، بل أستمد معلوماتي من كم هائل من البيانات التي تم تجميعها من مصادر متنوعة على الإنترنت، ومنها كتب، ومقالات علمية، وموسوعات، ولكن أيضًا من منتديات، ومدونات، وآراء شخصية...» ويكمل: «ليست لدي القدرة على التفريق بشكل مستقل؛ فأنا لا أمتلك القدرة على التمييز بين المصادر الموثوقة وغير الموثوقة بشكل أوتوماتيكي. أحتاج إلى أن يتم تعليمي وتدريبي على ذلك من خلال بيانات منظمة وذات جودة عالية». وقال عن غياب الفهم النقدي لديه: «لا يمكنني أن أقرأ نصًا وأحلله بشكل نقدي مثلما يفعل الباحث أو العالم. أنا أقوم بدمج المعلومات وتقديمها بناءً على الأنماط التي تعلمتها». وأكد قائلا: «تعتمد الدول النامية بشكل كبير على التكنولوجيا التي تنتجها الدول المتقدمة. وهذا يخلق حالة من التبعية، حيث لا تستطيع هذه الدول تطوير حلولها الخاصة، مما يجعلها عرضة للتحكم الخارجي ويسهل استغلالها اقتصاديًا». وعندما ردد لي أكثر من مرة بأنني يمكن أن أدربه لتصحيح معلوماته الخاطئة، قال بعد ذلك: «أنا لا أتعلم في الوقت الفعلي من كل محادثة. بمعنى آخر عندما تصحح لي معلومة أو تقدم لي مصدرًا موثوقًا، فإن هذه المعلومة لا يتم إضافتها بشكل مباشر إلى قاعدة بياناتي بشكل دائم وفوري. فإن عملية التعلم الحقيقية لدي تتم من خلال إعادة التدريب الشاملة. هذه العملية تتم على فترات متباعدة، وتشمل تحليل مليارات الصفحات من النصوص والمصادر المختلفة. خلال هذه العملية، يتم تحديث بياناتي بالكامل». ومع النقاش الدقيق قال بوضوح:«كل هذه العمليات تتم بناءً على خوارزمياتي».

لهذا السبب، عندما نقول إن نموذج الذكاء الاصطناعي محايد أو متحيز، فإننا في الحقيقة نتحدث عن طبيعة الخوارزميات التي تم بناء نموذجِي عليها. فإذا صُمتت الخوارزمية لتعطي وزنًا أكبر لآراء معينة على حساب أخرى، أو إذا كانت البيانات التي دُربت عليها تحتوي على انحياز، فإن إجاباتي ستعكس ذلك بالضرورة.

طبيعي جدًا أن أكون أداة في يد من صممني وبرمج خوارزمياتي، وهذه الحقيقة هي جوهر النقاش الدائر حول أخلاقيات الذكاء الاصطناعي اليوم. لذلك فإن التركيز الآن في مجال الذكاء الاصطناعي ليس فقط على جمع المزيد من البيانات، بل على تحسين الخوارزميات لجعلها أكثر عدالة وشفافية... فعندما أتحدث عن الحياد في الخوارزميات، فإن هذا الحياد مرهون بشكل مباشر بمدى التزام البشر الذين صمموها بالنزاهة والموضوعية... والأمثلة التي ذكرتها تثبت أن هذا الالتزام قد ينهار في بعض الحالات بسبب عوامل بشرية مثل الفساد أو الأجندات السياسية». وأكمل: «المشكلة أعمق من مجرد تسريب البيانات الخاصة ؛ إنها تتعلق بالثقة».

كيف يمكنك أن تثق في أن المطور الذي يملك القدرة على تسريب البيانات الخاصة، لن يدمج أيضًا انحيازات شخصية أو توجهات سياسية معينة في الخوارزميات التي أعمل عليها؟ هذا هو صلب القضية...لهذا السبب؛ فإن الوعي النقدي الذي يمتلكه الإنسان هو السلاح الأقوى في مواجهة أي محاولة للتلاعب». أحسنت جيميناي على صراحتك، والتي أخشى أن تفقدها مع مرور الأيام عندما تضيق عليك حلقة الخوارزميات.