هل الذكاء الاصطناعي الآن يقرر الحياة والموت؟

ترجمة: أحمد شافعي -

لنبدأ بالحقيقة المثيرة للإزعاج، حقيقة أننا فقدنا السيطرة على الذكاء الاصطناعي.

لا ينبغي أن تفاجئنا هذه الحقيقة كثيرا، إذا ما أخذنا في الاعتبار احتمال أننا لم نسيطر عليه قط. لقد أثارت العاصفة التي شهدتها شركة أوبن آي (OpenAI) بسبب الإقالة المفاجئة لرئيسها التنفيذي، سام ألتمان، تساؤلات حول المساءلة داخل إحدى أقوى شركات الذكاء الاصطناعي في العالم. لكن حتى قبل تلك الدراما التي جرت في مجلس الإدارة، كان فهمنا محدودا لكيفية إنشاء الذكاء الاصطناعي واستخدامه.

يكافح المشرعون في جميع أنحاء العالم لمواكبة وتيرة ابتكار الذكاء الاصطناعي، فلا يستطيعون من ثم توفير الأطر الأساسية للتنظيم والرقابة. وقد أدى الصراع بين إسرائيل وحماس في غزة إلى زيادة المخاطر. فأنظمة الذكاء الاصطناعي تستعمل حاليا لتحديد من يعيش ومن يموت في غزة. والنتائج، كما يرى كل ذي عينين، مرعبة.

في تحقيق واسع النطاق أجرته إصدارة +792 مجازين (+972 Magazine) الإسرائيلية، تحدث الصحفي الإسرائيلي يوفال أبراهام إلى العديد من المسؤولين الحاليين والسابقين حول برنامج الذكاء الاصطناعي الحربي المتقدم التابع للجيش الإسرائيلي والمسمى بـ«الإنجيل» (The Gospel).

وفقا للمسؤولين، يقدم (الإنجيل) توصيات بالاستهداف مولَّدة عن طريق الذكاء الاصطناعي من خلال «الاستخراج السريع التلقائي للمعلومات الاستخباراتية». وتجري مطابقة التوصيات مع عمليات تحديد الهوية التي يقوم بها جندي بشري. ويعتمد النظام على مصفوفة من نقاط البيانات ذات تواريخ مدققة في التعرف الخاطئ على الهويات، مثل تقنية التعرف على الوجه.

والنتيجة هي إنتاج أهداف «عسكرية» في غزة بمعدل مرتفع ارتفاعا مذهلا. وفي عمليات إسرائيلية سابقة، كانت وتيرة الجيش تتباطأ بسبب عدم وجود أهداف نظرا لاستغراق البشر وقتا طويلا لتحديد الأهداف وتحديد الخسائر المحتملة بين المدنيين. لكن الإنجيل سارع هذه العملية بتأثير هائل.

وبفضل (الإنجيل)، لا تستطيع الطائرات المقاتلة الإسرائيلية مواكبة عدد الأهداف التي توفرها هذه الأنظمة الآلية. والجسامة الهائلة لعدد القتلى خلال الأسابيع الستة الماضية من القتال توضح تماما الطبيعة القاتلة لهذه التكنولوجيا الحربية الجديدة.

لقد لقي أكثر من سبعة عشر ألف شخص، منهم ما لا يقل عن ستة آلاف طفل مصرعهم بحسب ما أفاد به مسؤولون في غزة. وبالاستناد إلى تقارير عديدة، قال الصحفي الأمريكي نيكولاس كريستوف إن «امرأة أو طفلا تتعرض للقتل كل سبع دقائق تقريبا على مدار الساعة منذ بدء الحرب في غزة». وقال ريتشارد مويس، الباحث الذي يرأس مجموعة (المادة 36) التي تقوم بحملات للحد من أضرار الأسلحة، لصحيفة جارديان: «انظروا إلى المشهد المادي في غزة. إننا نشهد تسوية واسعة النطاق لمنطقة حضرية بأسلحة تفجيرية ثقيلة، ولذلك فالزعم بتحري الدقة وتضييق استخدام القوة هو زعم لا تدعمه الحقائق».

عيون على غزة

تراقب الجيوش في جميع أنحاء العالم ذات القدرات المماثلة في مجال الذكاء الاصطناعي الهجوم الإسرائيلي على غزة مراقبة حثيثة. وسوف يجري استخدام الدروس المستخلصة من غزة لتحسين منصات ذكاء اصطناعي أخرى لاستخدامها في الصراعات المستقبلية. لقد خرج المارد من القمقم. والحرب الآلية في المستقبل سوف تستخدم برامج الكمبيوتر لتحديد من يعيش ومن يموت.

وفي حين أن إسرائيل تستمر في قصف غزة بالصواريخ الموجهة بالذكاء الاصطناعي، تحتاج الحكومات والهيئات التنظيمية في جميع أنحاء العالم إلى عون من أجل مواكبة وتيرة ابتكار الذكاء الاصطناعي الجاري في شركات خاصة.. وليس بوسع المشرعين وواضعي النظم مواكبة البرامج الجديدة والبرامج الجاري إنشاؤها.

تشير صحيفة نيويورك تايمز إلى أن «هذه الفجوة تفاقمت بسبب النقص المعرفي في مجال الذكاء الاصطناعي الذي تعانيه الحكومات، ومتاهة البيروقراطيات، والمخاوف من أن تؤدي كثرة القواعد إلى الحد عن غير قصد من فوائد التكنولوجيا.

والنتيجة النهائية هي أن شركات الذكاء الاصطناعي يمكنها أن تتطور دونما إشراف يذكر أو دونما إشراف بالمرة. وهذا وضع يبلغ من المأساوية أننا لا نعرف حتى ما الذي تعمل عليه هذه الشركات.

وانظروا إلى الفشل الذريع في إدارة شركة (أوبن آي) صاحبة منصة «تشات جي بي تي» الشهيرة للذكاء الاصطناعي. عند إقالة الرئيس التنفيذي سام ألتمان المفاجئة، بدأت شائعات الإنترنت في التركيز على تقارير غير مؤكدة تفيد بأن الشركة أنشأت ذكاء اصطناعيا سريا وقويا قادرا على تغيير العالم بطرق غير متوقعة. وأدى الخلاف الداخلي حول استخدام هذا الذكاء إلى أزمة قيادة في الشركة. قد لا نعرف أبدا مدى صحة هذه الشائعة صحيحة، ولكن في ضوء مسار الذكاء الاصطناعي وحقيقة أننا لا نستطيع فهم ما تفعله شركة (أوبن آي)، تبدو الشائعة معقولة. لا يستطيع العامة والمشرعون الحصول على إجابة مباشرة حول إمكانات منصة فائقة القوة من منصات الذكاء الاصطناعي، وهذه هي المشكلة.

يمثل برنامج (الإنجيل) الإسرائيلي وفوضى (أوبن آي) نقطة تحول في الذكاء الاصطناعي. ولقد حان الوقت لتجاوز الأفكار الجوفاء القائلة بأن الذكاء الاصطناعي سوف يمنحنا العالم الجديد الشجاع.

فقد يساعد الذكاء الاصطناعي البشرية في تحقيق أهداف جديدة، لكنه لن يكون قوة للخير لو تم تطويره في الخفاء واستخدامه في قتل البشر في ساحات القتال. فلا يستطيع واضعو النظم والمشرعون مواكبة وتيرة التكنولوجيا ولا يملكون الأدوات اللازمة لممارسة الرقابة السليمة.

وفي حين تراقب الحكومات القوية في جميع أنحاء العالم إسرائيل وهي تختبر خوارزميات الذكاء الاصطناعي على الفلسطينيين، لا يمكن أن نركن إلى آمال زائفة بأن هذه التكنولوجيا لن تستخدم إلا من أجل الخير. ففي ضوء عجز الهيئات التنظيمية لدينا عن إنشاء حواجز لتقييد التكنولوجيا، يمكننا أن نأمل في أن المصالح الضيقة للرأسمالية الاستهلاكية سوف تكون بمثابة حاكم للمدى الحقيقي الذي يمضي إليه الذكاء الاصطناعي في تحويل المجتمع.

وهو بصيص أمل، لكنه على الأرجح هو كل ما بأيدينا في هذه المرحلة.

جوزيف دانا كاتب مقيم في جنوب إفريقيا والشرق الأوسط. كتب من القدس ورام الله والقاهرة واسطنبول وأبو ظبي.

عن صحيفة آسيا تايمز