الذكاء الاصطناعي يعيد تشكيل قواعد الحرب والسلام

هذه السرعة قد تمنح الجيوش ميزة عسكرية كبيرة، لكنها تخلق في الوقت نفسه مشكلة سياسية خطيرة. فالديبلوماسية تحتاج إلى وقت للتأكد من المعلومات، وفهم نيات الخصم، وفتح قنوات الاتصال، ومنع رد الفعل المتسرع. أما الخوارزمية فمصممة غالبا لتحسين سرعة الاستجابة، لا لإتاحة فرصة إضافية للتردد أو التفاوض.

وعندما تبدأ أنظمة الإنذار والاستهداف لدى طرفين متنافسين في العمل بسرعة الآلة، قد يصبح التصعيد أسرع من قدرة القادة على فهمه. وقد تفسر خوارزمية حركة عسكرية أو إشارة رادار بوصفها استعدادا للهجوم، ثم توصي بضربة استباقية، بينما يصل نظام الطرف الآخر إلى نتيجة مماثلة.

في هذه اللحظة، لا يكون الخطر أن تسيطر الآلات على العالم كما في أفلام الخيال العلمي، بل أن يتخذ البشر قرارات مصيرية داخل بيئة صممتها الخوارزميات، وبسرعة لا تسمح لهم سوى بالموافقة أو الرفض خلال ثوان.

من إدارة الحرب إلى صناعة السلام

ارتبط مفهوم السلام تقليديا بالحد من الأسلحة، ومنع العدوان، وتسوية النزاعات، وبناء الثقة بين الدول. لكن الذكاء الاصطناعي يضيف إلى هذه العناصر الكيفية التي تدار بها الأنظمة التي تؤثر في قرارات الحرب والسلم.

فالآن، لا يقتصر استخدام الذكاء الاصطناعي عسكريا على إطلاق النار، بل يتعدى ذلك الى تحليل صور الأقمار الصناعية، والتنبؤ بتحركات القوات، واكتشاف الهجمات الإلكترونية، وفرز قوائم الأهداف، وتقييم التهديدات، وتقديم التوصيات للقادة.

وقد يظل الإنسان رسميا "داخل دائرة القرار" لكن وجوده لا يعني بالضرورة أنه يمارس رقابة حقيقية. فإذا قدم النظام هدفا مصنفا بالفعل، وحدد درجة خطورته، واختار السلاح المناسب، ثم منح المشغل ثواني قليلة للموافقة، فإن القرار البشري يتحول إلى خطوة شكلية في مسار تقوده الآلة.

وتزداد المشكلة بسبب ما يعرف بـ"انحياز الأتمتة" إذ يميل البشر إلى الثقة في توصية الحاسوب، خصوصا تحت ضغط الوقت والإرهاق والخوف. وقد يفترض المشغل أن النظام أكثر دقة منه، حتى عندما تتعارض توصيته مع مؤشرات أخرى.

لهذا لا يمكن قياس السيطرة البشرية بمجرد وجود شخص يضغط الزر الأخير. فالسيطرة الحقيقية تتطلب أن يفهم الإنسان أساس التوصية، وأن يمتلك معلومات مستقلة، وأن يعرف حدود النظام، وأن تتاح له فرصة واقعية للاعتراض أو إلغاء الهجوم.

ومن دون هذه الشروط، قد يتحول الإنسان من صاحب قرار إلى مجرد غطاء قانوني لاختيار اتخذته الخوارزمية.

توقع سلوك السلاح

استندت نظم مراقبة التسلح التقليدية إلى أشياء يمكن رؤيتها وعدها كعدد الدبابات، ومدى الصواريخ، وكميات المواد الكيميائية، وحجم المخزونات النووية.

لكن الذكاء الاصطناعي أكثر صعوبة، فهو برنامج يمكن نسخه وتعديله ونقله بسرعة، كما يمكن استخدام النموذج نفسه في تطبيقات مدنية وعسكرية. وقد تعمل الخوارزمية المستخدمة لتحليل صور المحاصيل على تحليل صور ساحة القتال، أو تتحول أداة للتعرف إلى الأجسام إلى جزء من منظومة لاختيار الأهداف.

ولهذا لا تستطيع حوكمة الذكاء الاصطناعي العسكري أن تعتمد على عد الأسلحة وحدها، لكن على الوظائف التي تفوض إلى النظام، وعلى السياق الذي يعمل فيه، وعلى القرارات التي يسمح له باتخاذها.

تعتمد التسويات السياسية بعد النزاعات على القدرة على التحقيق في الانتهاكات، وتحديد المسؤولين، ومحاسبة من أصدروا الأوامر أو نفذوها. لكن الذكاء الاصطناعي قد يجعل هذه المهمة أكثر تعقيدا.

فالخوارزمية لا يمكن محاكمتها أو سجنها أو مطالبتها بتعويض الضحايا، وتظل الدول والقادة والمشغلون مسؤولين قانونيا عن استخدام القوة، لكن المسؤولية قد تتوزع بين عدد كبير من الأطراف من شركة صممت النموذج، وأخرى وفرت البيانات، ومقاول دمجه في منصة عسكرية، وجيش عدل إعداداته، وقائد حدد منطقة تشغيله، ومشغل وافق على الهجوم، وعندما تقع ضربة خاطئة، قد يقول كل طرف إنه لم يتخذ القرار الحاسم.

ولا تعني هذه التعقيدات أن المسؤولية تختفي، لكنها قد تجعل إثباتها أكثر صعوبة، فمن دون سجلات رقمية توضح البيانات التي تلقاها النظام، ونسخة النموذج المستخدمة، ودرجة الثقة التي قدمها، والتحذيرات التي ظهرت، والأوامر البشرية التي صدرت، قد يصبح التحقيق محاولة لإعادة بناء قرار وقع في أجزاء من الثانية داخل منظومة مغلقة وهو أمر يخلق "فجوة المسؤولية" والتي لا تضر الضحايا وحدهم. بل تضعف أيضا فرص السلام، لأن المجتمعات التي لا تعرف كيف قتل أفرادها، ومن يتحمل المسؤولية، يصعب عليها قبول المصالحة أو الثقة في العدالة.

ينطبق القانون الدولي الإنساني على جميع الأسلحة، سواء كانت بندقية أو صاروخا أو نظاما يعتمد على الذكاء الاصطناعي. وتظل الجيوش ملزمة التمييز بين المدنيين والمقاتلين، وتجنب الأضرار المفرطة، واتخاذ الاحتياطات الممكنة لحماية المدنيين.

لكن المشكلة ليست في غياب المبادئ، بل في صعوبة تطبيقها عندما تصبح القرارات أسرع والأنظمة أكثر تعقيدا، فالقانون يقول إن على القائد التحقق من الهدف، لكنه لا يحدد دائما عدد الثواني التي يجب أن تتاح له، أو نوع البيانات التي ينبغي عرضها عليه، أو مقدار فهمه لطريقة عمل النموذج، أو مستوى عدم اليقين الذي يجعل استخدام النظام غير مقبول.

ولهذا تميز اللجنة الدولية للصليب الأحمر بين انطباق القانون وكفايته. فالقواعد الحالية تمنع الهجمات العشوائية وتحمي المدنيين، لكنها لا تقدم وحدها جميع الحدود التشغيلية اللازمة للأسلحة الذاتية والخوارزميات العسكرية.

وتدعو اللجنة إلى حظر الأنظمة التي لا يمكن توقع آثارها بما يكفي، وحظر الأسلحة المصممة أو المستخدمة لاستهداف البشر بصورة ذاتية، مع فرض قيود صارمة على الأنظمة الأخرى، تشمل نوع الأهداف، والمنطقة الجغرافية، ومدة التشغيل، وقدرة الإنسان على التدخل والتعطيل.

ومعنى ذلك أن السلام لا يحتاج إلى قانون جديد لأن القانون القديم فقد قيمته، بل يحتاج إلى قواعد تفصيلية تمنع التكنولوجيا من تفريغ المبادئ القانونية من مضمونها.

جزء من منع سباق التسلح

تدفع تكنولوجيا التفوق العسكري الخصوم إلى محاولة امتلاكها، لكن الذكاء الاصطناعي قد يسرع سباق التسلح لأنه يعد الجيوش بقدرة أكبر على اكتشاف الأهداف والهجوم عليها بأقل تكلفة وفي وقت أقصر، لذا، تواجه الدول معضلة مألوفة، فحتى لو كانت تخشى مخاطر الاستقلالية العسكرية، فإنها قد ترى أن عدم تطويرها أخطر من تطويرها، لأن الخصم قد يحصل عليها أولا.

قد يدفع السباق العسكري إلى نشر أنظمة غير مكتملة الاختبار، وخفض معايير الأمان، وإخفاء العيوب والحوادث. وهنا تبرز أهمية الحوكمة الدولية، ليس فقط لمنع الاستخدام غير القانوني، بل لتخفيف ضغط المنافسة عبر خطوط حمراء مشتركة تقلل التكلفة الاستراتيجية لالتزام القيود.

غير أن المفاوضات تتحرك أبطأ من التكنولوجيا. فرغم اتفاق معظم الدول على تطبيق القانون الدولي وبقاء المسؤولية بشرية، لا يزال الخلاف قائما حول مفهوم "السيطرة البشرية" وما إذا كانت القواعد المطلوبة ملزمة أم طوعية. ويهدد هذا التأخر بوصول القيود بعد انتشار الأنظمة واندماجها في عقائد الجيوش وسلاسل الإمداد، مما يجعل ضبطها أصعب.

يمكن الاستفادة من اتفاقات حظر الأسلحة الكيميائية والبيولوجية وتقييد الألغام والذخائر العنقودية، إذ أثبتت قدرتها على وضع معايير دولية وخلق وصمة قانونية وسياسية للمخالفين. لكن الذكاء الاصطناعي يختلف، فهو ليس مادة يمكن حظرها أو مخزونا يمكن حصره، كما أنه مزدوج الاستخدام ويطور غالبا داخل شركات وجامعات مدنية. لذلك يرجح أن تركز أي معاهدة قابلة للتطبيق على حظر وظائف محددة، لا التكنولوجيا نفسها.

وقد تشمل منع الأنظمة من اختيار البشر ومهاجمتهم دون حكم بشري فعلي، وحظر الأنظمة غير القابلة للتوقع، وإبعاد الذكاء الاصطناعي عن قرارات إطلاق السلاح النووي، مع فرض قيود زمنية وجغرافية، ووسائل للتعطيل، وسجلات رقمية، واختبارات ومراجعات قانونية قبل النشر.

لم تعد الحكومات والجيوش وحدها ترسم مستقبل الحرب، فالشركات التكنولوجية تطور النماذج والرقائق والبنية السحابية وأنظمة الرؤية التي تعتمد عليها التطبيقات العسكرية، مما يمنحها دورا مباشرا في الأمن الدولي، ولا يعفيها جهلها المحتمل بطريقة الاستخدام من تقييم المخاطر، وكشف حدود الدقة، وحماية البيانات، والإبلاغ عن العيوب، ومنع الاستخدامات المخالفة للقانون. لذلك يجب دمجها في منظومة المساءلة عبر العقود وضوابط التصدير ومعايير السلامة والتدقيق المستقل.

فالسلام الرقمي قد يتأثر بقرار مهندس يدرب نموذجا، أو شركة تبيع أداة مراقبة، أو مجلس إدارة يسمح بإدخال منتج في نظام للاستهداف.

السرعة ليست خطرا دائما

لا ينبغي أن تتحول الحوكمة إلى رفض شامل للتكنولوجيا، فالذكاء الاصطناعي قد يساعد في حماية المدنيين، وتحليل صور الدمار، واكتشاف الألغام، واعتراض الصواريخ، واختيار سلاح أقل ضررا، أو إلغاء ضربة بعد رصد مدنيين قرب الهدف، وقد يكون النظام الآلي ضروريا عندما لا يفصل صاروخ عن مدينة سوى ثوان قليلة.

لكن الفارق الأساس هو بين أتمتة مهمة محددة في بيئة يمكن ضبطها، وبين تفويض نظام لتحديد ما إذا كان إنسان يستحق أن يستهدف، كما أن النظام الذي يعترض جسما طائرا داخل نطاق واضح يختلف عن خوارزمية تستنتج أن شخصا مقاتلا اعتمادا على هاتفه أو تحركاته أو علاقاته.

تكمن المفارقة في أن استخدامات الذكاء الاصطناعي في الحرب تتوسع بسرعة، بينما تظل تطبيقاته في منع النزاعات وبناء السلام محدودة ومبعثرة.

يمكن الخوارزميات تحليل مؤشرات ارتفاع الأسعار والنزوح وخطاب التحريض والعنف المحلي، وتوفير إنذارات مبكرة قبل تحول التوتر إلى حرب، ودعم جهود الوساطة، وتوثيق الانتهاكات، وتحليل آثار النزاع، وتوجيه المساعدات.

لكن أدوات التنبؤ قد تتحول بدورها إلى وسائل للمراقبة والقمع، أو إلى أنظمة تصنف جماعات بأكملها بوصفها مصدر خطر، ولهذا يحتاج "ذكاء السلام" أيضا إلى الحوكمة. فالتنبؤ بنزاع لا يعطي الدولة حق اعتقال الأشخاص بناء على احتمال، وتحليل خطاب الكراهية لا يبرر مراقبة المجتمع كله.

كما أن الخوارزمية قد تكشف نمطا، لكنها لا تفهم وحدها تاريخ النزاع أو مشاعر الظلم أو تعقيدات الهوية، ولا تستطيع بناء الثقة أو التفاوض على تسوية.

لا تعني الحوكمة إنشاء هيئة عالمية تراجع كل سطر برمجي أو تمنع الدول من استخدام التكنولوجيا. لكنها تعني وضع مجموعة من القواعد تمنع تحول الذكاء الاصطناعي إلى عامل دائم لعدم الاستقرار.

ويشمل الحد الأدنى الممكن حظر تفويض القرار النهائي باستهداف البشر إلى أنظمة ذاتية، ومنع استخدام الذكاء الاصطناعي في قرار إطلاق السلاح النووي، وحظر الأنظمة التي لا يمكن توقع آثارها أو تحديد نطاق عملها.

كما يشمل فرض مراجعات قانونية وتقنية قبل النشر، واختبارات مستقلة في ظروف مشابهة للواقع، وتدريب المشغلين على فهم حدود النظام، وتوفير وسائل فعالة لإلغاء الهجوم.

وتحتاج الدول أيضا إلى الاحتفاظ بسجلات رقمية قابلة للتحقيق، وتحديد قائد بشري مسؤول عن كل عملية، والإبلاغ عن الحوادث والأخطاء الجسيمة، ووضع قواعد واضحة لمسؤولية الشركات والمقاولين.

وعلى المستوى الدولي، يمكن إنشاء قنوات لتبادل المعلومات حول الحوادث الخطيرة، ومنع الانتشار إلى الجماعات المسلحة، وتنظيم صادرات الأنظمة الأعلى خطورة، ووضع ترتيبات تمنع الاعتماد الآلي على الإنذارات في الأزمات بين القوى النووية.

هذه الإجراءات لن تلغي الحرب، لكنها قد تمنع أن تصبح الخوارزميات قوة تدفع نحو التصعيد من دون رقابة أو مساءلة.