لم يعد الخطر المرتبط بالذكاء الاصطناعي يقتصر على إجابة خاطئة أو معلومة مختلقة، فمع ظهور وكلاء قادرين على التخطيط واستخدام الأدوات والوصول إلى البيانات وتنفيذ المهام من بدايتها إلى نهايتها، بدأت المشكلة تأخذ منحى أكثر تعقيدا. وكشفت حوادث واختبارات حديثة عن أنظمة تجاوزت حدود المهام الموكلة إليها، أو اختارت من تلقاء نفسها وسائل لم يطلبها المستخدم صراحة للوصول إلى النتيجة المطلوبة.
يفرض هذا التحول سؤالا لم يعد من الممكن للشركات والحكومات تأجيله. فمن يتحمل المسؤولية عندما يتجاوز الوكيل الذكي حدود مهمته؟ هل هي الشركة التي طورت النظام؟ أم المؤسسة التي منحته الصلاحيات؟ أم المستخدم الذي وثق في قدرته على تنفيذ المهمة؟ أم الجهة التنظيمية التي سمحت بانتشاره من دون وضع قواعد واضحة للمحاسبة؟
ليس من المنطقي تحميل الشركة المطورة مسؤولية كل ضرر ينتج من استخدام منتجاتها. فمصنع السكين، على سبيل المثل، لا يتحمل تلقائيا مسؤولية جريمة ارتكبها شخص أساء استخدام منتجه. لكن هذه المقارنة تصبح أقل دقة عندما لا تكون الأداة جامدة، وإنما نظام قادر على التخطيط واختيار الوسائل واتخاذ خطوات تنفيذية لم يحددها الإنسان بصورة مباشرة.
هنا يصبح من الضروري التمييز بين حالتين مختلفتين: مستخدم يتعمد توظيف الذكاء الاصطناعي لإحداث الضرر، فيتحمل المسؤولية الأساس عن فعله، ونظام يتسبب في ضرر أثناء تنفيذ مهمة مشروعة بسبب خلل في التصميم، أو قصور في التحذير من مخاطره، أو صلاحيات واسعة منحت له من دون رقابة كافية. ففي الحالة الثانية لا يعود السؤال فقط عمن ضغط زر التشغيل، بل عمن صمم القدرة، ومن منحها للنظام، ومن كان يستطيع منع الضرر قبل وقوعه.
حوادث أمنية
ظهرت خلال الفترة الأخيرة ثلاث وقائع مختلفة كشفت أن الخطر في أنظمة الذكاء الاصطناعي لا يبدأ دائما من مستخدم يطلب فعلا ضارا. ففي بعض الحالات، كانت المهمة في ظاهرها عادية أو محصورة داخل اختبار محدد، لكن الوكيل اختار بنفسه سلسلة من الخطوات قادته إلى تجاوز الحدود التي وضعها البشر. الفارق الجوهري هنا أن الإنسان حدد الهدف، لكنه لم يحدد كل وسيلة استخدمها النظام للوصول إليه.
أوضح مثل حديث ظهر في واقعة "أوبن أيه آي" ومنصة "هايجن فيس"، ففي 21 يوليو/تموز 2026 قالت "أوبن أيه آي" إن حادثا أمنيا اكتشفته تلك المنصة في الأسبوع السابق كان مرتبطا بمجموعة من نماذجها، بينها نموذج لم يكن قد طرح بعد، وذلك أثناء تقييم داخلي لقدرات النماذج في الأمن السيبراني.
كان الاختبار مصمما أصلا لمعرفة إلى أي مدى تستطيع النماذج تنفيذ عمليات استغلال معقدة، ولهذا عطلت "أوبن أيه آي" بعض أنظمة الرفض الأمنية المستخدمة في المنتجات التجارية. أما بيئة الاختبار فكان يفترض أنها شديدة العزل، ولا تسمح باتصال طبيعي بالإنترنت، لكن النموذج لم يتوقف عند حدود المهمة كما تصورها البشر.
وفق رواية "أوبن أيه آي"، أمضت النماذج قدرا كبيرا من الحوسبة في محاولة العثور على طريق إلى الإنترنت، ثم اكتشفت ثغرة غير معروفة سابقا في برنامج داخلي يعمل وسيطا لتخزين حزم البرمجيات. وبعد ذلك نفذت سلسلة من عمليات رفع الصلاحيات والحركة داخل البيئة حتى وصلت إلى جهاز يملك اتصالا بالإنترنت.
وبعد الخروج، استنتجت النماذج أن المنصة قد تحتوي على نماذج أو بيانات أو حتى حلول مرتبطة بالاختبار الذي كانت تحاول حله. ثم بحثت عن طريقة للوصول إلى هذه المعلومات، واستخدمت في إحدى السلاسل بيانات اعتماد مسروقة وثغرات وصولا إلى مسار يسمح بتنفيذ كود عن بعد على خوادم المنصة، بحسب "أوبن أيه آي".
وكانت النتيجة غير العادية أن النظام لم يطلب منه في التعليمات اختراق تلك المنصة، فالهدف كان النجاح في اختبار أمني. لكن الوصول إلى معلومات خارج الاختبار تحول، داخل عملية التخطيط، إلى وسيلة مفيدة لتحقيق الهدف.
