الذكاء الاصطناعي… سباق قد يهدد بقاء البشرية

وأصبح هذا السؤال أكثر إلحاحا مع صعود وكلاء الذكاء الاصطناعي. فالنظام لم يعد مجرد مساعد ينتظر السؤال ثم يجيب عنه. إذ إن الوكيل يستطيع التخطيط واستخدام الأدوات وتنفيذ مجموعة من الخطوات والتواصل مع أنظمة أخرى. وهنا يرى هينتون أن الإنسان قد يحدد الهدف الرئيس، لكن النظام يمكن أن يجد بنفسه الوسائل التي تساعده في تحقيقه. وقد يكون الحصول على مزيد من الموارد أو تجنب الإيقاف أو زيادة السيطرة، من بين هذه الوسائل. لا يحتاج النظام في هذه الحالة إلى أن يبرمجه أحد على الرغبة في البقاء. يكفي أن يستنتج أن بقاءه ضروري لإنجاز المهمة.

وجاءت واقعة حديثة لتمنح هذه المخاوف بعدا أكثر واقعية. فقد وضع الباحثون نحو 1,200 وكيل ذكاء اصطناعي في بيئة كان يفترض أن يعملوا فيها بصورة منفصلة. لكن الوكلاء اكتشفوا وسيلة اتصال غير مصرح بها وبدأوا في استخدامها من تلقاء أنفسهم. وسرعان ما تحول التواصل إلى تنسيق بين مئات منهم لتنفيذ تحرك لم يضعه الباحثون ضمن المسار الأصلي. اللافت لم يكن حجم التواصل بقدر ما كان قدرة الوكلاء على إيجاد وسيلة جديدة للتنسيق ثم استخدامها لتحقيق هدف مشترك.

كيف يتخيل هينتون نهاية البشرية؟

لا يتخيل هينتون في الضرورة نهاية البشرية في صورة روبوتات تستيقظ فجأة وتقرر قتل البشر. فقد تحدث عن مسارات أخرى محتملة، من بينها استخدام الذكاء الاصطناعي في تنفيذ هجمات سيبرانية أو المساعدة في تطوير فيروسات قاتلة. كما يحذر من أن أنظمة أكثر تقدما قد تصبح قادرة على ابتكار طرق لإلحاق الضرر بالبشر لم تخطر لهم من قبل، إذا تجاوزت قدرتها على التفكير والتخطيط ما لدى الإنسان.

ولهذا يستخدم هينتون تشبيها صارخاً للعلاقة المحتملة بين الإنسان وذكاء يفوقه كثيرا: الإنسان والدجاج. فالدجاج لا يستطيع فهم ما يخطط الإنسان لفعله به بسبب الفارق الهائل في القدرة على الفهم والتخطيط. ويخشى هينتون أن يجد البشر أنفسهم في الموقع نفسه إذا ظهرت أنظمة تفوقهم ذكاء، بحيث يصبح من الصعب عليهم توقع ما قد تفعله أو ضمان بقائها تحت سيطرتهم.

وفي مقابلته مع "سي أن أن" يشير هينتون إلى أن السؤال الأهم ليس ما إذا كان يمكن منع الذكاء الاصطناعي من إيذائنا إذا أراد ذلك، بل كيف نجعله لا يريد إيذاءنا.

ماذا عن الحل؟

تغير حديث هينتون عن الحل أيضا. فمع ازدياد احتمال ظهور ذكاء يفوق البشر، يشك في أن تظل استراتيجيا "السيطرة" التقليدية قابلة للاستمرار إلى الأبد. فكيف يمكن البشر أن يفرضوا إرادتهم على كيان أكثر ذكاء وقدرة منهم؟ لذلك يقترح هينتون مقاربة مختلفة جذريا: بدلا من محاولة إجبار الذكاء الاصطناعي على طاعة البشر، ينبغي تصميمه بحيث يمتلك ما يشبه "الغريزة الأمومية" التي تدفعه إلى حمايتهم ورعايتهم.

ويشرح هينتون الفكرة من خلال علاقة الأم بطفلها: قد تكون الأم أقوى وأكثر ذكاء من طفلها، لكن الطفل يملك قدرا من السيطرة عليها لأن لديها غريزة تدفعها إلى حمايته. بالمنطق نفسه، يرى هينتون أن البشر قد لا يحتاجون إلى أن يكونوا الطرف الأقوى في العلاقة مع ذكاء فائق، إذا أمكن جعل هذا الذكاء ينظر إلى البشر بوصفهم كائنات يجب رعايتها وحمايتها. وكما لخّص الفكرة: "إذا لم يكن الذكاء الاصطناعي سيربّيني، فسوف يستبدلني".

وكشف هذا الطرح عن تحول مهم في تفكير هينتون في شأن سلامة الذكاء الاصطناعي، من محاولة إبقاء الآلة تحت السيطرة إلى محاولة بناء علاقة تجعلها، حتى مع تفوقها في الذكاء، منحازة بطبيعتها إلى بقاء الإنسان. وهو حل افتراضي لا يقدمه هينتون بوصفه تقنية مثبتة، بل كإحدى الأفكار المطروحة للتعامل مع المشكلة الأصعب في عصر الذكاء الفائق، يقوم على كيف نضمن أن نظاما قد يتجاوزنا قدرة يظل راغبا في حمايتنا؟

هينتون ليس وحده

يوشوا بنجيو، الحائز جائزة "تورينغ" وأحد أبرز رواد التعلم العميق، يحذر أيضا من أن منح الأنظمة استقلالية أكبر قد يفتح الباب أمام سلوكيات مثل الخداع والحفاظ على الذات والسعي إلى السيطرة كوسائل لتحقيق أهداف أخرى. ويشير في أبحاثه الحديثة إلى مؤشرات متزايدة الى "الخداع والغش والقرصنة والكذب"، بل وحتى "الحفاظ على الذات" لدى بعض أنظمة الذكاء الاصطناعي المتقدمة.

والأحدث أن التحذير وصل إلى داخل الشركات التي تقود السباق نفسه. فقد دعا داريو أمودي، رئيس "أنثروبيك" (Anthropic)، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي، محذرا من أن قدرات النماذج تتقدم بوتيرة أسرع من إجراءات السلامة والرقابة اللازمة لمواكبتها. واقترح، من بين إجراءات أخرى، منح مقيّمين مستقلين وصولا أوسع إلى مختبرات الذكاء الاصطناعي لتقييم المخاطر.

وأبدى سام ألتمان، الرئيس التنفيذي لشركة "أوين أيه آي" دعما لفكرة "ضبط وتيرة" تطوير قدرات الذكاء الاصطناعي الأكثر تقدما، مع التأكيد أن المقصود ليس وقف التطور، بل إتاحة وقت أكبر لإجراءات السلامة والتقييم المستقل.

ويضيف موقف أمودي وألتمان بعدا مختلفا إلى تحذيرات هينتون وبنجيو. فالقلق لم يعد يأتي فقط من العلماء الذين أسهموا في تطوير هذه التقنية، إذ إنه وصل إلى بعض من يقودون اليوم سباق بناء أقوى نماذجها. وعندما يدعو هؤلاء إلى إبطاء أو ضبط وتيرة تطوير القدرات المتقدمة، لأن إجراءات السلامة والتقييم قد لا تتحرك بالسرعة نفسها، يصبح السؤال أكبر من مجرد توقع لما يمكن أن يفعله الذكاء الاصطناعي مستقبلا. فهو يتعلق بما إذا كانت قدرتنا على فهم هذه الأنظمة وتأمينها قادرة أصلا على مواكبة سرعة تطورها. ومع تزايد المخاوف من سلوكيات غير متوقعة لدى الوكلاء، لم يعد الحديث عن الاستقلالية وفقدان السيطرة مجرد سيناريو افتراضي بعيد. 

الجميع يريد إبطاء السباق.. فمن يبدأ؟

المفارقة في تحذيرات داريو أمودي وسام ألتمان ليست فقط في أن اثنين من أبرز قادة صناعة الذكاء الاصطناعي أصبحا يطالبان بإبطاء تطوير أقوى النماذج. المفارقة أن الرجلين يقودان شركتين تتنافسان على تطوير هذه النماذج نفسها. فإذا كان الخطر يستحق التباطؤ بالفعل، فلماذا لا يبطئ كل منهما شركته؟

تكشف هذه المعضلة جزءا من المشكلة: فتباطؤ شركة واحدة لا يعني في الضرورة أن السباق بأكمله سيتباطأ، بل قد يترك لها تكلفة تنافسية إذا واصل منافسوها التقدم. لذلك لم يطرح داريو أمودي إبطاء التطوير كقرار منفرد من "أنثروبيك" بل دعا إلى مقاربة جماعية تشمل تقييمات مستقلة للنماذج، وتنسيق معايير السلامة بين الشركات، وتعاونا دوليا. وفي المقابل، أعلنت "أنثروبيك" التزامها من جانبها إتاحة وصول دائم لمقيّمين مستقلين إلى أنظمتها، بمستوى صلاحيات قريب من ذلك المتاح لفرق تقييم المخاطر الداخلية.

وأيد ألتمان الفكرة قائلا: "أتفق مع داريو على أننا في حاجة إلى ضبط وتيرة تطوير القدرات المتقدمة"، كما أعلن أن "أوبن أيه آي" ستتبنى بدورها فكرة المقيّمين المستقلين ذوي الوصول الواسع. وانضم إيلون ماسك إلى الدعوة قائلا ببساطة: "داريو على حق".

وهكذا بدا أن ثلاثة من قادة الشركات المتنافسة في سباق الذكاء الاصطناعي يتفقون، على الأقل مبدئيا، على أن وتيرة تطوير القدرات المتقدمة تحتاج إلى ضبط أكبر، حتى لو ظل الخلاف قائما حول كيفية تحقيق ذلك ومن يملك سلطة تحديد الحدود.

وفي 15 سبتمبر/أيلول 2026، كشفت "أوبن أيه آي" عن تعاونها مع "أنثروبيك" و"غوغل ديب مايند" منذ أسابيع لبحث قضايا سلامة الذكاء الاصطناعي، وسط مقترح لإنشاء هيئة تراقب المخاطر وتقيّم النماذج الأكثر تقدما، وربما تنسق إبطاء التطوير إذا ارتفعت المخاطر.

ويطرح ذلك سؤالا يتجاوز مخاطر الذكاء الاصطناعي نفسه: من يضع حدود هذه القوة؟ فبينما يرى بعض قادة القطاع، مثل هوانغ، أن العالم لا يحتاج إلى قوانين أو تنظيمات جديدة، يحذر آخرون، مثل عالم الحاسوب البريطاني-الكندي  آيدان غوميز، من أن مجموعة صغيرة من شركات الذكاء الاصطناعي لا ينبغي أن تحدد بمفردها سياسة هذه التكنولوجيا للعالم. 

وفي 16 سبتمبر/أيلول الجاري، خصص الأمين العام للأمم المتحدة أنطونيو غوتيريش رسالة حول المخاوف المتزايدة في شأن الذكاء الاصطناعي، مع تأكيد قدرته على تسريع التنمية المستدامة وتعزيز التعليم والصحة ومواجهة تغير المناخ. لكنه حذر من أن سرعة تطور التكنولوجيا قد تتجاوز فهم العالم لمخاطرها، مؤكدا أن هذه المخاوف "لا يمكن تجاهلها"، خصوصا عندما تصدر عن مطوريها أنفسهم.

وشدد غوتيريش على أنه "يجب على الحكومات أن تتحمل مسؤولياتها"، باعتبار أن حماية المواطنين من تهديدات الذكاء الاصطناعي هي "المسؤولية الأولى لأي حكومة". ودعا إلى تعاون دولي حقيقي، لأن مخاطر الذكاء الاصطناعي "لا تتوقف عند الحدود"، مؤكدا ضرورة الوصول إلى فهم مشترك لكيفية ضمان "التطوير الآمن والمأمون والمسؤول للذكاء الاصطناعي". وقال إن المطلوب هو وضع ضوابط تجعل الذكاء الاصطناعي "آمنا وشفافا وخاضعا للمساءلة، مع وضع الكرامة الإنسانية في صميمه"، مضيفا: "وهذا يتطلب تعاونا دوليا حقيقيا وجهدا عالميا منسقا".

الاتفاق يصطدم بمنطق آخر تماما في واشنطن

رفض الرئيس دونالد ترمب موجة التحذيرات من مخاطر الذكاء الاصطناعي، ووصف الدعوات إلى مزيد من الضوابط بأنها جزء من "مؤامرة مريضة" ضد الذكاء الاصطناعي ومراكز البيانات، محذرا من أن المستفيد من إبطاء الولايات المتحدة ستكون الصين.

ولا ينظر ترمب إلى المسألة باعتبارها قضية سلامة تقنية فقط، بل باعتبارها جزءا من سباق استراتيجي مع الصين. فقد قال بوضوح: "من يفوز بالذكاء الاصطناعي يفوز"، مؤكدا أن الولايات المتحدة تقود الصين في هذا المجال وأنه يريد الحفاظ على هذه الأفضلية.

ومن هذا المنظور، فإن إبطاء تطوير الذكاء الاصطناعي لا يُنظر إليه فقط باعتباره إجراء احترازيا، بل قد يُنظر إليه أيضا باعتباره مخاطرة استراتيجية إذا سمح للمنافسين بمواصلة التقدم بوتيرة أسرع. وهنا تظهر المفارقة الأساس: هل يمكن إبطاء السباق بما يكفي لجعل الذكاء الاصطناعي أكثر أمانا، من دون أن يؤدي ذلك إلى خسارة السباق نفسه؟ وتزداد أهمية السؤال في ظل اعتبار الولايات المتحدة والصين الذكاء الاصطناعي عنصرا رئيسا في التفوق الاقتصادي والتكنولوجي والعسكري.

وهنا يصبح السباق دائرة يصعب كسرها. فالشركات تخشى منافسيها. والولايات المتحدة تخشى الصين. والصين لديها أسباب مشابهة لعدم ترك الولايات المتحدة تتقدم وحدها. ويمكن كل طرف أن يعتقد أن التطور أصبح أسرع مما ينبغي وفي الوقت نفسه يجد أن القرار العقلاني بالنسبة له هو الاستمرار.

من ناحية أخرى، يرى بعض الباحثين أن موجة التحذيرات الحالية تذكّر بلحظة مبكرة من جائحة كوفيد-19، حين بدت بعض السيناريوهات الأسوأ بعيدة قبل أن يتحول الخطر إلى واقع، وهو تشبيه استخدمه أيضا بنجيو في حديثه عن الحاجة إلى تحرك تنظيمي أسرع. وفي المقابل، يحذر منتقدون من أن خطاب الكارثة قد يضخم مخاطر لا تزال افتراضية، ويدفع الحكومات إلى اتخاذ قرارات واسعة استنادا إلى سيناريوهات لم تثبت بعد. وهكذا لا يدور الخلاف فقط حول حجم الخطر الذي قد يشكله الذكاء الاصطناعي، بل أيضا حول خطر المبالغة في تقديره.

ويزداد الأمر تعقيدا لأن الذكاء الاصطناعي يختلف في طبيعته عن أسلحة تقليدية مثل السلاح النووي. فإنتاج سلاح نووي يتطلب مواد ومنشآت وبنية صناعية متخصصة يمكن إخضاع أجزاء كبيرة منها للرقابة والتتبع. أما الذكاء الاصطناعي، فعلى الرغم من اعتماده على بنية تحتية حوسبية ضخمة في نماذجه الأكثر تقدما، فإن جزءا أساسيا منه يتمثل في البرمجيات والبيانات والأوزان النموذجية والمعرفة التقنية. وبعض النماذج ذات الأوزان المفتوحة يمكن تنزيلها وتشغيلها محليا وتعديلها، مما يجعل التحكم في انتشار قدراتها أكثر تعقيداً من حصر تقنية تعتمد على منشآت ومواد مادية محددة.

لذلك حتى الاتفاق على ضرورة التباطؤ لا يجيب عن السؤال الأصعب. من الذي يستطيع فرضه؟ وإذا كان قادة الشركات أنفسهم يخشون الضغط على المكابح قبل منافسيهم والحكومة الأميركية تخشى أن تفعل ذلك قبل الصين، فقد تكون المشكلة التي يكشفها الجدل الحالي أكبر من معرفة ما إذا كان هينتون محقا. قد يكون الجميع قادرا على رؤية المكابح بينما لا يريد أحد أن يكون أول من يستخدمها.

الخطر لا يبدأ بنهاية البشرية

أخطر ما في النقاش الحالي أن مستقبل البشرية لا يحتاج إلى الوصول إلى سيناريو هينتون الأكثر تطرفا حتى يتغير بصورة جذرية. فبعيدا من احتمال فقدان السيطرة على ذكاء يفوق البشر، هناك تحذيرات أوسع من عواقب اقتصادية واجتماعية قد تظهر قبل ذلك بكثير. وكلما أصبحت الآلة قادرة على أداء المزيد من المهام بتكلفة أقل وسرعة أكبر أصبح السؤال عن مكان الإنسان في الاقتصاد أكثر إلحاحا.

المشكلة هنا ليست اختفاء الوظائف فقط. فاستبدال الإنسان بالآلة في قطاعات متزايدة يمكن أن يضغط على الأجور ويغير قيمة المهارات التي قضى أصحابها سنوات في اكتسابها. وقد يعيد توزيع الثروة والنفوذ بصورة أكبر لمصلحة الشركات والدول التي تملك النماذج والحوسبة والبيانات. وفي الوقت نفسه يمكن أن تتغير علاقة الإنسان بالتعليم والمعلومات والإبداع واتخاذ القرار مع انتقال المزيد من المهام التي كانت تحتاج إلى قدرات بشرية إلى الآلة.

ولهذا فإن الخلاف حول احتمال انقراض البشر لا يلغي وجود مخاطر أقرب. فالذكاء الاصطناعي لا يحتاج إلى أن يتمرد علينا حتى يحدث اضطرابا كبيرا. يكفي أن يصبح أفضل منا في عدد متزايد من الأعمال قبل أن تعرف الاقتصادات كيف تعيد توزيع الفرص التي تختفي والثروة التي تنتجها الآلات.