هل يخرج الذكاء الاصطناعي قريبا عن سيطرة البشر؟

لا أحد يعرف على وجه اليقين إلى أين يمكن أن تقود عواقب "التحسين الذاتي التكراري". وبما أن الذكاء الاصطناعي، خلافا للبشر، يستطيع العمل بلا كلل وعلى مدار الساعة، يرى بعضهم أن ذلك قد يفضي، خلال زمن قصير، إلى ظهور ذكاء فائق، أو ما يطلق عليه اسم "الانطلاق السريع". يشار إلى الفكرة أيضا بتعبير "انفجار الذكاء"، في محاكاة صوتية لانفجار متخيل في مستوى الذكاء. أما المتشائمون حيال الذكاء الاصطناعي، فيخشون أن يصبح هذا الذكاء الفائق عصيا على السيطرة البشرية، وأن تكون بداية "التحسين الذاتي التكراري" هي اللحظة التي يسلم فيها مصير البشر إلى الآلات. ومع ذلك، فقد يصطدم الذكاء الاصطناعي القادر على تحسين نفسه بسقوف تحد من سرعته، على الأقل في مراحله الأولى.

فبناء نموذج قادر على خوض مسار "التحسين الذاتي التكراري" يتطلب أتمتة طيف واسع من المهام المتخصصة التي لا يزال البشر يؤدونها اليوم. في الوقت الراهن، يعمل علماء البيانات على تطوير نظرية الذكاء الاصطناعي، بينما يتولى المبرمجون تحويلها إلى تطبيقات عملية. ويبني مهندسو الأنظمة البنية التي تسمح بنقل النماذج التجريبية الصغيرة إلى مستوى الإنتاج واسع النطاق. ويسعى آخرون إلى العثور على مصادر جديدة لبيانات التدريب، أو يختبرون طرائق لإنتاج بيانات بديلة. وفي المقابل، تتولى فرق المواءمة والسلامة التحقق من أن مخرجات عملية التدريب لن تسبب ضررا، سواء كان ذلك بقصد أو من دونه.

ولا تستفيد كل هذه الفرق من مساعدة الذكاء الاصطناعي بالقدر نفسه، كما أن داخل كل تخصص مهام أكثر قابلية للأتمتة من غيرها. وقد لا يطول الوقت قبل أن يصبح المبرمج البشري قادرا على أداء عمله من دون أن يكتب بنفسه سطرا واحدا من الشيفرة. غير أن الأمر قد يستغرق زمنا أطول قبل أن يتمكن نظام ذكاء اصطناعي من التفاوض للحصول على مجموعة من الأوراق العلمية التي لم ترقمن من قبل. وليس واضحا دائما كيف ستتبدل "الحدود المتعرجة" في هذا السياق. فقد بدا تصميم الخوارزميات الجديدة، حتى وقت قريب، من أكثر الوظائف أمنا في وجه الأتمتة، إلى أن بدأ "ألفا إيفولف"، أحد نماذج "غوغل ديب مايند"، القيام بذلك في مايو/أيار 2025. فقد اقترح النموذج تعديلا في طريقة توزيع "غوغل" لأحمال العمل عبر مراكز بياناتها، وفر للشركة 0.7 في المئة من قدرتها الحاسوبية عالميا، كما توصل إلى طرائق أفضل لإجراء ضرب المصفوفات، ما سرع تدريب "جيميني"، النموذج اللغوي الكبير الرئيس لدى الشركة، بنسبة 1 في المئة.

ويتطلب تحقق "التحسين الذاتي التكراري" الكامل أتمتة كل المهمات في هذه السلسلة. غير أن أثر تسارع البحث والتطوير المدفوع بالذكاء الاصطناعي قد يظهر قبل الوصول إلى تلك المرحلة. فبحسب تقرير نشره "مركز الأمن والتقنيات الناشئة"، وهو مركز أبحاث تابع لجامعة جورجتاون، في يناير/كانون الثاني، فإنه كلما تولت أنظمة الذكاء الاصطناعي حصة أكبر من أعمال البحث والتطوير الخاصة بتطوير الذكاء الاصطناعي نفسه، ارتفعت الإنتاجية مقارنة بالاعتماد على الجهد البشري وحده، من عشرة أضعاف إلى مئة ضعف ثم إلى ألف ضعف. ويحذر التقرير من أنه حتى لو بدت بعض جوانب البحث والتطوير في الذكاء الاصطناعي صعبة الأتمتة في البداية، فإن "وتيرة التقدم المتسارعة تعني أن تلك الاختناقات سرعان ما تتلاشى".

متعة التكرار

لا يستطيع أي نموذج ذكاء اصطناعي اليوم أن يبني خليفته بنفسه. غير أن النماذج الكبيرة باتت قادرة على إنشاء نماذج أصغر بصورة تلقائية، كما يمكنها، حين تتلقى مساعدة بشرية، أن تسهم في بناء نماذج كبيرة أخرى للذكاء الاصطناعي.

في وقت سابق من هذا العام، درب أندريه كارباثي، وهو باحث كان يعمل مستقلا آنذاك ويعمل الآن لدى "أنثروبيك"، روبوت دردشة يقترب في قدراته من "جي بي تي 2"، النموذج اللغوي الكبير الذي طورته "أوبن إيه آي" عام 2019. في ذلك الوقت، احتاج النموذج إلى 168 ساعة من التدريب على 32 شريحة من أحدث الشرائح المتاحة. أما كارباثي، فبلغ النتيجة نفسها باستخدام حاسوب واحد مزود بثماني وحدات معالجة رسومية، وهي الشرائح المتخصصة في بناء أنظمة الذكاء الاصطناعي، وفي غضون ثلاث ساعات فقط. وبعد بضعة أشهر إضافية من العمل، خفض زمن تدريب نموذجه "نانوتشات" إلى ما يزيد قليلا على ساعتين.

وفي مارس/آذار، أوكل مهمة تسريع عملية التدريب إلى وكيل ذكاء اصطناعي يدعى "أوتوريسيرتش". وفي غضون يومين، انخفض زمن التدريب إلى ساعة و48 دقيقة، ثم تراجع بعد خمسة أيام أخرى إلى ساعة و39 دقيقة. ويقول كارباثي: "لم أتدخل في أي شيء". ويعد هذا التحسن البالغ 18 في المئة مقارنة بالجهد البشري لافتا، لأن كارباثي نفسه يتمتع بخبرة استثنائية، فقد كان عضوا مؤسسا في فريق الأبحاث لدى "أوبن إيه آي"، كما شغل منصب رئيس الذكاء الاصطناعي في "تسلا" لمدة خمس سنوات.

وكانت التحسينات نفسها بسيطة. فقد اختار وكيل الذكاء الاصطناعي قيما ابتدائية أفضل لجولة التدريب، ووسع نطاق نافذة "الانتباه" في النموذج اللغوي الكبير، ولاحظ أن تركيز النموذج كان يتشتت. ويقول كارباثي إن أيا من هذه التحسينات لا يعد جديدا على نحو خاص، لكنه كان قد أغفلها. ويضيف: "لقد تراكمت هذه التحسينات، وحسنت نانوتشات بالفعل".

وتبدو تسريعات من هذا النوع حتمية كلما ازدادت قدرات النماذج. فكثير من العمل اللازم لبناء نماذج متقدمة بحجم تيرابايت لا يبدو مبهرا كما توحي الرواتب الضخمة في صناعة الذكاء الاصطناعي ومكاتبها الفاخرة. فهو يتضمن ربط طبقات من البنية التحتية المشتراة من جهات خارجية، ومعالجة أعطال العتاد والبرمجيات، وضبط "المعلمات الفائقة"، أي الإعدادات الأولية لجولة التدريب، إلى أن تبدو النتائج موثوقة. وبوسع أنظمة الذكاء الاصطناعي اليوم أن تنجز قدرا كبيرا من هذا العمل تحت إشراف محدود.

لكن حتى العمل الفكري الأكثر دقة وتعقيدا يقترب بدوره من الأتمتة، بحسب جو سبيساك، الباحث في "ريفليكشن إيه آي"، وهو مختبر في نيويورك يبني نماذج رائدة مفتوحة الأوزان، أي إن إعداداتها متاحة للعموم. فإذا زودتم نظاما متقدما بفكرة أولية لتحسين الكفاءة، بات قادرا أكثر فأكثر على تصميم تجربة، واختبارها على نموذج مصغر، وتحديد ما ينجح منها، ثم الخروج بخطة جاهزة للتنفيذ على نطاق واسع.

وتستطيع نماذج الذكاء الاصطناعي إنجاز هذا النوع من المهام، الذي يستغرق من البشر ساعات، في نحو 30 دقيقة فقط. وبات دور البشر، على نحو متزايد، أقرب إلى إدارة البحث وتوجيهه، إذ يرشدون الذكاء الاصطناعي إلى التجارب التي ينبغي إجراؤها، بينما تتولى النماذج نفسها كتابة الشيفرة وتصحيحها وتحسينها ومراقبتها. وهذه القفزة في الإنتاجية مغرية، لكنها مقلقة أيضا. فكلما تقلص الدور البشري في عملية الإنتاج، ازداد خطر فقدان السيطرة عليها. وقد تكون النتيجة النهائية نماذج تدربها نماذج أخرى، لتحقيق أهداف تحددها النماذج نفسها، ولا تتحقق من سلامتها إلا نماذج مثلها.

ويخشى بعضهم أن ينتهي الأمر إلى كارثة. فالعالم ماكس تيغمارك، الفيزيائي وباحث تعلم الآلة في معهد ماساتشوستس للتكنولوجيا، الذي كرس جانبا كبيرا من العقد الماضي للدعوة إلى سلامة الذكاء الاصطناعي، يشبّه المسألة بسائق يضغط دواسة الوقود بقوة على الطريق السريع وهو مغمض العينين. وقال في حلقة مرتقبة من برنامج "إنسايد تيك"، التابع لمجلة "الإيكونوميست" إن النتيجة ستكون هلاكا محققا ما دام السائق يرفض فتح عينيه. ويطرح البروفيسور تيغمارك سيناريوهات عدة قد تنحرف فيها الأمور، فقد تتفوق أنظمة ذكاء اصطناعي قوية على البشر في صنع القرار داخل الحكومات والأسواق، فتجرد البشرية من نفوذها؛ أو قد تمنح سلطة مطلقة لمن يبنيها أولا، فتمهد لقيام شمولية عالمية؛ أو قد تكف ببساطة عن الاكتراث بالبشرية تماما، وتزيح الناس تدريجيا لإفساح المجال أمام مزيد من مراكز البيانات ومنشآت توليد الطاقة.

قبل ثلاثة أعوام، قاد البروفيسور تيغمارك دعوة إلى وقف تطوير الذكاء الاصطناعي عالميا على نحو مؤقت، مجادلا بأن إنشاء نموذج "جي بي تي 4"، الذي كان آنذاك في طليعة النماذج المتقدمة، أشبه بتلك الرحلة التي ينطلق فيها السائق على طريق سريع وهو معصوب العينين. وحذر تقرير "مركز الأمن والتقنيات الناشئة" هذا العام من أن الأنظمة التي قد يفرزها "التحسين الذاتي التكراري" "تشكل مخاطر جسيمة، ما يستدعي اتخاذ إجراءات تحضيرية منذ الآن". ويبدو أن "أنثروبيك" باتت تقترب من تبني هذا التوجه.

الرقاقة الساخنة

غير أن هناك، في الوقت الراهن، قيودا مادية عدة ستضع حدودا للسرعة التي يمكن أن تحسن بها النماذج نفسها. ويأتي الوصول إلى القدرة الحاسوبية في مقدمة هذه القيود. فعلى الرغم من مكاسب الكفاءة، لا تزال النماذج الأحدث تحتاج إلى قدرة حوسبية أكبر لتدريبها مقارنة بسابقاتها، ما يعني أن وتيرة التقدم ستظل، إلى حد بعيد، مرتبطة بسرعة تطوير مراكز البيانات.

فالسعة المحدودة داخل مراكز بيانات الذكاء الاصطناعي ينبغي توزيعها بحذر بين خدمة العملاء الذين يدفعون المال، وتدريب نماذج المستقبل، وإجراء أبحاث وتطوير مفتوحة. وكلما ازداد الطلب في الفئة الأولى، تقلصت على المدى القصير السعة المتاحة للفئتين الأخريين.

ويمكن أن يؤدي استخدام المستهلكين للذكاء الاصطناعي إلى إبطاء وتيرة البحث والتطوير المدفوعين بالذكاء الاصطناعي، بحسب هيلين تونر، المديرة التنفيذية المؤقتة لـ"مركز الأمن والتقنيات الناشئة" وإحدى المؤلفات الرئيسات لتقريره الأخير. فالسعة المحدودة في مراكز بيانات الذكاء الاصطناعي ينبغي توزيعها بعناية بين خدمة العملاء الذين يدفعون المال، وتدريب نماذج المستقبل، وإجراء تجارب أبحاث وتطوير مفتوحة. وكلما ازداد الطلب في الفئة الأولى، تقلصت على المدى القصير السعة المتاحة للفئتين الأخريين.

ثم تبرز مسألة بيانات التدريب. فقد تحقق قدر كبير من التقدم الأخير في الذكاء الاصطناعي داخل مجالات تستطيع فيها النماذج أن تعلم نفسها النجاح بفضل "مكافآت قابلة للتحقق". فإما أن يعمل برنامج ما أو لا يعمل، وإما أن يكون البرهان الرياضي صحيحا أو يكون خاطئا. وفي مثل هذه الحالات، يمكن التحقق من سلامة البيانات الاصطناعية التي تولدها النماذج خصيصا لتدريب نماذج أخرى، ثم إضافتها إلى بيانات التدريب من دون المخاطرة بالتدهور الذي يصاحب عادة تدريب أنظمة الذكاء الاصطناعي على مخرجاتها الذاتية. أما تحسين أداء نموذج في الكتابة الإبداعية أو في إصدار الأحكام القانونية، فمسألة أصعب بكثير. وإذا ظلت النماذج بحاجة إلى التعلم من العالم الحقيقي، فقد يضع ذلك بدوره سقفا لقدرتها على تحسين نفسها.

ويمكن أن يكون "اكتمال هذه الحلقة" خطوة على الطريق نحو ذكاء فائق، وهو أمر يعني، بحسب وجهة نظركم، إما مدينة فاضلة وإما هلاكا. لكنه ليس الخطوة الوحيدة اللازمة لتحقيق نمو هائل في قدرات الذكاء الاصطناعي.