خبراء يجيبون "المجلة": هل تشكل "هلوسة" الذكاء الاصطناعي خطرا على المعرفة؟

نحو مزيد من الحوكمة والشفافية

Lina_Jaradat
Lina_Jaradat

خبراء يجيبون "المجلة": هل تشكل "هلوسة" الذكاء الاصطناعي خطرا على المعرفة؟

أصبحت أدوات الذكاء الاصطناعي التوليدي جزءا لا يمكن إنكاره من أدوات المعرفة والإبداع، من كتابة النصوص وترجمتها إلى الإسهام في إنتاج شتى أشكال المحتوى الثقافي، وقد تستخدم أحيانا لإنجاز هذه المهام كاملة. ومع اتساع حضورها، تبرز أسئلة الثقة في مخرجاتها، وما قد تتضمنه من أخطاء وتحيزات ومعلومات مختلقة، وحدود تمثيلها للغات والثقافات المختلفة. فمن يتحقق من هذه المخرجات قبل اعتمادها أو نشرها؟ وما حدود المراجعة البشرية، وكيف نضمن ألا تصبح إجراء شكليا؟ وكيف تتوزع المسؤوليات بين مطور النموذج والمؤسسة التي تستخدمه والشخص الذي يعتمد مخرجاته أو ينشرها؟

تستطلع "المجلة" في هذا التحقيق آراء خبراء عرب في هذه القضايا، وتبحث أثر بيانات التدريب في تشكيل المخرجات وأسباب أخطائها وتحيزاتها، ومدى تمثيل اللغة العربية وسياقاتها الثقافية، وتبحث كذلك استعداد المؤسسات لوضع سياسات واضحة للاستخدام، وقدرة أطر الحوكمة والتشريعات على تحديد المسؤوليات وتوفير آليات للمساءلة، مع التوقف عند الجهود السعودية وبعض المبادرات الدولية.

أخطاء المخرجات: هلوسة وتحيز وفجوات المعرفة

مع اتساع استخدام أدوات الذكاء الاصطناعي، تتكشف أبعاد الإشكالية في طبيعة الأخطاء نفسها وكيفية تسربها إلى المحتوى المعرفي. يرى رامي الدماطي، الرئيس التنفيذي للإستراتيجيا في شركة "ميتاسيرف" السعودية، وخبير حوكمة الذكاء الاصطناعي والأمن السيبراني، أن أخطر ما في هذه التقنيات قدرتها على إنتاج الخطأ بصيغة تبدو موثوقا بها ومقنعة، فلم يعد السؤال: من أنتج المعلومة؟ بل: من منحها الثقة، ومن أجاز استخدامها أو نشرها، وعلى أي أساس.

ويستشهد الدماطي بدراسة لمركز "Tow" بجامعة كولومبيا عام 2025، أخفقت فيها ثماني أدوات بحث مدعومة بالذكاء الاصطناعي في تحديد مصادر المقالات الصحافية بصورة صحيحة في أكثر من 60% من الاختبارات.

وفي تفسير أسباب الأخطاء، يوضح رامي عوض، الرئيس التنفيذي للتقنية في "بدجت" السعودية، أن "هلوسة" النماذج التوليدية ترتبط بطبيعة عملها، فهي "لا تسترجع الحقيقة كما يفعل محرك بحث أو موسوعة، وإنما تتوقع الكلمات الأكثر احتمالا بناء على ما تعلمته"، ولذلك قد تصوغ إجابة مقنعة على الرغم من نقص المعلومات أو تعارضها، منوها بأن الهلوسة ليست خطأ برمجيا منفردا يمكن إزالته نهائيا، بل نتيجة لطريقة التوليد نفسها، ويمكن الحد منها بتحسين التدريب، وربط الإجابات بمصادر موثوق بها، وإتاحة الامتناع عن الإجابة عند عدم اليقين.

أخطر ما في هذه التقنيات قدرتها على إنتاج الخطأ بصيغة تبدو موثوق بها ومقنعة، فلم يعد السؤال: من أنتج المعلومة؟ بل: من منحها الثقة، ومن أجاز استخدامها أو نشرها، وعلى أي أساس

وتتأثر فاعلية هذه المعالجات بتوافر البيانات وجودتها، وهو ما يطرح تحديا خاصا في اللغة العربية، يعزوه عوض إلى تنوع الفصحى واللهجات، وقلة بعض المحتوى الرقمي العربي الموثوق به أو الحديث مقارنة بالإنكليزية، أما "هندسة الأوامر" Prompt Engineering، أي صوغ الطلبات بدقة، فتساعد في تقليل الأخطاء، لكنها لا تضمن نتائج خالية منها، فالصياغة الجيدة "لا تحول النموذج إلى مرجع معصوم".

ويتناول حمزة العكاليك، مستشار حوكمة التحول الرقمي وحماية البيانات وأخلاقيات الذكاء الاصطناعي، المشكلة من زاوية جودة البيانات وتمثيل الثقافة العربية، إذ يسهم ضعف جودة بيانات التدريب وتنوعها في هلوسة النماذج وإنتاج معلومات غير دقيقة، ولا تتعلق المشكلة بكمية المحتوى العربي الرقمي وحدها، بل بتكراره وضعف تمثيل اللهجات والسياقات الثقافية والدينية والتاريخية، فضلا عن نقص الوثائق التراثية والتاريخية المحققة رقميا، ما قد يؤدي إلى اختلاق وقائع أو نسبة معلومات إلى مصادر غير صحيحة.

ويلتقي الدماطي مع العكاليك في ربط موثوقية المخرجات بحضور اللغات في البيانات التي تتغذى عليها النماذج، ويستشهد بتقرير للبنك الدولي لعام 2025، أشار إلى استحواذ اللغة الإنكليزية على نحو 56.3% من مجموعات البيانات المفتوحة المصدر على منصة "Hugging Face"  وفق بيانات عام 2024. ويرى أن هذه الفجوة تطرح سؤالا يتجاوز الجانب التقني إلى قدرة اللغات والثقافات على تمثيل معارفها داخل الأنظمة، محذرا من أن الاستثمار في البنية التقنية من دون الاستثمار في الباحث والمحرر والمترجم والمبدع العربي يجعلنا مستهلكين لروايات معرفية يصوغها الآخرون.

Noam Galai / Getty Images via AFP
مشهد عام للافتات فعالية "سايتد: تحقيق عائد قابل للقياس على الاستثمار في المحتوى في عصر الذكاء الاصطناعي"، في مدينة نيويورك، الولايات المتحدة، في 10 يونيو 2026

الترجمة بالذكاء الاصطناعي وحدود الفهم الثقافي

تظهر آثار هذه الإشكالية بوضوح في الترجمة، إذ لا تكفي سلامة الصياغة اللغوية للحكم على دقة النص، ويحذر الدكتور عبد المحسن بن عبيد الثبيتي، باحث رئيس في الذكاء الاصطناعي ضمن فريق "علام" في شركة "هيوماين"، من "الهلوسة"، حين ينتج النموذج ترجمة سلسة لغويا لكنها خاطئة أو مخترعة تماما.

وفي مقاله "الترجمة والذكاء الاصطناعي: أين نحن؟"، المنشور في العدد الثامن من مجلة "ساتا" الفصلية (أكتوبر 2026)، التي تصدر عن جمعية الترجمة السعودية تحت إشراف وزارة الثقافة السعودية، ينبه الثبيتي إلى أن خطورة هذه الظاهرة تكمن في إمكان إقناع القارئ الذي لا يجيد لغة المصدر بصحة الترجمة، فيمر الخطأ من دون اكتشافه.

ويستند الثبيتي إلى دراسة "الهلوسة في نماذج الترجمة الضخمة المتعددة اللغات"، التي قارنت 17 نموذجا لغويا طورتها خمس شركات، من بينها "تشات جي بي تي" و"كلود" و"جيميناي" و"ديب سيك" و"كوين")، ووجدت أن معدلات الهلوسة تراوحت بين 3% و58%، ويرجع الباحثون هذه الظاهرة، وفق الثبيتي، إلى محدودية التنوع اللغوي في بيانات التدريب، وضعف التمثيل الدلالي للمعنى، إلى جانب صعوبة تعامل النماذج مع المصطلحات المتخصصة والنادرة.

ولا تقتصر المخاطر على الأخطاء في نقل المعنى، فبيانات التدريب قد تعكس تحيزات ثقافية واجتماعية وسياسية في المخرجات، ويورد الثبيتي دراسة "قياس التحيز الثقافي في النماذج اللغوية الكبيرة"، التي أجريت على 15 نموذجا لغويا مفتوح المصدر، ووجدت أن التحيز الثقافي والاجتماعي-الثقافي موجود في أكثر من 75% من إجمالي حالات التحيز المكتشفة، مع ظهور التحيز بدرجة أكبر عند الترجمة من اللغات المنخفضة الموارد.

ويرى الثبيتي أن التقاط الأنماط اللغوية لا يساوي فهم التجربة الثقافية التي نشأ عنها التعبير، لذلك تظل ترجمة الأدب والشعر والخطاب الديني بحاجة إلى تدخل بشري يضفي على النص روحه الأصلية، لا مجرد كلماته.

بين الإبداع البشري والنص المولد: أسئلة الأصالة والنشر

وفي ما يتعلق باستخدام نماذج الذكاء الاصطناعي في توليد الأعمال الإبداعية ترفض الروائية والأكاديمية شهلا العجيلي لجوء الكاتب إليها لإنتاج نصه، معتبرة أن الإبداع "خاصية أصيلة ترتبط بالموهبة والابتكار والقدرة على تحويل الخبرات المعرفية والثقافية والحياتية إلى عالم خاص يحمل بصمة صاحبه". وتتساءل: إذا كان المبدع قادرا على خلق عوالمه، فلماذا يعود إلى عوالم جاهزة وأعمال الآخرين التي تستعيدها نماذج الذكاء الاصطناعي ليثبت إبداعه؟

يسهم ضعف جودة بيانات التدريب وتنوعها في هلوسة النماذج وإنتاج معلومات غير دقيقة، ولا تتعلق المشكلة بكمية المحتوى العربي الرقمي وحدها، بل بتكراره وضعف تمثيل اللهجات والسياقات الثقافية

ومع ذلك، تصف العجيلي الذكاء الاصطناعي بأنه "نعمة"، لأنه سيكشف المبدع الحقيقي من المدعي، منوهة بأن الاستعانة المفرطة بهذه الأدوات قد تنتج "نصوصا هجينة تمزج أساليب كتاب متعددين، وتعيد تقديمها في قوالب تهدد خصوصية التجربة الإبداعية وأصالتها".

وتتقاطع هذه المخاوف مع ما رصدته لجنة تحكيم جائزة "سميحة خريس للرواية" في الأردن، وتشارك العجيلي في عضويتها، إذ لاحظت "اتكاء ملحوظا" على أدوات الذكاء الاصطناعي في توليد بعض النصوص وتطوير الحبكات.  

ووفق تقرير اللجنة، أفضى ذلك إلى "قوالب لغوية رتيبة وصياغات نمطية افتقدت حيوية الخيال البشري وفرادته"، وكان هذا أحد الأسباب التي أوردتها اللجنة، ضمن أسباب أخرى، لحجب الجائزة في دورتها الأولى عام 2026.

وتوضح العجيلي أن اللجنة لم تستخدم برامج متخصصة للكشف عن النصوص المولدة، وإنما اعتمدت على خبرتها الأدبية، إذ لاحظت تشابه الثيمات، واضطراب الأسماء وغرابتها، وتكرار القوالب والتعبيرات، وظهور تراكيب هجينة لا تنسجم مع أساليب الكتابة العربية، فضلا عن افتقار بعض العوالم المتخيلة إلى الخصوصية والمرجعية الثقافية الواضحة.

وفي صناعة النشر، يرى جعفر العقيلي، مدير النشر في "الآن ناشرون وموزعون"، أن التعامل مع الذكاء الاصطناعي يقتضي فهم طبيعة الأداة وحدودها، وتطوير معايير النشر لمواكبة أشكال الإبداع الجديدة واختبارها ضمن ضوابط واضحة.

وتبرز هذه الأسئلة في تجربة الدار مع ديوان "خوارزمية الروح: قصائد نثرية مولدة بالذكاء الاصطناعي"، لحسام اللحام، الصادر عام 2026، وهو، بحسب إعلان دار النشر، أول كتاب ورقي عربي يضم شعرا مولدا بهذه التقنيات، ويصف اللحام تجربته بأنها قائمة على "التوجيه الأسلوبي" من خلال توجيه النصوص وتعديلها. وفي تقديمه للديوان، يطرح الناقد ناصر شبانة مفهوم "الشاعر الظل" أو "المدير الأسلوبي"، الذي يعيد تعريف دور الشاعر من منتج مباشر للنص إلى موجه وفاعل في تشكيله مستعينا بقدرات الذكاء الاصطناعي.

FADEL SENNA / AFP
زوار يمرون أمام أجنحة الكتب خلال معرض أبوظبي الدولي للكتاب، في 28 أبريل 2025

وقد فتحت التجربة، وفق العقيلي، أسئلة تتصل بحدود الإسهام البشري في النص المولد ومعايير تقييم أصالته وقيمته الإبداعية، مشددا على أن المعيار الأساسي لقبول الأعمال التي تستعين بالذكاء الاصطناعي هو قيمة العمل وأصالته وحجم الإسهام الإنساني فيه، ومدى قدرة صاحبه على تحمل المسؤولية عن محتواه.

ويميز العقيلي بين استخدام الأداة في المراجعة اللغوية واقتراح الصياغات والبحث وجمع المعلومات، وبين توليد نصوص كاملة تشكل المادة الأساس للكتاب، كما يضع الإفصاح عن استخدامها ضمن مقتضيات بناء الثقة بين المؤلف والناشر والقارئ، على أن يوضح طبيعة دور الأداة من دون أن يتحول استخدامها المحدود إلى "وصمة تنتقص من قيمة العمل".

المسؤولية والمساءلة عن مخرجات الذكاء الاصطناعي

لا تقتصر المسؤولية عن المخرجات الضارة على الجهة التي طورت النموذج، إذ يشدد العكاليك على ضرورة النظر في أدوار مطور النموذج، والجهة التي تكيفه لاستخدام محدد، والمنصة التي تتيح المحتوى، والناشر أو المستخدم الذي يعتمد عليه وينشره، لافتا الى أن  المسؤوليات تتباين بحسب دور كل طرف وسيطرته على النظام وطبيعة استخدامه والضرر الناتج منه.

ويستحضر العكاليك القانون المدني الأردني، ولا سيما "المادتان 256 و291 المتعلقتين بالفعل الضار والأضرار الناجمة عن الأشياء التي تتطلب عناية خاصة"، بوصفهما "مدخلا لبحث تطبيق قواعد المسؤولية المدنية على أضرار الأنظمة الذكية"، أما الملكية الفكرية، فيربطها بمدى الإسهام الإبداعي البشري في إنتاج العمل، مشيرا إلى اختلاف المعالجة القضائية دوليا في شأن حماية المخرجات المولدة آليا.

التحيز الثقافي والاجتماعي-الثقافي موجود في أكثر من 75% من إجمالي حالات التحيز المكتشفة، مع ظهور التحيز بدرجة أكبر عند الترجمة من اللغات المنخفضة الموارد

ومن جهة أخرى، يرى عوض أن المسؤولية مشتركة، لكن العبء الأكبر يقع على الشركة التي صممت الخدمة وحددت مجالات استخدامها، فالتحذيرات التي تذيل بها النماذج إجاباتها، مثل "قد تحتوي على أخطاء، فتحقق منها"، مهمة لكنها "غير كافية أخلاقيا"، فقد يثق المستخدم بالإجابة الواثقة أو يفتقر إلى الوقت والخبرة اللازمين لمراجعتها، وبدلا من الاكتفاء بالتحذير يقترح عوض إظهار المصادر بجانب الادعاءات، وتوضيح حدود الثقة بالإجابة، والحد من الإجابات غير الموثوق بها في المجالات الحساسة، وإتاحة المراجعة البشرية وآليات الإبلاغ عن الأخطاء وتصحيحها.

أما مسؤولية الناشر، بحسب العقيلي، فتشمل العناية بالمحتوى والتحقق من سلامته، وعدم الاكتفاء بتماسك النص لغويا، فقد تتضمن المخرجات معلومات غير دقيقة، أو تنسب أقوالا إلى غير أصحابها أو تختلق مراجع أو تخلط بين روايات تاريخية متباينة، ولهذا يشدد على مراجعة المصادر الأصلية وبيانات النشر والأسماء والتواريخ والاقتباسات، والتحقق من المعلومات ومصادرها في الكتب المعرفية، ومقابلة النصوص المترجمة بأصولها، والاستعانة بالمختصين عند الحاجة.

وينبه العقيلي إلى الخلط بين "التدقيق اللغوي والتحرير المعرفي"، فقد يكون النص سليما من الناحية اللغوية، لكنه يتضمن معلومات خاطئة، لذلك ينبغي أن تتناسب خبرة المراجع مع طبيعة الكتاب، وأن يمتلك صلاحية تعديل النص أو طلب إعادة العمل عليه.

REUTERS/Mohammed Benmansour
كونستانزا غوميز مونت، مؤسسة "سي مايندز" ومبادرة "الذكاء الاصطناعي من أجل المناخ والتنوع البيولوجي"، تتحدث خلال المنتدى العالمي الرابع لليونسكو لأخلاقيات الذكاء الاصطناعي في الرياض

المراجعة البشرية: إجراء شكلي أم فعلي؟

تظل مراجعة المخرجات ضرورية للتحقق من سلامة المعنى ودقته، لكن فاعليتها تتوقف على قدرة المراجع على فهم حدود النموذج والتحقق من أدلته والاعتراض على نتائجه، ويرى الدماطي أن المؤسسات المعرفية العربية بحاجة إلى الانتقال من "حوكمة استخدام الأدوات إلى حوكمة موثوقية المخرجات"، عبر التحقق المستقل من المصادر والادعاءات، واختبار التحيزات، وتصنيف المحتوى بحسب المخاطر، وتوثيق التعديلات والقرارات، وتحديد مسؤول عن الاعتماد النهائي، بما يتناسب مع حجم الضرر المحتمل لا مع سهولة الإنتاج.

ويشير إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأميركي للمعايير والتكنولوجيا (NIST) عام 2023 إلى أن غموض آلية عمل الذكاء الاصطناعي قد يضعف التدقيق البشري ويضخم التحيزات، وفي هذا السياق يقول الدماطي إن المراجعة البشرية لا تفقد قيمتها بسبب غموض النموذج، بل حين تتحول إلى موافقة شكلية، فالمراجع الذي يجهل حدود النموذج ولا يستطيع الوصول إلى الأدلة أو الاعتراض على النتيجة يمارس اعتمادا شكليا لا رقابة فعلية.

وقد أظهرت دراسة نشرت في مجلة Nature Human Behaviour عام 2025 أن التفاعل بين الإنسان والذكاء الاصطناعي قد يضخم التحيزات في الأحكام البشرية، مما يعني، بحسب الدماطي، أن الإنسان "ليس محصنا تلقائيا ضد أخطاء الآلة، فقد يتبناها بدلا من اكتشافها"، منوها بأن المساءلة الحقيقية تبدأ حين يمتلك الإنسان المعرفة بحدود النموذج، والصلاحية والوقت لرفض المخرجات، والقدرة على التحقق المستقل، مع توثيق مسؤولية اعتمادها.

الاستعانة المفرطة بهذه الأدوات قد تنتج نصوصا هجينة تمزج أساليب كتاب متعددين، وتعيد تقديمها في قوالب تهدد خصوصية التجربة الإبداعية وأصالتها

وفي مجال الترجمة، يوصي الثبيتي باستخدام النماذج أدوات مساعدة لا بدائل عن الخبرة البشرية، مع تحديد سياق النص وتخصصه وجمهوره عند توجيه النموذج، وتقسيم النصوص الطويلة، ومراجعة المخرجات بعد الترجمة. ويشدد على ضرورة التحرير البشري، من تصحيح أخطاء المعنى والوضوح إلى مراجعة اللغة والمصطلحات والأسلوب في النصوص المعدة للنشر، محذرا من اعتماد المخرجات من دون تدقيق، خصوصا في النصوص الأدبية والدينية والتاريخية والقانونية والطبية. ويرى أن تطور هذه التقنيات لا يلغي دور المترجم، بل يوسعه ليشمل تدقيق الجودة والتحليل الثقافي والتحرير الاحترافي.

وتدعو توصية "اليونسكو" في شأن "أخلاقيات الذكاء الاصطناعي"، الصادرة عام 2021 وغير الملزمة للدول الأعضاء، إلى تعزيز تعليم الفنانين وأصحاب المهن الإبداعية مهارات التعامل مع هذه التقنيات وتطوير مهاراتهم الرقمية، بما يساعدهم في تقييم ملاءمة استخدامها والمشاركة في تصميم الأدوات المناسبة لمهنهم. وتحث الدول الأعضاء على دراسة آثار تطبيقات معالجة اللغات الطبيعية، ومنها الترجمة الآلية والمساعدة الصوتية، في دقة اللغات وأشكال التعبير البشري وجودتها، ومواجهة آثارها السلبية، ومنها انحسار بعض اللغات وأشكال التعبير بما قد يهدد استمرارها.

وعلى الرغم من أن الأصالة في الإبداع مسألة محسومة بالنسبة إلى العجيلي، فإنها ترى أن تدريب المبدعين على استخدام نماذج الذكاء الاصطناعي أمر ممكن ومفيد لتجنب التضليل والاختلاق، شريطة إتقان صوغ الأوامر وتدقيق المخرجات والتحقق من صحتها، فهذه النماذج، في نظرها، أدوات، مثل استخدام الآلة الحاسبة مثلا، قد تختصر الوقت وتساعد في الوصول إلى معلومات ما، لكنها لا تقوم مقام المبدع أو الباحث أو المترجم، وتظل مخرجاتها بحاجة إلى التحقق بالرجوع إلى المصادر، لاحتمال ورود أخطاء أو ترجمات وتعريفات تفتقر إلى حلقات معرفية.

الحوكمة: التجربة السعودية وحدود المساءلة

تسجل السعودية حضورا متقدما في تطوير قدرات الذكاء الاصطناعي، إذ يضعها تقرير البنك الدولي عن الشرق الأوسط وشمال أفريقيا وأفغانستان وباكستان، الصادر في أكتوبر/ تشرين الأول 2026 بعنوان "من الفجوة إلى الفرصة: الذكاء الاصطناعي والوظائف والنمو" ضمن أفضل 25 دولة عالميا في تطوير نماذج الذكاء الاصطناعي وقدرات الحوسبة العالية الأداء.

ويشير التقرير إلى أهمية الاستثمار في البنية التحتية الرقمية وبنية البيانات بوصفهما رافدا لفرص النمو الاقتصادي وتنويع مصادره، وخصص دراسة حالة للهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا"، المسؤولة عن تطوير قطاع البيانات والذكاء الاصطناعي وتنظيمه في المملكة.

REUTERS/Hamad I Mohammed
شعار شركة "هيوماين" السعودية المتخصصة في الذكاء الاصطناعي، خلال حفل افتتاح معرض "ليب" التقني في الرياض، السعودية، في 31 أغسطس 2026

وفي مارس/ آذار 2026، وافق مجلس الوزراء السعودي على تسمية العام "عام الذكاء الاصطناعي"، ضمن توجهات تتصل بمستهدفات رؤية 2030، وتضع "سدايا" ضمن أهدافها رفع مستوى نضج البيئة التنظيمية للبيانات، وتعزيز الاستخدام المسؤول للذكاء الاصطناعي، إلى جانب تطوير البنية التحتية والقدرات الوطنية.

ويظهر البعد التنظيمي في دراسة "سدايا" الصادرة عام 2025 بعنوان "استشراف حوكمة الذكاء العام الاصطناعي: الوضع الحالي والتطلعات المستقبلية"، إذ توصي بحوكمة مخاطر الأنظمة المستخدمة حاليا، ومنها الذكاء الاصطناعي التوليدي ووكلاء الذكاء الاصطناعي، واتخاذ الخبرة المتراكمة في التعامل معها نقطة انطلاق لتطوير أطر مستقبلية، كما تدعو إلى الاستفادة من التجارب الدولية، ومنها "قانون الذكاء الاصطناعي الأوروبي"، مع تكييف الممارسات التنظيمية بما يتناسب مع الأولويات الوطنية والسياق القانوني المحلي.

التفاعل بين الإنسان والذكاء الاصطناعي قد يضخم التحيزات في الأحكام البشرية، مما يعني أن الإنسان "ليس محصنا تلقائيا ضد أخطاء الآلة، فقد يتبناها بدلا من اكتشافها"

وتتوزع الجهود السعودية كذلك على تطوير المصطلحات المتخصصة ورفع الوعي وبناء القدرات، ففي سبتمبر/ أيلول 2026، أطلقت منظمة العالم الإسلامي للتربية والعلوم والثقافة "إيسيسكو"، بالشراكة مع المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي "آيكير"، ومجمع الملك سلمان العالمي للغة العربية، و"سدايا"، الإصدار الثالث المطور من "معجم البيانات والذكاء الاصطناعي" المتعدد اللغات، ويستهدف المعجم تحديث المصطلحات وتعريفاتها وتعزيز الاتساق بين مقابلاتها بالعربية والإنكليزية والفرنسية، بما يدعم دقة استخدامها في المجالات العلمية والتعليمية والمهنية.

REUTERS/Mohammed Benmansou
رئيس الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا"، عبدالله بن شرف الغامدي، يتحدث إلى وكالة "رويترز" خلال مقابلة على هامش المنتدى العالمي الرابع لليونسكو لأخلاقيات الذكاء الاصطناعي في الرياض، السعودية، في 16 سبتمبر 2026

وفي مجال التوعية، أطلقت "سدايا" وهيئة الاتصالات والفضاء والتقنية، في أكتوبر/تشرين الاول 2026، حملة "تراه  AI" للتعريف بالتزييف العميق ومخاطر التضليل والاحتيال، والدعوة إلى التحقق من الصور والمقاطع والتسجيلات الصوتية قبل تصديقها أو تداولها والرجوع إلى المصادر الأصلية.

أما في بناء القدرات، فتستهدف مبادرة "مليون سعودي للذكاء الاصطناعي - سماي"، التي أطلقتها "سدايا" بالتعاون مع وزارتي التعليم والموارد البشرية والتنمية الاجتماعية، تدريب مليون مواطن ومواطنة على المهارات والمعارف المرتبطة بهذه التقنيات.

وتجمع هذه المسارات بين تطوير القدرات التقنية، والتوجه نحو حوكمة المخاطر، وتوفير مراجع للمصطلحات المتخصصة، وتعزيز وعي المجتمع بالاستخدام المسؤول، لكنها تطرح، في الوقت نفسه، سؤال الانتقال من المبادرات والأطر إلى آليات تطبيق ومساءلة واضحة.

فعلى المستوى الدولي، يعزو العكاليك تعثر التوصل إلى قواعد موحدة وملزمة إلى "التنافس الجيوسياسي والاقتصادي ومخاوف إبطاء الابتكار"، ويقارن بين النهج الأوروبي القائم على تشريع ملزم وتصنيف المخاطر، ومقاربات دولية أخرى تجمع بدرجات متفاوتة بين التنظيم القطاعي والإرشادات والتعهدات الطوعية، ويرى أن الاعتماد على المبادئ الأخلاقية وحدها "لا يضمن مساءلة الجهات المسؤولة عن المخرجات الضارة أو تعويض المتضررين".

ويقدم قانون "الاتحاد الأوروبي للذكاء الاصطناعي" مثلا على إدراج الشفافية ضمن الالتزامات القانونية، وتشمل أحكامه الإفصاح عن بعض أشكال التفاعل مع أنظمة الذكاء الاصطناعي، ووضع علامات على المحتوى المصطنع في حالات محددة. أما توصية "اليونسكو" في شأن "أخلاقيات الذكاء الاصطناعي"، فتقدم إطارا أخلاقيا وسياساتيا للاستدلال، لكنها لا تفرض بذاتها التزامات قانونية ملزمة على الدول الأعضاء، مما يجعل فاعليتها مرتبطة بترجمة مبادئها إلى سياسات وممارسات عملية.

وعربيا، يشير العكاليك إلى جهود السعودية في تطوير أطر الحوكمة وحماية البيانات، ويدعو إلى تعزيز شفافية المحتوى المولد والاستفادة من معيار (C2PA) لتوثيق منشأ المحتوى وتعديلاته، بما يساعد في تتبع مصادر المواد الرقمية، لكنه يظل جزءا من منظومة أوسع ينبغي أن تحدد المسؤوليات وتوفر آليات فعلية للتحقق والتصحيح والمساءلة.

ويربط العكاليك معالجة فجوات البيانات بتعاون المؤسسات الحكومية والأكاديمية والقطاع الخاص لبناء قواعد بيانات عربية موثوقة، ورقمنة الوثائق والتحقق من مصادرها، إلى جانب تطوير نماذج متخصصة، مثل "علام" السعودي (ALLaM) ، كما يدعو إلى الاستفادة من تقنيات التوليد المعزز بالاسترجاع (RAG)، التي تتيح للنماذج الاستناد إلى مصادر خارجية، مع إخضاع البيانات للحوكمة ومراعاة حماية الخصوصية.

تجمع مسارات التجربة السعودية بين تطوير القدرات التقنية، والتوجه نحو حوكمة المخاطر، وتوفير مراجع للمصطلحات المتخصصة، وتعزيز وعي المجتمع بالاستخدام المسؤول 

من جانبه، يحمل الدماطي الحكومات والجامعات والمؤسسات الثقافية والشركات مسؤولية دعم البحث والمحتوى العربي الأصيل، وبناء قدرات المبدعين والباحثين، وتنمية التفكير النقدي ومهارات التحقق، مؤكدا أن "السيادة المعرفية لا تتحقق بامتلاك التقنية وحدها، بل بالقدرة على إنتاج المعرفة التي تتعلم منها".

وفي مجال إنتاج المعرفة والإبداع، يشدد العقيلي على وضوح مسؤولية كل طرف، فالمؤلف مسؤول عن المحتوى الذي يقدمه، والإفصاح عن طبيعة استعانته بنماذج الذكاء الاصطناعي والتحقق من المخرجات، والمترجم مسؤول عن أمانة النقل ودقة المعنى، فيما يتحمل الناشر مسؤولية مهنية عن التحرير والمراجعة والتنبه إلى الأخطاء الجوهرية.

ويقتضي ذلك، وفق العقيلي، تطوير عقود النشر لمواكبة التحولات التي أدخلها الذكاء الاصطناعي على إنتاج الأعمال الإبداعية، من خلال بنود تحدد طبيعة استخدام هذه الأدوات وحدوده، والتزامات كل طرف في شأن صحة المحتوى وأصالته والحقوق الفكرية، وآليات التعامل مع المواد المولدة آليا، وإجراءات التصحيح عند اكتشاف أخطاء جوهرية أو انتهاكات للحقوق، لافتا إلى أن الدار بدأت بالفعل تطوير عقودها بما يواكب هذه التحولات.

font change