أصبحت أدوات الذكاء الاصطناعي التوليدي جزءا لا يمكن إنكاره من أدوات المعرفة والإبداع، من كتابة النصوص وترجمتها إلى الإسهام في إنتاج شتى أشكال المحتوى الثقافي، وقد تستخدم أحيانا لإنجاز هذه المهام كاملة. ومع اتساع حضورها، تبرز أسئلة الثقة في مخرجاتها، وما قد تتضمنه من أخطاء وتحيزات ومعلومات مختلقة، وحدود تمثيلها للغات والثقافات المختلفة. فمن يتحقق من هذه المخرجات قبل اعتمادها أو نشرها؟ وما حدود المراجعة البشرية، وكيف نضمن ألا تصبح إجراء شكليا؟ وكيف تتوزع المسؤوليات بين مطور النموذج والمؤسسة التي تستخدمه والشخص الذي يعتمد مخرجاته أو ينشرها؟
تستطلع "المجلة" في هذا التحقيق آراء خبراء عرب في هذه القضايا، وتبحث أثر بيانات التدريب في تشكيل المخرجات وأسباب أخطائها وتحيزاتها، ومدى تمثيل اللغة العربية وسياقاتها الثقافية، وتبحث كذلك استعداد المؤسسات لوضع سياسات واضحة للاستخدام، وقدرة أطر الحوكمة والتشريعات على تحديد المسؤوليات وتوفير آليات للمساءلة، مع التوقف عند الجهود السعودية وبعض المبادرات الدولية.
أخطاء المخرجات: هلوسة وتحيز وفجوات المعرفة
مع اتساع استخدام أدوات الذكاء الاصطناعي، تتكشف أبعاد الإشكالية في طبيعة الأخطاء نفسها وكيفية تسربها إلى المحتوى المعرفي. يرى رامي الدماطي، الرئيس التنفيذي للإستراتيجيا في شركة "ميتاسيرف" السعودية، وخبير حوكمة الذكاء الاصطناعي والأمن السيبراني، أن أخطر ما في هذه التقنيات قدرتها على إنتاج الخطأ بصيغة تبدو موثوقا بها ومقنعة، فلم يعد السؤال: من أنتج المعلومة؟ بل: من منحها الثقة، ومن أجاز استخدامها أو نشرها، وعلى أي أساس.
ويستشهد الدماطي بدراسة لمركز "Tow" بجامعة كولومبيا عام 2025، أخفقت فيها ثماني أدوات بحث مدعومة بالذكاء الاصطناعي في تحديد مصادر المقالات الصحافية بصورة صحيحة في أكثر من 60% من الاختبارات.
وفي تفسير أسباب الأخطاء، يوضح رامي عوض، الرئيس التنفيذي للتقنية في "بدجت" السعودية، أن "هلوسة" النماذج التوليدية ترتبط بطبيعة عملها، فهي "لا تسترجع الحقيقة كما يفعل محرك بحث أو موسوعة، وإنما تتوقع الكلمات الأكثر احتمالا بناء على ما تعلمته"، ولذلك قد تصوغ إجابة مقنعة على الرغم من نقص المعلومات أو تعارضها، منوها بأن الهلوسة ليست خطأ برمجيا منفردا يمكن إزالته نهائيا، بل نتيجة لطريقة التوليد نفسها، ويمكن الحد منها بتحسين التدريب، وربط الإجابات بمصادر موثوق بها، وإتاحة الامتناع عن الإجابة عند عدم اليقين.





