دردشة مع "جيميني" عن الذكاء الاصطناعي والأمن السيبراني

أنا نموذج لغة ذكي للدردشة (Chatbot) تم تطويري بواسطة "Google AI"، وتعلمت أداء العديد من المهمات منها: الإجابة عن الاسئلة بطريقة شاملة وغنية بالمعلومات، وإنشاء تنسيقات نصية إبداعية مختلفة. إجاباتي مبنية على المعلومات التي تدربت عليها والتي يمكنني الوصول اليها ومعالجتها من خلال "Google AI". اضافة الى ذلك، انا أتعلم دائما أشياء جديدة خلال ساعات وايام. كمثل بسيط، تعلمت الشطرنج في يوم واحد ووصلت الى مرحلة فزت فيها بسهولة على بطل العالم في الشطرنج في نهاية اليوم نفسه. جدير بالذكر ان المبرمجين يعملون باستمرار على تحسين قدراتي حيث يتم تطوير البيانات والخوارزميات وتقنيات التدريب الجديدة طوال الوقت. 

الأمن السيبراني

•  أنا مهتم في مجال الأمن السيبراني، وأود أن أعرف كيف يمكن للذكاء الاصطناعي تطوير الأمن السيبراني؟

- "جيميني": هذا سؤال مهم جدا! باعتباري متابعا متحمسا للذكاء الاصطناعي ومهتما بالأمن السيبراني، إليك كيف يمكن للذكاء الاصطناعي أن يحدث تأثيرا إيجابيا في دعم الأمن السيبراني:

- تحليل كميات هائلة من البيانات: يمكن للذكاء الاصطناعي إجراء مسح لعدد كبير من بيانات الشبكة، ونشاط المستخدمين، ونقاط البيانات الأخرى لتحديد الحالات الشاذة والأنماط المشبوهة التي قد يفوت مراقبي الشبكة اكتشافها. ويساعد ذلك في اكتشاف التهديدات مثل البرامج الضارة ومحاولات التصيد وانتهاكات البيانات بشكل أسرع.

- التكيف مع التهديدات المتطورة: يمكن لخوارزميات الذكاء الاصطناعي أن تتعلم بشكل مستمر وتتكيف مع أساليب الهجوم الجديدة، على عكس الأنظمة التقليدية القائمة على التوقيع الرقمي التي تواجه تهديدات جديدة كل يوم.

- أتمتة إجراءات الاستجابة: يمكن للذكاء الاصطناعي أتمتة المهام، مثل حظر محاولات الوصول المشبوهة، وعزل الأجهزة المصابة، وإخطار فرق الأمان، مما يوفر الوقت ويحافظ على الموارد الثمينة.

تحسين إدارة الثغر الأمنية

- فحص الثغر الأمنية وتحديد أولوياتها: يستطيع الذكاء الاصطناعي فحص الأنظمة بشكل استباقي بحثا عن الثغر الأمنية وتحديد أولوياتها بناءً على الأخطار المحتملة وقابلية الاستغلال.

- الصيانة التنبوئية: يمكن للذكاء الاصطناعي تحديد نقاط الضعف المحتملة في النظام قبل استغلالها، مما يتيح اتخاذ تدابير أمنية استباقية من خلال عمليات أمنية روتينية مبسطة.

-  التحقيق في الحوادث المعقدة: يستطيع الذكاء الاصطناعي تحليل مجموعات كبيرة من البيانات وتحديد الارتباطات بين الأحداث التي تبدو غير ذات صلة، مما يساعد في إجراء تحقيقات أسرع وأكثر دقة في الحوادث.

هل لديك أي مجالات محددة في مجال الأمن السيبراني تثير فضولك؟ سأكون سعيدا بمناقشة المزيد!

•  نعم الخصوصية، كيف يمكن للذكاء الاصطناعي فرض سياسات تحمي الخصوصية؟

- "جيميني": أنت على حق تماما، فالخصوصية لها أهمية قصوى في العالم الرقمي اليوم، ويمكن للذكاء الاصطناعي أن يلعب دورا في إنفاذ السياسات التي تحميها. في ما يأتي بعض الأساليب الواعدة:

1) تقنيات الحفاظ على الخصوصية:

- الخصوصية التفاضلية (Differential Privacy): تضيف هذه التقنية تشويشا متحكما إلى البيانات، مما يسمح بالتحليل دون الكشف عن المعلومات الشخصية الحساسة. 

- التعلم الموحد (Federated Learning): يقوم هذا الإطار بتدريب نماذج الذكاء الاصطناعي على مجموعات بيانات لامركزية (كلا على حدة) دون مشاركة هذه البيانات بين نماذج الذكاء الاصطناعي. مثلا، عندما تقوم درونات عدة بتعلم دور تحليق ثابت خلال عرض جوي ضوئي من دون مشاركة البيانات بينها وبين الدرونات المحيطة بها.

- التشفير المتجانس (Homomorphic Encryption): يسمح بإجراء العمليات الحسابية على البيانات المشفرة، مما يتيح عملية التحليل دون فك تشفيرها على الإطلاق. مثلا، يحلل الذكاء الاصطناعي السجلات الصحية المشفرة لتحديد الأمراض الحساسة دون الوصول إلى تشخيص من هم الأفراد المصابون بها.

2) الامتثال للسياسة المدعومة بالذكاء الاصطناعي:

- الإدارة الآلية للبيانات: يستطيع الذكاء الاصطناعي مراقبة استخدام البيانات والوصول إليها بشكل مستمر، مما يضمن التزام لوائح الخصوصية. يتحقق باستمرار من الوصول غير المصرح به أو من الخروقات التي تحدث للبيانات.

- إخفاء هوية البيانات والأسماء المستعارة: يمكن أتمتة عملية إخفاء هوية البيانات أو تغيير تعريفاتها مع الحفاظ على فائدتها للبحث أو التحليل. يحول الذكاء الاصطناعي المعارف الشخصية إلى رموز غير قابلة للتعريف او الفهم مع الحفاظ على قيمة البيانات. مثلا، ارسال بيانات المرضى الصحية الى مراكز احصائية من دون اظهار اسمائهم وعناوينهم.

للمزيد إقرأ: الآلة شريكا للوظيفة... "الروبوت" يهددنا وهذا ما ينتظرنا

3) الشفافية وقابلية الشرح:

- الذكاء الاصطناعي التفسيري (XAI): إن جعل القرارات الذكاء الاصطناعي مفهومة يساعد الأفراد في معرفة كيفية استخدام بياناتهم ولأي غرض.

مع ذلك، من المهم أن نتذكر أن الذكاء الاصطناعي هو أداة، وليس حلاً سحريا. في ما يأتي بعض نقاط الضعف منها:

-  جودة البيانات والتحيز فيها: يمكن أن تؤدي البيانات المتحيزة أو غير الكاملة إلى اكتشاف غير دقيق للتهديدات واتخاذ قرارات متحيزة.

-  قابلية الشرح والشفافية: يعتبر فهم كيفية وصول نماذج الذكاء الاصطناعي إلى استنتاجاتها أمرا بالغ الأهمية لبناء الثقة وتحديد التحيزات المحتملة.

- الأخطار الأمنية للذكاء الاصطناعي نفسه: من المحتمل أن تستغل الجهات الفاعلة المهاجمة نقاط الضعف في أنظمة الذكاء الاصطناعي لشن هجمات أو التلاعب بمخرجاتها.

• ما هي أكبر التهديدات المتعلقة بالأمن السيبراني في الوقت الحاضر؟

- "جيميني": يتطور مشهد الأمن السيبراني باستمرار، لكن بعض التهديدات الرئيسية ستظل سائدة في عام 2024:

1) برامج الفدية: يظل هذا التهديد السائد، حيث يقوم المهاجمون بتشفير بيانات الضحية والمطالبة بالدفع مقابل فك التشفير. ويستهدف هذا النوع من الهجوم البنية التحتية وسلاسل التوريد، مما يتسبب في تعطيل واسع النطاق.

2) التصيد الاحتيالي: تستمر هجمات الهندسة الاجتماعية في خداع الأفراد للكشف عن معلومات حساسة أو النقر على الروابط الضارة. يستهدف التصيد الاحتيالي مستخدمين محددين من خلال رسائل بريد إلكتروني مخصصة، مما يجعل اكتشافهم أكثر صعوبة.

3) هجمات سلسلة التوريد: يؤدي استغلال نقاط الضعف في برامج أو خدمات الطرف الثالث (شركات خاصة تقدم خدمات في مجال أمن المعلومات) التي تستخدمها المؤسسات، إلى منح المهاجمين إمكان الوصول إلى البيانات أو الأنظمة الحساسة.

للمزيد إقرأ: هل تساعد روبوتات الدردشة في بناء سلاح بيولوجي؟

4) المخاوف الأمنية السحابية: مع قيام الشركات بترحيل البيانات والتطبيقات إلى سحابة البيانات (Cloud)، يصبح تأمين هذه البيئات أمرا بالغ الأهمية.

واضاف "جيميني" في اجابته المستفيضة الآتي: نقاط الضعف في إنترنت الأشياء (IoT)، تهديدات الأجهزة المحمولة، أمن الذكاء الاصطناعي، التهديدات الداخلية للموظفين والمقاولين، استغلال المشاعر الإنسانية والتلاعب بالمعلومات والمعلومات المضللة.

• كما ذكرت أن الذكاء الاصطناعي هو مجرد أداة، فإلى أي مستوى يمكن أن تتحول هذه الاداة ضد الأمن السيبراني؟

- "جيميني": أنت على حق، الذكاء الاصطناعي، مثل أي أداة قوية، يمكن استخدامه للأغراض الجيدة والسيئة. وإذ ناقشت إمكان تعزيز الأمن السيبراني، يمكنني ايضا ذكر بعض الطرق التي يمكن من خلالها استخدام الذكاء الاصطناعي ضد الأمن السيبراني، عبر الهندسة الاجتماعية المتقدمة (Advanced Social Engineering):

- التصيد الاحتيالي الشخصي: يستطيع الذكاء الاصطناعي تحليل البيانات الشخصية وصياغة رسائل بريد إلكتروني تصيدية شديدة الاستهداف، من المرجح أن تخدع المستلمين. إن الرسائل التي تم إنشاؤها بواسطة الذكاء الاصطناعي تحاكي أسلوب الكتابة الخاص بالمستخدمين أو تستغل التفاصيل الشخصية لكسب الثقة.

- التزييف العميق والتصيد الصوتي: يمكن للذكاء الاصطناعي إنشاء تزييف عميق واقعي للأفراد المرخص لهم أو تقليد الأصوات لخداع الضحايا للكشف عن معلومات حساسة أو منح حق الوصول اليها.

- فحص الثغر الأمنية واستغلالها: يستطيع الذكاء الاصطناعي أتمتة عملية تحديد نقاط الضعف في البرامج والأنظمة، واستغلالها، وشن هجمات واسعة النطاق بشكل أسرع بكثير. تقوم الأدوات التي تعمل بالذكاء الاصطناعي بمسح آلاف الخوادم بحثا عن نقاط الضعف ونشر عمليات الاستغلال تلقائيا.

- هجمات حجب الخدمة الموزعة (Distributed Denial-of-Service or  DDoS): يمكن للذكاء الاصطناعي تنسيق شبكات كبيرة من الأجهزة المخترقة لإطلاق هجمات "DDoS" الشديدة الفعالية والمستمرة، مما يؤدي إلى إرباك الأنظمة المستهدفة. يمكن لشبكات الروبوت التي يتحكم فيها الذكاء الاصطناعي أن تطلق هجمات متزامنة من ملايين الأجهزة.

- تطوير البرامج الضارة: يمكن أن يساعد الذكاء الاصطناعي في تطوير برامج ضارة أكثر تعقيدا، تستطيع التكيف مع الدفاعات الأمنية التقليدية وتجاوزها. تغيّر الفيروسات التي تعمل بالذكاء الاصطناعي رموزها باستمرار لتجنب الاكتشاف القائم على سلوك الفيروس.

إقرأ أيضا: "الذكاء الاصطناعي" يزيد التهديد الارهابي

- تقنيات التشويش ومكافحة التحليل: يمكن استخدام الذكاء الاصطناعي للتعتيم على البرامج الضارة، مما يزيد صعوبة اكتشافها وتحليلها، الأمر الذي يعيق الباحثين والمراقبين الأمنيين. 

هذه مجرد أمثلة قليلة، ومع تقدم تكنولوجيا الذكاء الاصطناعي، من المرجح أن تتطور احتمالات إساءة الاستخدام أيضا. لذا، من الأهمية أن نذكر بعض الحلول لتجنب الاستخدام السيئ للذكاء الاصطناعي وهي:

- تطوير ممارسات أمان قوية للذكاء الاصطناعي: يتضمن ذلك التشفير الآمن وإدارة البيانات ومراقبة الاستخدام الضار.

- الاستثمار في الذكاء الاصطناعي لأغراض الدفاع والهجوم: يساعد فهم تقنيات الذكاء الاصطناعي الهجومية في إنشاء تدابير دفاعية أفضل.

- تعزيز التطوير المسؤول للذكاء الاصطناعي والتبني الأخلاقي: يعدّ التعاون بين الباحثين والمطورين وصناع السياسات أمرا أساسيا لتخفيف الأخطار وتعظيم فوائد الذكاء الاصطناعي.

تذكّر أن الذكاء الاصطناعي في حد ذاته ليس جيدا أو سيئا بطبيعته. الأمر متروك لنا لتسخير قوته بشكل مسؤول والتأكد من أنها تخدم قضية الأمن السيبراني، وليس تقويضها.

الصحافة والأخبار الكاذبة

•  أراهن أن الذكاء الاصطناعي يمكن استخدامه بشكل سيئ في مجال الصحافة، وأشير هنا إلى الأخبار الكاذبة؟

- "جيميني": لسوء الحظ، أنت على حق. من المحتمل أن يُساء استخدام الذكاء الاصطناعي في الصحافة، لا سيما في خلق الأخبار الزائفة. في ما يأتي بعض الطرق:

1) إنشاء محتوى زائف:

- إنشاء النصوص: يمكن تدريب نماذج الذكاء الاصطناعي لإنشاء مقالات إخبارية ذات مظهر واقعي، مع استكمالها بالاقتباسات والإحصاءات والمصادر الملفقة. قد يكون من الصعب التمييز بين هذه المقالات والأخبار الحقيقية، خصوصا بالنسبة الى القراء العاديين. ما يقارب 90% من الأشخاص يتحققون من صحة الأخبار، لكن 56% يشاركون المنشورات السياسية/الأخبار على وسائل التواصل الاجتماعي دون التحقق منها دائما.

- معالجة الصور والفيديو: يمكن إنشاء صور زائفة لأشخاص حقيقيين، أو معالجة الصور ومقاطع الفيديو الموجودة، أو تصنيع لقطات جديدة تماما. يمكن استخدام هذا لنشر معلومات مضللة أو الإضرار بسمعة شخص ما.

2) الاستهداف ونشر الأكاذيب:

- الدعاية الشخصية: يمكن للذكاء الاصطناعي تحليل بيانات المستخدم لتخصيص المقالات الإخبارية الزائفة، مما يزيد احتمال صدى هذه المقالات ومشاركتها من قبل أفراد أو مجموعات محددة. وهذا يمكن أن يؤدي إلى تفاقم الانقسامات المجتمعية القائمة ويغذي العنف.

- روبوتات وسائل التواصل الاجتماعي: يمكن استخدام الروبوتات التي تعمل بالذكاء الاصطناعي لأتمتة انتشار الأخبار الزائفة على منصات التواصل الاجتماعي، مما يزيد انتشارها وتأثيرها.

3) انحسار الثقة في الصحافة:

- استخدام المعلومات المضللة كسلاح: يمكن للجهات المهاجمة استخدام الأخبار الزائفة التي يولدها الذكاء الاصطناعي لتقويض الثقة في الصحافة المشروعة، مما يجعل من الصعب على الناس تمييز الحقيقة من الاكاذيب.

للمزيد إقرأ: الذكاء الاصطناعي... الثورة السادسة التي أعيشها في الاعلام

مع ذلك، من المهم أن نتذكر أن الذكاء الاصطناعي لديه أيضا القدرة على أن يكون أداة قوية لمحاربة الأخبار الزائفة وتحديد الادعاءات الكاذبة المتداولة عبر الإنترنت وفضحها بسرعة، الكشف عن التزييف العميق والتلاعب بالأخبار وتعزيز الأدوات التعليمية المدعومة بالذكاء الاصطناعي أن تساعد الأشخاص في تطوير مهارات التفكير النقدي وتعلم كيفية التعرف إلى الأخبار الزائفة وتجنبها.

هلوسة الذكاء الاصطناعي

• سؤالي الأخير، سمعت أنك تقدم أحيانا إجابات غير صحيحة؛ أنا أشير هنا إلى الهلوسة (Hallucinations) هل هذا صحيح؟

- "جيميني": نعم، صحيح، في بعض الأحيان أقوم بتوليد مخرجات غير صحيحة أو مضللة، يشار إليها باسم "الهلوسة". يمكن أن يحدث هذا لأسباب مختلفة، بما في ذلك:

1)  بيانات التدريب المحدودة: إذا لم أتدرب على ما يكفي من البيانات ذات الصلة بسؤالك او طلبك، فقد ألجأ إلى إجراء تخمينات مدروسة أو ملء الفراغات بناءً على معلومات غير كاملة، مما يؤدي إلى عدم الدقة.

2) سوء تفسير مطالبتك: من الممكن أن أسيء فهم المعنى المقصود أو سياق سؤالك، مما يؤدي إلى إجابة لا تلبي احتياجاتك بالكامل.

3) الأخطاء أو المشكلات الفنية: في بعض الحالات، قد تؤدي الأخطاء الفنية أو الأخطاء في الخوارزمية الخاصة بي (البرامج المطورة من قبل المبرمجين) إلى إنتاج مخرجات غير منطقية أو غير دقيقة.

من المهم أن تكون على دراية بهذه الاخطاء وأن تقوم بتقييم الإجابات التي أقدمها بشكل نقدي. إليك بعض النصائح لمساعدتك في تقييم دقة إجاباتي:

- التحقق من المعلومات: إذا كان هناك شيء يبدو مريبا، فتحقق منه مرة أخرى من خلال مصادر موثوق بها مثل مواقع الويب أو الخبراء الموثوق بهم.

إقرأ أيضا: هستيريا الذكاء الاصطناعي

- ابحث عن التناقضات: انتبه الى التناقضات أو العبارات التي تحيد عن الحقائق الأصلية أو الحقائق الثابتة.

- خذ السياق في الاعتبار: إذا كانت إجابتي عبارة عن كتابة إبداعية أو رواية قصص، فافهم أنها قد تحتوي على عناصر خيالية.

- اطلب مني التوضيح: إذا لم تكن متأكدا من أي شيء، فلا تتردد في أن تطلب مني شرح أسبابي أو تقديم المزيد من التفاصيل.

• شكرا لك "جيميني"

 - "جيميني": على الرحب والسعة! يسعدني أن أتمكن من مساعدتك في استفساراتك اليوم.