هل تساعد روبوتات الدردشة في بناء سلاح بيولوجي؟

الذكاء الاصطناعي يرشد المستخدمين في هندسة مسببات للأمراض لكن هذا ليس الخطر الحقيقي

shutterstock
shutterstock

هل تساعد روبوتات الدردشة في بناء سلاح بيولوجي؟

الانقراض البشري، والبطالة الجماعية، والغش في الامتحانات – هذه ليست سوى بعض المخاوف البعيدة المدى عندما يتعلق الأمر بأحدث التطورات في قدرات روبوتات الدردشة العاملة بالذكاء الاصطناعي. لكن القلق تحول في الآونة الأخيرة، نحو احتمال أن يتسبب روبوت الدردشة في بعض الأضرار الجسيمة في مجال آخر: تسهيل بناء سلاح بيولوجي.

تستند هذه المخاوف إلى حد كبير إلى تقرير وضعته مجموعة تعمل في معهد ماساتشوستس للتكنولوجيا، بالإضافة إلى شهادة في الكونغرس الأميركي أدلى بها داريو أمودي، الرئيس التنفيذي لشركة الذكاء الاصطناعي، "أنثروبيك". يجادل الاثنان بأن روبوتات الدردشة يمكنها أن تزود المستخدمين تعليمات ليهندسوا وراثياً مسببات للأمراض، مثل الفيروسات أو البكتيريات، وينتجوها. وفق هذا التفكير، يمكن لمستخدم شرير لروبوت للدردشة، متسلحاً بمعلومات كهذه، أن يصل إلى حد تطوير سلاح بيولوجي خطير ونشره من دون الحاجة إلى أي تدريب علمي.

التهديد خطير فعلا

التهديد هنا خطير، يمكن لروبوتات الدردشة بالفعل تسهيل العثور على المعلومات العلمية ذات المستوى التقني الرفيع وتفسيرها. في الوقت نفسه، ينظر واضعو السياسات في أهداف الولايات المتحدة الأوسع في ما يخص الأمن البيولوجي والتكنولوجيا البيولوجية، وسيكون من المهم التنبه إلى أن المعرفة العلمية يمكن الوصول إليها بسهولة بالفعل مع روبوت للدردشة أو من دونه.

هذه المعرفة، ولا سيما عبر الإنترنت، متوافرة بالفعل للمتعلم المهتم. ويكون هذا عادة لسبب وجيه: تستطيع العلوم المفتوحة والشفافة التي يمكن الوصول إليها، أن تدفع التقدم في التكنولوجيا البيولوجية والطب. ويمكن التعليم والتواصل أن يُحدثا فرقاً حقيقياً عندما يتعلق الأمر بمحو الأمية العلمية الأساسية وزيادة المشاركة في العلوم والتكنولوجيا والهندسة والرياضيات.

لدى طلاب البيولوجيا في المدارس الثانوية، وموظفي الكونغرس، والمشاركين في المعسكرات الصيفية التي تقيمها المدارس المتوسطة، خبرة عملية في هندسة البكتيريا وراثياً

الخبرات متوافرة بلا روبوتات

لقد تعلمتُ مدى فائدة المعلومات الواضحة والدقيقة في المختبر خلال بحثي في الكيمياء البيولوجية بغرض الحصول على الدكتوراه. وعلّمني التدريب الذي تلقيته، والمستكمل بالمعلومات التي وجدتها على الإنترنت، كل شيء، بدءاً بكيفية استخدام معدات المختبرات الأساسية وصولاً إلى كيفية إبقاء أنواع مختلفة من الخلايا على قيد الحياة. لقد تعلمتُ أيضاً أن العثور على هذه المعلومات لا يتطلب روبوتاً للدردشة – أو حتى درجة في الدراسات العليا.

ضعوا في اعتباركم بالفعل أن لدى طلاب البيولوجيا في المدارس الثانوية، وموظفي الكونغرس، والمشاركين في المعسكرات الصيفية التي تقيمها المدارس المتوسطة، خبرة عملية في هندسة البكتيريا وراثياً. يمكن للعالم الناشئ استخدام الإنترنت للعثور على موارد شاملة. ذلك أن قوائم تشغيل مقاطع الفيديو المفيدة على "يوتيوب" تغطي كل شيء بدءاً بكيفية حمل أنبوب مخبري للامتصاص وموازنة جهاز للطرد المركزي وصولاً إلى كيفية زراعة الخلايا الحية وفحص العينات بصرياً بحثاً عن تلوث. وعندما لا تسير التجارب كما هو مخطط لها، يمكن للباحثين الحصول جماعياً على مساعدة في استكشاف الأخطاء وإصلاحها من لوحات الرسائل، مثل "ريسرش غيت"، وهو مورد وجدته منقذاً وأنا في كلية الدراسات العليا.

بالنسبة إلى أولئك الذين يتعمقون قليلاً في المعرفة، ثمة تعليمات منشورة عبر الإنترنت تتجاوز الأساسيات. يفصل العلماء بدقة كيفية إجراء تجاربهم من أجل مساعدة الباحثين الآخرين على تكرار عملهم والتحقق من النتائج التي توصلوا إليها – وهذا مبدأ أساسي رئيس للمنهج العلمي. يُعَدّ إظهار عملكم أمراً مهماً لأن النتائج غير الموثوق بها يمكن أن تضيّع الوقت والموارد؛ مثلاً، تقدر دراسة أجريت عام 2015 أن الشركات والمؤسسات البحثية الأميركية وحدها تنفق 28 مليار دولار سنوياً على البحوث قبل السريرية غير القابلة للتكرار.

من المؤكد أن العثور على المعلومات اللازمة لإنشاء سلاح بيولوجي وتجميعه ليس سهلاً كما في الأمثلة أعلاه. مثلاً، يتطلب صنع فيروس أو تعديله خطوات وموارد ومصطلحات مختلفة عن البكتيريات المهندسة وراثياً، على غرار ما فعله طلاب المدارس الثانوية وموظفو الكونغرس. وبالنسبة إلى بعض المستخدمين، سينقل التعليم العلمي التأسيسي ما يكفي من المهارات التقنية والثقة ومحو الأمية العلمية لمحاولة القيام بهذه التجارب الأكثر صعوبة. وبالنسبة إلى آخرين، يمكن أن يساعد روبوت للدردشة في دعم التعلم الأولي هذا.

AP

حواجز مطلوبة للحماية من الروبوتات

بمعنى آخر، روبوت للدردشة يقلص الحاجز أمام المعلومات، يجب اعتباره أشبه بأداة تساعد المستخدم في الصعود إلى رصيف أكثر من مساعدته في تسلق جدار لا تجاوزه. مع ذلك، من المعقول أن يقلق كثرٌ من أن هذه المساعدة الإضافية قد تُحدث فرقاً لبعض الجهات الفاعلة الخبيثة. علاوة على ذلك، قد يكون التصور البسيط بأن روبوتاً للدردشة يمكن أن يعمل كمساعد بيولوجي كافياً لجذب أطراف فاعلين جديدين وإشراكهم، بغض النظر عن مدى انتشار المعلومات في البداية.

إذا كان الحاجز أمام المعلومات منخفضاً بالفعل، فما الذي يمكننا فعله لتعزيز الأمان في هذا الصدد؟

بداية، لا يزال من المفيد التوصل إلى حواجز حماية أثناء تطوير روبوتات الدردشة. يُعَدّ منع روبوت للدردشة من تفصيل كيفية صنع الجمرة الخبيثة أو الجدري خطوة أولى جيدة، وبدأت بعض الشركات بالفعل في تنفيذ ضمانات. مع ذلك، فإن استراتيجيا شاملة للأمن البيولوجي يجب أن تأخذ في الاعتبار أن المستخدمين يمكنهم كسر حماية تدابير السلامة هذه، فضلاً عن أن المعلومات ذات الصلة ستظل متاحة من مصادر أخرى.

ثانياً، يمكننا أن نفكر في شكل نقدي أكثر في كيفية تحقيق التوازن بين الأمن والانفتاح العلمي في ما يتعلق مجموعة فرعية صغيرة من النتائج العلمية. ذلك أن بعض المنشورات العلمية تحتوي على بحوث مزدوجة الاستخدام أجريت لأسباب مشروعة وفي إشراف مناسب لكنها قد تمكّن طرفا فاعلا خبيثا من إلحاق الضرر. وفي حين أن السياسات الحاليةالتي تنظمما يسمى بالبحوث المحفوفة بالأخطار، تتضمن توجيهات للإبلاغ عن النتائج في شكل مسؤول، يحدد خبراءالحاجة إلى سياسات نشر أكثر وضوحاً واتساقاً.

تتضمن بعض سيناريوهات إساءة الاستخدام البيولوجي تصميم خيوط مخصصة من الحمض النووي وطلبها من شركات تدير الطلبات عبر البريد

أخيراً، يمكننا إضافة حواجز أو تعزيزها في مجالات أخرى، بما في ذلك الحصول على مواد مادية. مثلاً،تتضمن بعض سيناريوهات إساءة الاستخدام البيولوجي تصميم خيوط مخصصة من الحمض النووي وطلبها من شركات تدير الطلبات عبر البريد. وفي مقدور فرض متطلبات أكثر صرامة على الشركات على صعيد فحص الطلبات، أن يُبقي تسلسل الحمض النووي الذي يُحتمَل أن يكون محفوفاً بالأخطار بعيداً من أيدي الأطراف الفاعلين الخبيثين، بغض النظر عما إذا كانوا قد حصلوا على المعلومات من خلال بحث في "غوغل" أو روبوت للدردشة أو مجلة علمية قديمة الطراز.

يُعَدّ الأمر التنفيذي في شأن الذكاء الاصطناعي الذي وقّعه الرئيس الأميركي جو بايدن في 30 أكتوبر/تشرين الأول المنصرم، خطوة كبيرة في الاتجاه الصحيح، إذ يتضمن متطلبات لفحص الحمض النووي المخصص للبحوث الممولة فيديرالياً. مع ذلك، لكي تكون متطلبات الفحص هذه فاعلة حقاً، يجب أن تنطبق على طلبات الحمض النووي المخصصة كلها، وليس فقط تلك التي تمولها الوكالات الأميركية.

علاوة على ذلك، ليس الأمن البيولوجي سوى شاغل واحد تنبغي موازنته مع شواغل عدة أخرى عندما يتعلق الأمر بالوصول المنصف إلى المعلومات والتكنولوجيا البيولوجية. يتوقع بعض الخبراء أن ينمو الاقتصاد البيولوجي العالمي إلى أربعة تريليونات دولارسنوياً في حلول عام 2032،بما في ذلك الحلول الإبداعية لتغير المناخ وانعدام الأمن الغذائي والعلل العالمية الأخرى.

shutterstock

لتحقيق ذلك، تحتاج بلدان مثل الولايات المتحدة إلى إشراك الجيل المقبل من المخترعين البيولوجيين وتعزيز القوة العاملة في مجال التصنيع البيولوجي. فالمبالغة في تأكيد أمن المعلومات على حساب الابتكار والتقدم الاقتصادي يمكن أن تنطوي على آثار جانبية ضارة غير متوقعة تتمثل في إخراج تلك الجهود ومنافعها الواسعة النطاق عن مسارها.

إن سياسة الأمن البيولوجي المستقبلية يجب أن توازن بين الحاجة إلى نشر العلوم على نطاق واسع مع حواجز حماية من سوء الاستخدام، مع الاعتراف بأن الناس يمكنهم اكتساب المعرفة العلمية من فصول المدارس الثانوية و"يوتيوب" – وليس فقط من "تشات جي بي تي".

font change

مقالات ذات صلة