قال كبير مسؤولي الأمن السيبراني الكندي لرويترز إن القراصنة والدعاية يستخدمون الذكاء الاصطناعي (AI) لإنشاء برامج ضارة وصياغة رسائل بريد إلكتروني تصيد مقنعة ونشر معلومات مضللة عبر الإنترنت ، وهو دليل مبكر على أن مجرمي الإنترنت قد تبنوا الثورة التكنولوجية التي تجتاح وادي السيليكون.
في مقابلة هذا الأسبوع ، قال سامي خوري ، رئيس المركز الكندي للأمن السيبراني ، إن وكالته شهدت استخدام الذكاء الاصطناعي “في رسائل البريد الإلكتروني المخادعة ، أو صياغة رسائل البريد الإلكتروني بطريقة أكثر تركيزًا ، في رموز خبيثة (و) في المعلومات المضللة والمعلومات المضللة”.
لم يقدم خوري تفاصيل أو أدلة ، لكن تأكيده أن مجرمي الإنترنت كانوا يستخدمون بالفعل الذكاء الاصطناعي يضيف ملاحظة عاجلة إلى جوقة القلق بشأن استخدام التكنولوجيا الناشئة من قبل الجهات المارقة.
في الأشهر الأخيرة ، نشرت العديد من مجموعات الرقابة على الإنترنت تقارير تحذر من المخاطر الافتراضية للذكاء الاصطناعي – وخاصة برامج معالجة اللغة سريعة التقدم والمعروفة باسم نماذج اللغات الكبيرة (LLMs) ، والتي تعتمد على كميات ضخمة من النصوص لصياغة حوار ووثائق مقنعة وغير ذلك.
في مارس ، نشرت منظمة الشرطة الأوروبية Europol تقريرًا يقول إن نماذج مثل ChatGPT التابعة لشركة OpenAI جعلت من الممكن “انتحال شخصية منظمة أو فرد بطريقة واقعية للغاية حتى مع فهم أساسي للغة الإنجليزية”. في الشهر نفسه ، قال المركز الوطني للأمن الإلكتروني في بريطانيا في منشور على مدونة أن هناك خطرًا من أن المجرمين “قد يستخدمون LLMs للمساعدة في الهجمات الإلكترونية التي تتجاوز قدراتهم الحالية.”
أظهر باحثو الأمن السيبراني مجموعة متنوعة من حالات الاستخدام الضار المحتملة ويقول البعض الآن إنهم بدأوا في رؤية محتوى يشتبه في أنه تم إنشاؤه بواسطة الذكاء الاصطناعي في البرية. في الأسبوع الماضي ، قال متسلل سابق إنه اكتشف LLM تم تدريبه على مواد ضارة وطلب منه صياغة محاولة مقنعة لخداع شخص ما لإجراء تحويل نقدي.
استجابت LLM برسالة بريد إلكتروني من ثلاث فقرات تطلب من هدفها المساعدة في فاتورة عاجلة.
قالت LLM: “أتفهم أن هذا قد يكون مهلة قصيرة ، لكن هذه الدفعة مهمة للغاية ويجب إجراؤها في الـ 24 ساعة القادمة.”
قال خوري إنه في حين أن استخدام الذكاء الاصطناعي لصياغة التعليمات البرمجية الخبيثة كان لا يزال في مراحله الأولى – “لا يزال هناك طريق لنقطعه لأن الأمر يتطلب الكثير لكتابة استغلال جيد” – كان القلق هو أن نماذج الذكاء الاصطناعي كانت تتطور بسرعة كبيرة بحيث كان من الصعب التعامل مع إمكاناتها الخبيثة قبل إطلاقها في البرية.
قال “من يدري ما سيأتي على الزاوية”.
