في تقريره الأخير، كشف فريق خبراء كاسبرسكي الأثر العميق للذكاء الاصطناعي على مشهد الأمني الإلكتروني لسنة 2023. وتطرق التحليل للآثار المترتبة عن مختلف أوجه استعمال الذكاء الاصطناعي، عبر التركيز من جهة على إمكانيات استخدامه لأغراض دفاعية أومن قبل السلطات، ومن جهة ثانية على إمكانيات استغلاله من طرف الإجرام الإلكتروني. وتجدر الإشارة إلى أن هذا التقرير يعد جزءا من النشرة الأمنية لكاسبرسكي (KSB)، وهي عبارة عن تركيب سنوي للتوقعات والدراسات المعمقة التي تسلط الضوء على أبرز التغيرات في مجال الأمن السيبراني.
في سياق السرعة التي تحدث بها الطفرات التكنولوجية والتطورات الاجتماعية في حياتنا اليومية، أصبح مفهوم “الذكاء الاصطناعي” يتصدر مواضيع النقاشات الشائعة خلال سنة 2023. وأدى التطور الذي عرفته النماذج اللغوية الكبرى (LLM) والصعود القوي للانشغالات في مجال الأمن والخصوصية، إلى إنشاء علاقة مباشرة بين الذكاء الاصطناعي وعالم الأمن السيبراني. وفي هذا الصدد، كشف باحثوا كاسبرسكي عن الكيفية التي تستغل بها أدوات الذكاء الاصطناعي في مساعدة المجرمين السيبرانيين على القيام بأنشطتهم المضرة خلال سنة 2023، مع إبراز التطبيقات الدفاعية الممكنة لهذه التكنولوجيا.
وفي ما يلي بعض توقعات خبراء الشركة المتعلقة بتداعيات الذكاء الاصطناعي على مشهد التهديدات:
نقاط ضعف وثغرات أكثر تعقيدا
مع تواصل إدماج النماذج اللغوية في عدد متزايد من المنتجات واسعة الاستهلاك، يرتقب أن تظهر نقاط ضعف وثغرات جديدة أكثر تعقيدا عند التقاء الذكاء الاصطناعي التوليدي مع التكنولوجيا التقليدية، الشيء الذي يؤدي إلى توسيع المساحات المعرضة للهجمات والتي سيكون على مهنيي الأمن السيبراني حمايتها. سيكون إذن على المطورين دراسة تدابير أمنية جديدة، من قبيل قبول المستخدمين بالعمليات التي يتم إطلاقها من قبل عناصر النماذج اللغوية الواسعة (LLM).
مساعد متكامل بالذكاء صناعي لأخصائيي الأمن السيبراني
يستغل أعضاء الفريق الأحمر والباحثين في المجال السيبراني الذكاء الاصطناعي التوليدي لإنشاء أدوات مبتكرة لتعزيز الأمن السيبراني، الشيء الذي يمكن أن يؤدي إلى خلق مساعد رقمي مرتكز على النماذج اللغوية الواسعة (LLM) أو على التعلم الرقمي (ML). يمكن لهذه الأداة أن تتيح للفريق الأحمر جعل بعض المهام أوتوماتيكية، من خلال توفير النصائح المرتكزة على الأوامر المنفذة في إطار بيئة لاختبار الاختراق.
سيتزايد استعمال الشبكات العصبية لتوليد محتويات مرئية مفيدة للمحتالين
خلال السنة المقبلة، سيتمكن المحتالون من تعزيز استراتيجياتهم باستعمال الشبكات العصبية، والاستفادة من أدوات الذكاء الاصطناعي لخلق محتويات أكثر خداعا وبطرق أكثر إقناعا. مع التوفر على قدرات توليد صور وفيديوهات مقنعة بدون عناء، يجب انتظار تصاعد التهديدات السبرانية في مجال النصب والاحتيال.
استبعاد أن يؤدي الذكاء الاصطناعي إلى إحداث تغيير جوهري في مشهد التهديدات خلال سنة 2024
رغم التوجهات التي أشير إليها سابقا، لا يزال خبراء كاسبرسكي متشككين في قدرة الذكاء الاصطناعي على زعزع مشهد التهديدات بشكل جدري في المستقبل القريب. إذا اعتمد المجرمون السيبرانيون على الذكاء الاصطناعي التوليدي، فإن الأمر سيكون مماثلا بالنسبة للمدافعين عن الأمن السيبراني، الذين يستخدمون نفس الأدوات، وربما أدوات أكثر تطورا، بغرض اختبار الفعالية الأمنية للبرمجيات والشبكات. لذلك فإنه يبدو من المستبعد أن يغير الذكاء الاصطناعي مشهد الهدمات بشكل جذري.
المزيد من المبادرات التنظيمية في مجال الذكاء الاصطناعي بمساهمة القطاع الخاص
تطرح السرعة التي تتطور بها التكنولوجيا مسألة بلورة سياسات ولوائح تنظيمية تتوخى مراقبة وضبط هذه التكنولوجيا قدر الإمكان. لذلك فإن عدد المبادرات التنظيمية المرتبطة بالذكاء الاصطناعي مرشحة للتزايد. ويمكن للفاعلين غير الحكوميين، كالمقاولات التكنولوجية، بالنظر إلى خبرتها في تطوير واستعمال الذكاء الاصطناعي، أن تساهم بفعالية في النقاشات حول اللوائح التنظيمية، سواء على المستوى الدولي أو الوطني.
فيليغرانات لضبط المحتوى المولد بالذكاء الاصطناعي
يتطلب الأمر المزيد من اللوائح التنظيمية، إضافة إلى التدابير التي يتخذها مزودو الخدمات، للتعرف والإبلاغ عن المحتوى المولد عن طريق الذكاء الاصطناعي، بالنظر إلى كون هذه الأدوات مجهزة أكثر فأكثر لتفادي تقنيات الكشف. من جهتهم سيكون على المطورين والباحثين المساهمة في بلورة أساليب الفيليغران الموجهة لضبط المحتويات التي يولدها الذكاء الاصطناعي وتسهيل التعرف على مصدرها.
« يشكل الذكاء الاصطناعي في مجال الأمن السيبراني سلاحا ذو حدين. فقدراته على التأقلم تعزز دفاعاتنا، وتشكل سورا واقيا ضد التهديدات التي تتطور باستمرار. إلا أن خصائصه الديناميكية تتضمن كذلك حصتها من المخاطر، لأن المهاجمين يستفيدون من الذكاء الاصطناعي لبلورة هجمات أكثر تعقيدا. وبالتالي فمن المهم إيجاد التوازن الأمثل، عبر ضمان استعمال مسؤول، بدون مشاركة مفرطة للبيانات الحساسة، من أجل تأمين حدودنا الرقمية »، يقول فلاديسلاف توشكانوف، خبير الأمن لدى كاسبرسكي.
لمعرفة المزيد حول تأثير الذكاء الاصطناعي على الأمن السيبراني، يمكنكم زيارة Securelist.
تشكل هذه الإضاءة على الذكاء الاصطناعي في مجال الأمن السيبراني جزءا من توقعات النشرة الأمنية لكاسبرسكي، وهي سلسلة سنوية من التوقعات والتقارير التحليلية حول التغيرات الرئيسية في العالم وفي الأمن السيبراني. موعدنا معكم على الرابط التالي للاطلاع على باقي مقالات النشرة الأمنية لكاسبرسكي (KSB).
حول كاسبرسكي
“كاسبرسكي”، شركة عالمية، تأسست سنة 1997، وهي متخصصة في مجال الأمن الإلكتروني وحماية الحياة الرقمية الشخصية. وتعمل كاسبرسكي باستمرار على تسخير خبرتها الكبيرة في مجال “الرصد الذكي للتهديدات” وأمن تكنولوجيا المعلومات في سبيل إغناء الحلول والخدمات الأمنية الموجهة لحماية الشركات والبنيات التحتية الحيوية، والسلطات العمومية والأفراد في جميع أنحاء العالم. وتشمل مجموعة الحلول الأمنية الواسعة النطاق لـ “كاسبرسكي” حماية شاملة لأجهزة التشغيل النهائية، إضافة إلى حلول وخدمات أمينة مخصصة من أجل مكافحة التهديدات الرقمية العالية الدقة، والتي تتطور باستمرار. كما تساعد تكنولوجيا “كاسبرسكي” أكثر من 400 مليون مستخدم و240.000 مقاولة على حماية الأشياء التي يعتبرونها قيمة ومهمة بالنسبة لهم. للاطلاع على المزيد، تصفحوا: www.kaspersky.com
ما الذي يمكن ترقبه في 2024 بخصوص تداعيات الذكاء الاصطناعي في مجال الأمن السيبراني؟
● اتخاذ المزيد من المبادرات التنظيمية في مجال الذكاء الاصطناعي، مع مساهمة القطاع الخاص.
● مساهمة المطورين والباحثين في بلورة أساليب الفيليغران لتسهيل التعرف على المحتويات المولدة بالذكاء الاصطناعي والتأكد من مصدرها.
● ظهور ثغرات ونقاط ضعف أكثر تعقيدا عند تماس الذكاء الاصطناعي التوليدي والتكنولوجيات التقليدية.
● تزايد استخدام الشبكات العصبية لتوليد محتويات مرئية مفيدة للمحتالين.
● استبعاد تسبب الذكاء الاصطناعي في تغييرات جوهرية في مشهد التهديدات خلال 2024.
