إن التعلم الآلي مفيد للعديد من المؤسسات في صناعة التكنولوجيا، لكن يمكن أن يكون له جانب سلبي . يخبرنا “توم ميري” 5 أشياء يجب معرفتها حول الهجمات المعادية .
يتم استخدام التعلم الآلي في الكثير من المجالات الرائعة ، من توجيه السيارات المستقلة إلى إنشاء صور لقطط غير موجودة بالفعل . بالطبع ، كما هو الحال مع أي تقنية ، متى ما أثبتت وجودها سيرغب أحد ما باختراقها . سيكون بعض هؤلاء المخترقين ضارين . إن الهجمات المعادية للتعلم الآلي تقوم باستخدامه لإنشاء صور أو نصوص أو صوت، تقوم بإحباط الخوارزميات الأخرى و منعها من الأداء كما هو متوقع .
دعنا نتعرف على 5 أشياء يجب معرفتها عن الهجمات العدائية للتعلم الآلي
- الخوارزميات فقط ستعرف ما الذي يحدث . نظراً لأن التعلم الآلي عبارة عن صندوق أسود نوعاً ما ، فإن الهجمات كذلك أيضاً . يمكن أن تحاول الخوارزمية ضخ القليل من الضوضاء التي لا يمكن اكتشافها للبشر ، حتى تخدع خوارزمية أخرى في التفكير أن الباندا هو قرد .
- الهجمات العدائية إحصائية . هذا يمكن أن يجعل الإمساك بهم أصعب قليلاً لأنهم لا يعملون في كل مرة . قد يؤدي تغيير الزاوية أو الإضاءة إلى فشل الهجوم ، ويمكن أن تكون المتغيرات التي تسبب الفشل متعددة . يحتاج المهاجم للعمل مرات كافية و ليس طوال الوقت .
- لا يوجد حل واحد .يمكنك تغيير المعلومات الإحصائية أو بنية نموذج التعلم الآلي لمواجهة الهجمات المتوقعة . لكن يمكن للمهاجمين إعادة تدريب خوارزميات الهجوم الخاصة بهم للعثور على أنماط ضوضاء جديدة .
- ازدياد البحث عن الهجمات العدائية . أجرى “بن ديكسون” من TechTalks بحثاً على ArXiv ، للبحث عن الأوراق التي ذكرت هجمات معادية أو أمثلة معادية . تم تقديم 1100 هجمة في عام 2020 ارتفاعاً من 800 هجمة في عام 2019 . ولم يتم تقديم أي هجمة في عام 2014 .
- يدرك مجتمع الذكاء الاصطناعي أن ذلك مشكلة حقيقية . هم فقط بحاجة إلى الانتقال من البحث إلى الأدوات . كتبت OpenAl أن الأمثلة العدائية هي مشكلة ملموسة لكن “إصلاحها صعب بما فيه الكفاية بحيث يتطلب جهود جادة في عملية البحث” . قام باحثون من Microsoft و IBM و Nvidia و MITRE و شركات أخرى بنشر “مصفوفة تهديد ML المعادية “لمساعدة الباحثين في العثور على نقاط الضعف .
ما زال الوقت مبكراً بما يكفي لبدء القلق بشأن كيفية التأكد من أن الهجمات العدائية لا يمكن أن تسبب خطراً واسع النطاق ، لأن الوقت سينفذ في النهاية .
