تهدید نوین در نبرد هوش مصنوعی

به گزارش خبرنگار سرویس فرهنگی و اجتماعی خبرگزاری رسا، سید عباس موسوی، پژوهشگر فضای مجازی، در نشست علمی «هوش مصنوعی به مثابه میدان نوین منازعه تمدنی؛ فرصت‌ها و تهدیدهای الگوریتمی برای تمدن‌سازی نوین اسلامی» که صبح امروز در مرکز تحقیقات اسلامی مجلس شورای اسلامی برگزار شد، به تشریح ابعاد پیچیده تهدیدات و فرصت‌های الگوریتمی در عرصه هوش مصنوعی پرداخت.

 

وی با بیان اینکه الگوریتم‌ها بخشی جدایی‌ناپذیر از هوش مصنوعی هستند، اظهار داشت: الگوریتم‌ها دارای نقطه شروع و پایان مشخصی هستند اما هوش مصنوعی محدود به انتها نیست و به صورت پیوسته در حال توسعه و پیشرفت است. الگوریتم‌ها از طریق پرسش و پاسخ تلاش می‌کنند خروجی مناسبی تولید کنند.

 

موسوی تاکید کرد: در بسیاری از سناریوهای واقعی، دشمنان به جای نفوذ مستقیم و هک زیرساخت‌ها یا قطع داده‌ها، از روش‌های ظریف‌تر و پیچیده‌تری استفاده می‌کنند که به تدریج مرز تشخیص مدل‌های هوش مصنوعی را تغییر می‌دهد. 

 

وی افزود: این کار از طریق تزریق آرام الگوهای رفتاری خاص صورت می‌گیرد و پیش از آغاز درگیری، داده‌ها به صورت آرام و بدون عبور شاخص‌ها از آستانه‌های تعیین شده باقی می‌مانند؛ به گونه‌ای که سیستم‌ها سالم به نظر می‌رسند. در این روند دکترین دشمن هدایت تصمیم‌ها است نه تخریب آن‌ها.

 

این پژوهشگر فضای مجازی راهکار مقابله با این تهدیدات را ممیزی مداوم الگوریتم‌ها و نه تنها زیرساخت‌ها دانست و تصریح کرد: تفکیک داده‌های آموزشی از داده‌های عملیاتی، طراحی آستانه‌های چندلایه و سنجش جهت‌گیری تصمیم‌ها از جمله راهکارهای اساسی برای مقابله با تغییرات دستورات الگوریتمی توسط دشمن است.

 

موسوی در ادامه تاکید کرد: نمونه‌های پیشرفته هوش مصنوعی در کشورهایی مانند آمریکا و اسرائیل به منظور ضربه زدن به جمهوری اسلامی به کار گرفته می‌شوند و افزود: فریب الگوریتم‌ها یک توانمندی عملیاتی بالفعل است که در قالب سناریوهای فرضی قابل بررسی و مقابله است.

 

این نشست علمی با هدف بررسی فرصت‌ها و تهدیدهای هوش مصنوعی و الگوریتم‌ها در مسیر تمدن‌سازی نوین اسلامی برگزار شد و جمعی از پژوهشگران و صاحب‌نظران در آن حضور داشتند.