پيشرفت‌ها در عوامل هوش مصنوعی ممکن است دریچه‌ای را به روی تهدید سایبری جدیدی بگشایند: کرم‌های کامپیوتری تطبیق‌پذیر که قادرند استراتژی‌های حمله را به سرعت تولید کرده و به طور مستقل در شبکه‌ها گسترش یابند، تحقیقات جدید هشدار می‌دهد.

این مقاله، که توسط محققانی از دانشگاه تورنتو، موسسه وکتور، دانشگاه کمبریج و ServiceNow ارائه شده است، یک اثبات مفهوم از کرم مبتنی بر هوش مصنوعی را توصیف می‌کند که می‌تواند آسیب‌پذیری‌ها را شناسایی کند، مسیرهای حمله سفارشی‌شده ایجاد کند، سیستم‌ها را به خطر بیندازد و خود را در یک شبکه تکثیر کند، در حالی که تاکتیک‌های خود را با اهداف مختلف تطبیق می‌دهد.

محققان نوشتند: «ما باید برای دشمنان خودکار مولد آماده باشیم.» «سیستم‌های بدافزاری که بدون اپراتورهای انسانی گسترش می‌یابند و نه با کد اکسپلویت ثابت، بلکه با توانایی استدلال در مورد اهداف، انطباق با مشاهدات و ترکیب منطق حمله در زمان واقعی تعریف می‌شوند.»

کرم کامپیوتری یک بدافزار خودتکثیرشونده است که به طور خودکار در شبکه‌های آسیب‌پذیر گسترش می‌یابد. شیوع کرم‌ها، از جمله بدافزار ILOVEYOU در سال ۲۰۰۰ و WannaCry در سال ۲۰۱۷، میلیون‌ها کامپیوتر را در سراسر جهان آلوده کرد و خدمات حیاتی را مختل کرده و میلیاردها دلار خسارت به بار آورد.

اخیراً، بدافزار Shai-Hulud نشان داد که چگونه حملات خودتکثیرشونده می‌توانند به صورت آنلاین گسترش یابند و نرم‌افزارهای مورد استفاده شرکت‌های بزرگ، از جمله OpenAI و Mistral را آلوده کنند.

بر اساس مطالعه جدید، محققان می‌گویند آنچه کرم مبتنی بر هوش مصنوعی آنها را از نسخه‌های قبلی متمایز می‌کند، توانایی آن در تطبیق با اهداف مختلف است، با استفاده از یک مدل زبان بزرگ برای شناسایی آسیب‌پذیری‌ها و تولید استراتژی‌های حمله در زمان واقعی، به جای تکیه بر مجموعه‌ای ثابت از اکسپلویت‌ها.

آنها نوشتند: «کرم‌های سنتی، مانند WannaCry، از آسیب‌پذیری‌های از پیش تعیین‌شده سوءاستفاده می‌کردند و گسترش آنها با وصله‌کردن آن آسیب‌پذیری‌ها قابل توقف بود.» «در اینجا ما نشان می‌دهیم که عوامل هوش مصنوعی یک تهدید اساساً جدید را ممکن می‌سازند: کرمی که استراتژی‌های حمله سفارشی‌شده را برای هر هدفی که با آن روبرو می‌شود، تولید می‌کند.»

در این مطالعه، تیم کرم را در یک شبکه مجازی ایزوله حاوی ۳۳ سیستم لینوکس، ویندوز و اینترنت اشیا (IoT) که با آسیب‌پذیری‌های رایج آلوده شده بودند، آزمایش کرد. در ۱۵ آزمایش، کرم به طور متوسط ۳۱.۳ آسیب‌پذیری را شناسایی کرد، ۲۳.۱ میزبان را با موفقیت به خطر انداخت و در طول هفت روز عملکرد خودکار به حدود ۲۰ ماشین گسترش یافت.

در برخی آزمایش‌ها، این مطالعه نشان داد که بدافزار توانسته است به هفت نسل از خودتکثیری برسد، و برخلاف بسیاری از کاربردهای هوش مصنوعی، این کرم به دسترسی به خدمات ابری هوش مصنوعی وابسته نبود.

به جای تکیه بر زیرساخت ابری از ارائه‌دهندگانی مانند AWS، Microsoft Azure یا Google Cloud، این بدافزار مدل‌های هوش مصنوعی را مستقیماً روی ماشین‌های به خطر افتاده اجرا می‌کرد. با گسترش آن، سیستم‌های آلوده به طور موثر بخشی از زیرساخت محاسباتی آن شدند.

محققان همچنین دریافتند که این سیستم می‌تواند با دریافت مشاوره‌های امنیتی جدید منتشر شده در زمان اجرا، از آسیب‌پذیری‌هایی که پس از تاریخ قطع آموزش مدل فاش شده بودند، سوءاستفاده کند، که این امکان را به آن می‌دهد تا اطلاعاتی را که بخشی از داده‌های آموزشی اصلی مدل نبودند، در خود جای دهد.

در حالی که آزمایش در یک محیط کنترل شده انجام شد، نویسندگان ماهیت دوگانه کار را تصدیق کردند و عمداً برخی جزئیات فنی را برای کاهش خطر سوءاستفاده، افشا نکردند.

آنها گفتند: «پیش از انتشار این پیش‌چاپ، ما دست‌نوشته را ویرایش کردیم تا اطمینان حاصل کنیم که ارائه روش ما، عمق جزئیات مورد نیاز جامعه برای مطالعه این تهدید جدید را با خطر سوءاستفاده یک عامل مخرب از روش ما برای ایجاد بدافزار، متعادل می‌کند.»

با این وجود، محققان اظهار داشتند که هدف این پروژه درک بهتر خطرات ناشی از کرم‌های کامپیوتری تطبیق‌پذیر و ارائه شواهدی از پیشرفت قابلیت‌های سایبری مبتنی بر هوش مصنوعی است.

آنها نوشتند: «از این رو، مقابله با این تهدید مستلزم اقدام هماهنگ در جوامع تحقیقاتی، امنیتی، صنعتی و سیاستی است: چارچوب‌های ارزیابی که قابلیت‌های سطح مهار را آزمایش می‌کنند، سیستم‌های تشخیص که با امضاهای رفتاری عاملان خودکار تنظیم شده‌اند، و تدابیر نظارتی که ماهیت غیرمتمرکز استنتاج با وزن باز را در نظر می‌گیرند.»