گفتگوی روز سهشنبه بین داریو آمودی، مدیرعامل آنتروپیک و جیمی دیمون، مدیرعامل جیپی مورگان چیس، بر تهدید فزاینده امنیت سایبری ناشی از هوش مصنوعی تمرکز داشت، زیرا هوش مصنوعی آسیبپذیریها را سریعتر از آنکه سازمانها بتوانند آنها را رفع کنند، شناسایی میکند.
در این رویداد تقریباً دو ساعته که به ورود آنتروپیک به خدمات مالی اختصاص داشت و در آن از عاملهای هوش مصنوعی برای کارهایی مانند دفترچههای سرمایهگذاری، بررسی درآمد و امور انطباق رونمایی شد، آمودی گفت که ممکن است یک فرصت شش تا ۱۲ ماهه برای رفع دهها هزار نقص کشف شده توسط مدل «میتوس» (Mythos) این شرکت وجود داشته باشد، پیش از آنکه قابلیتهای مشابه به طور گستردهتری در دسترس قرار گیرند.
آمودی گفت: «خطر، افزایش بسیار زیاد تعداد آسیبپذیریها، تعداد نقضهای امنیتی، و خسارات مالی ناشی از باجافزارها بر مدارس، بیمارستانها، و البته بانکها است.»
اظهارات اخیر آمودی در پی آزمایشهای قبلی با موزیلا مطرح شد، زمانی که یک نسخه اولیه از میتوس در یک نوبت ۲۷۱ آسیبپذیری را در مرورگر فایرفاکس شناسایی کرد، که نشان میدهد هوش مصنوعی چگونه میتواند کدهای بزرگ را بسیار سریعتر از محققان انسانی اسکن کند.
آنتروپیک اعلام کرد که این مدل میتواند هزاران نقطه ضعف ناشناخته قبلی را در نرمافزارهای پرکاربرد کشف کند. بسیاری از این آسیبپذیریها هنوز افشا نشدهاند زیرا تاکنون وصله (پچ) نشدهاند و نقصهای حلنشدهای را باقی گذاشتهاند.
آمودی گفت: «اگر چیزی را قبل از اینکه رفع شود اعلام کنیم، آنگاه افراد شرور از آن سوءاستفاده خواهند کرد.»
در آزمایشهای کنترلشده، میتوس شبیهسازی حملات شبکه چندمرحلهای را بدون دخالت انسان انجام داد و توانایی خود را در حرکت از شناسایی نقاط ضعف به بهرهبرداری از آنها نشان داد.
آنتروپیک این مدل را تحت پروژه «گلسوینگ» (Project Glasswing) به گروه کوچکی از شرکا محدود کرده است، با هدف رفع آسیبپذیریها پیش از آنکه ابزارهای مشابه به طور گستردهای در دسترس قرار گیرند.
محققان نشان دادهاند که عناصر قابلیت میتوس را میتوان با استفاده از مدلهای موجود و تکنیکهای متنباز بازتولید کرد، که نشان میدهد ابزارهای مشابه ممکن است سریعتر از حد انتظار گسترش یابند.
این هشدارها با شک و تردیدهایی در صنعت مواجه شده است. در آوریل، سم آلتمن، مدیرعامل OpenAI، گفت که نگرانیها در مورد میتوس ممکن است اغراقآمیز باشد و پیشنهاد کرد که آنتروپیک از «بازاریابی مبتنی بر ترس» برای بیان خطرات و توجیه محدود کردن دسترسی به این فناوری استفاده میکند.
آلتمن گفت: «شما میتوانید این را به روشهای مختلفی توجیه کنید، و برخی از آنها واقعی هستند، مانند نگرانیهای مشروع امنیتی.» او افزود: «اما اگر آنچه میخواهید این است که 'ما به کنترل هوش مصنوعی نیاز داریم، فقط ما، چون ما افراد قابل اعتماد هستیم'، به نظر من بازاریابی مبتنی بر ترس احتمالاً مؤثرترین راه برای توجیه این امر است.»
با وجود این مخالفتها و علیرغم اختلافات عمومی با آنتروپیک، دولت ایالات متحده طبق گزارش آکسیوس (Axios) از مدل Claude Mythos برای اسکن شبکههای طبقهبندیشده به منظور یافتن آسیبپذیریها و آزمایش قابلیتهای امنیت سایبری خود استفاده میکند. در حالی که آمودی به نبرد حقوقی در حال انجام اشارهای نکرد، او گفت که آنتروپیک «برای این کشور مفید است.»
آمودی گفت: «من فکر میکنم دیدگاه آنتروپیک همان چیزی است که همیشه بوده است. از نظر سیاسیسازی، این همان نکتهای است که من در مورد سادهسازی، سیستماتیک بودن و عادلانه بودن برای همه مطرح کردم.» او افزود: «هدف از قوانین و انجام ندادن کارها به صورت موقتی این است که همه شرکتها، حداقل در اصل — میدانم که در عمل پیچیدهتر است — به یک شیوه رفتار شوند، و ما باید به آن آرزو کنیم، حتی اگر هرگز به طور کامل به آن شکل اتفاق نیفتد.»
آمودی این لحظه را به عنوان یک پنجره فرصت محدود برای اقدام معرفی کرد و هشدار داد که سرعت واکنش سازمانها میتواند تعیین کند که آیا خطرات تشدید میشوند یا تحت کنترل در میآیند.
آمودی گفت: «این یک لحظه خطرناک است که اگر به درستی به آن پاسخ دهیم، و من فکر میکنم ما اولین گامها را برداشتهایم، آنگاه میتوانیم در سوی دیگر دنیایی بهتر داشته باشیم.» او افزود: «بالاخره فقط تعداد محدودی باگ برای یافتن وجود دارد.»
