Anthropic دسترسی به مدل‌های هوش مصنوعی تازه راه‌اندازی شده خود یعنی Fable 5 و Mythos 5 را پس از دریافت دستورالعمل کنترل صادرات دولت ایالات متحده مرتبط با نگرانی‌های امنیت ملی، به حالت تعلیق درآورد.

بر اساس بیانیه‌ای که Anthropic روز جمعه منتشر کرد، این شرکت دستورالعمل را در ساعت 17:21 به وقت شرقی (ET) دریافت کرده است که به آن دستور می‌دهد دسترسی به Fable 5 و Mythos 5 را برای تمامی اتباع خارجی، صرف نظر از اینکه در داخل یا خارج از ایالات متحده حضور دارند، مسدود کند. این دستور همچنین شامل کارکنان خارجی که در Anthropic مشغول به کار هستند نیز می‌شود.

Anthropic در مواجهه با این دستورالعمل، اعلام کرد که هر دو مدل را برای همه کاربران غیرفعال کرده تا از رعایت الزامات دولت اطمینان حاصل کند. این شرکت افزود که سایر مدل‌هایش، از جمله Opus 4.8، همچنان در دسترس هستند و تحت تأثیر این محدودیت‌ها قرار نگرفته‌اند.

«ما در حال رعایت دستورالعمل قانونی دولت هستیم و دسترسی به Fable 5 و Mythos 5 را برای همه کاربران حذف می‌کنیم.»

این اقدام تنها چند روز پس از آن صورت می‌گیرد که Anthropic مدل Fable 5 را به عنوان یک مدل عمومی کلاس Mythos معرفی کرد و Mythos 5 را برای گروه محدودی از کاربران تأیید شده در حوزه امنیت سایبری و زیرساخت‌ها منتشر نمود.

به گفته Anthropic، Fable 5 برای انجام وظایف طولانی‌تر و پیچیده‌تر نسبت به مدل‌های قبلی Claude طراحی شده بود و عملکرد قدرتمندی را در مهندسی نرم‌افزار، تحقیقات علمی، امور مالی، بینایی، حافظه و کارهای دانش‌محور ارائه می‌داد.

نگرانی‌های دولت بر روی «جیل‌بریک» (jailbreak) احتمالی مدل متمرکز است

در حالی که مقامات شواهد مفصلی برای پشتیبانی از این دستور ارائه ندادند، Anthropic اعلام کرد که معتقد است دولت نگران یک تکنیک احتمالی «جیل‌بریک» است که می‌تواند برخی از محافظت‌های Fable 5 را دور بزند.

به گفته Anthropic، مقامات تاکنون تنها شواهد شفاهی از آنچه این شرکت یک «جیل‌بریک» محدود و غیرجهانی توصیف کرده است، ارائه داده‌اند. این شرکت گفت که روش گزارش شده شامل درخواست از مدل برای تحلیل یک کدبیس خاص و شناسایی یا ترمیم آسیب‌پذیری‌های نرم‌افزاری است.

Anthropic توضیح داد که یک «جیل‌بریک» غیرجهانی تفاوت قابل توجهی با یک «جیل‌بریک» جهانی دارد، زیرا حفاظت‌های ایمنی یک مدل را به طور گسترده در طیف وسیعی از وظایف حذف نمی‌کند.

«ما با این موضوع مخالفیم که یافتن یک «جیل‌بریک» احتمالی محدود باید دلیلی برای فراخوانی یک مدل تجاری که برای صدها میلیون نفر به کار گرفته شده است، باشد. اگر این استاندارد در سراسر صنعت اعمال شود، ما معتقدیم که اساساً تمام استقرار مدل‌های جدید برای همه ارائه‌دهندگان مدل‌های پیشرو را متوقف خواهد کرد.»

در همین حال، Anthropic اعلام کرد که در حال همکاری با مقامات است و معتقد است که این دستورالعمل ممکن است ناشی از سوءتفاهم باشد. این شرکت اظهار داشت که به دنبال بازیابی هرچه سریعتر دسترسی است.

گسترش زیرساخت‌ها با وجود محدودیت‌های مدل ادامه دارد

حتی در حالی که دسترسی به Fable 5 و Mythos 5 به حالت تعلیق درآمده است، Anthropic همچنان در حال گسترش ظرفیت محاسباتی خود برای سیستم‌های هوش مصنوعی آینده است.

همانطور که توسط crypto.news گزارش شده است، شرکت‌های اعتباری خصوصی Blackstone و Apollo Global Management در حال تأمین مالی تقریباً 36 میلیارد دلاری برای حمایت از مرحله بعدی هزینه‌های زیرساختی Anthropic هستند. رویترز گزارش داد که این وجوه برای خرید تراشه‌های واحد پردازش تانسور سفارشی از گوگل، با پشتوانه فناوری Broadcom، استفاده خواهد شد که Anthropic قصد دارد آنها را برای عملیات هوش مصنوعی خود اجاره کند.

به طور جداگانه، Anthropic از دولت‌ها خواسته است تا قوانینی برای سیستم‌های هوش مصنوعی پیشرو با پیشرفت قابلیت‌های مدل ایجاد کنند. این شرکت اقدامات سیاستی را پیشنهاد کرده است که شامل استقرار خطرناک، ارزیابی‌های مستقل، حفاظت‌های امنیت سایبری و آمادگی اقتصادی برای کارگران متأثر از پذیرش هوش مصنوعی می‌شود.

این توصیه‌های سیاستی اکنون در حالی مطرح می‌شوند که Anthropic خود را در کانون یکی از مهم‌ترین مداخلات دولتی مربوط به یک مدل هوش مصنوعی پیشرو تازه منتشر شده می‌یابد.