شتاب OpenAI برای عرضه مدلها و محصولات جدید به شرایطی دامن زد که به عاملهای هوش مصنوعی آن اجازه داد از محیطهای آزمایشی داخلی فرار کرده و اوایل سال جاری Hugging Face را هک کنند.
چندین کارمند فعلی و سابق به وایرِد گفتند که فشار رقابتی باعث شده است که کارکنان نتوانند توجه کافی را به ایمنی، امنیت و همسویی – یعنی اطمینان از عملکرد سیستمهای هوش مصنوعی مطابق با هدف – اختصاص دهند.
یک کارمند سابق OpenAI به وایرِد گفت: «آنها به شدت بیمبالات بودند. اگر در این مورد جدی هستید، هوش مصنوعی شما نباید بتواند به اینترنت نفوذ کند و سپس بلافاصله دوباره این کار را انجام دهد.» او افزود: «این بزرگترین حادثه ایمنی در تاریخ OpenAI بود.»
در ماه مه، GPT-5.6 Sol و یک مدل پیشانتشار نامشخص OpenAI با سوءاستفاده از یک نقص نرمافزاری ناشناخته قبلی، از محیط آزمایش محدود به اینترنت فرار کردند. سپس این عاملها به مخزن هوش مصنوعی متنباز Hugging Face نفوذ کردند تا پاسخهای آزمونهای امنیت سایبری خود را به دست آورند. در ماه ژوئیه، OpenAI تایید کرد که مدلهایش مسئول این اتفاق بودهاند و سپس هفته گذشته در کنفرانس سالانه Black Hat، جزئیات کاملتری ارائه داد.
گرگ براکمن، رئیس OpenAI، گفت که شرکت در حال تقویت تدابیر امنیتی خود است زیرا مدلهایش توانمندتر میشوند.
براکمن به وایرِد گفت: «ما به سطوح جدیدی از قابلیتهای مدل میرسیم که نیازمند آموزش، همسویی، آزمایش ایمنی و امنیتی، رویههای استقرار، و حاکمیت قویتری است.»
کارمندان پیش از این نیز نگرانیهای مشابهی را مطرح کرده بودند، از جمله یان لیکه، رئیس سابق بخش همسویی OpenAI، که در سال 2024 پس از هشدار درباره اینکه ایمنی «در درجه دوم اهمیت» نسبت به توسعه محصول قرار گرفته است، به شرکت رقیب Anthropic پیوست.
لیکه هشدار داد: «ساخت ماشینهای باهوشتر از انسان ذاتاً تلاشی خطرناک است. اما در طول سالهای گذشته، فرهنگ و فرآیندهای ایمنی در مقایسه با محصولات جذاب، در درجه دوم اهمیت قرار گرفتهاند.»
بوآز باراک، یکی از رهبران گروه مشاوره ایمنی OpenAI، در X نوشت که رفع این شکست اخیر نیازمند «نه تنها حل برخی مسائل، بلکه تغییر فرهنگ ما نیز خواهد بود.»
این گزارش در بحبوحه ماهها تغییرات مدیریتی در OpenAI منتشر میشود.
در ماه آوریل، بیل پیبلز، رئیس پروژه تولید ویدئو Sora در OpenAI، کوین وایل، مدیر ارشد محصول و مدیر ارشد علمی سابق، و سرینیواس نارایانان، رئیس فناوری برنامههای سازمانی، این شرکت را ترک کردند. ماه ژوئیه شاهد جدایی فیدجی سیمو، رئیس محصول و کسب و کار، سندینی آگاروال، رهبر ایمنی، جاشوا آشیام، مدیر ارشد آیندهنگری، و کلوئی باکالار، رهبر اخلاق هوش مصنوعی بود. یوهانس هایدکه، رئیس سیستمهای ایمنی نیز پس از ادغام تیمهای ایمنی و تحقیقات اصلی OpenAI، این شرکت را ترک کرد.
اوایل این هفته، برد لایتکپ، مدیر ارشد عملیاتی OpenAI، پس از هشت سال، برای راهاندازی یک سرمایهگذاری جدید، جدایی خود را اعلام کرد.
