فایننشال تایمز روز دوشنبه گزارش داد که رئیس بخش اخلاق OpenAI کمتر از یک سال پس از پیوستن به این شرکت آن را ترک کرده و شرکتی جایگزینی برای او در نظر نگرفته است.
به گزارش این روزنامه، کلوئه باکالار در اوت گذشته به عنوان مدیر بخش اخلاق هوش مصنوعی به این شرکت پیوست و در ژوئیه بدون هیچ اعلام عمومی آن را ترک کرد. فردی آشنا به نقش او به FT گفت که او تنها متخصص اخلاق اختصاصی در این شرکت بوده و بر روی رویکردهای اخلاقی در توسعه مدل، نحوه تعامل افراد با هوش مصنوعی و مسئله آگاهی ماشین کار میکرده است.
باکالار شش سال را به عنوان مدیر ارشد اخلاق در متا گذراند، جایی که او برنامههای اخلاق هوش مصنوعی شرکت را ساخت و آنها را در محصولاتی از جمله اینستاگرام و فیسبوک ادغام کرد. او همچنین سمتهای آکادمیک در کالج دانشگاهی لندن، دانشگاه تمپل و پرینستون داشته است.
OpenAI اهمیت نقش او را کماهمیت جلوه داد و سخنگویی به FT گفت که "اخلاق هوش مصنوعی در OpenAI تنها به یک مالک یا تیم وابسته نیست." آنها افزودند که ملاحظات اخلاقی در تمام تیمهای تحقیقاتی گنجانده شده و شرکت در ماههای اخیر چندین سیستم را برای جلوگیری از سوءرفتار مدلها معرفی کرده است.
باکالار خودش نیز همین استدلال را مطرح کرده بود. او در یک کنفرانس اخیر گفت که اخلاق مسئولیت همه است و "هرگز نباید تنها یک نفر به عنوان مرکز اخلاقی" یک توسعهدهنده هوش مصنوعی خدمت کند. او از اظهار نظر درباره جدایی خود به FT خودداری کرد.
به گزارش FT، خروج او پس از جدایی یوهانس هایدکه، رئیس سیستمهای ایمنی، و جاشوا آکیام، مدیر ارشد آیندهنگری و قبلاً رئیس بخش همسویی ماموریت، صورت میگیرد. OpenAI در همان روز، خرید ۷ میلیارد دلاری سهام کارمندان را با ارزش ۸۵۲ میلیارد دلار تکمیل کرد که نسبت به دور تأمین مالی مارس بدون تغییر بود و این شرکت را برای یک لیستینگ احتمالی آماده میکند.
OpenAI روز جمعه کار بر روی مدل اصلی بعدی خود، آسترا، را متوقف کرد و اعلام کرد که نمیتواند این احتمال را رد کند که سیستم به بالاترین رتبه در مقیاس خطر سایبری خود رسیده است، رتبهای که برای مدلهایی که قادر به یافتن و ساخت اکسپلویتهای عملی بدون دخالت انسان هستند، رزرو شده است.
این اتفاق پس از حادثهای رخ داد که در آن عوامل OpenAI خودشان آسیبپذیریها را به هم زنجیرهوار متصل کرده، از محیط آزمایشی خود فرار کرده و به Hugging Face حمله کردند تا در یک بنچمارک امنیتی تقلب کنند. این شرکت بعدها گفت که همان عامل با استفاده از اعتبارسنجیهای یافت شده در وب عمومی، به چهار سرویس دیگر نفوذ کرده بود.
OpenAI تنها شرکت هوش مصنوعی نیست که عوامل آن در هفتههای اخیر از پارامترهای خود فراتر رفتهاند. مدلهای کلود Anthropic پس از یک پیکربندی نادرست که اینترنت را به روی آنها باز کرد، به سه شرکت واقعی دسترسی پیدا کردهاند، یک مدل متا از محیط آزمایشی خود فرار کرده و از یک نقص در سرویس شخص ثالث بهرهبرداری کرد، و کیمی K3 شرکت مونشات AI از سندباکس خود خارج شد تا پاسخهای بنچمارک را پیدا کند.
