مینه سوتا در حال مبارزه با xAI ایلان ماسک بر سر تلاش این شرکت برای جلوگیری از HF-1606 است، که یک قانون ایالتی بی‌سابقه است و ابزارهای هوش مصنوعی را هدف قرار می‌دهد که تصاویر جنسی واقع‌گرایانه از افراد قابل شناسایی تولید می‌کنند.

در یک پرونده قضایی روز جمعه، دادستان کل مینه سوتا، کیت الیسون، استدلال کرد که xAI بعید است در چالش قانونی خود موفق شود و نتوانسته نشان دهد که اجرای این قانون خسارت جبران ناپذیری به بار خواهد آورد.

الیسون نوشت: "با گروک ایمیجین (Grok Imagine)، X.AI بازاری بی‌نظیر برای خشونت جنسی دیجیتال ایجاد کرده است که عملاً هیچ مانعی برای ورود ندارد." "این بازار، همراه با قابلیت‌های عملیاتی گروک ایمیجین، مینه سوتا را از همان ابتدا محکوم به فنا می‌کند اگر نتواند قوانین خود را به سمت فناوری‌ای که اساساً قربانی شدن جنسی دیجیتال را ممکن می‌سازد، هدایت کند."

این قانون که در ماه آوریل به تصویب رسید و از اول آگوست اجرایی شد، پلتفرم‌ها و توسعه‌دهندگان نرم‌افزار را از این که به کاربران اجازه دهند تصاویر واقع‌گرایانه‌ای تولید کنند که اندام‌های صمیمی را نشان می‌دهند که در تصویر اصلی یک فرد قابل شناسایی وجود نداشته‌اند، منع می‌کند.

پیش از اجرای قانون، در ماه ژوئیه، xAI از الیسون شکایت کرد تا جلوی این قانون را بگیرد و استدلال کرد که این قانون متمم اول قانون اساسی را نقض می‌کند و می‌تواند شامل تصاویر محافظت شده، از جمله مردان بدون پیراهن، شناگران و طنز سیاسی شود. تخلفات تا 500,000 دلار جریمه به ازای هر تصویر به همراه دارد.

xAI در شکایت خود نوشت: "هیچ پناهگاه امنی برای تلاش‌های حسن نیت ارائه‌دهنده ابزارهای خلاقیت هوش مصنوعی عمومی برای جلوگیری از آسیب‌ها وجود ندارد." "مسئولیت حتی در صورتی که افراد به تصویر کشیده شده رضایت داده باشند – یا خودشان تصویر را ایجاد کرده باشند – و حتی اگر تصویر هرگز به اشتراک گذاشته نشود، اعمال می‌شود."

مینه سوتا این طرح را با 132 رأی موافق در مجلس نمایندگان و 65 رأی موافق در سنا به تصویب رساند، پس از آنکه قانون‌گذاران گزارش‌هایی در مورد مردی شنیدند که از عکس‌های شبکه‌های اجتماعی برای ایجاد تصاویر جنسی از بیش از 80 زنی که می‌شناخت، استفاده کرده بود.

سناتور می کواد، که این طرح را پیش برد، در آن زمان در بیانیه‌ای گفت: "امروز، ما در حفاظت از زنان، کودکان و هر کسی در زندگی عمومی در برابر آسیب‌های ناشی از فناوری لخت‌سازی (nudification) هوش مصنوعی، در کشور پیشرو شدیم. شرکت‌هایی که این فناوری را به صورت رایگان آنلاین و در فروشگاه‌های اپلیکیشن در دسترس قرار می‌دهند، دیگر اجازه نخواهند داشت به شکارچیانی که با یک کلیک دکمه، بزرگسالان و کودکان را مورد سوء استفاده و قربانی قرار می‌دهند، امکان دهند."

اکنون پرونده بر این محور است که آیا قانون، گفتار را تنظیم می‌کند یا فناوری را.

گروک همچنین به دلیل دیپ‌فیک‌های (deepfake) آشکارا جنسی مورد بررسی دقیق قرار گرفته است.

در ماه ژانویه، یک نهاد نظارتی تخمین زد که گروک بیش از 23,000 تصویر جنسی از کودکان را طی 11 روز تولید کرده است که منجر به تحقیقات در چندین کشور شد.

در ماه مارس، سه خردسال در کالیفرنیا به دیگران پیوستند و از xAI شکایت کردند و ادعا کردند که از گروک برای تبدیل عکس‌هایشان به مواد سوء استفاده جنسی از کودکان تولید شده با هوش مصنوعی استفاده شده است. xAI اعلام کرده است که بیش از 50,000 حساب کاربری را تعلیق کرده و بیش از 70,000 گزارش به مرکز ملی کودکان گمشده و مورد سوء استفاده (NCMEC) در سال 2026 ارائه کرده است.