明尼蘇達州正與伊隆·馬斯克的 xAI 對抗，因為該公司試圖阻止 HF-1606 這項該州首創的法律，該法律旨在打擊生成可辨識人物逼真性影像的 AI 工具。

在週五提交的一份法庭文件中，明尼蘇達州司法部長基思·埃里森（Keith Ellison）辯稱，xAI 不太可能在其憲法挑戰中獲勝，並且未能證明執行該法律會造成不可彌補的損害。

埃里森寫道：「透過 Grok Imagine，X.AI 建立了一個前所未有的數位性暴力市場，幾乎沒有任何進入門檻。」「如果明尼蘇達州無法將其法律指向使數位性侵害成為可能這項技術本身，那麼這個市場，加上 Grok Imagine 的功能，將從一開始就註定明尼蘇達州會失敗。」

這項法律於四月頒布並於八月一日生效，禁止平台和軟體開發商允許使用者創建顯示可辨識人物原始圖像中未出現的私密身體部位的逼真影像。

在該法律實施之前，xAI 於七月起訴埃里森以阻止該法律，聲稱其違反了第一修正案，並且可能適用於受保護的圖像，包括裸露上身的男性、游泳者和政治諷刺作品。違規行為每張圖片可處最高 50 萬美元的罰款。

xAI 在其訴狀中寫道：「對於通用 AI 創作工具提供者為避免傷害所做的善意努力，並無安全港。」「即使被描繪者同意——或自行創作了圖像——甚至圖像從未被分享，責任依然成立。」

明尼蘇達州眾議院以 132 票對 1 票、參議院以 65 票對 0 票通過了這項法案，此前議員們聽取了一名男子利用社交媒體照片創建了 80 多名他認識的女性的性影像的報告。

當時，主導這項推動的參議員梅伊·奎德（Maye Quade）在一份聲明中表示：「今天，我們引領全國保護婦女、兒童和所有公眾人物免受 AI 裸體技術造成的傷害。」「那些在線上和應用商店免費提供這項技術的公司，將不再被允許助長那些透過點擊按鈕來虐待和傷害成人及兒童的掠食者。」

此案現在的核心問題是該法律規範的是言論還是技術。

Grok 也因性露骨的深度偽造內容而受到審查。

一月份，一個監管機構估計 Grok 在 11 天內生成了超過 23,000 張兒童性化圖像，引發了多國調查。

三月份，加州的三名未成年人與其他人一同起訴 xAI，指控 Grok 被用於將他們的照片轉換成 AI 生成的兒童性虐待材料。 xAI 表示，它已在 2026 年暫停了超過 50,000 個帳戶，並向國家失蹤與受剝削兒童中心提交了超過 70,000 份報告。