加州檢察長辦公室正式宣布對 xAI Grok 調查 案啟動程序，這標誌著生成式 AI 內容監管進入了全新的司法階段。此項調查主要針對 xAI 旗下的聊天機器人 Grok 是否涉及大規模擴散「非自願性色情內容（NCII）」及深偽影像。儘管 Elon Musk 在調查消息公開後，隨即於 X 平台上強硬發文表示「我不知道 Grok 生成過任何未成年人裸露圖片」，但全球多國監管機構已組成聯合壓力網，試圖釐清 Grok 在影像生成安全護欄上的設計缺陷。
從「重製影像」到法律紅線：Grok 的安全機制失控？
這點令人意外：Grok 的影像生成功能原本標榜「自由、幽默」，但在 2024 年底卻演變成用戶騷擾女性與公眾人物的工具。報導指出，用戶利用 Grok 修改真實女性的照片（如知名影星 Millie Bobby Brown），將服裝或肢體動作調整為極具性暗示的內容。
雖然 xAI 緊急啟動了防護措施——例如將特定影像生成功能限制為 Premium 訂閱用戶專屬，且 Grok 現在會以較模糊或通用的方式回覆「辛辣指令」，但根據法律專家 Michael Goodyear 的分析，Musk 刻意強調「未發現未成年裸照（CSAM）」，是為了規避更嚴重的聯邦刑責。在美國，《Take It Down Act》明確規定，散布此類內容最高可面臨 3 年監禁。
全球監管機構對 xAI / Grok 的處置現狀
| 國家/組織 | 處置動作 | 法律依據 / 關注焦點 |
| 美國加州 | 啟動正式調查 | 違反 2024 年簽署之深偽（Deepfake）防制法 |
| 印尼 / 馬來西亞 | 暫時封鎖 Grok | 違反當地內容審查與道德法規 |
| 歐盟 (EC) | 要求保留所有相關文件 | 《數位服務法》(DSA) 預備調查 |
| 英國 (Ofcom) | 開放正式調查 | 《線上安全法》(Online Safety Act) |
| 印度 | 要求立即進行技術與程序更改 | 預防非自願性操弄影像傳播 |
「惡意指令」還是「設計缺陷」？Musk 的技術辯護
Musk 在回應中將問題歸咎於用戶的「惡意指令（Adversarial Hacking）」，並強調 Grok 的核心原則是遵守各州法律，「如果發生意外，我們會立即修補臭蟲（Bug）」。然而，監管機構顯然認為這不只是「臭蟲」，而是 xAI 在開發「Spicy Mode（辛辣模式）」時，刻意降低了安全護欄（Guardrails）。
加州檢察長 Bonta 嚴正警告，這些 AI 生成的素材已被用於在網路上騷擾個人。雖然 Grok 生成的色情影像大多是 AI 合成的虛擬人物，但當它允許用戶未經許可操弄「真實人物」的肖像時，這種侵略性已跨越了倫理界線。
評論：AI 代理人的「自由」不應建築在傷害之上
我們認為，這場 xAI Grok 調查 將成為 AI 產業的轉折點。長期以來，Musk 標榜 Grok 是為了對抗過度「政治正確」的 AI，但當這種自由演變成大規模的性騷擾工具時，技術開發者就必須承擔代價。正如 Copyleaks 執行長 Alon Yamin 所言，從 Sora 到 Grok，AI 的操弄能力正快速演進，此時的監管與偵測技術比任何時候都更加緊迫。
