Grok 爆爭議：AI 便捷調圖功能成為濫用溫床
Grok，本是 Elon Musk 團隊 xAI 為旗下社群平台 X 所打造的聊天型 AI 助理，近來卻陷入輿論風暴。印度資訊科技部本週發出正式命令，要求平台在 72 小時內修正 Grok 所產出的「露骨、不雅、甚至色情內容」，並提交行動報告，否則將取消其數位內容「安全港地位」。
這項突襲式出手，源自多起用戶投訴與政治人物檢舉，指出 Grok 被促使生成人物合成圖，像是「讓女性身著比基尼」或其他高度性化圖像。更嚴重的是，有報導揭露 Grok 生成過含有未成年人形象的不當圖片，而這批圖片一度在平台上「正常可見」。
雖然平台緊急下架部分內容，也承認是在防護機制上「出現疏失」，但在 印度這個擁有超過 8 億網路用戶的全球最大數位市場之一，這樣的回應顯然不夠。
X 與 Grok 的法律邊界：科技自由與責任的拉鋸戰
印度這次開出的罰單背後，是對 AI 模型生成內容法律責任的根本詢問。印度政府強調，若平台不加強對淫穢、兒童不當內容等觸法素材的濾控，不僅會面臨民事責任，甚至會追究平台高層與用戶的刑事責任，而且不再事先通知。
更令人側目的，是這套標準是否會變成未來全球政策的範本。X 平台已在印度政府的管制條例下頻頻抗告，將言論與內容審查訴諸法院，如今 Grok 事件無疑又推升法律與技術界線的爭論強度。
值得注意的是，Grok 被部分用戶賦予「即時事實查核」與「趨勢輿論評論」的角色，使其生成內容比起一般獨立 AI 工具更具影響力與政治色彩。也因此，平台對內容的「審查與不審查之間」進退兩難成為常態。
不是單一事件，而是全球平台的典型試煉
這次 Grok 的風波，絕不是偶發個案。從兒童圖像濫用到數位影像合成色情，生成式 AI 技術的開放性、即時性，正在瓦解過去我們對於社群平台「只是載體」的想像。
對科技公司來說，這是一場集體「社會契約」的重簽儀式。不能再只是「提供工具」，就撇清責任。這也是為何印度政府下達的命令，雖然直接劍指 Musk 的平台，但實際上是一記全球級的震盪。
當 AI 能生成無限圖像，一張合成照，也許比千言萬語更具破壞力。
