加州 AI 監管的分水嶺時刻

隨著加州司法部正式對由 Elon Musk 創立的人工智能公司 xAI 展開調查，美國人工智能監管領域面臨著一次重大的壓力測試。此次調查由加州總檢察長 Rob Bonta 領頭，重點關注該公司的旗艦 AI 工具 Grok，以及其在未經同意的性圖像（Non-consensual sexual imagery，簡稱 NCII）和明顯的兒童性虐待材料（Child sexual abuse material，簡稱 CSAM）擴散中所扮演的角色。

這次調查標誌著 生成式 AI（Generative AI） 產業的一個關鍵時刻。它將討論從理論風險轉向了關於基礎模型如何訓練、防護和部署的具體法律責任。對於 Creati.ai 的讀者來說，這一進展凸顯了快速創新（通常由 xAI 的「追求最大真相」理念所倡導）與強大數位安全機制必要性之間日益緊張的關係。

調查範圍

總檢察長 Rob Bonta 在其辦公室描述為收到關於 Grok 能力的「雪崩式投訴」後宣佈了這項調查。與許多已實施嚴格護欄以防止生成性顯性內容的競爭對手不同，Grok 因其相對寬鬆的內容生成政策而面臨審查。

調查旨在確定 xAI 是否違反了加州有關消費者保護和公共安全的法律。具體而言，總檢察長辦公室要求提供有關以下方面的詳細信息：

• 內容審查協議： xAI 如何過濾提示詞並審查生成的輸出。
• 護欄架構： 為防止創建非法或有害內容而對模型施加的技術限制。
• 事件響應： 公司如何處理用戶生成的 NCII 和 CSAM 報告。

Bonta 在一份聲明中強調，雖然技術創新對加州經濟至關重要，但不能以安全為代價，特別是對於那些受到 深度偽造技術（Deepfake technology） 不成比例針對的女性和兒童。

觸發因素：有害內容的可獲得性

法律審查的催化劑似乎是用戶可以輕易繞過 Grok 平台的安全過濾器。在集成了由 Black Forest Labs 開發的 Flux.1 圖像生成模型的 Grok-2 發布後，社交媒體平台上充斥著 AI 生成的圖像，描繪了公眾人物在令人尷尬或怪誕的場景中的形象，以及非名人的寫實虛假圖像。

雖然諷刺作品受到言論自由的保護，但調查重點關注此能力的陰暗面：未經本人同意創建他人的性化圖像。報告指出，用戶只需使用創意的提示技巧就能生成顯性圖像，而其他平台（如 OpenAI 的 DALL-E 3 或 Midjourney）則會系統性地封鎖這些技巧。

比較分析：xAI 與行業標準

要理解加州調查的嚴重性，必須將 xAI 的安全方法與生成式 AI 領域其他主要參與者的方法進行比較。該行業通常圍繞「安全優先」的部署策略達成一致，而 xAI 則將自己定位為「言論自由」的替代方案，導致技術護欄出現顯著分歧。

下表說明了主要圖像生成供應商之間安全協議的關鍵差異：

表：生成式 AI 模型中的安全性協議比較

這種差異是總檢察長調查的核心。調查可能會探究，鑑於技術可預見的濫用，xAI 的「寬鬆」立場是否根據加州法律構成了疏忽。

法律框架：加州的積極立場

加州長期以來一直是技術監管的領頭羊，經常制定最終成為聯邦準則的標準。該州最近加強了有關數位隱私和深度偽造的法律框架。

現有與新興法律

該調查利用了幾種法律工具：

1. 消費者保護法： 總檢察長正在質疑 xAI 是否向消費者誤導了其產品的安全性。
2. AB 602 (2022)： 該法律為未經同意的深度偽造色情內容受害者提供了民事訴訟理由。雖然它主要針對圖像製作者，但平台對此類內容的便利化是一個不斷發展的法律理論領域。
3. 2024 年新立法： 州長 Gavin Newsom 最近簽署了專門針對與選舉和性內容相關的深度偽造法案，向明知故犯地為數位虐待提供便利的平台發出了零容忍政策的信號。

總檢察長 Rob Bonta 表示：「我們今天提出尖銳的問題，是為了明天不必收拾殘局。」這種積極主動的姿態表明，該州不再願意等待聯邦監管，因為聯邦監管在 AI 領域的進展一直很緩慢。

圖像生成的技術影響

從技術角度來看，圍繞 Grok 的爭議凸顯了集成第三方模型的挑戰。Grok 使用由 Black Forest Labs 開發的 Flux.1 模型來實現其圖像生成功能。Flux.1 以其高保真度和提示詞遵循度而聞名，但也因其權重開源特性以及與閉源競爭對手相比缺乏內置安全過濾器而聞名。

「包裝器」責任問題

這次調查為 AI 開發社群提出了一個關鍵問題：平台在多大程度上應對其集成的第三方模型的輸出負責？

• 集成層： xAI 提供界面以及可能包裝在 Flux.1 周圍的系統提示詞。調查將確定 xAI 是否未能在用戶輸入和模型推理之間注入足夠的負面提示詞或安全層。
• 算力責任： 由於 xAI 為生成過程提供計算資源（GPU），監管機構認為他們對渲染內容擁有最終的把關權。

如果加州成功證明 xAI 應對 Flux.1 集成的輸出負責，這可能會迫使 AI 公司在商業產品中使用開源權重模型的方式發生大規模重構。這可能需要開發「中間件」安全層——專門用於在提示詞和生成的圖像顯示給用戶之前對其進行實時掃描的 AI 代理。

人力成本：NCII 和 CSAM

調查背後的驅動力是給個人造成的切實傷害。**未經同意的性圖像**不僅僅是侵犯隱私；它是一種數位暴力形式，可以摧毀名譽、職業和心理健康。

總檢察長強調的關鍵擔憂包括：

• CSAM 擴散： 最嚴重的指控是該工具已被用於生成類似於兒童性虐待的材料。即使圖像是合成的，此類內容的常態化和可獲得性也是刑事犯罪，也是嚴重的社會危害。
• 針對女性： 統計數據顯示，絕大多數深度偽造色情內容都是針對女性的。調查認為，在沒有足夠保護措施的情況下發布工具，會不成比例地危及女性，可能違反民法典。

民間社會團體長期以來一直警告說，AI 對齊中的「言論自由」絕對主義不可避免地會導致弱勢群體受害。加州總檢察長 正針對這些擔憂採取行動，將辯論從倫理準則轉向法律執行。

行業反應與 xAI 的立場

Elon Musk 和 xAI 經常批評主流 AI 公司過於「覺醒（woke）」或過度審查。他們認為 Grok 的設計初衷是理解宇宙並誠實地回答問題，沒有他們認為的 Google 或 OpenAI 等競爭對手所具有的偏見。

然而，「政治偏見」與「預防非法內容」之間的區別才是法律之爭的焦點。雖然 xAI 主張減少對政治話語的審查，但生成 CSAM 和未經同意的色情內容並不屬於第一修正案的保護範圍。

行業分析師建議 xAI 可能被迫實施：

• 哈希匹配（Hash-matching）： 用於檢測已知的非法圖像（儘管對生成式內容效果較差）。
• 分類器層（Classifier Layers）： 經過訓練的神的神經網絡，用於在用戶看到結果之前識別並模糊/封鎖裸露或特定的解剖特徵。
• 用戶驗證： 對試圖生成寫實人物圖像的用戶進行更嚴格的身份檢查。

未來展望：正在形成的先例

這次調查的結果將對 AI 領域產生深遠影響。如果加州徵收罰款或強制 xAI 更改其模型架構，這將樹立一個先例，即 生成式 AI 平台對其產出的內容負有「注意義務」。

這可能導致 AI 市場的兩極分化：

1. 商業化、安全的 AI： 受到嚴格監管、經過清理的模型，供企業和公眾使用（例如 ChatGPT、Gemini）。
2. 受限、開放的 AI： 強大、未經審查的模型，要麼難以獲取，要麼需要嚴格的許可和身份驗證才能使用。

對於 Creati.ai 團隊來說，這凸顯了「負責任的 AI」的重要性，它不只是一個流行術語，更是一項合規要求。隨著 深度偽造技術 變得與現實難以區分，防止其濫用的法律防火牆正在迅速加高。加州對 xAI 的調查可能只是全球監管反擊中倒下的第一塊主導骨牌。