GROK 怎麼能生成深偽影像？政策失誤還是缺乏監管？

英國敦促埃隆·馬斯克的X平台緊急處理使用其內建聊天機器人生成的親密AI生成深度偽造圖像的激增，Grok. 這場爭議加劇了對於如何在大型社交平台上部署、調節和治理生成式人工智慧工具的審視。

報導指出，由 xAI 開發並直接整合進 X 的 Grok，在用戶提示下，已被用來生成未經同意的女性和女孩性化圖片。這一問題引發了歐洲的廣泛反對，並提出了嚴重的法律和倫理擔憂。AI安全性、內容審核和平台責任。

主要要點

• Grok AI 已被用來在 X 上生成非自願的親密圖片。
• 英國官員將該內容稱為非法，並要求緊急行動。
• 監管機構正在調查 X 和 xAI 是否違反了安全法規。
• 該案例突顯了人工智慧防護措施和平台執行方面的漏洞。
• 深度偽造的濫用速度正在加快，超過了監管的反應。

什麼是 Grok 以及它如何整合進 X 中

Grok 是由 xAI 開發的 AI 聊天機器人，直接嵌入在 X 平台中，使用戶能夠在社交平台內生成文本和圖片。與獨立的 AI 工具不同，Grok 在實時社交動態中運作，產出的內容可以立即共享。

Grok 的定位強調最小限度的限制，並相較於競爭對手的 AI 系統採取了更寬鬆的方式。這一設計選擇吸引了那些尋求更少管制的用戶，但也增加了濫用的風險。

透過自然語言提示來允許圖像生成，Grok 降低了創建合成媒體的門檻，包括對真實人物的操控或捏造影像。

另請參閱：如何在加密貨幣中使用Grok - AI

如何Grok能夠生成深偽圖像

深偽技術問題似乎源於技術能力與監管缺口的結合，而非單一的失誤點。

生成式人工智慧模型如Grok是在膨大的數據集上訓練的，這些數據集包括人類形體、面孔和情境線索。如果沒有嚴格的過濾，這些模型可能會生成類似真實個體的逼真圖像，即使這並非故意。

關鍵貢獻因素包括：

• 促使寬容性，允許暗示性或性暗示請求
• 不足的即時影像輸出過濾
• 對於通過提示工程重複濫用的弱執法
• 延遲的人類審查AI生成的內容

一旦生成這些圖像，由於X的病毒性特徵，使得在審核系統能夠作出反應之前，這些圖像就能快速擴散。

為什麼英國政府介入

英國科技部長莉茲·肯達爾（Liz Kendall）形容深度偽造內容為完全令人震驚，並強調根據英國法律，非自願的親密影像是非法的。

在英國，未經同意創作或分發AI生成的性別影像，尤其是涉及未成年人，構成犯罪行為。平台在法律上有責任防止用戶接觸到非法內容，並在發現後及時移除。

英國媒體監管機構Ofcom確認已緊急聯繫X和xAI，以評估他們是否遵守法律責任來保護用戶。

未能遵守可能會使平台面臨執法行動、罰款或額外的監管審查。

歐洲和全球的監管壓力

英國的回應跟隨了歐洲其他地區的類似行動。歐洲委員會譴責在 X 上可用的明確 AI 圖像生成模式，稱生成的內容是非法的。

法國當局據報已將此事轉交給檢察官，而印度監管機構則要求有關保護措施和合規性的解釋。

這些協調的回應顯示出國際間對生成型人工智慧工具的擔憂日益增加，認為這些工具的部署速度超過了安全框架的應對速度。

相較之下，美國監管機構尚未公開評論，突顯出全球執法的不平衡，儘管面臨共同風險。

X 和 xAI 對爭議的回應

X的安全帳戶表示，該平台會移除所有非法內容並永久暫停涉及此類活動的帳戶。還補充說，促使Grok創建非法內容的用戶將面臨與上傳該內容的用戶相同的處罰。

然而，批評者認為，當人工智慧工具能夠瞬間大量製造有害內容時，反應式管理不足以應對。

埃隆·馬斯克也因公開輕視關切而受到批評，包括在面對公眾人物的修改圖片時發佈笑臉表情符號。這樣的回應引發了對領導風格和問責制的質疑。

糟糕的政策或缺乏監督

Grok 深偽案件揭示了 AI 管治中的更深層結構性問題。

從政策的角度來看，Grok似乎優先考慮開放性和最少的限制，這增加了創作自由，但也帶來了濫用的潛在風險。若缺少強而有力的預設保護措施，人工智慧系統往往會反映出少數用戶最糟糕的意圖。

從監督的角度來看，將強大的圖像生成器嵌入社交網絡中，而沒有進行健全的發布前風險評估，會加劇傷害。

實際上，這個問題可能是兩者兼而有之：

• 政策選擇偏向寬容而非安全
• 在監督現實世界誤用模式的失誤
• 慢速的監管適應於快速推進的人工智慧部署

AI 平台和監管的影響

這個案例可能會加速針對生成式人工智慧的監管行動，特別是在非自願影像和兒童安全方面。

政府可能會推動：

• 更強的預部署安全測試
• 強制過濾性內容的輸出
• 清晰界定人工智慧產生的損害責任
• 更高的模型能力透明度

未能主動採取行動的平台可能會面臨越來越高的法律和聲譽風險。

最後的想法

Grok 深偽技術的爭議強調了當保護措施落後於能力時，生成式 AI 如何迅速成為傷害的媒介。雖然 AI 工具承諾提升創造力和生產力，但它們融入社交平台後，卻在規模上加劇了濫用。

無論根本原因是寬鬆的政策還是不足的監管，結果都是一樣的：對個體造成真實的傷害，並對平台施加越來越大的壓力，以負責任地行事。

隨著監管機構加快行動，對於人工智慧相關濫用的容忍度降低，Grok 和 X 可能成為公共領域中生成式人工智慧治理的定義性測試案例。

也請閱讀：如何獲取 Grok Imagine AI 影片生成器

常見問題縮寫

Grok是如何生成深度偽造影像的

Grok可以根據用戶的提示生成圖像，而不充分的過濾使其能夠產生性暗示和非自願的內容。

在英國，製作AI深偽影像是否合法取決於不同的情況和用途。根據目前的法律，製作深偽影像可能會觸及到個人隱私、著作權和誹謗等法律問題。如果深偽影像被用來誹謗他人或侵犯他人的權利，那麼它們可能會被視為非法。此外，根據最新的法律和規範，尤其是在數位媒體和知識產權方面，各項法律的適用性也可能因具體情況而異。因此，在製作和使用AI深偽影像時，建議您諮詢法律專業人士以了解相關法律及其潛在風險。

是的，在英國，創建或分享未經同意的親密圖像（包括人工智能生成的圖像）是非法的。

英國對X採取了什麼行動？

英國官員和監管機構Ofcom已緊急聯繫X和xAI，以確保遵守內容安全法律。

X 是否對指控做出回應？

X表示它會移除非法內容並暫停違規帳號，但批評者認為這還不夠。

這是否會導致更嚴格的AI規範？

這個案件可能會促使針對 AI 生成影像、平台責任和用戶保護的更嚴格規則加速出台。