【編譯余友梅／報導】當人工智慧生成影像的能力愈來愈逼真，社群平台也正面臨前所未有的治理考驗。英國聖公會南華克教區近日宣布停止使用社群平台X，抗議其AI聊天工具Grok被指可生成涉及女性與兒童的性化深偽影像；而這起事件如今已迅速升級為歐洲層級的監管風暴。歐盟執委會正式宣布對X展開調查，聚焦Grok所帶來的系統性風險，教會的退出行動也被視為一項重要警訊。

歐盟執委會1月26日表示，將依據《數位服務法》（Digital Services Act, DSA），評估X是否未能有效降低平台的「系統性風險」，其中包括AI生成的深偽色情影像、非自願裸露圖片與涉及兒少的非法內容擴散。

歐盟正式啟動調查Grok深偽色情影像系統性風險

歐盟強調，這類影像已不只是低俗或不當內容，而是一種數位暴力形式，可能構成羞辱、威脅與性剝削，平台必須提出充分證據，證明其風險控管措施能夠保護用戶與社會安全。

英國南華克教區主教切遜（Christopher Chessun）1月15日在聲明中指出，教區過去一年曾多次重新檢視是否應維持X官方帳號，但平台近來假訊息與極端內容日益增加，而Grok生成性化深偽影像的爭議，更成為「無法跨越的底線」。

他直言，教會「無法留在一個容許如此粗暴侵犯個人隱私與安全的空間」。教區已決定停止更新，但仍保留帳號所有權，以防遭他人冒用，未來將轉向其他社群媒體持續發聲。

牛津主教克羅夫特（Steven Croft）也呼籲信徒重新思考使用X等平台的必要性，並持續檢視AI工具帶來的倫理後果。

兒少性虐AI內容暴增：一年從13件飆升至3, 440件

事件引發高度震動的另一關鍵，是AI生成兒少性剝削內容的驚人增長。CBS報導，根據英國「網路觀察基金會」（Internet Watch Foundation, 簡稱IWF）1月16日發表的最新數據，2025年所偵測到的AI生成兒少性虐待影片達3,440件，而前一年僅13件，增幅呈爆炸式上升。其中超過一半被歸為最嚴重的A級內容，顯示生成式AI正在成為性犯罪產業的新工具，也讓平台治理面臨嚴峻挑戰。

IWF警告，「深偽裸照」正以極低成本迅速散播，尤其成為針對女性與未成年人的新型騷擾武器，對受害者造成長期心理傷害與名譽毀滅。

英國Ofcom與美國州檢方同步施壓

除了歐盟調查，英國網路安全監管機構Ofcom也於1月12日宣布依據《線上安全法》（Online Safety Act）對X展開正式立案調查，釐清平台是否違反保護用戶、移除非法性化影像與防止兒少遭剝削的法定義務。X公司15日回應，已採取措施防止Grok帳戶被用於創建人們的私密照片。

美聯社報導，美國多州檢察長已要求X說明防堵措施，加州方面亦對馬斯克旗下的xAI公司展開關切，評估Grok是否涉及助長非法深偽影像生成。

X聲稱已限制功能　馬斯克反批監管為「審查藉口」

X方面表示，已開始移除優先違規內容，並限制Grok在部分地區生成涉及真實人物的暴露影像。然而外界批評，這些措施仍不足以阻止濫用，且存在繞過限制的可能。

馬斯克本人則反批英國政府監管立場，稱當局正「尋找任何可以審查的藉口」，凸顯科技自由與公共安全之間的尖銳拉鋸。

深偽技術警訊：AI治理已成全球公共危機

從英國教區退出平台，到歐盟正式調查Grok，事件凸顯生成式AI已不只是創新工具，而是牽動兒少保護、性暴力犯罪、平台責任與社會倫理的結構性危機。

當影像可以被任意合成、人格可以被任意複製，問題不再只是「AI能做什麼」，而是全球社會是否有足夠制度與問責機制，阻止它成為傷害他人的新武器。（資料來源：ofcom.org.uk , Premier Christian News, x.com）