法治日報記者 張守坤

話題“被AI造黃謠女運動員發聲”近日衝上熱搜榜，引發廣泛關注。

8月30日，台球運動員王思諾公開發布視頻，表示自己正深陷惡意AI造“黃謠”風波，有人利用人工智能偽造她的淫穢視頻並肆意傳播。

目前，王思諾已委托律師開展證據保全工作，並正式啟動法律程序維權。同時，警方也已立案，進入取證調查與偵破階段。

《法治日報》記者梳理公開資料發現，通過“AI換臉”“AI脫衣”等方式造“黃謠”的情況已不是個例。

在王思諾發聲後，台球女裁判王鍾瑤發布視頻力挺王思諾。王鍾瑤透露，自己也遭遇過類似的糟心事，境外網站上曾非法傳播涉及她的偽造的淫穢視頻。

今年3月，模特葉某發視頻稱，自己被人利用“AI換臉”製作淫穢視頻並大量傳播，造成嚴重困擾，已經收集證據並報警。經鑒定，該視頻確係拚湊偽造。

記者近日調查發現，網絡上有專門的AI軟件，為生成“黃圖”“造黃謠”提供技術便利。例如，在商家“××AI脫”給記者的報價單中，12元可充值20積分，28元可充值70積分，58元可充值118元積分……積分可用來生成“AI換臉”圖片或視頻，一張圖片一般需要10積分，視頻則是1秒需要1積分。如果花268元，可以開通永久卡，免費使用上述商家提供的AI技術。該軟件提供的服務主要包括兩種：一種是上傳正常人物照片後，可以“AI脫衣”；另一種則是“AI換頭”，將別人的肖像換到他人的身體上。

除“××AI脫”外，網上還有不少商家提供用於“AI換頭”的素材庫，其中多是些黃色圖片和視頻。

傳播AI“黃謠”的鏈條中，各方主體該負哪些責任？

北京航空航天大學法學院副教授吉冠浩介紹，用AI造“黃謠”並傳播的自媒體和個人，可能對他人構成民事侵權；符合一定條件的還可能違反治安管理處罰法，對其可處行政拘留及罰款；情節嚴重的還可能觸犯刑法，構成傳播淫穢物品罪、侮辱罪或誹謗罪。

他還提到，作為傳播載體的平台，如果未及時刪除已知侵權內容，需與傳播者承擔連帶責任；縱容傳播可能因“未履行信息內容管理義務”被主管部門處罰；算法主動推薦淫穢內容，可能構成幫助信息網絡犯罪活動罪。

在北京瀛和律師事務所合夥人王利華看來，目前對製作、傳播AI“黃謠”的當事人、自媒體及平台的處罰力度存在不足。部分案件僅以警告、小額罰款、封禁賬號為主，未形成足夠震懾；對平台的處罰多針對具體事件，缺乏常態化監管和高額罰款，難以倒逼平台落實主體責任。

值得注意的是，現在很多AI“黃謠”不僅在國內平台，在境外平台也大量傳播，比如某境外社交平台上設有專門的“換臉視頻/圖片”專區，一些網站的服務器也在國外。受害者維權時常見證據易滅失（如加密聊天群內容）、境外服務器取證難、無法刪除視頻等難題。

吉冠浩說，針對證據易滅失、境外服務器取證難的問題，辦案機關應與時俱進，運用即時存證技術，構建“區塊鏈+AI”的跨境證據固定係統；根據國際刑事司法協助法等，通過外交等渠道向境外司法機關提交證據調取請求，要求境外網絡平台提供服務器日誌等電子數據。針對無法刪除境外視頻的難題，相關監管機關對長期縱容AI違法內容的境外平台，可采取“長臂管轄”措施，如限製其在中國市場的業務合作，或通過反壟斷法、數據安全法加以製裁。

王利華建議，出台專門針對AI生成虛假信息的司法解釋，盡快明確AI“黃謠”的定義、製作、傳播、平台的責任劃分，提高罰款金額、刑期等處罰標準。強化技術監管能力，由政府牽頭建立“AI黃謠監測預警平台”，整合各平台數據，對全網AI“黃謠”內容進行實時監測、溯源和攔截；同時，鼓勵企業研發AI內容識別技術，提升“黃謠”檢測準確率。要求互聯網平台、AI技術企業簽訂《AI內容治理承諾書》，建立“黑名單”製度，對多次製作、傳播AI“黃謠”的賬號、企業進行跨平台聯合懲戒。

吉冠浩提出，針對工具源頭可設置下列防控方法：首先在硬件上，顯卡廠商應植入“倫理協議芯片”，進行二手顯卡交易時需驗證其用戶的真實身份，並承諾禁止用於生成違法內容。其次在軟件上，向開源模型注入“倫理汙染數據”，針對“脫衣”“換臉”等關鍵詞，植入幹擾標簽，使模型輸出失真。最後在平台上，建立“AI生成內容防火牆”，網絡平台應部署多模態檢測引擎，結合生成痕跡與語義分析，實現精準攔截。

“可以設立‘AI黃謠維權援助中心’，為受害者提供免費的法律谘詢、證據存證、司法協助等服務。同時通過媒體宣傳普及維權流程，鼓勵受害者主動報案、發聲，減少‘沉默效應’。”王利華說。