遊客發表
在網絡平台上撰文發帖，卻被平台檢測認定為AI生成並隱藏起來，該怎麽辦？9月10日，北京互聯網法院（下稱“北互法院”）召開涉人工智能案件審理情況新聞發布會，並發布八項典型案例。其中，一項有關網絡平台利用算法工具檢測AI生成內容但未盡到合理適度說明義務的網絡服務合同糾紛案，引發關注。
基本案情為，原告唐某某在被告某科技有限公司運營的網絡平台上發布二百多字文字內容“打工並不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對學車感興趣的話並且以後打算開車的話，可以在你最清閑的一個假期完成它……工作之後就沒有太多完整的時間學駕照了”。
其後，被告某科技有限公司運營的平台將該內容判定為“包含AI生成內容但未標識”的違規情況，並將該內容隱藏並作出將用戶禁言一天的處理。後原告唐某某進行申訴未成功。原告唐某某主張其並未使用AI創作，被告某科技有限公司的行為違約，請求法院判令被告撤銷隱藏涉案內容和禁言賬號一天的違規處理，並在後台係統中刪除違規處理記錄。
經審理，北互法院認為，網絡用戶在使用AI工具進行創作並將相關內容發布到網絡平台時，應依照誠信原則如實標記。被告發布社區公告要求創作者在發布包含AIGC生成的內容時，應主動使用標識，對發布時未主動聲明的內容，平台將采取適當措施進行流通限製並添加相關標識；未經標簽聲明，使用人工智能生成的內容構成違規。原告係平台注冊用戶，上述公告屬於平台服務協議的組成部分，被告有權根據協議對用戶發布內容是否屬於AI生成合成內容進行審查和處理。
在一般情況下，原告應該提供如創作底稿、原件、源文件、源數據等證明人類創作屬性的初步證據，但本案中原告回答內容係即時性創作文本，客觀上無法提供上述證據，由其提供上述證據不存在合理性和現實可行性。被告基於算法工具的運算結果得出涉案內容為AI生成合成的審查結論，被告既是算法工具掌控方又是結果判斷方，算法工具運算過程和審查結果由被告掌控，被告應就該事實進行合理舉證或解釋說明。雖然被告提供了算法的備案信息，但無法確認備案信息與本案爭議的關聯性。
北互法院指出，被告未對算法決策依據和結果進行適度的解釋和說明，未對涉案內容屬於AI生成合成的判斷依據和結果作出合理解釋，應對其沒有事實依據的情況下對涉案賬戶的處理行為承擔違約責任。被告進行人工複核的標準要求具有非常明顯的人類情感特征，該判斷並不具有科學依據以及較強的說服力和可信度。
因此，北互法院判決被告展開折疊的回答並刪除相關後台記錄。被告不服一審判決提起上訴，後撤回上訴，一審判決生效。
北互法院認為該案具有典型意義，這是對AI生成合成內容標識的標記、平台識別和治理在司法審查規則方麵的有益探索。一方麵，肯定了網絡內容服務平台利用算法工具對AI生成合成內容進行審查和處理，履行信息內容管理主體責任的積極作用；另一方麵，認定網絡內容服務平台在即時性創作文本場景下對使用算法自動化決策結果承擔適度說明義務，並為司法審查階段的算法解釋說明程度確立了一定的標準。
采寫：南都N視頻記者 樊文揚
{loop type="link" row=1 }{$vo.title}