國家網信辦、工信部、公安部、國家廣電總局聯合發(fā)布的《人工智能生成合成內容標識辦法》將于2025年9月1日起正式施行，該辦法要求用戶發(fā)布AI生成合成內容時主動聲明并進行標識，網絡信息內容傳播服務提供者應當采取措施，規(guī)范生成合成內容傳播活動。

用戶發(fā)布的內容被平臺判定為AI生成，用戶因此被禁言，合理嗎？日前，北京互聯網法院審結了這樣一起網絡服務合同糾紛案。

【案情回顧】

原告為涉案平臺用戶，被告為涉案平臺運營者。原告在平臺上發(fā)布了“如果你對學車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……”，該內容被涉案平臺判定為“包含AI生成內容但未標識”的違規(guī)情況，涉案平臺作出將該內容隱藏并將用戶禁言一天的處理。后原告進行申訴未成功。

原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內容和禁言賬號一天的違規(guī)處理，并在后臺系統中刪除違規(guī)處理記錄。

被告稱，涉案平臺規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內容時，應主動使用‘人工智能生成內容’的標簽進行聲明，未主動聲明的內容，平臺將采取適當措施進行流量限制并添加相關標識。”原告發(fā)布的內容經機器識別為“包含人工智能生成”，經過人工復核，認定該內容缺乏明顯的人類情感特征。被告作為網絡服務提供方，有權自行選擇合理、必要的方式和技術，請求法院依法駁回原告的訴訟請求。

【法院審理】

法院經審理認為，該案中，被告發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內容時，應主動使用標識，幫助讀者進行區(qū)分。對發(fā)布時未主動聲明的內容，平臺將采取適當措施進行流通限制并添加相關標識”“未經標簽聲明，使用人工智能生成的內容構成違規(guī)”。被告有權依據合同約定對涉案內容是否屬于AI生成合成內容進行審查和處理。

同時，被告既是算法工具掌控方又是結果判斷方，應就該事實進行合理舉證或解釋說明。雖然被告在該案中提供了算法的備案信息，但未對涉案內容屬于AI生成合成的判斷依據和結果作出合理解釋，應對其沒有事實依據的情況下對涉案賬戶的處理行為承擔違約責任。

【審判結果】

最后，法院判決被告展開對于涉案內容的隱藏，刪除在后臺的違規(guī)處理記錄。駁回原告的其他訴訟請求。目前，該案判決已生效。

【以案說法】

網絡內容服務平臺有權利用算法工具對用戶發(fā)布的內容是否使用AI生成合成進行審查和處理。若網絡內容服務平臺判定用戶發(fā)布的內容為AI生成合成，用戶需要提供證明該內容系人類創(chuàng)作的初步證據，法院可結合創(chuàng)作形式、內容、載體等因素綜合調整用戶的舉證責任，并認定證據的證明效力。

網絡用戶提供初步證據后，網絡內容服務平臺應舉證證明其使用算法工具進行判定的正確性或進行必要限度的解釋說明，網絡內容服務平臺不得僅以涉及商業(yè)秘密為由規(guī)避該義務。