網信部門依法集中查處一批存在人工智能生成合成內容標識違法違規問題的移動互聯網應用程序

  針對部分網站平臺未有效落實人工智能生成合成內容標識規定要求相關問題，近期網信部門集中查處一批違法違規移動互聯網應用程序，依法依規予以約談、責令限期改正、下架下線等處置處罰。主要違法違規情形如下：

  1.人工智能生成合成服務提供者未對生成合成的內容添加顯式標識；提供生成合成內容導出功能時，未在文件中添加顯式標識；在生成合成內容的文件元數據中，未添加包含屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息的隱式標識；隱式標識添加位置不規范等。

  2.網絡信息內容傳播服務提供者未落實隱式標識核驗、在發布內容周邊添加顯著提示標識相關要求；未在生成合成內容傳播活動涉及的文件元數據中添加屬性信息、傳播平臺名稱或編碼、內容編碼等傳播要素信息；未向用戶提供聲明生成合成內容的功能等。

  國家網信辦相關負責人表示，人工智能技術在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播加劇等問題。黨中央、國務院高度重視人工智能發展和安全，國家網信辦近期制定出臺了《人工智能生成合成內容標識辦法》，明確了人工智能生成合成內容標識有關要求。網站平臺應嚴格落實標識相關規定要求，強化標識互識、內容檢測能力建設，做好用戶提醒提示和賬號管理，嚴守法律底線紅線，切實依法合規運營。國家網信辦將深入推進依法管網治網，持續強化人工智能生成合成內容標識監督管理，推動人工智能健康有序發展。