9月1日起，AI生成合成內(nèi)容必須“亮明身份”

  近年來(lái)，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利，但也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴(kuò)散加劇等問(wèn)題。國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，9月1日起正式施行，“標(biāo)識(shí)辦法”明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。

  截至目前，我國(guó)已有490余款大模型在國(guó)家網(wǎng)信辦完成備案，240余款大模型在省級(jí)網(wǎng)信辦完成登記，我國(guó)生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人。

  9月1日起，人工智能生成合成內(nèi)容將打上“電子水印”，重點(diǎn)解決“哪些是人工智能生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題。

  具體怎么加？

  “標(biāo)識(shí)辦法”明確，服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)。以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到。

  在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。

  在記錄文件來(lái)源、屬性、用途等信息內(nèi)容的文件元數(shù)據(jù)中還應(yīng)當(dāng)添加隱式標(biāo)識(shí)，包含屬性信息、服務(wù)提供者名稱(chēng)或者編碼、內(nèi)容編號(hào)等制作要素信息。

  如何安全管理？

  不僅如此，“標(biāo)識(shí)辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門(mén)在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來(lái)源，追蹤到服務(wù)提供者或者用戶。

  任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿標(biāo)識(shí)。推動(dòng)由生成到傳播各環(huán)節(jié)全流程安全管理。從源頭阻斷不良內(nèi)容傳播，打造可信賴的人工智能技術(shù)。