國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》，9月1日起正式施行，“標識辦法”明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。

截至目前，我國已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級網(wǎng)信辦完成登記，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達2.3億人?！皹俗R辦法”明確，人工智能生成合成內(nèi)容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內(nèi)容標識包括顯式標識和隱式標識。平臺在服務提供者的內(nèi)容上架或上線時要進行審核，核驗生成合成內(nèi)容標識，對未標識或疑似生成內(nèi)容要添加風險提示，從而在傳播端阻斷虛假信息擴散。

“標識辦法”與《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法規(guī)充分銜接。服務提供者在履行算法備案、安全評估等手續(xù)時，相關材料可能涉及標識的技術細節(jié)，如水印算法、元數(shù)據(jù)格式、服務商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時快速識別內(nèi)容來源，追蹤到服務提供者或者用戶。