509
隨著生成式人工智能技術(shù)快速發(fā)展，虛假信息、深度偽造等問題對信息安全和公共信任構(gòu)成嚴(yán)峻挑戰(zhàn)。從全球數(shù)字化治理來看，內(nèi)容標(biāo)識已成為全球治理生成內(nèi)容的共識性議題。聯(lián)合國在2024年的有關(guān)報告中將“損害信息完整性”列為人工智能首要風(fēng)險。各國紛紛探索內(nèi)容標(biāo)識制度，歐盟《人工智能法》要求披露深度偽造內(nèi)容來源，美國加州通過的《人工智能透明度法案》明確了顯示或隱藏標(biāo)識義務(wù)。
近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），并于2025年9月1日起施行。我國的《標(biāo)識辦法》通過顯隱雙標(biāo)識機(jī)制和全鏈條責(zé)任體系，為全球治理貢獻(xiàn)了兼具技術(shù)落地性與制度創(chuàng)新性的“中國方案”。
一是完善生成式人工智能體系化治理方案。在體系銜接上，《標(biāo)識辦法》與算法推薦、深度合成、生成式人工智能相關(guān)規(guī)定形成制度協(xié)同，在備案和安全評估基礎(chǔ)上，針對人工智能生成內(nèi)容構(gòu)建了標(biāo)識管理架構(gòu)。在制度創(chuàng)新上，首次將用戶可感知的顯式標(biāo)識與技術(shù)可追溯的隱式標(biāo)識相結(jié)合，既保障公眾知情權(quán)，又為溯源追責(zé)提供技術(shù)錨點(diǎn)。在技術(shù)兼容上，鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識，推動與國際主流技術(shù)接軌，促進(jìn)標(biāo)識技術(shù)標(biāo)準(zhǔn)化與全球互認(rèn)。
二是從生成到傳播責(zé)任閉環(huán)的全鏈條管理?！稑?biāo)識辦法》通過分層義務(wù)分配，構(gòu)建覆蓋“生成-傳播-分發(fā)-使用”的全鏈條責(zé)任體系。對于生成合成服務(wù)提供者，一是承擔(dān)顯式標(biāo)識義務(wù)，針對可能引發(fā)混淆的深度合成場景，須在內(nèi)容顯著位置添加標(biāo)識，如文本首尾標(biāo)注“AI生成”、音頻插入語音提示。二是承擔(dān)隱式標(biāo)識義務(wù)，通過元數(shù)據(jù)嵌入服務(wù)商名稱、內(nèi)容編號等要素，確保技術(shù)可追溯性，為侵權(quán)追責(zé)提供依據(jù)。對于內(nèi)容傳播平臺，承擔(dān)核驗與打標(biāo)義務(wù)，須檢測隱式標(biāo)識真實(shí)性，并在傳播界面添加提示標(biāo)識，履行“數(shù)字守門人”職責(zé)。對于應(yīng)用程序分發(fā)平臺，履行上架審核義務(wù)，核驗應(yīng)用程序是否具備標(biāo)識功能，阻斷不合規(guī)服務(wù)進(jìn)入市場。對于用戶而言，應(yīng)承擔(dān)主動聲明和善意使用的義務(wù)——用戶發(fā)布AI生成內(nèi)容時須主動打標(biāo)，禁止惡意刪除或篡改標(biāo)識。
三是平衡透明性與創(chuàng)新性的技術(shù)管理方案。相較于歐盟《數(shù)字服務(wù)法案》側(cè)重平臺透明度報告等程序性要求，中國政策更聚焦技術(shù)落地。在技術(shù)工具開發(fā)方面，《標(biāo)識辦法》鼓勵企業(yè)研發(fā)數(shù)字水印、內(nèi)容溯源等技術(shù)，構(gòu)建標(biāo)識檢測數(shù)據(jù)庫，提升平臺自動化審核能力；在安全與發(fā)展平衡方面，允許用戶協(xié)議約定后提供無顯式標(biāo)識生成合成內(nèi)容，為創(chuàng)新保留空間。同時，服務(wù)提供者需要履行依法留存信息日志義務(wù)，為事后追溯提供保障。
為進(jìn)一步優(yōu)化《標(biāo)識辦法》實(shí)施效能，筆者建議加快開展以下工作。一是明確責(zé)任分層，細(xì)化產(chǎn)業(yè)鏈主體（如基礎(chǔ)模型開發(fā)者、垂直應(yīng)用服務(wù)商）的差異化義務(wù)，避免“一刀切”監(jiān)管。二是強(qiáng)化技術(shù)協(xié)同，推動隱式標(biāo)識技術(shù)與區(qū)塊鏈、隱私計算融合，在保障可追溯性的同時防范隱私泄露風(fēng)險。例如，通過加密元數(shù)據(jù)實(shí)現(xiàn)“可驗不可見”的隱式標(biāo)識。三是深化國際合作，參與全球標(biāo)識標(biāo)準(zhǔn)制定，推動跨境內(nèi)容標(biāo)識互認(rèn)，共同維護(hù)網(wǎng)絡(luò)空間。
*本篇刊載于《通信世界》2025年3月25日*第6期 總964期原標(biāo)題：《打造閉環(huán)全鏈條管理體系，中國貢獻(xiàn)人工智能標(biāo)識方案》
作者：中國信息通信研究院人工智能研究所
高級業(yè)務(wù)主管 呼娜英
責(zé)編/版式：王禹蓉
審校：王 濤?梅雅鑫
監(jiān)制：劉啟誠
