權(quán)威解讀┃《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行（點(diǎn)擊文末“閱讀原文”查看全文）。日前，國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就《標(biāo)識(shí)辦法》有關(guān)問(wèn)題回答了記者提問(wèn)。

請(qǐng)介紹一下《標(biāo)識(shí)辦法》的出臺(tái)背景？

答：近年來(lái)，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺(tái)傳播，在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴(kuò)散加劇等問(wèn)題，引發(fā)社會(huì)各界的關(guān)注關(guān)切。經(jīng)深入開(kāi)展調(diào)研、廣泛征求意見(jiàn)、多輪技術(shù)論證試點(diǎn)，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國(guó)家廣播電視總局制定了《標(biāo)識(shí)辦法》，進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)活動(dòng)。

《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，以合理成本提高安全性，促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地，同時(shí)減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為，推動(dòng)人工智能健康有序發(fā)展。

請(qǐng)問(wèn)制定《標(biāo)識(shí)辦法》的總體思路是什么？

答：一是細(xì)化已有規(guī)定。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》中提出了標(biāo)識(shí)有關(guān)要求，《標(biāo)識(shí)辦法》作為規(guī)范性文件，進(jìn)一步細(xì)化標(biāo)識(shí)的具體實(shí)施規(guī)范。二是解決關(guān)鍵問(wèn)題?！稑?biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。三是統(tǒng)籌發(fā)展和安全。考慮人工智能技術(shù)發(fā)展需要，針對(duì)在文本內(nèi)容中添加隱式標(biāo)識(shí)，在多媒體文件中添加數(shù)字水印，仍是技術(shù)難點(diǎn)或可能增加企業(yè)成本，不作強(qiáng)制要求。為降低平臺(tái)企業(yè)標(biāo)識(shí)成本，提升落地實(shí)施的可操作、可執(zhí)行性，創(chuàng)新提出文本符號(hào)標(biāo)識(shí)、音頻節(jié)奏標(biāo)識(shí)、文件元數(shù)據(jù)標(biāo)識(shí)等低成本實(shí)施的可行方法。四是管理要求與技術(shù)標(biāo)準(zhǔn)一體化考慮。為推動(dòng)《標(biāo)識(shí)辦法》落地實(shí)施，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》同步發(fā)布，更好地指導(dǎo)相關(guān)主體規(guī)范開(kāi)展標(biāo)識(shí)活動(dòng)。

《標(biāo)識(shí)辦法》適用范圍是什么？

答：《標(biāo)識(shí)辦法》規(guī)定，符合《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者開(kāi)展人工智能生成合成內(nèi)容標(biāo)識(shí)活動(dòng)，適用本辦法。

同時(shí)，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二條明確“法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定”，《生成式人工智能服務(wù)管理暫行辦法》第二條第二款明確“國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動(dòng)另有規(guī)定的，從其規(guī)定”?！稑?biāo)識(shí)辦法》同樣遵照上述適用條款，開(kāi)展特定活動(dòng)對(duì)內(nèi)容標(biāo)識(shí)另有規(guī)定的，從其規(guī)定。

請(qǐng)說(shuō)明一下《標(biāo)識(shí)辦法》與強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》的關(guān)系？

答：《標(biāo)識(shí)辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)，為促進(jìn)人工智能技術(shù)創(chuàng)新發(fā)展，對(duì)具體實(shí)施操作不做要求?！毒W(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》以強(qiáng)制性國(guó)家標(biāo)準(zhǔn)形式制定實(shí)施，主要提出強(qiáng)制執(zhí)行部分的標(biāo)識(shí)具體實(shí)施方式和操作方法，兩者同步推出，于2025年9月1日同步實(shí)施，以更好地指導(dǎo)相關(guān)主體規(guī)范開(kāi)展標(biāo)識(shí)活動(dòng)。

強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》的主要內(nèi)容？

答：標(biāo)準(zhǔn)支撐《標(biāo)識(shí)辦法》，對(duì)人工智能生成合成內(nèi)容服務(wù)提供者與網(wǎng)絡(luò)信息傳播服務(wù)提供者提出了內(nèi)容標(biāo)識(shí)方法的具體要求。一是明確人工智能生成合成內(nèi)容服務(wù)提供者對(duì)文本、圖片、音頻、視頻、虛擬場(chǎng)景等內(nèi)容，添加文字、角標(biāo)、語(yǔ)音、節(jié)奏等顯式標(biāo)識(shí)的方法，在內(nèi)容生成合成環(huán)節(jié)提出了顯著提示公眾、防范混淆誤認(rèn)的方案。二是明確服務(wù)提供者在文件中添加元數(shù)據(jù)隱式標(biāo)識(shí)的方法，為內(nèi)容傳播服務(wù)提供者有效識(shí)別生成合成內(nèi)容提供便捷方案，也為內(nèi)容傳播服務(wù)提供者履行向公眾提醒提示主體責(zé)任提供了依據(jù)。三是在元數(shù)據(jù)隱式標(biāo)識(shí)設(shè)置了預(yù)留字段，可用于記錄標(biāo)識(shí)完整性、內(nèi)容一致性等安全防護(hù)信息，為促進(jìn)標(biāo)識(shí)技術(shù)創(chuàng)新發(fā)展和保護(hù)標(biāo)識(shí)安全性預(yù)留了空間。

《標(biāo)識(shí)辦法》明確了服務(wù)提供者哪些具體要求？

答：《標(biāo)識(shí)辦法》明確服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號(hào)等制作要素信息；應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說(shuō)明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。

《標(biāo)識(shí)辦法》明確互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)采取哪些措施規(guī)范人工智能生成合成服務(wù)？

答：《標(biāo)識(shí)辦法》第七條明確，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

如何合規(guī)獲得沒(méi)有添加顯式標(biāo)識(shí)的生成合成內(nèi)容？

答：前期，國(guó)家互聯(lián)網(wǎng)信息辦公室出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條針對(duì)“可能導(dǎo)致公眾混淆或者誤認(rèn)的”深度合成服務(wù)情形提出顯著標(biāo)識(shí)要求。在此基礎(chǔ)上，《標(biāo)識(shí)辦法》第四條進(jìn)一步明確了針對(duì)文本、音頻、圖片、視頻、虛擬擬真等具體場(chǎng)景的顯式標(biāo)識(shí)要求，確保生成合成內(nèi)容在面向公眾時(shí)具有滿足要求的顯式標(biāo)識(shí)。

此外，充分考慮生成合成內(nèi)容在實(shí)際場(chǎng)景中的落地應(yīng)用，積極回應(yīng)社會(huì)關(guān)切和產(chǎn)業(yè)需要，《標(biāo)識(shí)辦法》第九條提出，在用戶主動(dòng)要求提供未添加顯式標(biāo)識(shí)內(nèi)容時(shí)，網(wǎng)站平臺(tái)在不違反相關(guān)法律法規(guī)要求前提下，可通過(guò)在用戶協(xié)議中明確責(zé)任義務(wù)并依法留存相關(guān)日志信息后，面向用戶予以提供。同時(shí)，用戶在后續(xù)使用過(guò)程中，需遵守《標(biāo)識(shí)辦法》第十條等相關(guān)要求，主動(dòng)聲明生成合成情況并添加顯式標(biāo)識(shí)后，方可面向公眾發(fā)布和傳播。

《標(biāo)識(shí)辦法》對(duì)規(guī)范開(kāi)展標(biāo)識(shí)行為明確了哪些具體要求？

答：《標(biāo)識(shí)辦法》第十條明確任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過(guò)不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

關(guān)于《標(biāo)識(shí)辦法》和配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)的正式施行時(shí)間的考慮？

答：堅(jiān)持循序漸進(jìn)的治理原則，考慮到企業(yè)需要時(shí)間充分理解相關(guān)規(guī)定和標(biāo)準(zhǔn)規(guī)范，針對(duì)性地開(kāi)展能力建設(shè)和功能研發(fā)，基于標(biāo)識(shí)技術(shù)實(shí)施的復(fù)雜程度、試點(diǎn)試行的實(shí)踐經(jīng)驗(yàn)，設(shè)定《標(biāo)識(shí)辦法》和配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)6個(gè)月左右的施行過(guò)渡期。

END

來(lái)源丨中國(guó)網(wǎng)信網(wǎng)

煤科總院出版?zhèn)髅郊瘓F(tuán)成立于2015年，擁有科技期刊21種。其中，SCI收錄1種，Ei收錄5種、CSCD收錄6種、Scopus收錄7種、中文核心期刊9種、中國(guó)科技核心期刊11種、中國(guó)科技期刊卓越行動(dòng)計(jì)劃入選期刊4種，是煤炭行業(yè)最重要的科技窗口與學(xué)術(shù)交流陣地，也是行業(yè)最大最權(quán)威的期刊集群。

《智能礦山》

Journal of Intelligent Mine

月刊CN 10-1709/TN，ISSN 2096-9139，聚焦礦山智能化領(lǐng)域產(chǎn)學(xué)研用新進(jìn)展的綜合性技術(shù)刊物。

主編：王國(guó)法院士

投稿網(wǎng)址：www.chinamai.org.cn（期刊中心-作者投稿）

聯(lián)系人：李編輯 010-87986441

往期薦讀

• 征稿函┃《智能礦山》面向礦業(yè)領(lǐng)域廣大讀者征集文稿的函

• 歡迎訂閱┃《智能礦山》雜志2025年訂閱開(kāi)始了！

• 行業(yè)聚焦┃2024年煤礦智能化重大進(jìn)展發(fā)布會(huì)成功召開(kāi)

• 《智能礦山》創(chuàng)刊4周年回顧

• 王國(guó)法院士煤礦智能化觀點(diǎn)集錦

• 新書(shū)訂閱 ┃《中國(guó)煤礦智能化發(fā)展報(bào)告（2024年）》（王國(guó)法，劉峰 主編）

往期特刊

中國(guó)煤科特刊

陜煤集團(tuán)特刊

神東專欄

重大進(jìn)展特刊

露天礦特刊

理事會(huì)特刊

紅柳林煤礦特刊

創(chuàng)新技術(shù)特刊

創(chuàng)刊號(hào)

版權(quán)聲明

本刊對(duì)已出版文章持有電子版、網(wǎng)絡(luò)版及進(jìn)行網(wǎng)絡(luò)技術(shù)交流和與各網(wǎng)絡(luò)數(shù)據(jù)庫(kù)合作的權(quán)利，稿酬一次性付清，版權(quán)歸本刊與作者共同所有，如不同意，請(qǐng)?jiān)谕陡鍟r(shí)聲明。

聲明：本文系轉(zhuǎn)載自互聯(lián)網(wǎng)，請(qǐng)讀者僅作參考，并自行核實(shí)相關(guān)內(nèi)容。若對(duì)該稿件內(nèi)容有任何疑問(wèn)或質(zhì)疑，請(qǐng)立即與鐵甲網(wǎng)聯(lián)系，本網(wǎng)將迅速給您回應(yīng)并做處理，再次感謝您的閱讀與關(guān)注。