近日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《標(biāo)識辦法》),自2025年9月1日起施行(點擊文末“閱讀原文”查看全文)。日前,國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就《標(biāo)識辦法》有關(guān)問題回答了記者提問。
請介紹一下《標(biāo)識辦法》的出臺背景?
答:近年來,人工智能技術(shù)快速發(fā)展,為生成合成文字、圖片、音頻、視頻等信息提供了便利工具,海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺傳播,在促進經(jīng)濟社會發(fā)展的同時,也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴散加劇等問題,引發(fā)社會各界的關(guān)注關(guān)切。經(jīng)深入開展調(diào)研、廣泛征求意見、多輪技術(shù)論證試點,國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標(biāo)識辦法》,進一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識活動。
《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點,通過標(biāo)識提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為,以合理成本提高安全性,促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地,同時減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為,推動人工智能健康有序發(fā)展。
請問制定《標(biāo)識辦法》的總體思路是什么?
答:一是細(xì)化已有規(guī)定。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》中提出了標(biāo)識有關(guān)要求,《標(biāo)識辦法》作為規(guī)范性文件,進一步細(xì)化標(biāo)識的具體實施規(guī)范。二是解決關(guān)鍵問題?!稑?biāo)識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動由生成到傳播各環(huán)節(jié)的全流程安全管理,力爭打造可信賴的人工智能技術(shù)。三是統(tǒng)籌發(fā)展和安全。考慮人工智能技術(shù)發(fā)展需要,針對在文本內(nèi)容中添加隱式標(biāo)識,在多媒體文件中添加數(shù)字水印,仍是技術(shù)難點或可能增加企業(yè)成本,不作強制要求。為降低平臺企業(yè)標(biāo)識成本,提升落地實施的可操作、可執(zhí)行性,創(chuàng)新提出文本符號標(biāo)識、音頻節(jié)奏標(biāo)識、文件元數(shù)據(jù)標(biāo)識等低成本實施的可行方法。四是管理要求與技術(shù)標(biāo)準(zhǔn)一體化考慮。為推動《標(biāo)識辦法》落地實施,強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》同步發(fā)布,更好地指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識活動。
《標(biāo)識辦法》適用范圍是什么?
答:《標(biāo)識辦法》規(guī)定,符合《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務(wù)提供者開展人工智能生成合成內(nèi)容標(biāo)識活動,適用本辦法。
同時,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二條明確“法律、行政法規(guī)另有規(guī)定的,依照其規(guī)定”,《生成式人工智能服務(wù)管理暫行辦法》第二條第二款明確“國家對利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的,從其規(guī)定”?!稑?biāo)識辦法》同樣遵照上述適用條款,開展特定活動對內(nèi)容標(biāo)識另有規(guī)定的,從其規(guī)定。
請說明一下《標(biāo)識辦法》與強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》的關(guān)系?
答:《標(biāo)識辦法》主要從立法層面提出管理要求,明確生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù),為促進人工智能技術(shù)創(chuàng)新發(fā)展,對具體實施操作不做要求。《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》以強制性國家標(biāo)準(zhǔn)形式制定實施,主要提出強制執(zhí)行部分的標(biāo)識具體實施方式和操作方法,兩者同步推出,于2025年9月1日同步實施,以更好地指導(dǎo)相關(guān)主體規(guī)范開展標(biāo)識活動。
強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》的主要內(nèi)容?
答:標(biāo)準(zhǔn)支撐《標(biāo)識辦法》,對人工智能生成合成內(nèi)容服務(wù)提供者與網(wǎng)絡(luò)信息傳播服務(wù)提供者提出了內(nèi)容標(biāo)識方法的具體要求。一是明確人工智能生成合成內(nèi)容服務(wù)提供者對文本、圖片、音頻、視頻、虛擬場景等內(nèi)容,添加文字、角標(biāo)、語音、節(jié)奏等顯式標(biāo)識的方法,在內(nèi)容生成合成環(huán)節(jié)提出了顯著提示公眾、防范混淆誤認(rèn)的方案。二是明確服務(wù)提供者在文件中添加元數(shù)據(jù)隱式標(biāo)識的方法,為內(nèi)容傳播服務(wù)提供者有效識別生成合成內(nèi)容提供便捷方案,也為內(nèi)容傳播服務(wù)提供者履行向公眾提醒提示主體責(zé)任提供了依據(jù)。三是在元數(shù)據(jù)隱式標(biāo)識設(shè)置了預(yù)留字段,可用于記錄標(biāo)識完整性、內(nèi)容一致性等安全防護信息,為促進標(biāo)識技術(shù)創(chuàng)新發(fā)展和保護標(biāo)識安全性預(yù)留了空間。
《標(biāo)識辦法》明確了服務(wù)提供者哪些具體要求?
答:《標(biāo)識辦法》明確服務(wù)提供者應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識,在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時,應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識;應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識,隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息;應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標(biāo)識的方法、樣式等規(guī)范內(nèi)容,并提示用戶仔細(xì)閱讀并理解相關(guān)的標(biāo)識管理要求。
《標(biāo)識辦法》明確互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)采取哪些措施規(guī)范人工智能生成合成服務(wù)?
答:《標(biāo)識辦法》第七條明確,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時,應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù),并核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料。
如何合規(guī)獲得沒有添加顯式標(biāo)識的生成合成內(nèi)容?
答:前期,國家互聯(lián)網(wǎng)信息辦公室出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條針對“可能導(dǎo)致公眾混淆或者誤認(rèn)的”深度合成服務(wù)情形提出顯著標(biāo)識要求。在此基礎(chǔ)上,《標(biāo)識辦法》第四條進一步明確了針對文本、音頻、圖片、視頻、虛擬擬真等具體場景的顯式標(biāo)識要求,確保生成合成內(nèi)容在面向公眾時具有滿足要求的顯式標(biāo)識。
此外,充分考慮生成合成內(nèi)容在實際場景中的落地應(yīng)用,積極回應(yīng)社會關(guān)切和產(chǎn)業(yè)需要,《標(biāo)識辦法》第九條提出,在用戶主動要求提供未添加顯式標(biāo)識內(nèi)容時,網(wǎng)站平臺在不違反相關(guān)法律法規(guī)要求前提下,可通過在用戶協(xié)議中明確責(zé)任義務(wù)并依法留存相關(guān)日志信息后,面向用戶予以提供。同時,用戶在后續(xù)使用過程中,需遵守《標(biāo)識辦法》第十條等相關(guān)要求,主動聲明生成合成情況并添加顯式標(biāo)識后,方可面向公眾發(fā)布和傳播。
《標(biāo)識辦法》對規(guī)范開展標(biāo)識行為明確了哪些具體要求?
答:《標(biāo)識辦法》第十條明確任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識,不得為他人實施上述惡意行為提供工具或者服務(wù),不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。
關(guān)于《標(biāo)識辦法》和配套強制性國家標(biāo)準(zhǔn)的正式施行時間的考慮?
答:堅持循序漸進的治理原則,考慮到企業(yè)需要時間充分理解相關(guān)規(guī)定和標(biāo)準(zhǔn)規(guī)范,針對性地開展能力建設(shè)和功能研發(fā),基于標(biāo)識技術(shù)實施的復(fù)雜程度、試點試行的實踐經(jīng)驗,設(shè)定《標(biāo)識辦法》和配套強制性國家標(biāo)準(zhǔn)6個月左右的施行過渡期。
END
來源丨中國網(wǎng)信網(wǎng)
煤科總院出版?zhèn)髅郊瘓F成立于2015年,擁有科技期刊21種。其中,SCI收錄1種,Ei收錄5種、CSCD收錄6種、Scopus收錄7種、中文核心期刊9種、中國科技核心期刊11種、中國科技期刊卓越行動計劃入選期刊4種,是煤炭行業(yè)最重要的科技窗口與學(xué)術(shù)交流陣地,也是行業(yè)最大最權(quán)威的期刊集群。
《智能礦山》
Journal of Intelligent Mine
月刊CN 10-1709/TN,ISSN 2096-9139,聚焦礦山智能化領(lǐng)域產(chǎn)學(xué)研用新進展的綜合性技術(shù)刊物。
主編:王國法院士
投稿網(wǎng)址:www.chinamai.org.cn(期刊中心-作者投稿)
聯(lián)系人:李編輯 010-87986441
往期薦讀
往期特刊
中國煤科特刊
陜煤集團特刊
神東專欄
重大進展特刊
露天礦特刊
理事會特刊
紅柳林煤礦特刊
創(chuàng)新技術(shù)特刊
創(chuàng)刊號
版權(quán)聲明
本刊對已出版文章持有電子版、網(wǎng)絡(luò)版及進行網(wǎng)絡(luò)技術(shù)交流和與各網(wǎng)絡(luò)數(shù)據(jù)庫合作的權(quán)利,稿酬一次性付清,版權(quán)歸本刊與作者共同所有,如不同意,請在投稿時聲明。
聲明:本文系轉(zhuǎn)載自互聯(lián)網(wǎng),請讀者僅作參考,并自行核實相關(guān)內(nèi)容。若對該稿件內(nèi)容有任何疑問或質(zhì)疑,請立即與鐵甲網(wǎng)聯(lián)系,本網(wǎng)將迅速給您回應(yīng)并做處理,再次感謝您的閱讀與關(guān)注。