近日,國家互聯(lián)網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》(以下簡稱《標識辦法》),自2025年9月1日起施行。日前,國家互聯(lián)網信息辦公室有關負責人就《標識辦法》有關問題回答了記者提問。
一、問:請介紹一下《標識辦法》的出臺背景?
答:近年來,人工智能技術快速發(fā)展,為生成合成文字、圖片、音頻、視頻等信息提供了便利工具,海量信息得以快速生成合成并在網絡平臺傳播,在促進經濟社會發(fā)展的同時,也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題,引發(fā)社會各界的關注關切。經深入開展調研、廣泛征求意見、多輪技術論證試點,國家互聯(lián)網信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標識辦法》,進一步規(guī)范人工智能生成合成內容標識活動。
《標識辦法》聚焦人工智能“生成合成內容標識”關鍵點,通過標識提醒用戶辨別虛假信息,明確相關服務主體的標識責任義務,規(guī)范內容制作、傳播各環(huán)節(jié)標識行為,以合理成本提高安全性,促進人工智能在文本對話、內容制作、輔助設計等各應用場景加快落地,同時減輕人工智能生成合成技術濫用危害,防范利用人工智能技術制作傳播虛假信息等風險行為,推動人工智能健康有序發(fā)展。
二、問:請問制定《標識辦法》的總體思路是什么?
答:一是細化已有規(guī)定。《互聯(lián)網信息服務算法推薦管理規(guī)定》、《互聯(lián)網信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》中提出了標識有關要求,《標識辦法》作為規(guī)范性文件,進一步細化標識的具體實施規(guī)范。二是解決關鍵問題?!稑俗R辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動由生成到傳播各環(huán)節(jié)的全流程安全管理,力爭打造可信賴的人工智能技術。三是統(tǒng)籌發(fā)展和安全。考慮人工智能技術發(fā)展需要,針對在文本內容中添加隱式標識,在多媒體文件中添加數(shù)字水印,仍是技術難點或可能增加企業(yè)成本,不作強制要求。為降低平臺企業(yè)標識成本,提升落地實施的可操作、可執(zhí)行性,創(chuàng)新提出文本符號標識、音頻節(jié)奏標識、文件元數(shù)據標識等低成本實施的可行方法。四是管理要求與技術標準一體化考慮。為推動《標識辦法》落地實施,強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》同步發(fā)布,更好地指導相關主體規(guī)范開展標識活動。
三、問:《標識辦法》適用范圍是什么?
答:《標識辦法》規(guī)定,符合《互聯(lián)網信息服務算法推薦管理規(guī)定》、《互聯(lián)網信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》規(guī)定情形的網絡信息服務提供者開展人工智能生成合成內容標識活動,適用本辦法。
同時,《互聯(lián)網信息服務深度合成管理規(guī)定》第二條明確“法律、行政法規(guī)另有規(guī)定的,依照其規(guī)定”,《生成式人工智能服務管理暫行辦法》第二條第二款明確“國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的,從其規(guī)定”。《標識辦法》同樣遵照上述適用條款,開展特定活動對內容標識另有規(guī)定的,從其規(guī)定。
四、問:請說明一下《標識辦法》與強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》的關系?
答:《標識辦法》主要從立法層面提出管理要求,明確生成合成內容制作傳播各主體的責任義務,為促進人工智能技術創(chuàng)新發(fā)展,對具體實施操作不做要求。《網絡安全技術 人工智能生成合成內容標識方法》以強制性國家標準形式制定實施,主要提出強制執(zhí)行部分的標識具體實施方式和操作方法,兩者同步推出,于2025年9月1日同步實施,以更好地指導相關主體規(guī)范開展標識活動。
五、問:強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》的主要內容?
答:標準支撐《標識辦法》,對人工智能生成合成內容服務提供者與網絡信息傳播服務提供者提出了內容標識方法的具體要求。一是明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容,添加文字、角標、語音、節(jié)奏等顯式標識的方法,在內容生成合成環(huán)節(jié)提出了顯著提示公眾、防范混淆誤認的方案。二是明確服務提供者在文件中添加元數(shù)據隱式標識的方法,為內容傳播服務提供者有效識別生成合成內容提供便捷方案,也為內容傳播服務提供者履行向公眾提醒提示主體責任提供了依據。三是在元數(shù)據隱式標識設置了預留字段,可用于記錄標識完整性、內容一致性等安全防護信息,為促進標識技術創(chuàng)新發(fā)展和保護標識安全性預留了空間。
六、問:《標識辦法》明確了服務提供者哪些具體要求?
答:《標識辦法》明確服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識,在提供生成合成內容下載、復制、導出等功能時,應當確保文件中含有滿足要求的顯式標識;應當在生成合成內容的文件元數(shù)據中添加隱式標識,隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息;應當在用戶服務協(xié)議中明確說明生成合成內容標識的方法、樣式等規(guī)范內容,并提示用戶仔細閱讀并理解相關的標識管理要求。
七、問:《標識辦法》明確互聯(lián)網應用程序分發(fā)平臺應當采取哪些措施規(guī)范人工智能生成合成服務?
答:《標識辦法》第七條明確,互聯(lián)網應用程序分發(fā)平臺在應用程序上架或者上線審核時,應當要求互聯(lián)網應用程序服務提供者說明是否提供人工智能生成合成服務,并核驗其生成合成內容標識相關材料。
八、問:如何合規(guī)獲得沒有添加顯式標識的生成合成內容?
答:前期,國家互聯(lián)網信息辦公室出臺的《互聯(lián)網信息服務深度合成管理規(guī)定》第十七條針對“可能導致公眾混淆或者誤認的”深度合成服務情形提出顯著標識要求。在此基礎上,《標識辦法》第四條進一步明確了針對文本、音頻、圖片、視頻、虛擬擬真等具體場景的顯式標識要求,確保生成合成內容在面向公眾時具有滿足要求的顯式標識。
此外,充分考慮生成合成內容在實際場景中的落地應用,積極回應社會關切和產業(yè)需要,《標識辦法》第九條提出,在用戶主動要求提供未添加顯式標識內容時,網站平臺在不違反相關法律法規(guī)要求前提下,可通過在用戶協(xié)議中明確責任義務并依法留存相關日志信息后,面向用戶予以提供。同時,用戶在后續(xù)使用過程中,需遵守《標識辦法》第十條等相關要求,主動聲明生成合成情況并添加顯式標識后,方可面向公眾發(fā)布和傳播。
九、問:《標識辦法》對規(guī)范開展標識行為明確了哪些具體要求?
答:《標識辦法》第十條明確任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內容標識,不得為他人實施上述惡意行為提供工具或者服務,不得通過不正當標識手段損害他人合法權益。
十、問:關于《標識辦法》和配套強制性國家標準的正式施行時間的考慮?
答:堅持循序漸進的治理原則,考慮到企業(yè)需要時間充分理解相關規(guī)定和標準規(guī)范,針對性地開展能力建設和功能研發(fā),基于標識技術實施的復雜程度、試點試行的實踐經驗,設定《標識辦法》和配套強制性國家標準6個月左右的施行過渡期。
北疆新聞 | 內蒙古自治區(qū)重點新媒體平臺,內蒙古出版集團?內蒙古新華報業(yè)中心主管主辦的國家互聯(lián)網新聞信息采編發(fā)布服務一類資質平臺。
北疆新聞版權與免責聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權均屬北疆新聞所有,轉載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網傳播該消息,并不代表贊同其觀點。
如因作品內容、版權和其它問題需要同本網聯(lián)系的,請在見網后30日內進行,聯(lián)系郵箱:bjwmaster@163.com。
版權聲明:北疆新聞版權所有,未經書面授權,不得轉載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網新聞信息服務許可證:15120200009-1蒙公網安備:15010502001245