2025年9月1日起，國家互聯網信息辦公室聯合多部門發布的《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）正式生效，標志著我國內容標識制度進入正式落地實施階段。在我國深入實施“人工智能+”行動背景下，探索推進內容標識制度實踐，對于提升我國人工智能安全能力水平，加快形成動態敏捷、多元協同的人工智能治理格局，保障人工智能健康發展具有重要意義。
一、智能經濟加速，安全護航更顯重要緊迫
近日，國務院《關于深入實施“人工智能+”行動的意見》明確提出“推動人工智能與經濟社會各行業各領域廣泛深度融合”，將“人工智能+”升級為國家戰略行動，全面激發產業變革新動能、培育智能經濟新范式。在此背景下，傳統信息內容風險可能體現出新特性、新形式、新問題。一是內容生成質量提升，加大辨別難度。相較于以往，大模型通過海量多模態數據訓練，可生成高度逼真的多模態信息內容，例如復刻權威媒體的行文范式、模擬特定人物的形象風格，導致大量用戶誤信。二是人工智能跨界融合，擴大風險范圍。伴隨人工智能加速應用于醫療、商業、金融等領域，虛假信息風險可能導致醫療誤診、虛假宣傳、市場波動等問題。以智能終端為例，虛假信息生成呈現即時交互、多感官觸達等特征，可能助長虛假誘導性消費購物行為等。三是內容傳播路徑多樣，源頭溯源困難。人工智能生成內容呈現去中心化、跨平臺化和跨境傳播特征，信息源頭隱匿化，追溯難度顯著增加。同時，人工智能生成內容易于被批量篡改和重組，進一步加劇溯源困境。當前，AI內容識別溯源已從技術問題升級為系統性治理難題，亟需通過內容標識制度構建“可識別、可追溯、可問責”的安全防線，為智能經濟高質量發展筑牢根基。
二、明確標識要求，筑牢AI“技治+法治”防線
為有效化解生成合成內容難識別難溯源困境，《標識辦法》從標識義務、標識主體、監管協調等方面明確內容標識制度要求，構建人工智能生成合成風險“技治+法治”雙重防線。
一是提出顯式隱式雙標識義務，細化不同內容標識要求。《標識辦法》和相關標準根據內容類型與風險等級，構建了顯式與隱式雙重標識要求，為AI標識提供基本框架：一方面，針對可能導致公眾混淆或者誤認的內容，要求添加顯式標識，并根據文本、音頻、圖片、視頻等不同的服務場景明確標識位置、樣式、區域和大小等具體要求，既實現對用戶的提示警示效果，又盡量保障用戶良好體驗。另一方面，要求服務提供者在生成合成內容的文件元數據中添加隱式標識，嵌入生成合成內容屬性信息、服務提供者名稱或者編碼等信息，為內容溯源與責任認定提供技術保障。
二是打通全鏈條治理路徑，科學設定主體責任義務。《標識辦法》的內容標識要求覆蓋設計開發、上架分發、用戶使用、內容傳播和責任追溯等全鏈條，依據生成合成內容服務提供者、內容傳播服務提供者、互聯網應用程序分發平臺、用戶等不同主體在潛在風險構成中的作用和合規能力，科學劃分責任義務，實現生成合成內容上下游鏈條的全覆蓋。例如，今日頭條、快手、小紅書、嗶哩嗶哩、喜馬拉雅等制作平臺、傳播平臺均發布公告，創新探索內容標識制度落地方案，落實雙標識、標識檢測等義務，并提供“作者聲明”等功能，激勵人工智能向善應用，保障正常合規使用AI工具。這既體現了對技術創新的包容和鼓勵，又彰顯了對潛在風險的高度警惕和有效防范。
三是銜接現有法律法規體系，推進多部門監管統籌協調。作為人工智能治理的重要一環，《標識辦法》既與《網絡安全法》一脈相承，又與《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》等有效銜接，在總則部分就明確指出其與現有法律、行政法規和部門規章的緊密聯系，并在“服務提供者”等關鍵概念上沿襲已有規定。與此同時，《標識辦法》明確相關主管部門管理職責，強化標識管理與算法備案、安全評估等制度的銜接協調。例如《標識辦法》規定，服務提供者在履行算法備案、安全評估等手續時，應當按照本辦法提供生成合成內容標識相關材料，并加強標識信息共享。
三、堅持系統觀念，加快內容標識制度落實落細
總體來看，《標識辦法》構建的標識制度打破了生成合成內容帶來的信任赤字，形成生成即標識、傳播必核驗的閉環管理，為全球人工智能治理貢獻了重要的中國智慧。未來，在實施中要依據實踐，為規則填補細節，為技術注入倫理，共同推動全體人民共享人工智能發展成果。
一是內容標識是踐行以技治技的先行探索，堅持分類施策逐步全面覆蓋。“以技治技”是應對AI技術濫用風險的重要理念。作為“以技治技”的關鍵實踐，內容標識通過為AI生成內容打標，化解“人工智能+”應用中難識別、難追溯等問題，維護用戶合法權益和社會公共利益。然而，標識制度的細化落地受到技術成熟度、產業差異、場景復雜性等多重因素影響，細化落地并非簡單的技術疊加，而是技術、產業、監管、標準多維度協同的系統工程，需在技術上分階段覆蓋、在主體上分層次引導、在場景上分類型施策，循序漸進激發和實現內容標識的制度價值。
二是內容標識是優化行業生態的共同需求，推動多方協同加快普及適用。用戶信任是釋放AI內容價值的基礎，若用戶對信息內容真偽難辨、風險未知，則會本能抵制，制約技術應用創新發展。內容標識制度試圖通過“透明化”重建用戶信任，有效追溯違法違規責任主體，推動釋放技術對實體經濟的賦能價值。在落地實踐中，部分頭部企業已在內容標識策略、多模態鑒偽技術等方面積極探索，形成行業最佳實踐。推動內容標識的普及適用，需要全行業強化協同，建立跨平臺協同機制，著力推動技術標準統一、安全能力普惠，共同推動標識制度全面落地。
三是內容標識是推進國際合作的重要方向，構筑標準引領增強國際互信。當前，人形機器人、智能體等AI應用快速發展，進一步加速人工智能全球風險傳播速度、加劇責任跨境追溯難度。內容標識作為技術規制的“通用語言”，可成為彌合各國監管差異、推進國際合作的有效抓手。為配合《標識辦法》有效落地，我國先后發布《網絡安全技術 人工智能生成合成內容標識方法》及7項標準實踐指南，推動內容標識制度的工程化、技術化、標準化。未來，系列標準將在實踐中積累形成“內容標識工具包”，成為可推廣可復制的國際公共產品，推動安全可信AI惠及更多國家和人民。
作者：李強治 中國信息通信研究院政策與經濟研究所副所長
轉載請注明來源：“網信中國”微信公眾號
審核：陳舞陽
編輯：呂燕芳
校對：趙 娟
【未經授權，嚴禁轉載！聯系電話028-86968276】
