川觀新聞記者 行曉藝
被AI換臉技術(shù)欺騙，有人要貸款200萬給網(wǎng)戀男友“靳東”拍戲；AI制作的假圖，被用來騙取平臺賣家退款……近年來，AI生成的謠言和騙局越來越難防。
9月1日起，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《辦法》）正式實施，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。
發(fā)布AI合成內(nèi)容時如何標記？這些內(nèi)容在傳播過程中怎么管？對行業(yè)、用戶和相關(guān)技術(shù)的發(fā)展帶來哪些影響？記者親測并采訪了有關(guān)部門和專家。
記者親測：相關(guān)平臺已上線AI聲明和自動標識
《辦法》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。
人工智能生成合成內(nèi)容標識分“顯式標識”和“隱式標識”兩種。顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識。
隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識?！半[式標識更像指紋，所有生成合成內(nèi)容需在文件元數(shù)據(jù)中添加。一旦有問題，技術(shù)一查就能找到痕跡?！敝悄芨兄c控制四川省重點實驗室副主任吳浩說，兩種標識形成“顯式告知用戶、隱式支撐監(jiān)管”的雙重保障體系。
記者發(fā)布了AI動圖，照片有AI“標簽”。
當天，記者進行了實測。11點記者上傳一張自己的照片，打開抖音“AI創(chuàng)作”，選擇了“3D可愛治愈風(fēng)格”。一分鐘不到，一張AI動圖就生成了。到發(fā)布環(huán)節(jié)時，有一個“高級設(shè)置”選項，記者點擊“發(fā)文助手自主聲明”后，選擇了“內(nèi)容由AI生成”。發(fā)布后，這張照片便有了AI“標簽”。同樣的，在微信視頻號、小紅書等平臺，均有“內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請謹慎甄別”“筆記含AI合成內(nèi)容”的相關(guān)聲明選項。
小紅書平臺有“筆記含AI合成內(nèi)容”的選項。
不過記者發(fā)現(xiàn)，這些都需要用戶手動選擇，那是否有“鉆空子”的風(fēng)險？
“平臺在內(nèi)容上架或上線時會進行審核，對未標識或疑似生成內(nèi)容添加風(fēng)險提示，在傳播端阻斷虛假信息擴散。”吳浩介紹。
如果用戶不自主打顯式標識，平臺在內(nèi)容上架或上線時會進行審核，對未標識或疑似生成內(nèi)容添加風(fēng)險提示。
確如吳浩所說。記者不打“電子身份證”直接上傳，小紅書和抖音會出現(xiàn)“筆記含AI生成內(nèi)容”“疑似AI生成”的字樣，并顯示信息來自平臺自動識別。
“這兩種標識辦法，核心是為了解決三個問題：哪些內(nèi)容是AI生成、是誰做的、來自哪個渠道?！?/strong>四川師范大學(xué)法學(xué)院副教授甘露說，不過，生成合成技術(shù)迭代快、系統(tǒng)算法優(yōu)化不及時等，有些原創(chuàng)內(nèi)容可能會被誤判為AI生成。甘露建議，應(yīng)建立“技術(shù)檢測+人工復(fù)核”雙軌機制和申訴機制，保證監(jiān)管與創(chuàng)作自由的平衡。
專家解析：推動生成式人工智能的良性發(fā)展
《國家信息化發(fā)展報告(2024)》顯示，截至今年7月，我國已有490余款大模型在國家網(wǎng)信辦完成備案。據(jù)不完全統(tǒng)計，大模型應(yīng)用的個人用戶注冊總數(shù)已超過31億。
《辦法》的實施，會對行業(yè)、個人用戶，以及相關(guān)技術(shù)發(fā)展帶來哪些影響？
四川省委網(wǎng)信辦相關(guān)負責(zé)人表示，強制“標識”能在保障安全與促進發(fā)展之間取得平衡。壓實開發(fā)者、提供者和平臺的主體責(zé)任，通過治理和規(guī)范去凈化網(wǎng)絡(luò)空間環(huán)境。
該負責(zé)人特別提到，強制性國家標準《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》與《辦法》同步施行，讓審核、監(jiān)測、追責(zé)建立起閉環(huán)機制，為溯源、抗篡改、跨平臺互認等留出空間。
對行業(yè)而言，《辦法》的實施，對人工智能企業(yè)選擇相應(yīng)的訓(xùn)練數(shù)據(jù)能起到很好的指引作用。吳浩解釋，有隱式標識后，企業(yè)能更便捷地篩選高質(zhì)量的數(shù)據(jù)進行模型訓(xùn)練，提升技術(shù)可信度，推動生成式人工智能的良性發(fā)展。
北京大成（成都）律師事務(wù)所律師陶雪汶認為，強制“標識”可有效遏制低質(zhì)量、重復(fù)性生成合成內(nèi)容的傳播，維護平臺內(nèi)容原創(chuàng)性與公平性，為優(yōu)質(zhì)內(nèi)容創(chuàng)作營造良好環(huán)境。另外，能減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問題。
記者用AI生成剪刀瑕疵圖，從對話框發(fā)給某電商平臺客服時，商家難辨真假。
不過，AI內(nèi)容在平臺對話框還無法打顯式標識。例如，記者用AI生成剪刀瑕疵圖，從對話框發(fā)給某電商平臺客服時，不會有明顯的AI水印，商家難辨真假。
“針對電商平臺的問題，應(yīng)面向B、C端用戶執(zhí)行《辦法》，修改相關(guān)協(xié)議內(nèi)容。要求消費者、商家利用AI生成的照片、視頻等有顯著標識，對拒絕履行標識義務(wù)、刪除、篡改標識用戶進行追責(zé)。”陶雪汶說。
值得一提的是，《辦法》為影視后期、廣告等專業(yè)內(nèi)容生產(chǎn)者，留有一條“綠色通道”?！掇k法》允許服務(wù)提供者和特定用戶明確標識義務(wù)和使用責(zé)任后，可以提供不帶顯式標識的素材，但同時把對方的信息和相關(guān)日志留存不少于六個月。
“這一點，有些AI應(yīng)用平臺和創(chuàng)作者已經(jīng)在試水了?！眳呛普f。
【未經(jīng)授權(quán)，嚴禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
科技創(chuàng)新，產(chǎn)業(yè)發(fā)展！
手動聲明形同虛設(shè)，平臺審核必須跟上！記者實測不打標仍能發(fā)，全靠算法識別才是真防線
規(guī)范
算法誤判誰來擔(dān)責(zé)？我的原創(chuàng)作品曾被平臺誤刪，申訴流程比高考還復(fù)雜
國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》??
規(guī)范管理