新華社記者王思北

  近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》。辦法聚焦人工智能“生成合成內容標識”關(guān)鍵點(diǎn)，通過(guò)標識提醒用戶(hù)辨別虛假信息，明確相關(guān)服務(wù)主體的標識責任義務(wù)，規范內容制作、傳播各環(huán)節標識行為，將于2025年9月1日起施行。

  專(zhuān)家認為，辦法是我國推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規范健康發(fā)展、引導技術(shù)向善的重要舉措，標志著(zhù)我國在生成式人工智能領(lǐng)域邁出了構建安全可信生態(tài)的關(guān)鍵一步。

  近年來(lái)，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音頻、視頻等信息提供了便利工具。

  “然而，人工智能生成合成內容日益逼真，也催生虛假消息傳播、身份信息冒充、惡意內容生成等新型安全風(fēng)險，并削弱著(zhù)公眾對網(wǎng)絡(luò )傳播內容的信任根基?！敝袊こ淘涸菏?、浙江大學(xué)教授陳純認為，面對人工智能安全治理這一世界性難題，四部門(mén)適時(shí)出臺《人工智能生成合成內容標識辦法》，配套強制性國家標準《網(wǎng)絡(luò )安全技術(shù) 人工智能生成合成內容標識方法》也同時(shí)發(fā)布，成為保障人工智能時(shí)代網(wǎng)絡(luò )生態(tài)安全有序的關(guān)鍵手段。

  國家網(wǎng)信辦有關(guān)負責人表示，辦法重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節的全流程安全管理，力爭打造可信賴(lài)的人工智能技術(shù)。

  ——針對服務(wù)提供者，辦法明確應當對文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內容添加顯式標識，在提供生成合成內容下載、復制、導出等功能時(shí)，應當確保文件中含有滿(mǎn)足要求的顯式標識；應當在生成合成內容的文件元數據中添加隱式標識。

  ——針對互聯(lián)網(wǎng)應用程序分發(fā)平臺，辦法提出在應用程序上架或者上線(xiàn)審核時(shí)，應當要求互聯(lián)網(wǎng)應用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)，并核驗其生成合成內容標識相關(guān)材料。

  ——針對用戶(hù)，辦法要求使用網(wǎng)絡(luò )信息內容傳播服務(wù)發(fā)布生成合成內容的，應當主動(dòng)聲明并使用服務(wù)提供者提供的標識功能進(jìn)行標識。

  此外，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿辦法規定的生成合成內容標識，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過(guò)不正當標識手段損害他人合法權益。

  “此前出臺的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》《生成式人工智能服務(wù)管理暫行辦法》提出了標識有關(guān)要求，辦法進(jìn)一步細化了標識的具體實(shí)施規范?！北本┖娇蘸教齑髮W(xué)法學(xué)院副教授趙精武認為，辦法明確了生成合成內容制作傳播各主體的責任義務(wù)，用戶(hù)能夠清晰識別人工智能生成的內容，減輕人工智能生成合成技術(shù)濫用危害，防范利用生成合成內容傳播虛假信息、實(shí)施電信詐騙等風(fēng)險行為。

  一方面，清晰的內容標識有助于提升信息透明度，增強用戶(hù)的知情權和選擇權，培養公眾對人工智能技術(shù)的理性認知。另一方面，對于服務(wù)提供者及傳播平臺而言，內容標識制度既是責任更是機遇，在鼓勵企業(yè)追求技術(shù)能力提升的同時(shí)，也將提升對產(chǎn)品社會(huì )影響的關(guān)注度，推動(dòng)整個(gè)行業(yè)向更加規范、健康的方向發(fā)展。

  良法善治，重在實(shí)施。專(zhuān)家認為，辦法的落地需要各方協(xié)同配合，推動(dòng)標識工作行穩致遠。

  公安部第三研究所副所長(cháng)金波說(shuō)，伴隨標識管理與算法備案、安全評估等機制逐步實(shí)現有機銜接，生成合成內容標識合規或將成為相關(guān)部門(mén)開(kāi)展人工智能監督檢查、專(zhuān)項行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域。在此進(jìn)程中，如何平衡好發(fā)展與安全、創(chuàng )新與責任，提升執法的專(zhuān)業(yè)化、精細化、智慧化水平，從而培育出安全、開(kāi)放、公平的人工智能產(chǎn)業(yè)生態(tài)環(huán)境，還需要深入探究。

  “此外，‘人的因素’應融入人工智能標識管理的全過(guò)程?！苯鸩ㄕf(shuō)，要著(zhù)重提升公眾對信息內容真實(shí)性、來(lái)源可追溯性的評估能力，積極培育公眾的人工智能素養，確保人工智能技術(shù)成果普惠共享。