□ 胡立彪

國家網信辦等部門近日聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），明確要求對可能導致公眾混淆或者誤認的生成合成內容添加顯式或隱式標識。這是全球范圍內首部關于人工智能（AI）生成合成內容標識的國家標準，是關于AI內容治理機制建設的重要探索，對推動AI內容產業(yè)有序發(fā)展具有重要的指導意義。

近年來，AI技術迅速發(fā)展，為用戶生成合成多元化的文本、圖片、代碼、音頻、視頻、虛擬場景等信息提供了重要工具，促進了相關產業(yè)繁榮，也為經濟社會發(fā)展創(chuàng)造了巨大機遇。截至去年底，我國已有302款生成式AI服務在國家網信辦完成備案，生成式AI產品用戶規(guī)模達到2.3億人。今年政府工作報告提出，持續(xù)推進“人工智能+”行動，將數(shù)字技術與制造優(yōu)勢、市場優(yōu)勢更好結合起來，支持大模型廣泛應用。

AI技術在推動各行各業(yè)技術革新的同時，也帶來深度偽造、虛假信息等潛在風險。有媒體調查，一家MCN（多渠道網絡）機構利用AI技術每天生成數(shù)千篇謠言文章，它們看上去都“真實合理”，對于不熟悉互聯(lián)網技術的受眾而言，其中“有圖有真相”的信息內容很容易信以為真。“地鐵行兇”“西安突發(fā)爆炸”“重慶巫溪一民房發(fā)生爆炸事故”等虛假圖片、視頻都曾產生惡劣的社會影響，它們均為AI批量制造。

AI技術被濫用的最大問題是實施犯罪。2024年6月，“男子用AI偽造學生同事裸照”沖上微博熱搜。據(jù)調查，犯罪嫌疑人用AI“一鍵去衣”技術，深度偽造淫穢圖片近7000張，再以每張1.5元賣出，非法獲利近萬元。2024年1月，香港一家跨國公司遭遇“變臉”詐騙，詐騙者通過公開渠道獲取相關資料，利用深度偽造技術合成該公司高管的形象和聲音，并制作出多人參與視頻會議的虛假視頻，詐騙金額高達2億港元。

許多技術革新都有“雙刃劍”屬性，AI技術也是如此。在挖掘AI技術正向功能的同時，正視其潛在風險并進行相應的規(guī)制與防范，已經成為國際共識。2024年4月，美國國家標準與技術研究院發(fā)布《降低合成內容帶來的風險》，列出檢測、驗證和標記合成內容的方法，包括數(shù)字水印和元數(shù)據(jù)記錄。2024年8月1日，歐盟《人工智能法》正式生效，規(guī)定生成合成音頻、圖像、視頻或文本內容的有限風險AI系統(tǒng)應履行透明度與明確標識義務。2024年3月，聯(lián)合國發(fā)布《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》，鼓勵開發(fā)和部署有效、可獲取、適應性強、具有國際互操作性的內容認證和來源識別機制。

綜合來看，不論是有關國家還是國際組織，均肯定AI生成內容標識的制度價值，并已提出相應規(guī)范，在價值層面倡導真實性以遏制虛假信息、深度偽造，在技術層面大都采用水印、內容標簽等標識技術進行規(guī)制。我國在規(guī)范AI應用方面走在全球前列。國家網信辦等部門于2022年發(fā)布的《互聯(lián)網信息服務深度合成管理規(guī)定》，是世界范圍內首次明確提出生成式AI標識義務的部門規(guī)章，要求深度合成服務提供者對深度合成服務履行標識義務。

《標識辦法》承繼該規(guī)定的管理理念，對AI生成合成內容的標識方法提出要求，通過顯式標識明確“哪些內容是生成的”，隱式標識明確“是誰生成的”和“由誰傳播的”，厘清了AI生成合成內容的全生命周期中網絡信息服務提供者等不同主體的合規(guī)責任，從而降低AI安全風險，促進行業(yè)健康發(fā)展。

AI治理是一項復雜的系統(tǒng)工程，需要技術、法律、倫理等多維度協(xié)同?！稑俗R辦法》出臺標志著我國在AI治理領域邁出了重要一步。接下來，還要進一步完善AI風險治理“制度工具箱”，建立融合支持發(fā)展、激勵創(chuàng)新、防控風險、保障權益等多方面目標的AI風險治理體系，引導生成式AI技術及應用良性發(fā)展。

【觀象臺】