□ 胡立彪

近日，北京市消費(fèi)者協(xié)會(huì)推動(dòng)京東、美團(tuán)、拼多多等8家電商平臺(tái)簽訂《促進(jìn)AI技術(shù)規(guī)范應(yīng)用承諾書(shū)》，從技術(shù)標(biāo)識(shí)、內(nèi)容審核、責(zé)任追溯等環(huán)節(jié)建立企業(yè)自律規(guī)范。其中明確，商家和內(nèi)容創(chuàng)作者在利用AI技術(shù)生成合成數(shù)字人主播、虛擬場(chǎng)景時(shí)，在顯著位置清晰標(biāo)注“AI生成”或“擬真場(chǎng)景”等提示內(nèi)容；鼓勵(lì)使用平臺(tái)提供的統(tǒng)一AI內(nèi)容標(biāo)識(shí)功能主動(dòng)聲明，嚴(yán)禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。

近年來(lái)，AI數(shù)字人直播、虛擬場(chǎng)景帶貨等新技術(shù)應(yīng)用快速普及。艾媒咨詢數(shù)據(jù)顯示，近幾年我國(guó)AI數(shù)字人市場(chǎng)呈快速增長(zhǎng)的勢(shì)頭，年復(fù)合增長(zhǎng)率超60%，預(yù)計(jì)到2026年，我國(guó)數(shù)字人市場(chǎng)規(guī)模將超過(guò)480億元。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的一份關(guān)于中國(guó)數(shù)字人發(fā)展的報(bào)告顯示，預(yù)計(jì)到2025年，我國(guó)數(shù)字人核心市場(chǎng)規(guī)模將超過(guò)400億元，帶動(dòng)產(chǎn)業(yè)市場(chǎng)規(guī)模將超過(guò)6000億元。

AI數(shù)字人技術(shù)無(wú)疑為直播電商注入了新活力。數(shù)字人可以24小時(shí)不間斷直播，大幅降低人力成本；能夠同時(shí)處理海量用戶咨詢，提高服務(wù)效率；還能根據(jù)大數(shù)據(jù)分析，精準(zhǔn)調(diào)整話術(shù)和推薦策略。然而，伴隨“永不疲倦的銷售員”而來(lái)的，是一系列亟待規(guī)范的新問(wèn)題。

當(dāng)前AI數(shù)字人直播帶貨領(lǐng)域最突出的問(wèn)題，是“規(guī)矩”缺失。部分?jǐn)?shù)字人主播“故意”模糊虛擬身份，讓消費(fèi)者誤以為是真人推薦；有的在推薦商品時(shí)夸大功效，進(jìn)行虛假宣傳；更有甚者，利用算法針對(duì)特定人群實(shí)施價(jià)格歧視。這些問(wèn)題不僅侵害消費(fèi)者合法權(quán)益，也擾亂市場(chǎng)秩序，損害直播電商行業(yè)的公信力。

給數(shù)字人帶貨立規(guī)矩，首先要明確“身份透明”原則。消費(fèi)者有權(quán)知道正在向他們推薦商品的是真人還是虛擬形象。這不僅是對(duì)消費(fèi)者知情權(quán)的尊重，也是商業(yè)誠(chéng)信的基本要求。數(shù)字人應(yīng)當(dāng)在直播畫(huà)面中明確標(biāo)示其AI身份，就像食品包裝上必須注明成分一樣，這應(yīng)當(dāng)成為行業(yè)的強(qiáng)制性規(guī)范。

規(guī)矩的核心在于保證內(nèi)容的真實(shí)性。AI數(shù)字人能夠通過(guò)深度學(xué)習(xí)生成極具說(shuō)服力的話術(shù)，但這種技術(shù)優(yōu)勢(shì)不應(yīng)成為虛假宣傳的工具。監(jiān)管部門(mén)需要制定專門(mén)針對(duì)AI生成內(nèi)容的廣告規(guī)范，明確數(shù)字人直播中宣傳信息的真實(shí)性標(biāo)準(zhǔn)。同時(shí)，平臺(tái)方應(yīng)當(dāng)建立AI直播內(nèi)容審核機(jī)制，對(duì)數(shù)字人主播進(jìn)行“上崗培訓(xùn)”和實(shí)時(shí)監(jiān)督。

消費(fèi)者權(quán)益保護(hù)機(jī)制也需與時(shí)俱進(jìn)。當(dāng)數(shù)字人主播出現(xiàn)誤導(dǎo)性宣傳時(shí)，消費(fèi)者維權(quán)面臨新的挑戰(zhàn)：責(zé)任主體是誰(shuí)？是開(kāi)發(fā)數(shù)字人的技術(shù)公司，使用數(shù)字人的品牌方，還是直播平臺(tái)運(yùn)營(yíng)商？現(xiàn)有法律框架需要進(jìn)一步細(xì)化，明確各方責(zé)任邊界，確保消費(fèi)者在合法權(quán)益受損時(shí)能夠找到明確的追責(zé)對(duì)象。

更為復(fù)雜的是算法倫理問(wèn)題。AI數(shù)字人能夠根據(jù)用戶數(shù)據(jù)實(shí)時(shí)調(diào)整銷售策略，這種個(gè)性化服務(wù)與價(jià)格歧視之間往往只有一線之隔。規(guī)矩應(yīng)當(dāng)限制數(shù)字人利用消費(fèi)者數(shù)據(jù)實(shí)施不公平交易行為，防止“大數(shù)據(jù)殺熟”在直播場(chǎng)景中以更隱蔽的方式出現(xiàn)。2024年8月，歐盟實(shí)施《人工智能法案》，對(duì)AI系統(tǒng)按風(fēng)險(xiǎn)等級(jí)進(jìn)行分類管理。這一思路值得借鑒。

當(dāng)然，講規(guī)矩不是要扼殺創(chuàng)新。相反，明確的規(guī)則框架能夠?yàn)锳I數(shù)字人直播的健康發(fā)展提供保障。技術(shù)公司可以在合規(guī)前提下探索更智能的虛擬主播，品牌方能夠更安心地采用這一新興渠道，消費(fèi)者也能在透明、公平的環(huán)境中享受技術(shù)帶來(lái)的購(gòu)物便利。

放眼未來(lái)，隨著元宇宙概念的發(fā)展和虛擬現(xiàn)實(shí)技術(shù)的成熟，數(shù)字人直播可能會(huì)進(jìn)一步演進(jìn)為沉浸式購(gòu)物體驗(yàn)。越是如此，越需要提前建立規(guī)矩，引導(dǎo)技術(shù)向善。這需要技術(shù)開(kāi)發(fā)者、平臺(tái)運(yùn)營(yíng)者、品牌商家、監(jiān)管部門(mén)和消費(fèi)者共同參與，形成多方共治的格局。

在AI技術(shù)深刻改變各行各業(yè)的今天，AI數(shù)字人直播帶貨的規(guī)范問(wèn)題具有典型意義。它不僅關(guān)乎一個(gè)新興商業(yè)模式的發(fā)展，更關(guān)乎我們?nèi)绾卧诩夹g(shù)快速演進(jìn)中維護(hù)商業(yè)倫理、保護(hù)消費(fèi)者合法權(quán)益、促進(jìn)健康的市場(chǎng)環(huán)境。講規(guī)矩，不是給技術(shù)套上枷鎖，而是為創(chuàng)新鋪設(shè)可持續(xù)的軌道。

在網(wǎng)絡(luò)空間，AI數(shù)字人主播們將繼續(xù)它們不知疲倦的直播。而我們作為技術(shù)的使用者和規(guī)范的制定者，有責(zé)任確保這些虛擬形象在追求商業(yè)效率的同時(shí)，不會(huì)逾越誠(chéng)信的邊界。只有這樣，技術(shù)才能真正服務(wù)于人，創(chuàng)新才能在秩序中綻放持久光彩。