為應(yīng)對(duì)AI合成技術(shù)濫用風(fēng)險(xiǎn),規(guī)范電商直播行業(yè)秩序,近日,北京市消費(fèi)者協(xié)會(huì)(以下簡(jiǎn)稱“北京消協(xié)”)聯(lián)合京東、美團(tuán)、拼多多、唯品會(huì)、抖音、快手、小紅書、微信直播等8家電商平臺(tái),正式簽訂全國(guó)首份《促進(jìn)AI技術(shù)規(guī)范應(yīng)用承諾書》(以下簡(jiǎn)稱《承諾書》),從技術(shù)標(biāo)識(shí)、內(nèi)容審核、責(zé)任追溯等環(huán)節(jié)建立企業(yè)自律規(guī)范,提出六大具體舉措,劃定AI技術(shù)應(yīng)用“合規(guī)紅線”,壓實(shí)平臺(tái)企業(yè)主體責(zé)任,切實(shí)維護(hù)消費(fèi)者合法權(quán)益。
聚焦三大突出問(wèn)題:AI技術(shù)應(yīng)用侵害消費(fèi)者權(quán)益引擔(dān)憂
近年來(lái),AI數(shù)字人直播、虛擬場(chǎng)景帶貨等新技術(shù)應(yīng)用快速普及,在提升消費(fèi)體驗(yàn)的同時(shí),部分商家的違規(guī)操作也引發(fā)消費(fèi)者廣泛擔(dān)憂。北京消協(xié)歷時(shí)3個(gè)月開(kāi)展專項(xiàng)調(diào)查,通過(guò)問(wèn)卷調(diào)研、體驗(yàn)式調(diào)查、專家研討等方式,鎖定當(dāng)前AI合成技術(shù)應(yīng)用中侵害消費(fèi)者權(quán)益的三大突出問(wèn)題:
一是消費(fèi)者知情權(quán)保障不足,“真假難辨”困擾普遍存在。據(jù)3162份有效回收問(wèn)卷調(diào)查數(shù)據(jù)顯示,近九成的受訪者呼吁“AI生成內(nèi)容需顯著標(biāo)識(shí)”,超七成接受虛擬背景但強(qiáng)調(diào)需有顯著提示;超六成認(rèn)為AI數(shù)字人“缺乏真情實(shí)感”,近三成擔(dān)憂其“可能誤導(dǎo)消費(fèi)決策”。
二是合成技術(shù)濫用滋生消費(fèi)風(fēng)險(xiǎn),“虛假營(yíng)銷”問(wèn)題凸顯。針對(duì)電商平臺(tái)的AI數(shù)字人、AI場(chǎng)景直播帶貨行為,北京消協(xié)通過(guò)“模擬消費(fèi)者在直播間購(gòu)物+線下比對(duì)實(shí)物”的方式,對(duì)10個(gè)AI數(shù)字人直播帶貨樣本開(kāi)展體驗(yàn)調(diào)查。調(diào)查發(fā)現(xiàn):5個(gè)樣本在直播界面標(biāo)注“AI生成”“擬真場(chǎng)景”等提示信息,5個(gè)樣本沒(méi)有對(duì)體驗(yàn)人員的問(wèn)題進(jìn)行及時(shí)回應(yīng)或互動(dòng);6個(gè)樣本存在未提示私下交易風(fēng)險(xiǎn)等問(wèn)題。此外,部分網(wǎng)絡(luò)直播中存在利用公眾信任謀取不當(dāng)利益的情況,近期網(wǎng)信部門也處置了一批利用AI換臉技術(shù)仿冒公眾人物開(kāi)展直播營(yíng)銷的網(wǎng)絡(luò)賬號(hào)。
三是平臺(tái)審核機(jī)制存在短板,“風(fēng)險(xiǎn)防控”能力待提升。經(jīng)與專家研討調(diào)研發(fā)現(xiàn),當(dāng)前部分電商平臺(tái)尚未建立健全AI內(nèi)容審核專項(xiàng)制度,對(duì)商家使用AI數(shù)字人、虛擬場(chǎng)景等技術(shù)缺乏有效管理規(guī)則和精準(zhǔn)識(shí)別技術(shù),導(dǎo)致消費(fèi)者在購(gòu)物過(guò)程中難以快速辨別信息真?zhèn)危黾恿讼M(fèi)決策風(fēng)險(xiǎn)。
全國(guó)首創(chuàng):六大舉措構(gòu)建長(zhǎng)效規(guī)范機(jī)制
針對(duì)上述問(wèn)題,《承諾書》以“標(biāo)識(shí)透明、審核嚴(yán)格、責(zé)任可溯”為核心,提出六大具體措施,為AI技術(shù)在電商領(lǐng)域的合規(guī)應(yīng)用劃定“紅線”。
堅(jiān)守法律底線,明確合規(guī)邊界。嚴(yán)格遵守《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》《中華人民共和國(guó)電子商務(wù)法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等法律法規(guī),要求平臺(tái)及商家在應(yīng)用AI生成合成技術(shù)時(shí),必須以保障消費(fèi)者合法權(quán)益為前提。
強(qiáng)化標(biāo)識(shí)要求,保障知情權(quán)利。要求商家和內(nèi)容創(chuàng)作者在利用AI技術(shù)生成合成數(shù)字人主播、虛擬場(chǎng)景時(shí),在顯著位置清晰標(biāo)注“AI生成”或“擬真場(chǎng)景”等提示內(nèi)容;鼓勵(lì)使用平臺(tái)提供的統(tǒng)一AI內(nèi)容標(biāo)識(shí)功能主動(dòng)聲明,嚴(yán)禁利用AI合成換臉技術(shù)仿冒名人明星帶貨。
技術(shù)監(jiān)測(cè)與人工復(fù)核結(jié)合,阻斷違規(guī)傳播。在內(nèi)容審核與傳播環(huán)節(jié),采取措施對(duì)商家或內(nèi)容創(chuàng)作者的直播內(nèi)容、直播場(chǎng)景進(jìn)行監(jiān)測(cè),一旦發(fā)現(xiàn)沒(méi)有標(biāo)識(shí)的疑似AI數(shù)字人或AI虛擬場(chǎng)景問(wèn)題,將及時(shí)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí),經(jīng)平臺(tái)研判,確系存在違規(guī)行為的,將進(jìn)一步采取屏蔽鏈接等措施。
提供工具支持,引導(dǎo)主動(dòng)合規(guī)。為商家及內(nèi)容創(chuàng)作者提供便捷的AI標(biāo)識(shí)工具和清晰的操作指引,引導(dǎo)其主動(dòng)規(guī)范使用AI標(biāo)識(shí)。
嚴(yán)打標(biāo)識(shí)造假,維護(hù)制度公信。堅(jiān)決抵制惡意刪除、篡改、偽造或隱匿AI內(nèi)容標(biāo)識(shí)的行為,對(duì)違規(guī)賬號(hào)及內(nèi)容依法依規(guī)嚴(yán)肅處理,維護(hù)AI制度的嚴(yán)肅性。
強(qiáng)化培訓(xùn)賦能,提升行業(yè)認(rèn)知。將AI內(nèi)容標(biāo)識(shí)要求納入平臺(tái)治理體系,對(duì)商家或內(nèi)容創(chuàng)作者加強(qiáng)合規(guī)培訓(xùn),提升平臺(tái)內(nèi)AI技術(shù)合規(guī)水平。
簽訂《承諾書》僅是規(guī)范AI技術(shù)應(yīng)用的第一步。北京消協(xié)相關(guān)負(fù)責(zé)同志表示,下一步,消協(xié)組織將持續(xù)跟蹤網(wǎng)絡(luò)AI技術(shù)應(yīng)用動(dòng)態(tài),組織志愿者體驗(yàn)直播間購(gòu)物、追蹤反饋實(shí)際感受,督促企業(yè)嚴(yán)格落實(shí)承諾內(nèi)容。同時(shí),通過(guò)線上線下多渠道開(kāi)展消費(fèi)教育活動(dòng),向廣大消費(fèi)者普及AI技術(shù)常識(shí),提升消費(fèi)者辨別虛假內(nèi)容的能力與防范意識(shí)。通過(guò)多方協(xié)作、多維施策,構(gòu)建“技術(shù)合規(guī)、平臺(tái)履責(zé)、消費(fèi)安心”的網(wǎng)絡(luò)消費(fèi)環(huán)境。
免責(zé)聲明:凡注明稿件來(lái)源的內(nèi)容均為轉(zhuǎn)載稿或由企業(yè)用戶注冊(cè)發(fā)布,本網(wǎng)轉(zhuǎn)載出于傳遞更多信息的目的;如轉(zhuǎn)載稿和圖片涉及版權(quán)問(wèn)題,請(qǐng)作者聯(lián)系我們刪除,同時(shí)對(duì)于用戶評(píng)論等信息,本網(wǎng)并不意味著贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。
咨詢熱線:0571-89882930 廣告合作:0571-89882930
展會(huì)合作:0571-88173216 投訴電話:0571-89882999
首頁(yè) 資訊 品牌招商 家具品牌 新品發(fā)布 展會(huì)
眾品家具網(wǎng) zp1918.com 版權(quán)所有 2002-2018 常年法律顧問(wèn):浙江澤大律師事務(wù)所_傅國(guó)寶 經(jīng)營(yíng)許可證:浙B2-20210026 | 浙ICP備08015491號(hào)-8
浙公網(wǎng)安備 33010502001902號(hào)