網(wǎng)信辦聯(lián)合廣播電視總局明確“深度偽造”音視頻管理規(guī)定
近日,國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確網(wǎng)絡(luò)音視頻信息發(fā)布相關(guān)守則,網(wǎng)絡(luò)音視頻信息提供者和網(wǎng)絡(luò)音視頻信息使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等AI技術(shù)應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的,應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估,并以顯著方式予以標(biāo)識(shí)。
網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù),建立辟謠機(jī)制,并將相關(guān)信息報(bào)有關(guān)部門備案。
從網(wǎng)信辦有關(guān)負(fù)責(zé)人處了解,網(wǎng)絡(luò)信息服務(wù)發(fā)展迅速,用戶數(shù)量不斷增加,據(jù)數(shù)據(jù)顯示,我國(guó)網(wǎng)絡(luò)音頻用戶規(guī)模已達(dá)6.08億,網(wǎng)絡(luò)視頻用戶規(guī)模已達(dá)7.59億。隨著“深度偽造”等AI技術(shù)應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用,也帶來(lái)了傳播違法與不良的作假信息、侵犯用戶合法權(quán)益等風(fēng)險(xiǎn)隱患。運(yùn)用AI技術(shù)制作非真實(shí)的音視頻,可能被利用從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng),造成政治安全風(fēng)險(xiǎn)和國(guó)家安全、公共安全風(fēng)險(xiǎn),對(duì)社會(huì)穩(wěn)定造成不良影響。
近些年,隨著AI技術(shù)的高速發(fā)展,人臉識(shí)別應(yīng)用在商用場(chǎng)景中大規(guī)模部署。例如,蘇寧任性貸要求刷臉認(rèn)證,支付寶提供了基于人臉的驗(yàn)證登錄手段,很多銀行或者金融公司也提供了遠(yuǎn)程的、基于人臉識(shí)別的視頻面審流程。
AI的人臉識(shí)別應(yīng)用在精確度上已經(jīng)高達(dá)95%,很多業(yè)務(wù)可以便捷地享受AI科技帶來(lái)的便捷核驗(yàn)手段。但深度偽造技術(shù)應(yīng)用到圖像或視頻欺詐中不僅能實(shí)現(xiàn)換臉,更可以通過(guò)深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù),可以以視頻這一較為可信的方式讓某人說(shuō)不曾說(shuō)過(guò)的話,做不曾做的事,達(dá)到混淆觀眾的目的。
國(guó)外技術(shù)團(tuán)隊(duì)也成功開展過(guò)欺騙“AI”的試驗(yàn),在3D車輛模型的車身上貼上特制的“紙片”,使得模型成功逃逸監(jiān)控識(shí)別。從具體效果來(lái)看,該“隱身”可在高度運(yùn)動(dòng)、光線變化等復(fù)雜環(huán)境中保持較高的“隱身性”,技術(shù)優(yōu)勢(shì)明顯。
AI安全問(wèn)題已經(jīng)不再只是學(xué)術(shù)談?wù),民眾都?yīng)該提高對(duì)AI安全的意識(shí)。AI技術(shù)本身是中立的,但發(fā)展成“以子之矛,攻子之盾”的狀況,我們才意識(shí)到AI技術(shù),在沒(méi)有制約的情況下用在正面領(lǐng)域,帶來(lái)了革命性的便捷和高效;應(yīng)用于黑色非法領(lǐng)域,給我們帶來(lái)的風(fēng)險(xiǎn)可能遠(yuǎn)超從前。
因此,明確網(wǎng)絡(luò)音視頻信息發(fā)布者的信息內(nèi)容安全管理責(zé)任,規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)提供者關(guān)于利用AI技術(shù)新應(yīng)用的管理要求,為網(wǎng)絡(luò)音視頻信息服務(wù)及其相關(guān)技術(shù)的提供、使用、管理等提供有效的依據(jù)是非常有必要的,據(jù)悉該規(guī)定將從2020年1月1日起正式施行。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人