妙鴨相機(jī)爆火之下,AI寫真的安全問(wèn)題怎么辦?
文/陳根
近日,“妙鴨相機(jī)”爆火。
作為一款A(yù)I寫真小程序,我們只要通過(guò)這個(gè)小程序,上傳一定數(shù)量的照片,選擇好模版,就可以一鍵生成AI風(fēng)格化寫真,包括肖像照、藝術(shù)照、證件照等。
雖然首次生成需要支付9.9元的數(shù)字分身制作費(fèi),不過(guò),相比動(dòng)輒幾百上千的攝影工作室約拍價(jià)格,9塊9幾乎是可以“無(wú)腦沖”的程度。妙鴨相機(jī)在爆火的同時(shí),也引發(fā)了人們對(duì)于AI寫真的倫理與安全問(wèn)題的擔(dān)憂。
AI寫真面臨的倫理與安全問(wèn)題之所以會(huì)被關(guān)注,核心原因就在于基于AI的技術(shù)進(jìn)入了真正落地應(yīng)用的階段,不論是寫真,還是醫(yī)療,或者是文本,都會(huì)面臨安全與倫理的問(wèn)題。但AI寫真的安全與倫理問(wèn)題相對(duì)比較急迫,不僅牽涉到潛在的詐騙問(wèn)題,更會(huì)牽涉到借助于AI生成技術(shù)導(dǎo)致的一些照片與小視頻換臉問(wèn)題。
同時(shí),在AI寫真技術(shù)目前,肖像權(quán)的保護(hù)與個(gè)人肖像隱私,以及基于人臉識(shí)別系統(tǒng)的一些安全措施都將面臨著根本性的挑戰(zhàn)。尤其是包括妙鴨在內(nèi)的各種AI照片寫真與合成技術(shù),對(duì)于用戶而言在使用之前更重要關(guān)注的是這些平臺(tái)數(shù)據(jù)的安全保護(hù)措施。
對(duì)于擁有這些人像生成AI技術(shù)的平臺(tái)而言,當(dāng)前首先考慮的并不是商業(yè)化的問(wèn)題,而是如何保障用戶數(shù)據(jù)庫(kù)的安全,這些數(shù)據(jù)庫(kù)的安全不僅牽涉到用戶隱私安全,還牽涉到國(guó)家安全層面。
因此,我們看到白宮在前幾日緊急召集AI巨頭企業(yè)到白宮商議對(duì)策。這讓我們看到了正在到來(lái)的人工智能時(shí)代,人類社會(huì)已經(jīng)有了明確的基本共識(shí),就是要借助于技術(shù)的約束來(lái)讓AI技術(shù)服務(wù)于人類,讓AI成為人類社會(huì)的效率提升工具。要借助于有效的技術(shù)方式,保障AI在安全與可控的倫理范圍內(nèi)發(fā)展。
AI巨頭在白宮的壓力下,提出了八項(xiàng)技術(shù)的安全措施。這可以說(shuō)是全世界所有從事于AI開(kāi)發(fā)與訓(xùn)練企業(yè)需要學(xué)習(xí)的地方,就是在追求AI技術(shù)發(fā)展的同時(shí),必須要考慮對(duì)AI技術(shù)的監(jiān)管,以及要考慮AI萬(wàn)一偏離設(shè)想后的風(fēng)險(xiǎn)管控與干預(yù)。
訓(xùn)練AI服務(wù)于人類社會(huì)很難,但是如何再AI自我學(xué)習(xí)的情況下,能夠管控AI不偏離服務(wù)人類社會(huì)的這個(gè)設(shè)想更難。
原文標(biāo)題 : 陳根:妙鴨相機(jī)爆火之下,AI寫真的安全問(wèn)題怎么辦?

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 7 張勇等人退出阿里合伙人
- 8 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人
- 9 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)
- 10 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市