到底該不該用人臉識(shí)別技術(shù)?IBM/亞馬遜/ACLU已經(jīng)吵得不可開交了
科技公司的作用
亞馬遜對麻省理工學(xué)院的研究結(jié)果提出了質(zhì)疑,一名女發(fā)言人指出,該研究稱這項(xiàng)研究“具有誤導(dǎo)性”。研究人員使用“面部分析”來識(shí)別面部特征,如性別或微笑,而不是面部識(shí)別,將人臉與照片或視頻中的相似面部相匹配。
“面部分析和面部識(shí)別在底層技術(shù)和用于訓(xùn)練它們的數(shù)據(jù)方面完全不同,”伍德在一篇關(guān)于麻省理工學(xué)院研究的博客文章中說!皣L試使用面部分析來衡量面部識(shí)別的準(zhǔn)確性是不明智的,因?yàn)樗皇怯糜诖四康牡念A(yù)期算法!
這并不是說科技巨頭沒有考慮種族偏見。
微軟去年表示,它將識(shí)別女性和膚色較深的男性的錯(cuò)誤率降低了20倍。
Facebook發(fā)言人使用面部識(shí)別技術(shù)在照片中標(biāo)記用戶,該公司表示,該公司確保其使用的數(shù)據(jù)“平衡并反映出Facebook的用戶的多樣性”。谷歌指出了它發(fā)布的關(guān)于人工智能的原則,其中包括禁止“制造或加強(qiáng)不公平的偏見”。
為了推進(jìn)面部識(shí)別的公平性和準(zhǔn)確性研究,IBM于1月份為研究人員發(fā)布了一個(gè)名為Diversity in Faces的數(shù)據(jù)集,該數(shù)據(jù)集不僅僅關(guān)注膚色,年齡和性別。該數(shù)據(jù)包括100萬張人臉圖像,注釋有面部對稱,鼻子長度和前額高度等標(biāo)簽。
“我們擁有所有這些關(guān)于多樣性意味著什么的主觀和松散概念,”IBM的首席科學(xué)家約翰史密斯說!耙虼,IBM創(chuàng)建此數(shù)據(jù)集的目的是深入研究如何真正衡量面孔多樣性的科學(xué)。”
該公司收集了照片網(wǎng)站Flickr的圖片,本月受到一些攝影師,專家和活動(dòng)家的批評,因?yàn)樗麄儧]有通知人們他們的圖像被用來改善面部識(shí)別技術(shù)。作為回應(yīng),IBM表示嚴(yán)肅對待隱私,用戶可以選擇退出數(shù)據(jù)集。
亞馬遜表示,它使用反映多樣性的培訓(xùn)數(shù)據(jù),并向客戶介紹最佳實(shí)踐。今年2月,它發(fā)布了一些指導(dǎo)方針,稱立法者在考慮監(jiān)管時(shí)應(yīng)考慮到這一點(diǎn)。
亞馬遜全球公共政策副總裁邁克爾·龐克在一篇博客文章中說:“所有相關(guān)各方之間應(yīng)該進(jìn)行公開,誠實(shí)和認(rèn)真的對話,以確保技術(shù)得到適當(dāng)應(yīng)用并不斷加強(qiáng)!
需要明確的規(guī)則
即使科技公司努力提高其面部識(shí)別技術(shù)的準(zhǔn)確性,人們對這些工具可用于歧視移民或少數(shù)民族的擔(dān)憂也不會(huì)消失。在某種程度上,這是因?yàn)槿藗內(nèi)匀辉趥(gè)人生活中與偏見搏斗。
民權(quán)組織和專家認(rèn)為,執(zhí)法部門和政府仍然可以利用這項(xiàng)技術(shù)來識(shí)別政治抗議者或追蹤移民,使他們的自由處于危險(xiǎn)之中。
“完美準(zhǔn)確的系統(tǒng)也成為一種非常強(qiáng)大的監(jiān)控工具,”加維說。
民權(quán)組織和科技公司呼吁政府介入。
“管理政府使用技術(shù)的唯一有效方法是政府主動(dòng)管理這種用途,”微軟總裁布拉德史密斯在7月的一篇博客文章中寫道!叭绻藗儞(dān)心如何在整個(gè)社會(huì)中更廣泛地部署技術(shù),那么規(guī)范這種廣泛使用的唯一方法就是讓政府這樣做。”
美國公民自由聯(lián)盟呼吁立法者暫時(shí)禁止執(zhí)法部門使用面部識(shí)別技術(shù)。民權(quán)組織還致信亞馬遜,要求它停止向政府提供Rekognition。
一些立法者和科技公司,如亞馬遜,已經(jīng)要求評估面部識(shí)別技術(shù)的國家標(biāo)準(zhǔn)與技術(shù)研究所認(rèn)可面部識(shí)別的種族偏見測試的行業(yè)標(biāo)準(zhǔn)和道德最佳實(shí)踐。
對于像戈麥斯這樣的立法者來說,這項(xiàng)工作才剛剛開始。
“我不反對亞馬遜,”他說。“但是當(dāng)一種新技術(shù)會(huì)對公民的隱私、他們的公民自由產(chǎn)生深遠(yuǎn)影響了,那么它一定是有問題的。”

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢
- 5 中國最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 7 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 8 張勇等人退出阿里合伙人
- 9 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 10 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人