人工智能作惡,誰的過錯?
如今,人工智能的工作方式產(chǎn)生了很大的變化。在很多情況下,你甚至不知道后臺是人工智能系統(tǒng)在做決策。Crawford以人力資源系統(tǒng)為例:“很多公司正在使用人工智能系統(tǒng)掃描求職簡歷,以決定你是否值得面試!甭犐先,這極大的提升了人力資源部門的效率,但亞馬遜所研發(fā)的一個人工智能系統(tǒng)打破了這種美好的幻想。
據(jù)報道,亞馬遜耗時兩年,設(shè)計了一個人工智能自動簡歷掃描儀。但是該公司后來發(fā)現(xiàn),該系統(tǒng)對所有女性申請者都存在偏見,以至于如果你的簡歷上出現(xiàn)了“女性”這個詞,都會被排至末尾。
“這件事告訴,自動化這些工具實際上比你想象的要困難得多,因為亞馬遜擁有一些非常棒的工程師,他們明確知道自己在做什么,也不希望這樣的結(jié)果,因為他們沒有發(fā)布這個工具。但這件事卻透露了另一個重要細節(jié),即他們所使用的訓練數(shù)據(jù),基本上都是來自白人樣本,”Crawford說。
顯然,要想讓這些系統(tǒng)能夠發(fā)揮原本的作用,讓它們成為中立和客觀的完美系統(tǒng),我們必須更加挑剔!斑@就是Whittaker和我成立這家研究所的原因,我們想要能夠通過研究,對這些人工智能系統(tǒng)進行審核,”Crawford說道。
實際上,行業(yè)里的很多公司也已經(jīng)開始了自我審核,比如谷歌和Facebook。有些甚至成立了道德委員會,希望能夠逆轉(zhuǎn)來自文化上的歧視。
在被問及政府監(jiān)管問題時,Crawford表示對美國還沒有任何形式的聯(lián)邦隱私法感到驚訝:“這在當今時代有點不尋常,到目前為止,只有州一級存在類似法案,比如加州就通過了全美最強的隱私法案,2020年生效!
當然,很多人依然對此感到不滿,尤其是與歐洲相比較。歐盟于2018年推行了通用數(shù)據(jù)保護條例(GDPR),雖然不是一項完美的立法,但卻在國際上產(chǎn)生了影響。這也讓美國政府面臨著尷尬的境地,因為美國企業(yè)可能會受到其他國家的監(jiān)管。
Crawford說:“我認為現(xiàn)在是開始制定法規(guī)、實現(xiàn)法規(guī)的關(guān)鍵時刻。這也將是未來五年里最重要的事情之一。聯(lián)邦政府需要對人工智能及其附屬技術(shù)如何被監(jiān)管做出決策。”
Klobuchar參議員提出,可以使用罰款等手段來加強聯(lián)邦貿(mào)易委員會的資金來源。而Nancy Pelosi也表示應(yīng)該成立一個與AI相關(guān)的聯(lián)邦機構(gòu)歐來監(jiān)控數(shù)據(jù)。
“這將會是一場大辯論!”Crawford說道!霸诔闪⑾嚓P(guān)機構(gòu)的過程中,需要眾多專家的建議。比如在醫(yī)療保健領(lǐng)域,你需要醫(yī)生和護士工會,你需要了解美國保險系統(tǒng)的神秘運作方式。你需要把他們放在與人工智能專家平等的位置上,通過實際行動來驗證和確保這些系統(tǒng)是安全和有益的!

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機器人及智能工廠展
-
7月31日免費預(yù)約>> OFweek 2025具身智能機器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
8月5日立即報名>> 【在線會議】CAE優(yōu)化設(shè)計:醫(yī)療器械設(shè)計的應(yīng)用案例與方案解析
推薦專題