人工智能在工作場景下的新興技術(shù)及倫理問題
監(jiān)視你的行動
今年早些時候,亞馬遜(Amazon)被迫公開否認(rèn)正在為一款追蹤倉庫工人行為的設(shè)備申請專利。該公司在一份聲明中說:“有關(guān)這項專利的猜測是錯誤的!毕喾,其腕帶跟蹤系統(tǒng)將被用作手持掃描儀的替代品。
隨著一年來有關(guān)亞馬遜倉庫虐待員工情況的報道不斷傳來,這種保證變得不那么令人信服,其中包括了對員工是否可以上廁所的限制。
當(dāng)然,想要不惜一切代價實現(xiàn)效率最大化的公司不需要等待亞馬遜的腕帶上市。Insight的主管Jeff Dodge表示,視頻攝像頭與圖像識別技術(shù)的結(jié)合,可以同樣容易地追蹤到員工的動作。Insight是一家總部位于丹佛的技術(shù)咨詢和系統(tǒng)集成公司。
“如果你是一名員工,并且你在一個有攝像頭的空間里,你的雇主實際上是在觀察、分析你的每一個動作、每一個行動,”他說。
除了某些特定的法規(guī)遵從性相關(guān)的情況外,這在今天是完全合法和可能的。
這種監(jiān)視可以是完全無害的——例如,出于安全目的,或為了幫助優(yōu)化辦公室布局。Dodge說,這就是公司目前使用它的方式。
“我們經(jīng)常與客戶交談,不是談?wù)撌裁词强赡艿,而是談(wù)撌裁词钦_的,什么是道德上正確的,”他說。
他說,是的,我們有可能追蹤每個員工在洗手間花了多少時間!暗藗兎浅G宄绻麄冞@樣做了,而有人發(fā)現(xiàn)了,那將帶來一個非常負(fù)面的新聞后果!
Dodge說,關(guān)鍵是要與員工開誠布公地討論人工智能項目的目的!啊,我們正在考慮把洗手間建在更方便使用的地方,但要做到這一點,我們必須監(jiān)控人們會去哪兒!绻愦_實得到了支持,那么對于誰有權(quán)訪問這些數(shù)據(jù)的透明度對于建立信任來說同樣重要。如果被發(fā)現(xiàn)某些人工智能正在做出幫助管理的決策,而且你擁有一個將我們與他們相比的環(huán)境,那么信任就蕩然無存了,”他說。
監(jiān)控不一定局限于視頻監(jiān)控。公司還可以訪問員工的電子郵件、網(wǎng)頁瀏覽記錄以及大量其他的行為數(shù)據(jù)。
衡量你的忠誠度
情緒分析包括使用分析來確定人們是否對公司或產(chǎn)品有好感。同樣的技術(shù)也可以用在員工身上,只不過這里的公司不僅可以訪問他們的公共社交媒體檔案,還可以訪問他們所有的內(nèi)部通信。
如果做得恰當(dāng),情感分析可能會對一家公司有用,而不會造成侵害。
這項技術(shù)的一個具體應(yīng)用是預(yù)測哪些員工可能離開一家公司,例如,他們正在瀏覽求職網(wǎng)站,發(fā)送簡歷,或者比平時發(fā)送更多帶有附件的電子郵件到個人賬戶。
一位不愿透露姓名的財富500強公司的高級信息安全專家表示,這很容易做到。這位專業(yè)人士說他已經(jīng)做了十年了,而且非?煽。
例如,這種技術(shù)可以被無害地使用,以確保專有信息不會離開公司,這就是安全專家的公司使用專有信息的方式;蛘咚部梢员痪C合使用,在每個人離開公司之前幫助公司解決普遍的士氣問題。但是,公司也有其他方法可以利用從這些方法中獲得的信息,例如將一名被認(rèn)為不忠的員工排除在有聲望的任務(wù)、旅行機(jī)會或?qū)I(yè)培訓(xùn)之外。
Dodge表示,這樣做可能會給公司帶來很多麻煩,這也是大多數(shù)公司避開人工智能這類應(yīng)用的原因。“一般來說,公司對透明度的指數(shù)很高。他們都有關(guān)于他們做什么和不做什么的公共政策 - 他們是真的在考慮對他們的品牌的長期影響以及公眾對濫用這種技術(shù)的看法!
管理你的健康
越來越多的公司正在推出員工健康計劃。但是,Dodge說,這里有很大的隱私侵犯空間,公司必須小心。尤其是當(dāng)公司還在為員工管理醫(yī)療保險項目時。
如果事情變得過于個人化,就會出現(xiàn)很多問題。當(dāng)員工佩戴個人健身或健康監(jiān)測設(shè)備時,很快就會變得非常私人化。
“如果你愿意,從隱私的角度來說,它是有害的,”Dodge說!跋胂笠幌,‘我們建議你去看一下關(guān)于IBS的專家,因為你經(jīng)常去洗手間’!
Dodge建議公司完全不要涉足這一行業(yè),讓專業(yè)公司來收集和分析數(shù)據(jù),并直接向員工提出建議。即使這些建議是通過公司贊助的員工門戶網(wǎng)站提出的,但它是一項外部服務(wù)這一事實,也有助于減少人們對它的反感,以及濫用這種令人毛骨悚然的服務(wù)的可能性。
AI與權(quán)力平衡
在工作場所濫用人工智能的一個常見因素是技術(shù)如何影響公司和員工之間的權(quán)力動態(tài)。
卡內(nèi)基梅隆大學(xué)倫理與計算技術(shù)教授、CREATE實驗室主任Illah Nourbakhsh表示:“你可以利用(人工智能)來增強員工的代理能力;蛘吣憧梢杂盟鼇盱柟坦镜臋(quán)力結(jié)構(gòu)。它是關(guān)于權(quán)力關(guān)系的。你可以用人工智能來創(chuàng)造平衡,或賦予權(quán)力——或強化工作場所現(xiàn)有的緊張關(guān)系!
對于一家公司來說,試圖對其員工獲得更多權(quán)力是很有吸引力的,比如通過使用監(jiān)控技術(shù)來提高生產(chǎn)力。
“從戰(zhàn)術(shù)上講,這可能會產(chǎn)生一些效果,”他說!暗菑膽(zhàn)略上來說,從長遠(yuǎn)來看,它會讓員工感覺不那么有能力,并會損害生產(chǎn)力和營業(yè)額。如果亞馬遜因為你走得太慢而罰款,那會讓員工感覺不那么受重視,也不像團(tuán)隊中的一員。短期來說,它會讓人們走得更快,但從長期來看,它會傷害人際關(guān)系。”
與其他專家一樣,Nourbakhsh建議,在推出新的人工智能項目時,應(yīng)高度關(guān)注透明度和可解釋性。
這包括潛在數(shù)據(jù)集和用于分析它的算法中的偶然和故意偏差問題,以及數(shù)據(jù)或算法中的錯誤。
當(dāng)好的AI變壞的時候
此外,公司需要為AI以意想不到的方式失敗做好準(zhǔn)備。
“AI是外星人,”Nourbakhsh說!拔覀兗僭O(shè)人工智能系統(tǒng)會像人類一樣犯錯誤!
這種假設(shè)可能是有害的。
例如,人工智能系統(tǒng)可以以一種相對微妙的方式觀察一幅經(jīng)過修改的圖像,并以極高的自信將其完全歸為其他類別。
例如,去年,研究人員發(fā)現(xiàn),一小片膠帶會讓人工智能認(rèn)為,一個停車標(biāo)志是一個限速為每小時45英里的標(biāo)志,這對于人工智能驅(qū)動的汽車來說是一個嚴(yán)重的錯誤。
“這是一個驚人的錯誤,”Nourbakhsh說。 “太可怕了。但是,這有助于我們對于一個事情是如何失敗的理解,我們有一種先入為主的偏見。當(dāng)它失敗時,它不僅僅是一點點的失敗,就像人類失敗一樣。但是它會以一種完全不同的方式失敗”。
有時,結(jié)果可能是致命的。
去年10月,一架波音737 MAX飛機(jī)在印度尼西亞附近墜毀,機(jī)上189人全部遇難,原因是自動駕駛系統(tǒng)出現(xiàn)問題。
他說,按照系統(tǒng)的設(shè)計方式,飛行員很難重新獲得控制權(quán)!叭祟愋枰M(jìn)行最后的監(jiān)督。當(dāng)公司實施人工智能系統(tǒng)并給予他們自主控制時,這是有問題的。”
給人類控制權(quán)的一種方法是確保人工智能系統(tǒng)能夠自我解釋,而且解釋需要讓用戶能夠理解。他表示,這應(yīng)該是任何公司構(gòu)建或購買人工智能系統(tǒng)時的基本要求。
如果公司有可用的工具來監(jiān)控人工智能系統(tǒng),以確保它們正常工作,這也會有所幫助。但這些工具目前還無法使用,甚至無法解決種族或性別偏見等常見問題。德勤(Deloitte)網(wǎng)絡(luò)風(fēng)險服務(wù)數(shù)據(jù)安全主管Vivek Katyal表示,企業(yè)必須建立自己的網(wǎng)絡(luò)。“或者你可以手工調(diào)節(jié),然后想辦法解決問題!
當(dāng)然,任何技術(shù)都無法阻止企業(yè)故意濫用人工智能系統(tǒng)。最近一項針對人工智能早期使用者的調(diào)查顯示,在與人工智能相關(guān)的三大擔(dān)憂中,不到三分之一的人將倫理風(fēng)險列為最重要的三大擔(dān)憂。相比之下,超過一半的受訪者表示,網(wǎng)絡(luò)安全是他們最關(guān)心的三大問題之一。
他說,除了聲譽受損和與隱私相關(guān)的合規(guī)標(biāo)準(zhǔn)之外,沒有什么能迫使企業(yè)做出正確的事情了。
Katyal說:“在缺乏監(jiān)管的情況下,人們會做自己想做的事!备髦菡谥贫ǚò,擴(kuò)大對隱私的保護(hù),另外有一個國家標(biāo)準(zhǔn)也是有意義的。但他說,即使有隱私規(guī)定,也無助于解決算法存在偏見或濫用的問題。“我們將如何更好的控制它?這是我看到的當(dāng)下組織需要解決的一個重要問題。”

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
7月8日立即報名>> 【在線會議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費參會立即報名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題