未來(lái)已來(lái),如何減少人工智能帶來(lái)的風(fēng)險(xiǎn)?
為了在新時(shí)代蓬勃發(fā)展,企業(yè)安全需要減少人工智能帶來(lái)的風(fēng)險(xiǎn),并充分利用它提供的機(jī)會(huì)。
人工智能(AI)正在創(chuàng)造信息安全的新領(lǐng)域。能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的系統(tǒng)將越來(lái)越多地復(fù)制人類的行為。就像人類一樣,他們也會(huì)有缺陷,但也有能力取得偉大的成就。
人工智能帶來(lái)了新的信息風(fēng)險(xiǎn),并使一些現(xiàn)有風(fēng)險(xiǎn)更加危險(xiǎn)。但是,它也可以永久使用,并且應(yīng)該成為每個(gè)組織防御性武器庫(kù)中的關(guān)鍵部分。業(yè)務(wù)和信息安全領(lǐng)導(dǎo)者都必須在接受即將成為日常業(yè)務(wù)中至關(guān)重要的技術(shù)之前,先了解風(fēng)險(xiǎn)和機(jī)遇。
人工智能已經(jīng)在許多主流業(yè)務(wù)用例中找到了自己的方式。組織使用AI的變體來(lái)支持客戶服務(wù),人力資源和銀行欺詐檢測(cè)等領(lǐng)域的流程。但是,這種炒作可能導(dǎo)致人們對(duì)AI的真正含義及其對(duì)業(yè)務(wù)和安全的真正含義感到困惑和懷疑。很難將一廂情愿的想法與現(xiàn)實(shí)分開。
人工智能帶來(lái)的信息風(fēng)險(xiǎn)是什么?
隨著組織采用AI系統(tǒng),它們對(duì)于日常業(yè)務(wù)運(yùn)營(yíng)將變得越來(lái)越重要。一些組織已經(jīng)擁有或?qū)碛型耆蕾嘇I技術(shù)的業(yè)務(wù)模型。無(wú)論組織使用了AI的哪些功能,這樣的系統(tǒng)和支持AI的信息都會(huì)存在固有的漏洞,并且受到意外和對(duì)抗性風(fēng)險(xiǎn)的威脅。受損的AI系統(tǒng)將做出錯(cuò)誤的決策并產(chǎn)生意外的結(jié)果。
同時(shí),組織開始面臨復(fù)雜的基于AI的攻擊,這些攻擊有可能以前所未有的速度和規(guī)模破壞信息并造成嚴(yán)重的業(yè)務(wù)影響。采取措施保護(hù)內(nèi)部AI系統(tǒng)并防御外部AI威脅,對(duì)于降低信息風(fēng)險(xiǎn)至關(guān)重要。
盡管組織采用的AI系統(tǒng)提供了誘人的目標(biāo),但對(duì)抗性攻擊者也開始將AI用于自己的攻擊。AI是一種功能強(qiáng)大的工具,可用來(lái)增強(qiáng)攻擊技術(shù),甚至創(chuàng)建全新的攻擊技術(shù)。組織必須準(zhǔn)備好調(diào)整防御措施,以應(yīng)對(duì)基于AI的網(wǎng)絡(luò)攻擊的規(guī)模和復(fù)雜性。
人工智能提供的防御性機(jī)會(huì)
安全從業(yè)者總是在努力跟上攻擊者使用的方法,而AI系統(tǒng)至少可以通過顯著增強(qiáng)各種防御機(jī)制來(lái)提供短期的能力提升。AI可以將大量任務(wù)自動(dòng)化,幫助人手不足的安全部門填補(bǔ)專業(yè)技能缺口,提高從業(yè)人員的效率。
為了保護(hù)自己免受現(xiàn)有威脅,AI可以讓防御者領(lǐng)先一步。然而,對(duì)手并不是靜止不動(dòng)的——隨著支持AI的威脅變得越來(lái)越復(fù)雜,安全從業(yè)者將需要使用AI支持的防御來(lái)跟上形勢(shì)。
在應(yīng)對(duì)威脅方面,AI的好處在于,它可以獨(dú)立行動(dòng),在不需要人類監(jiān)督的情況下采取相應(yīng)措施,而且速度比人類快得多?紤]到惡意軟件的存在幾乎可以在瞬間危害整個(gè)系統(tǒng),這是一個(gè)非常有價(jià)值的能力。
人工智能可以顯著增強(qiáng)防御機(jī)制的方式有很多,這為我們提供了樂觀的理由,但與任何一種新技術(shù)一樣,人工智能也不是靈丹妙藥。安全從業(yè)人員應(yīng)該意識(shí)到部署防御性AI所涉及的實(shí)際挑戰(zhàn)。
在部署防御性AI系統(tǒng)之前,需要考慮的問題和考慮的范圍很窄,而且是為了完成一種任務(wù)而設(shè)計(jì)的。他們需要足夠的數(shù)據(jù)和輸入來(lái)完成這項(xiàng)任務(wù)。一個(gè)單一的防御性AI系統(tǒng)將不能增強(qiáng)之前概述的所有防御機(jī)制——一個(gè)組織可能采用多個(gè)系統(tǒng)。在購(gòu)買和部署防御性AI系統(tǒng)之前,安全領(lǐng)導(dǎo)應(yīng)該考慮是否需要一個(gè)AI系統(tǒng)來(lái)解決問題,或者更傳統(tǒng)的選擇是否會(huì)起到類似或更好的作用。
要問的問題包括:
●問題有局限嗎?(例如,它是否可以用一個(gè)數(shù)據(jù)集或一種輸入類型來(lái)處理,或者它是否需要高度理解上下文,通常哪些人更擅長(zhǎng)提供?)
●組織是否有運(yùn)行和優(yōu)化AI系統(tǒng)所需的數(shù)據(jù)?
安全領(lǐng)導(dǎo)者還需要考慮圍繞防御AI的治理問題,比如:
●防御性AI系統(tǒng)如何適應(yīng)組織的安全治理架構(gòu)?
●組織如何為防御AI系統(tǒng)提供安全保障?
●如何維護(hù)、備份、測(cè)試和修補(bǔ)防御性AI系統(tǒng)?
●組織是否有足夠的技術(shù)人員來(lái)為防御AI系統(tǒng)提供監(jiān)督?
人工智能不會(huì)用技術(shù)專長(zhǎng)和對(duì)風(fēng)險(xiǎn)的直覺來(lái)取代對(duì)熟練安全從業(yè)人員的需求。這些安全從業(yè)人員需要在人工監(jiān)視的需要和允許人工智能支持的控制自動(dòng)有效地工作的信心之間取得平衡。這種信心需要時(shí)間來(lái)培養(yǎng),尤其是在人工智能被證明不可靠、或做出糟糕或意外決定的故事不斷涌現(xiàn)的情況下。
人工智能系統(tǒng)會(huì)犯錯(cuò)誤,人類監(jiān)督的一個(gè)有益方面是,當(dāng)事情出錯(cuò)時(shí),從業(yè)人員可以提供反饋,并將其納入人工智能的決策過程。當(dāng)然,人類也會(huì)犯錯(cuò),采用防御性AI的組織需要投入時(shí)間、培訓(xùn)和支持來(lái)幫助安全從業(yè)人員學(xué)習(xí)如何使用智能系統(tǒng)。
如果有時(shí)間一起發(fā)展和學(xué)習(xí),人類和AI的結(jié)合應(yīng)該成為組織網(wǎng)絡(luò)防御的一個(gè)有價(jià)值的組成部分。
現(xiàn)在開始準(zhǔn)備:
能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的計(jì)算機(jī)系統(tǒng)預(yù)示著一個(gè)充滿風(fēng)險(xiǎn)和機(jī)遇的新技術(shù)時(shí)代的到來(lái)。已經(jīng)出現(xiàn)的進(jìn)展只是冰山一角,未來(lái)還將出現(xiàn)更多的進(jìn)展。AI系統(tǒng)“思考”的速度和規(guī)模將隨著大數(shù)據(jù)訪問的增加、計(jì)算能力的增強(qiáng)和編程技術(shù)的不斷改進(jìn)而提高。這種力量這種權(quán)力將有可能創(chuàng)造和摧毀一家企業(yè)。
可用于防御的AI工具和技術(shù)也可用于犯罪分子、黑客活動(dòng)分子和政府支持的組織等惡意行為者。這些對(duì)手很快就會(huì)發(fā)現(xiàn)使用AI來(lái)創(chuàng)建諸如智能惡意軟件之類的全新威脅的方法,比如智能惡意軟件。使用傳統(tǒng)控件的安全從業(yè)人員將無(wú)法應(yīng)對(duì)攻擊的速度、數(shù)量和復(fù)雜性。
為了在新時(shí)代蓬勃發(fā)展,組織需要減少AI帶來(lái)的風(fēng)險(xiǎn),并充分利用AI提供的機(jī)會(huì)。這意味著要保護(hù)自己的智能系統(tǒng)并部署自己的智能防御。人工智能不再是對(duì)遙遠(yuǎn)未來(lái)的憧憬:現(xiàn)在是開始準(zhǔn)備的時(shí)候了!
作者:高博編譯編輯: 高博來(lái)源:IT168網(wǎng)站 原創(chuàng)

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人