中美共識(shí),欲用AI檢測(cè)系統(tǒng)漏洞
大多數(shù)網(wǎng)絡(luò)安全事件是軟件代碼錯(cuò)誤的結(jié)果,黑客有名的零日攻擊,利用未知的漏洞滲透到計(jì)算機(jī)系統(tǒng),Stuxnet是針對(duì)伊朗鈾濃縮計(jì)劃中的計(jì)算機(jī)病毒,是零日攻擊的著名例子。
然而,每年寫入數(shù)十億行代碼,捕獲和糾正每個(gè)系統(tǒng)漏洞都很困難。美國和中國的研究人員認(rèn)為人工智能或許可以提供解決方案。
到目前為止,隨著漏洞的數(shù)量不斷增加,人力已大大跟不上進(jìn)度。美國軍方研究機(jī)構(gòu)國防高級(jí)研究計(jì)劃局(Defense Advanced Research Projects Agency)的項(xiàng)目經(jīng)理桑迪普·尼瑪(Sandeep Neema)表示:“軟件中的漏洞并沒有減少,這是令人擔(dān)憂和具有挑戰(zhàn)性的。”該機(jī)構(gòu)已花費(fèi)數(shù)百萬美元資助開發(fā)人工智能系統(tǒng)用來檢測(cè)軟件缺陷。
當(dāng)前的軟件檢查技術(shù)有點(diǎn)像文字處理器中的拼寫檢查,識(shí)別印刷或語法錯(cuò)誤。在將新軟件付諸實(shí)踐之前,開發(fā)人員通常還會(huì)審查彼此的代碼并運(yùn)行測(cè)試。
“就我們?nèi)绾翁岣哕浖|(zhì)量而言,最先進(jìn)的技術(shù)仍然是測(cè)試驅(qū)動(dòng)的,”Neema先生說。這些方法的問題在于沒有發(fā)現(xiàn)許多錯(cuò)誤,即使開發(fā)時(shí)間的50%到75%通常用于測(cè)試。AI bug探測(cè)器有望使開發(fā)人員的審查代碼更準(zhǔn)確,減少勞動(dòng)強(qiáng)度。
“它確實(shí)減少了花在尋找那些高優(yōu)先級(jí)漏洞上的時(shí)間,”機(jī)器學(xué)習(xí)科學(xué)家Rebecca Russell說道,她在Drapa實(shí)驗(yàn)室?guī)椭O(shè)計(jì)的人工智能系統(tǒng)得到了Darpa的資助。根據(jù)Russell女士及其同事今年夏天發(fā)表的一篇研究論文,Draper的系統(tǒng)掃描軟件以識(shí)別程序的哪些部分包含漏洞,其性能優(yōu)于使用靜態(tài)分析的三種工具,這是最好的軟件審查方法之一。
該項(xiàng)目的技術(shù)總監(jiān)Marc McConley表示,該實(shí)驗(yàn)室目前正在與美國國防部的各個(gè)部門合作,以尋找該技術(shù)的應(yīng)用。“他們主要擔(dān)心的是保護(hù)他們的大型軟件系統(tǒng)免受網(wǎng)絡(luò)攻擊,”
雖然這項(xiàng)研究處于初期階段,但德雷珀還在開發(fā)能夠自動(dòng)修復(fù)軟件故障的人工智能。多倫多大學(xué)計(jì)算機(jī)科學(xué)助理教授范龍也從事自動(dòng)軟件修復(fù)工作,他表示,未來幾年可能會(huì)出現(xiàn)商業(yè)上可行的自動(dòng)修復(fù)常規(guī)錯(cuò)誤的工具。“解決許多這些錯(cuò)誤并不是很有創(chuàng)意,人們往往會(huì)在類似的系統(tǒng)上犯同樣的錯(cuò)誤,“龍教授說。
中國的國家機(jī)構(gòu)也資助了研究,以生產(chǎn)AI錯(cuò)誤檢測(cè)系統(tǒng)。德克薩斯大學(xué)圣安東尼奧分校的計(jì)算機(jī)科學(xué)教授Shouhuai Xu表示,當(dāng)對(duì)四種“非常廣泛使用的”商業(yè)軟件產(chǎn)品進(jìn)行測(cè)試時(shí),該系統(tǒng)發(fā)現(xiàn)了10個(gè)尚未檢測(cè)到的漏洞,該系統(tǒng)由一組學(xué)者開發(fā)。
這些隱藏在存在安全風(fēng)險(xiǎn)的缺陷上的工具仍處于開發(fā)階段,但一些公司已經(jīng)在使用AI進(jìn)行一般軟件掃描。例如,視頻游戲制造商育碧(Ubisoft)在3月份發(fā)布了一款工具,該工具使用AI在實(shí)施之前標(biāo)記可能存在錯(cuò)誤的代碼。該公司總部位于蒙特利爾的研究實(shí)驗(yàn)室負(fù)責(zé)人Yves Jacquier表示,他們的工具在測(cè)試期間將開發(fā)時(shí)間縮短了20%,并且公司計(jì)劃在今年年底之前進(jìn)行“重大”推廣。
Darpa關(guān)于錯(cuò)誤檢測(cè)的工作是一個(gè)名為Muse的程序的一部分,該程序還在更廣泛的類別中稱為“大代碼”,以促進(jìn)AI研究。該字段基于與“大數(shù)據(jù)”大致相同的原則,檢查大量代碼庫以生成見解并學(xué)習(xí)如何編寫更好的代碼。它旨在通過創(chuàng)建首先具有較少缺陷的代碼來解決另一方面的軟件問題。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢(shì)
- 5 中國最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人