揭秘基于FPGA異構(gòu)計(jì)算的深蘭科技AI加速器平臺(tái)
AI加速器是一類(lèi)專(zhuān)門(mén)的硬件電路或計(jì)算系統(tǒng),旨在加速人工智能算法的實(shí)現(xiàn),尤其是機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和語(yǔ)音識(shí)別等需要大規(guī)模計(jì)算的應(yīng)用。典型的應(yīng)用場(chǎng)景包括無(wú)人駕駛系統(tǒng)、機(jī)器人技術(shù)、監(jiān)控安防等計(jì)算密集型任務(wù)場(chǎng)景。
AI加速器是涉及算法模型、網(wǎng)絡(luò)框架、軟件工具鏈、加速器IP和硬件平臺(tái)的復(fù)雜AI算法實(shí)現(xiàn)系統(tǒng)。深蘭科技AI加速平臺(tái)采用異構(gòu)計(jì)算的FPGA芯片,并自主研發(fā)了加速器IP及整套開(kāi)發(fā)工具,在多任務(wù)處理方面的優(yōu)勢(shì)尤為突出。
深蘭科技AI加速解決方案如下圖所示
1.異構(gòu)計(jì)算在A(yíng)I加速領(lǐng)域的優(yōu)勢(shì)
深蘭科技的AI加速硬件平臺(tái)采用賽靈思的MPSOC系列FPGA。MPSOC是一種集成多處理器系統(tǒng)的異構(gòu)計(jì)算芯片,其中的多處理器系統(tǒng)包括:CPU(applications processor),RTP(real-time processor),GPU(graphics processor)以及FPGA(Field Programmable Gate Array)。不同的處理器適合處理的任務(wù)不同,多處理器的異構(gòu)計(jì)算系統(tǒng)在A(yíng)I加速領(lǐng)域有著獨(dú)特的優(yōu)勢(shì)。
以人臉識(shí)別應(yīng)用為例,來(lái)看一下異構(gòu)計(jì)算平臺(tái)在A(yíng)I加速領(lǐng)域的表現(xiàn)。
1.?dāng)?shù)據(jù)采集階段,計(jì)算平臺(tái)要提供傳感器接入的能力;
2.?dāng)?shù)據(jù)處理階段,計(jì)算平臺(tái)要提供常見(jiàn)的視頻圖像處理庫(kù);
3.特征提取和比對(duì)階段,包含大量的數(shù)據(jù)調(diào)度和重復(fù)計(jì)算任務(wù);
4.最終模型輸出和顯示階段,計(jì)算平臺(tái)要提供圖像疊加和視頻顯示等功能。
單獨(dú)的CPU更適合處理串行的控制流,不適用于大規(guī)模的并行計(jì)算;單獨(dú)的GPU更適合處理大規(guī)模的并行計(jì)算,但是在處理控制流方面又顯得捉襟見(jiàn)肘。MPSOC中的多核ARM適合視頻采集和數(shù)據(jù)預(yù)處理,FPGA中各種加速算子適合特征提取和特征比對(duì),Mali GPU適合最終輸出顯示。多種處理器協(xié)同合作才能高效的完成人臉識(shí)別任務(wù)。
深蘭科技AI加速器如何高效工作
決定AI加速器工作效率的關(guān)鍵有三點(diǎn):
1.高帶寬的片外數(shù)據(jù)吞吐;
2.高效率的片上數(shù)據(jù)緩存;
3.針對(duì)性的大規(guī)模并行計(jì)算單元。
深蘭科技AI加速器在設(shè)計(jì)的時(shí)候充分考慮了這三個(gè)因素
深蘭科技自主研發(fā)的AI加速器采用ARM和FPGA協(xié)同工作的架構(gòu),ARM和FPGA上各掛有一組帶寬高達(dá)150G的DDR4內(nèi)存顆粒,兩組內(nèi)存統(tǒng)一編址,便于內(nèi)存管理。內(nèi)存顆粒和計(jì)算單元間采用AXI4高速總線(xiàn)互聯(lián),AXI_INTERCONNECT可以保證高效的多路數(shù)據(jù)總線(xiàn)讀寫(xiě)仲裁,避免多路總線(xiàn)沖突及帶寬分配不均衡。
高帶寬的片外數(shù)據(jù)吞吐只能保證海量的數(shù)據(jù)可以送進(jìn)FPGA,數(shù)據(jù)如果要進(jìn)入計(jì)算單元,還要經(jīng)過(guò)高效的片上數(shù)據(jù)重組和數(shù)據(jù)緩存。深蘭科技的AI加速器按照NCHW的格式重組數(shù)據(jù),重組完的數(shù)據(jù)被寫(xiě)入相應(yīng)的片上緩存(RAM和FIFO)。
不同類(lèi)型的計(jì)算任務(wù)由定制化開(kāi)發(fā)的RTL算子完成,這樣可以保證很高的計(jì)算效率。目前完成的算子包括卷積算子、池化算子、上采樣算子、加法算子和softmax算子等,具體參數(shù)見(jiàn)下表。
3.深蘭科技AI加速器應(yīng)用案例展示
無(wú)人駕駛應(yīng)用:
紅綠燈識(shí)別,采用Mobilenet+Edlenet的組合神經(jīng)網(wǎng)絡(luò)提高小目標(biāo)的識(shí)別準(zhǔn)確性。
智能交通應(yīng)用:
航拍目標(biāo)檢測(cè),直升機(jī)高空俯視航拍,用于智能交通控制。
激光雷達(dá)應(yīng)用:
點(diǎn)云數(shù)據(jù)目標(biāo)檢測(cè),使用Pixornet神經(jīng)網(wǎng)絡(luò)進(jìn)行3D 目標(biāo)檢測(cè)的鳥(niǎo)瞰圖檢測(cè)。

發(fā)表評(píng)論
登錄
手機(jī)
驗(yàn)證碼
立即登錄即可訪(fǎng)問(wèn)所有OFweek服務(wù)
還不是會(huì)員?免費(fèi)注冊(cè)
忘記密碼請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線(xiàn)下論壇】第三屆安富利汽車(chē)生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠(chǎng)展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
8月5日立即報(bào)名>> 【在線(xiàn)會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專(zhuān)題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣(mài)機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)
- 10 張勇等人退出阿里合伙人