研華推出邊緣生成式AI系統(tǒng),亮相英偉達(dá) 2024 GTC
全球工業(yè)物聯(lián)網(wǎng)品牌廠(chǎng)商研華科技成功整合英偉達(dá)(NVIDIA) 生成式AI模型于MIC-733-AO邊緣AI推理盒子,并在英偉達(dá)GTC 2024 GPU科技展研華攤位上進(jìn)行展示(No. 232),該產(chǎn)品預(yù)示:未來(lái)生成式AI將大幅減少開(kāi)發(fā)者訓(xùn)練模型的時(shí)間,在工業(yè)應(yīng)用上也能以更快速更方便的得到AI推理的結(jié)果。
研華MIC-733-AO+英偉達(dá)生成式AI模型=邊緣生成式AI系統(tǒng)
研華MIC-733-AO邊緣AI系統(tǒng)基于英偉達(dá)Jetson AGX Orin™平臺(tái),搭載英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式人工智能模型,現(xiàn)在成功高效率運(yùn)行大型語(yǔ)言模型(LLMs)、視覺(jué)語(yǔ)言模型(VLM)、視覺(jué)變換器(ViT)以及圖像生成和對(duì)話(huà)生成Llamaspeak,這要?dú)w功于英偉達(dá)Jetson AGX Orin™平臺(tái)的獨(dú)特優(yōu)勢(shì),包括加速計(jì)算、重要的AI軟件和預(yù)先訓(xùn)練的模型,有助于創(chuàng)建、自定義和部署適用于各種應(yīng)用和地點(diǎn)的生成式AI模型。
利用英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式AI模型,AI開(kāi)發(fā)者可以運(yùn)用檢索增強(qiáng)生成(RAG)技術(shù),將LLMs和VLMs連接到公司的知識(shí)庫(kù)。這種方法消除了傳統(tǒng)AI模型訓(xùn)練的需求,允許透過(guò)與系統(tǒng)的簡(jiǎn)單對(duì)話(huà)交互來(lái)產(chǎn)生AI推論,明顯縮短了開(kāi)發(fā)時(shí)間。研華MIC-733-AO擁有高AI運(yùn)算效能和多個(gè)影像輸入接口,例如IP攝影機(jī)、USB/gigE工業(yè)相機(jī)、GMSL攝影機(jī)、激光雷達(dá)等,讓開(kāi)發(fā)者可以輕松串接影像訊息結(jié)合AI運(yùn)算,而工業(yè)級(jí)小體積設(shè)計(jì)更適合放在邊緣端應(yīng)用,即使在英偉達(dá)Jetson AGX Orin運(yùn)行滿(mǎn)載時(shí),出色的散熱設(shè)計(jì)也能防止系統(tǒng)過(guò)熱確保正常運(yùn)行。
邊緣生成式AI系統(tǒng)反應(yīng)更實(shí)時(shí),應(yīng)用更多元
生成式AI通過(guò)從不同的輸入和輸出(例如文本和圖像)創(chuàng)建新內(nèi)容,正在改變?nèi)伺c計(jì)算機(jī)的互動(dòng)方式。從云端到邊緣端,邊緣端生成式AI更適合需要快速反應(yīng)和低延遲環(huán)境的良好解決方案。在邊緣端生成式AI相對(duì)于云端生成式AI的解決方案具有以下幾點(diǎn)優(yōu)勢(shì):
實(shí)時(shí)反應(yīng):根據(jù)攝影機(jī)和傳感器等數(shù)據(jù)來(lái)源的邊緣計(jì)算系統(tǒng)能夠立即回應(yīng),無(wú)需等待與云端上傳數(shù)據(jù)造成的延遲。
數(shù)據(jù)安全:數(shù)據(jù)儲(chǔ)存在邊緣系統(tǒng)中,大幅降低云端數(shù)據(jù)傳輸相關(guān)的安全風(fēng)險(xiǎn)。
穩(wěn)定的網(wǎng)絡(luò)連接:即使沒(méi)有無(wú)線(xiàn)網(wǎng)絡(luò),邊緣系統(tǒng)也能夠操作并將數(shù)據(jù)存儲(chǔ)在本地端,直到網(wǎng)絡(luò)恢復(fù),而云端生成式AI在沒(méi)有網(wǎng)絡(luò)時(shí)將無(wú)法運(yùn)作。
低傳輸成本:邊緣端AI因不需要隨時(shí)傳輸數(shù)據(jù)給云端,僅需低量傳輸,比云端AI隨時(shí)上傳數(shù)據(jù)更具成本效益。
邊緣生成式AI代表了人工智能時(shí)代的未來(lái)。研華MIC-733-AO邊緣生成式AI系統(tǒng),整合英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式AI模型,為AI開(kāi)發(fā)者提供了一個(gè)簡(jiǎn)單的解決方案。
如果您對(duì)研華MIC-733-AO邊緣生成式AI系統(tǒng)感興趣,可聯(lián)系研華當(dāng)?shù)貥I(yè)務(wù),或者前往官網(wǎng)www.advantech.com.cn了解產(chǎn)品詳細(xì),2024年5月,研華將在深圳、上海、武漢、北京舉辦AI Solution Day全國(guó)巡演,屆時(shí)將展示Jeston AI全家族產(chǎn)品,歡迎感興趣的伙伴積極報(bào)名。
原文標(biāo)題 : 研華推出邊緣生成式AI系統(tǒng),亮相英偉達(dá) 2024 GTC

發(fā)表評(píng)論
登錄
手機(jī)
驗(yàn)證碼
立即登錄即可訪(fǎng)問(wèn)所有OFweek服務(wù)
還不是會(huì)員?免費(fèi)注冊(cè)
忘記密碼請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線(xiàn)會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線(xiàn)下論壇】第三屆安富利汽車(chē)生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠(chǎng)展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專(zhuān)題
- 1 AI 眼鏡讓百萬(wàn) APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺(jué)語(yǔ)言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 特斯拉Robotaxi上路,馬斯克端上畫(huà)了十年的餅
- 7 張勇等人退出阿里合伙人
- 8 AI的夏天:第四范式VS云從科技VS地平線(xiàn)機(jī)器人
- 9 深圳跑出40億超級(jí)隱形冠軍:賣(mài)機(jī)器人年入6.1億,港股上市
- 10 AI視頻,攪動(dòng)1.5萬(wàn)億市場(chǎng)