產(chǎn)業(yè)智能落地難，5G+Edge如何推進AI工程化？

物聯(lián)網(wǎng)智庫 原創(chuàng)

轉(zhuǎn)載請注明來源和出處

導(dǎo)  讀

邊緣計算將作為不可或缺的配套基礎(chǔ)設(shè)施，實現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型，同時在5G和AI技術(shù)加持下，將不斷加速邊緣計算落地到豐富的應(yīng)用場景中。

自2019年工信部向三大運營商頒發(fā)“5G牌照”至今已兩年有余，國內(nèi)5G網(wǎng)絡(luò)建設(shè)取得的領(lǐng)先優(yōu)勢有目共睹，恰逢我國“十四五”開局之年，《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標(biāo)綱要》中明確提出，加快推動數(shù)字產(chǎn)業(yè)化，構(gòu)建基于5G的應(yīng)用場景和產(chǎn)業(yè)生態(tài)，在智能交通、智慧物流、智慧能源、智慧醫(yī)療等重點領(lǐng)域開展試點示范。

作為未來5-10年內(nèi)的主流移動通信方式，5G網(wǎng)絡(luò)建設(shè)如火如荼推進的同時，隨著越來越多的終端設(shè)備接入5G網(wǎng)絡(luò)，隨之而來的數(shù)據(jù)量也與日俱增，無疑對后端計算提出了更大的挑戰(zhàn)。

然而，正所謂“危機共生”，激增的數(shù)據(jù)規(guī)模也極大推動了5G、IoT、AI三大細分領(lǐng)域走向融合，進而為傳統(tǒng)行業(yè)的智能化轉(zhuǎn)型注入驅(qū)動力。而在后端計算領(lǐng)域，5G的發(fā)展不僅沒有使數(shù)據(jù)直達入云，反而憑借其大帶寬、低時延、高可靠特性進一步促進了邊緣計算的崛起，根據(jù)相關(guān)市場機構(gòu)預(yù)測，到2024年邊緣計算市場規(guī)模將達到90億美元，到2027年則有望達到183億美元。

在7月22日舉辦的2021摯物·AIoT產(chǎn)業(yè)領(lǐng)袖峰會（簡稱“摯物大會”）上，創(chuàng)通聯(lián)達副總裁楊新輝在“5G To B”分論壇上為觀眾帶來了題為《5G+Edge驅(qū)動行業(yè)智慧化轉(zhuǎn)型》的精彩演講，分享了其對于5G、邊緣計算、AI在產(chǎn)業(yè)應(yīng)用中的深度觀察，以及創(chuàng)通聯(lián)達在“5G+Edge”領(lǐng)域的落地成果。除此之外，北京創(chuàng)通聯(lián)達智能技術(shù)有限公司還榮獲“2021‘摯物獎’·5G技術(shù)應(yīng)用先鋒企業(yè)獎”。

邊緣計算有效彌補了云計算在時效性、傳輸距離、安全性等方面的不足，可以在靠近用戶的邊緣節(jié)點進行數(shù)據(jù)處理，大大緩解后端計算壓力的同時也保障了計算的即時性。而5G與邊緣計算的結(jié)合更是相得益彰，一方面，5G網(wǎng)絡(luò)通信保障了數(shù)據(jù)本地化處理的實時性與穩(wěn)定性；另一方面，通過將計算從數(shù)據(jù)中心向邊緣下沉，可以更好地將低時延特性作用到終端設(shè)備上，加之AI的助力使得邊緣節(jié)點的運算具備了智能分析能力。

創(chuàng)通聯(lián)達副總裁楊新輝表示，邊緣計算將作為不可或缺的配套基礎(chǔ)設(shè)施，實現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型，同時在5G和AI技術(shù)加持下，將不斷加速邊緣計算落地到豐富的應(yīng)用場景中。

功過參半，AI將邊緣計算推向更高階層的同時，其自身存在的技術(shù)門檻高、流程復(fù)雜、業(yè)務(wù)產(chǎn)出比低、敏捷響應(yīng)度低等諸多挑戰(zhàn)，貫穿從AI模型開發(fā)到部署應(yīng)用的整個環(huán)節(jié)，也在某種程度上限制了邊緣智能在產(chǎn)業(yè)中的落地。正如楊新輝所述，制約產(chǎn)業(yè)智能化進程的最大因素便是AI的工程化。

• 在數(shù)據(jù)開發(fā)階段需要綜合考慮數(shù)據(jù)安全性、工具友好性、管理有效性；

• 在模型開發(fā)階段，則要面臨成本高、難度大、技術(shù)要求高等問題；

• 在AI工程化階段存在碎片化、效率低、邊緣能力弱等挑戰(zhàn)。

針對于此，創(chuàng)通聯(lián)達從流程化出發(fā)，開發(fā)了ModelFarm AI平臺以解決AI工程化難題。

創(chuàng)通聯(lián)達的ModelFarm平臺能夠提供全流程的AI開發(fā)部署能力，提供4個易用的標(biāo)注工具，50個SOTA預(yù)訓(xùn)練模型，可支持包括SNPE、TensorFlow Lite,、Tensor RT,、Open VINO在內(nèi)的不同推理引擎，同時可通過量化訓(xùn)練，提升邊緣側(cè)推理能力，在實現(xiàn)設(shè)備管理的同時，支持遠程算法及應(yīng)用部署。基于ModelFarm平臺，企業(yè)整體開發(fā)成本降低70%，同時開發(fā)效率提升10%以上，有效加速了智慧工業(yè)、智慧樓宇、智慧交通、智慧作業(yè)等領(lǐng)域AI項目的落地。

創(chuàng)通聯(lián)達積極布局5G和邊緣計算領(lǐng)域，從開發(fā)、調(diào)試、交付到運維，保障企業(yè)能夠利用人工智能改善盈利空間。據(jù)楊新輝介紹，創(chuàng)通聯(lián)達采用“DevOps”理念，實現(xiàn)一體化的開發(fā)與智慧運維：

其中，ModelFarm平臺可實現(xiàn)AI模型訓(xùn)練，IoT Harbor平臺可實現(xiàn)設(shè)備管理、FOTA、規(guī)則引擎、數(shù)據(jù)管理、應(yīng)用管理，邊緣側(cè)的OS組件可快速滿足邊緣操作系統(tǒng)的功能要求。

• Osware.connect：支持邊云協(xié)同與邊緣自治，邊緣設(shè)備能在與云端斷開連接后繼續(xù)保持工作，且邊緣設(shè)備恢復(fù)云端連接后可以與云端進行同步，以保持狀態(tài)一致、數(shù)據(jù)一致；支持算力組網(wǎng)，算力任務(wù)自動調(diào)配到最佳計算節(jié)點進行處理，還可以通過增加算力使得計算效率大幅提升；支持多設(shè)備協(xié)同工作，包括工業(yè)領(lǐng)域內(nèi)多機器人協(xié)同工作與工業(yè)領(lǐng)域內(nèi)質(zhì)檢設(shè)備和機械臂設(shè)備協(xié)同工作等。

• Osware.edgey：可通過提供鏡像管理、接口定義、持續(xù)部署等關(guān)鍵能力，簡化微服務(wù)的交付模式，加速邊緣應(yīng)用交付；可通過屏蔽分布式開發(fā)的復(fù)雜性，在開發(fā)、服務(wù)、數(shù)據(jù)、運行、運維等多個層面進行能力聚合；可在層級模塊之間使用基于標(biāo)準(zhǔn)化的數(shù)據(jù)接口和指令接口構(gòu)建API生態(tài)；可整合業(yè)界主流技術(shù)架構(gòu)體系，建立分布式架構(gòu)的技術(shù)基線；支持基于客戶的需求實現(xiàn)高度的定制化能力。

在硬件方面，創(chuàng)通聯(lián)達推出了融合“5G+AI+Edge”技術(shù)的軟硬件一體化產(chǎn)品——EB5邊緣智能站：

• 在硬件設(shè)計上，它提供了最高主頻為2.84GHz的8核CPU 15T算力， 8GB LPDDR5內(nèi)存，能夠支持24路全高清視頻解碼及多種AI推理模型并發(fā)，支持5G 和WiFi6 連接，同時采用工業(yè)級無風(fēng)扇散熱設(shè)計，使該產(chǎn)品能夠完美應(yīng)對各種苛刻的使用環(huán)境要求；

• 在軟件方面， EB5邊緣智能站內(nèi)置智能邊緣操作系統(tǒng)，邊緣計算平臺架構(gòu)，基于EdgeX開源框架，增加對垂直領(lǐng)域內(nèi)設(shè)備接入和控制協(xié)議的支持，增加對k3s等編排框架的支持；基于邊云協(xié)同，對接主流云廠商的服務(wù)，支持設(shè)備管理，系統(tǒng)升級，應(yīng)用分發(fā)等；提供邊緣側(cè)系統(tǒng)級關(guān)鍵服務(wù)；支持實時處理。

除此之外，創(chuàng)通聯(lián)達還推出了EB5智能魔方（Edge AI Cube）幫助企業(yè)快速實現(xiàn)智能化轉(zhuǎn)型，以及高性價比的TurboX CT4350 5G智能通信模組，集成了Qualcomm® Snapdragon™ 480 5G移動平臺，可完美適用于手持終端、行車記錄儀、智能POS機、無人機等領(lǐng)域。

在“摯物大會”的“5G To B”分論壇圓桌對話環(huán)節(jié)，創(chuàng)通聯(lián)達副總裁楊新輝與中國信息通信研究院專家趙小飛以及騰訊游戲技術(shù)運營部高級工程師馬嘯虎、有方科技副總裁羅偉、鼎橋通信技術(shù)預(yù)研部總監(jiān)佟學(xué)儉、吾愛易達聯(lián)合創(chuàng)始人李亞春、北京中微普業(yè)5G市場營銷總經(jīng)理袁為化等行業(yè)專家就5G產(chǎn)業(yè)新趨勢展開了精彩的思想碰撞。

楊新輝提出，5G發(fā)展主要是由應(yīng)用驅(qū)動的，無論是國家層面，還是模組廠商都是在鋪設(shè)管道和基礎(chǔ)設(shè)施，當(dāng)閾值達到一定規(guī)模的時候，應(yīng)用就會爆發(fā)。

創(chuàng)通聯(lián)達基于深度技術(shù)積累，為企業(yè)級客戶提供了貫穿芯片層、驅(qū)動層、操作系統(tǒng)層、算法層及應(yīng)用層的一站式解決方案，基于“5G+Edge”架構(gòu)，在AI工程化的加持下，正成為物聯(lián)網(wǎng)行業(yè)的賦能者。