AI人工智能下沉,MCU還能做些什么

2024.06.17 華年商城瀏覽量: 564

在人工智能和機(jī)器學(xué)習(xí)的推動(dòng)下,邊緣計(jì)算的需求正在逐漸增加?相關(guān)機(jī)構(gòu)預(yù)測,全球被創(chuàng)建?采集和復(fù)制的數(shù)據(jù)將急劇擴(kuò)張,至2025年達(dá)到175ZB(澤字節(jié))?為減輕數(shù)據(jù)在云端處理的負(fù)荷,越來越多的數(shù)據(jù)也將被置入邊緣側(cè)進(jìn)行運(yùn)算?

作為電子設(shè)備的主控制芯片,MCU對(duì)于邊緣計(jì)算設(shè)備的數(shù)據(jù)處理和決策能力提升有著重要作用,將在邊緣AI的浪潮中迎來新的發(fā)展機(jī)遇,同時(shí)也面臨著更多的挑戰(zhàn)?

邊緣AI浪潮來襲,拓展MCU市場空間

物聯(lián)網(wǎng)(IoT)設(shè)備?工控?智能家居和智能穿戴等領(lǐng)域的需求,正在帶動(dòng)MCU市場的增長?從長期來看,在保證低功耗?強(qiáng)實(shí)時(shí)性的前提下,讓MCU具備更強(qiáng)的邊緣側(cè)計(jì)算和智能決策能力成為了下游市場的期許?

在這個(gè)過程中,邊緣AI成為智能設(shè)備發(fā)展的重點(diǎn)?邊緣AI是在物理世界的設(shè)備中部署AI應(yīng)用程序?之所以稱其為“邊緣AI”,是因?yàn)檫@種AI計(jì)算在靠近數(shù)據(jù)的位置完成?對(duì)比云端運(yùn)算,邊緣AI具備強(qiáng)實(shí)時(shí)性,數(shù)據(jù)處理不會(huì)因?yàn)殚L途通信而產(chǎn)生延遲,而是能更快響應(yīng)終端用戶的需求,同時(shí)也可保證數(shù)據(jù)的隱私和安全?

對(duì)比傳統(tǒng)邊緣計(jì)算只能響應(yīng)預(yù)先完成的程序輸入這一特性,邊緣AI又具備更強(qiáng)的靈活性,從而允許更多樣的信號(hào)輸入(包括文本?語音及多種聲光信號(hào)等)和針對(duì)特定類型任務(wù)的智能解決方案?

邊緣AI的以上特性,與MCU有著較強(qiáng)的契合度?一方面,MCU具備低功耗?低成本?實(shí)時(shí)性?開發(fā)周期短等特性,適合對(duì)成本和功耗敏感的邊緣智能設(shè)備?另一方面,人工智能算法的融入也能補(bǔ)強(qiáng)MCU,使其兼顧更高性能的數(shù)據(jù)處理任務(wù)?

因此,“MCU+邊緣AI”正在圖像監(jiān)控?語音識(shí)別?健康狀況監(jiān)測等越來越多的領(lǐng)域得到應(yīng)用?此外,在IoT的基礎(chǔ)之上,MCU和邊緣AI的結(jié)合也將推動(dòng)AIoT(人工智能物聯(lián)網(wǎng))的發(fā)展,使各種設(shè)備能夠更加智能地互聯(lián)互通?數(shù)據(jù)機(jī)構(gòu)Mordor Intelligence預(yù)測,邊緣人工智能硬件市場在2024至2029年間將以19.85%的年復(fù)合增長率增長,2029年將達(dá)到75.2億美元?

“未來的MCU將面向?qū)I(yè)化?智能化方向發(fā)展?”北京奕斯偉計(jì)算技術(shù)股份有限公司首席市場官劉帥告訴《中國電子報(bào)》記者,“其中智能化體現(xiàn)在兩方面,一是強(qiáng)化對(duì)AI算法和機(jī)器學(xué)習(xí)模型的支持,使得MCU擁有一定智能決策能力;二是性能提升,高端產(chǎn)品將采用多核設(shè)計(jì)以提升處理能力,滿足高性能的需求?”

集成AI加速器, 強(qiáng)化MCU性能

邊緣AI為MCU帶來了諸多市場機(jī)遇,而想要滿足智能設(shè)備在邊緣側(cè)進(jìn)行人工智能的運(yùn)算需求,強(qiáng)化MCU的AI性能是重中之重?

“面向邊緣AI和端側(cè)AI需求,MCU需要做出以下調(diào)整以增強(qiáng)AI計(jì)算能力?”兆易創(chuàng)新MCU事業(yè)部產(chǎn)品市場總監(jiān)陳思偉表示,“一是集成AI加速器,如神經(jīng)網(wǎng)絡(luò)加速器或者專用的向量處理器,以加速AI推斷和訓(xùn)練任務(wù);二是優(yōu)化能效比,在保持性能的同時(shí)降低功耗,延長設(shè)備續(xù)航時(shí)間;三是增強(qiáng)安全性,包括數(shù)據(jù)加密?安全引導(dǎo)和安全存儲(chǔ),以保護(hù)用戶數(shù)據(jù)不受攻擊;四是支持多模態(tài)感知;五是優(yōu)化系統(tǒng)集成,提供更多的硬件接口和軟件支持,使得開發(fā)人員能夠更輕松地將AI功能集成到邊緣設(shè)備中?”

在AI加速器方面,數(shù)字信號(hào)處理器(DSP)和神經(jīng)網(wǎng)絡(luò)處理器(NPU)都成為在MCU中集成的重要加速組件,讓MCU能夠在邊緣運(yùn)行AI算法?具體而言,DSP更適合信號(hào)處理任務(wù),包括音頻?視頻?通信等,而NPU則更聚焦于高效處理大量的矩陣運(yùn)算和并行計(jì)算任務(wù)?

為此,各大廠商積極布局?意法半導(dǎo)體于2023年推出STM32N6,采用Arm Cortex-M55內(nèi)核,集成ISP和NPU以提供機(jī)器視覺處理能力和AI算法部署?恩智浦推出MCX N系列MCU,具有雙核Arm Cortex-M33,并集成了eIQ Neutron NPU,據(jù)了解,該NPU可將機(jī)器學(xué)習(xí)推理性能提升約40倍?

作為大多數(shù)MCU內(nèi)核的供應(yīng)方,Arm也在邊緣側(cè)NPU上發(fā)力?4月,Arm推出Ethos-U85 NPU,作為一款A(yù)I微加速器,其支持Transformer架構(gòu)和CNN(卷積神經(jīng)網(wǎng)絡(luò)),配合Armv9 Cortex-A CPU可提供4TOPS的端側(cè)算力,助力AI推理?

Arm Ethos-U85 NPU(圖片來源:Arm)

“許多不同的處理器都可以實(shí)現(xiàn)人工智能?AI可以在Arm核中運(yùn)行,也可以在NPU?DSP當(dāng)中,不同處理器將會(huì)運(yùn)行不同算法,那么功耗也會(huì)不同?”恩智浦執(zhí)行副總裁兼安全連接邊緣業(yè)務(wù)總經(jīng)理Rafael Sotomayor表示,“是否在Arm核或者DSP中實(shí)現(xiàn)AI功能,這取決于工程團(tuán)隊(duì)的技術(shù)專長?我們使用NPU來做,是因?yàn)?從我們的技術(shù)出發(fā))速度更快,而且能耗更小?當(dāng)然,如果客戶對(duì)特定機(jī)器學(xué)習(xí)算法有要求,也可以繼續(xù)使用DSP?”

實(shí)現(xiàn)性能功耗成本平衡 ,

構(gòu)建平臺(tái)化方案

盡管可以通過集成NPU等AI加速器使MCU支持AI算法,但是高性能往往會(huì)帶來更高的功耗?因此在提升性能的同時(shí),也要保證MCU在功耗和成本等諸多要素之間達(dá)到平衡?這不僅考驗(yàn)MCU廠商的芯片設(shè)計(jì)能力,也對(duì)公司整體成本和功耗優(yōu)化提出了更高要求?

使用自研NPU成為廠商平衡成本與效能的選擇之一?據(jù)悉,意法半導(dǎo)體所發(fā)布的STM32N6采用了自研的Neural-Art加速器,恩智浦MCX N系列所集成的eIQ Neutron NPU同樣為自研?這既有利于降低授權(quán)成本,也能保證在自身技術(shù)路徑下對(duì)NPU迭代節(jié)奏的合理把控?

eIQ Neutron神經(jīng)處理單元框圖(圖片來源:恩智浦)

同時(shí),內(nèi)核架構(gòu)的選項(xiàng)也在增加?當(dāng)前在MCU市場中,除少部分8位MCU使用CISC架構(gòu),Arm架構(gòu)的Cortex-M系列核由于功耗表現(xiàn)較好占據(jù)主流,而隨著RISC-V架構(gòu)逐漸發(fā)展,這一新興架構(gòu)也逐漸獲得廠商的青睞?據(jù)悉,ADI推出的MAX78000/2在集成專用神經(jīng)網(wǎng)絡(luò)加速器的基礎(chǔ)上,提供了Arm核與RISC-V核兩種方案,可在本地以低功耗執(zhí)行AI處理,最大程度地降低CNN運(yùn)算的能耗和延遲?

劉帥向記者表示,采用RISC-V架構(gòu)能夠?yàn)镸CU廠商帶來更多優(yōu)勢,一方面,RISC-V內(nèi)核靈活可裁剪,可根據(jù)具體應(yīng)用需求進(jìn)行定制;另一方面,由于RISC-V架構(gòu)更加簡潔,功耗也更低?此外,相比ARM架構(gòu),作為開源架構(gòu)的RISC-V也能降低授權(quán)費(fèi)用和開發(fā)成本?

而站在客戶的視角,除了需要MCU產(chǎn)品在高性能?低功耗?低成本等多方面達(dá)成平衡,也希望MCU廠商能夠提供平臺(tái)化的整套解決方案?

“過去客戶的選擇是自下而上的——先選擇芯片,再思考需要何種軟件?應(yīng)用等?現(xiàn)在則是從應(yīng)用層開始,自上而下到芯片,以獲取技術(shù)支撐?”Rafael Sotomayor指出,“這些技術(shù)非常復(fù)雜,不僅涉及人工智能,還涉及信息安全?功能安全?視覺?音頻等?

因此,幫助客戶簡化技術(shù)的復(fù)雜性,成為廠商為客戶提供產(chǎn)品和服務(wù)的核心價(jià)值?”今年4月,恩智浦宣布與英偉達(dá)合作,將英偉達(dá)TAO工作組件集成在恩智浦eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境中,以便開發(fā)者加速開發(fā),并部署經(jīng)過訓(xùn)練的AI模型?

ADI基于MAX78000/2,提供了開發(fā)工具M(jìn)AX78000EVKIT#,以幫助開發(fā)者實(shí)現(xiàn)平穩(wěn)的評(píng)估和開發(fā)體驗(yàn)?意法半導(dǎo)體同樣推出云端開發(fā)者平臺(tái)STM32Cube.AI,支持使用者在云端對(duì)已有資源進(jìn)行配置,進(jìn)一步降低邊緣人工智能技術(shù)開發(fā)的復(fù)雜度?

綜合來看,面對(duì)邊緣AI浪潮所帶來的挑戰(zhàn),MCU廠商正在積極探索,并展示出多樣化的發(fā)展路徑?盡管架構(gòu)及AI加速器等方案的“最優(yōu)解”目前還未有定數(shù),但是對(duì)于MCU而言,在保證低功耗和低成本等基本特性的前提下,不斷提升計(jì)算能力和安全性能來適應(yīng)越發(fā)復(fù)雜的邊緣計(jì)算環(huán)境,已是大勢所趨?