技術(shù)
導(dǎo)讀:當(dāng)前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關(guān)鍵迭代期。在AI向?qū)嶋H場(chǎng)景落地時(shí),邊緣算力的重要性加速凸顯,邊緣算力在成本、時(shí)延、隱私上具有天然優(yōu)勢(shì),也可以作為橋梁,預(yù)處理海量復(fù)雜需求,并將其導(dǎo)向大模型。
當(dāng)前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關(guān)鍵迭代期。在AI向?qū)嶋H場(chǎng)景落地時(shí),邊緣算力的重要性加速凸顯,邊緣算力在成本、時(shí)延、隱私上具有天然優(yōu)勢(shì),也可以作為橋梁,預(yù)處理海量復(fù)雜需求,并將其導(dǎo)向大模型。
5月10日,谷歌年度I/O開發(fā)者大會(huì)上,谷歌AI大模型PaLM 2如期亮相,模型提供了Gecko(壁虎),Otter(水獺)、Bison(野牛)、Unicorn(獨(dú)角獸)四個(gè)版本,其中輕量級(jí)的Gecko模型可以在移動(dòng)設(shè)備上運(yùn)行,速度非??欤宦?lián)網(wǎng)也能在設(shè)備上運(yùn)行出色的交互式應(yīng)用程序。
目前,以手機(jī)為代表的智能終端性能冗余,算力需求基本滿足目前應(yīng)用需求場(chǎng)景,導(dǎo)致終端消費(fèi)者換機(jī)動(dòng)力不足。而AI大語言模型的小型化發(fā)展,將帶來智能終端的再升級(jí),在手機(jī)、智能家居、機(jī)器人等終端應(yīng)用上內(nèi)嵌部署AI模型,將迎來終端的核心架構(gòu)的變化。
Gecko 小到可以在手機(jī)上運(yùn)行,每秒可以處理20個(gè)token,大約每秒16 或17 個(gè)單詞,大語言模型的小型化迎重大突破。小型化模型將打破智能終端性能冗余窘境,終端接口的硬件性能將迎大升級(jí)。
邊緣算力優(yōu)勢(shì)明顯
邊緣算力,通常指部署在設(shè)備本地的算力或者離用戶距離較近的數(shù)據(jù)中心中的算力,相較于云端算力,邊緣算力具有低成本、低時(shí)延、高隱私三大特性。在沒有邊緣計(jì)算的情況下,所有的數(shù)據(jù)都需要送到一個(gè)中心位置進(jìn)行處理,就像城市中的人們都需要到市中心上班,會(huì)造成交通堵塞(網(wǎng)絡(luò)擁堵),且要花費(fèi)大量通勤時(shí)間(處理延遲)。
引入邊緣計(jì)算就像在城市的各個(gè)區(qū)域建立了辦公室,人們可以在離家更近的地方工作。這樣可以減少通勤時(shí)間(即網(wǎng)絡(luò)延遲),避免交通堵塞(即網(wǎng)絡(luò)擁堵),并且還可以在離家更近的地方完成工作(即在數(shù)據(jù)產(chǎn)生的地方進(jìn)行處理),從而保護(hù)個(gè)人隱私。
邊緣計(jì)算增速強(qiáng)勁
今年2月份,國(guó)際電信咨詢公司STL Partners近日發(fā)布了一份邊緣計(jì)算關(guān)鍵數(shù)據(jù)統(tǒng)計(jì),數(shù)據(jù)預(yù)測(cè)顯示到2030年,邊緣計(jì)算潛在市場(chǎng)將在10年內(nèi)以48%的復(fù)合年增長(zhǎng)率從2020年的90億美元增長(zhǎng)到2030年的4450億美元;到2030年,北美、歐洲和東亞將產(chǎn)生88% 的邊緣服務(wù)收入;2026年,全球26%的網(wǎng)絡(luò)邊緣站點(diǎn)將位于中國(guó)。
根據(jù)億歐智庫的數(shù)據(jù),2021年我國(guó)邊緣計(jì)算市場(chǎng)規(guī)模已經(jīng)達(dá)到427.9億元,其中邊緣硬件市場(chǎng)規(guī)模為281.7億元,邊緣軟件與服務(wù)市場(chǎng)規(guī)模達(dá)146.2億元,2021-2025年中國(guó)邊緣計(jì)算產(chǎn)業(yè)規(guī)模預(yù)計(jì)年復(fù)合增速達(dá)到46.81%,2025年邊緣計(jì)算市場(chǎng)整體規(guī)模達(dá)1987.68億元,增長(zhǎng)空間廣闊。
之前,邊緣側(cè)設(shè)備以部署通信能力為主,當(dāng)下,在以高通為代表的邊緣巨頭推動(dòng)下,算力、AI能力等邊緣基建正在加速推動(dòng),邊緣算力作為AI觸及萬千場(chǎng)景的血管地位加速明晰。展望未來,邊緣算力將始于AI帶來的需求提升,同時(shí)也將賦能應(yīng)用,連接更多用戶,加速AI發(fā)展與迭代。
多元化場(chǎng)景的AI需要邊緣算力
當(dāng)前物聯(lián)網(wǎng)模組進(jìn)入 AIoT 時(shí)代,集成了邊緣算力的智能模組正在逐漸成為支撐邊緣算力的核心形式。智能大腦不僅要處理視覺信息、生成提示詞,更要負(fù)責(zé)輸出指令來執(zhí)行機(jī)械動(dòng)作,如特斯拉針對(duì) Optimus 開發(fā)了 DOJO D1 芯片,充沛的算力(362 TFLPOS@FP8)驅(qū)動(dòng) Optimus 機(jī)器人流暢執(zhí)行各種任務(wù)。自動(dòng)駕駛汽車上, L4 級(jí)別需要帶寬大于100 Mbps,時(shí)延5-10ms。
專注于人工智能和機(jī)器學(xué)習(xí)的初創(chuàng)公司Useful Sensors,通過更智能的界面改善人們的日常生活。由于tinyML 技術(shù)的迅速發(fā)展,一個(gè)售價(jià)為10美元(約合人民幣70+人民幣)的硬件模塊,可以嵌入電視、風(fēng)扇、遙控器、無人機(jī)、攝像頭等設(shè)備中,輕松實(shí)現(xiàn)智能功能。電視可以根據(jù)主人的手勢(shì)實(shí)現(xiàn)遙控、風(fēng)扇可以判斷主人的位置對(duì)準(zhǔn)送風(fēng)、攝像頭可以自動(dòng)識(shí)別房間里的人員數(shù)量。
邊緣計(jì)算是打通工業(yè)互聯(lián)網(wǎng)賦能行業(yè)“最后一公里”的支撐技術(shù),其通過在網(wǎng)絡(luò)邊緣側(cè)匯聚網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用、智能等資源滿足行業(yè)數(shù)字化的關(guān)鍵需求,形成統(tǒng)一標(biāo)準(zhǔn)規(guī)范有利于指導(dǎo)推動(dòng)工業(yè)互聯(lián)網(wǎng)邊緣計(jì)算技術(shù)與業(yè)務(wù)的快速發(fā)展邊緣計(jì)算系列標(biāo)準(zhǔn)旨從供給側(cè)引領(lǐng)研發(fā)方向,在需求側(cè)引導(dǎo)產(chǎn)品選型,推動(dòng)供需高效對(duì)接。
邊緣計(jì)算已成為各國(guó)政策推動(dòng)的新興技術(shù)之一
2022年2月,美國(guó)白宮發(fā)布2022年最新版《關(guān)鍵和新興技術(shù)清單》(CETs)。此次最新版包括十四個(gè)關(guān)鍵技術(shù)領(lǐng)域和五個(gè)新興技術(shù)領(lǐng)域。涵蓋先進(jìn)計(jì)算、先進(jìn)工程材料、人工智能、量子信息技術(shù)等。其中先進(jìn)計(jì)算下包括超級(jí)計(jì)算、邊緣計(jì)算、云計(jì)算、數(shù)據(jù)存儲(chǔ)、計(jì)算架構(gòu)數(shù)據(jù)處理和分析技術(shù)五大子領(lǐng)域。
2022年11月22日,工信部發(fā)布《2022年第三批行業(yè)標(biāo)準(zhǔn)制修訂和外文版項(xiàng)目計(jì)劃》的通知(以下簡(jiǎn)稱《項(xiàng)目計(jì)劃》),共52項(xiàng)工業(yè)互聯(lián)網(wǎng)相關(guān)標(biāo)準(zhǔn)被劃分進(jìn)新型基礎(chǔ)設(shè)施標(biāo)準(zhǔn)項(xiàng)目計(jì)劃表,其中,包含4項(xiàng)邊緣計(jì)算領(lǐng)域行業(yè)標(biāo)準(zhǔn)。
為推動(dòng)邊緣計(jì)算技術(shù)產(chǎn)品的應(yīng)用創(chuàng)新、促進(jìn)邊緣計(jì)算高價(jià)值可復(fù)制創(chuàng)新解決方案的快速孵化,物聯(lián)傳媒聯(lián)合AIoT星圖研究院、深圳市物聯(lián)網(wǎng)產(chǎn)業(yè)協(xié)會(huì)、AIoT庫等媒體機(jī)構(gòu),將在7月份推出《中國(guó)邊緣計(jì)算產(chǎn)業(yè)研究報(bào)告》,現(xiàn)已逐步開始報(bào)告的撰寫和前期調(diào)研工作,歡迎產(chǎn)業(yè)鏈上下游企業(yè)參與調(diào)研,交流行業(yè)信息和見解并提供優(yōu)秀案例。歡迎各位行業(yè)同仁添加以下微信,與報(bào)告分析師交流。