應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

鄔賀銓:端側(cè)大模型+智能體將引發(fā)通信終端模式變革

2024-12-24 10:04 通信世界網(wǎng)

導(dǎo)讀:通信終端模式發(fā)送變革

12月23日,在2025中國信通院深度觀察報告會上,中國工程院院士鄔賀銓講道,端側(cè)大模型+智能體將引發(fā)通信終端模式變革。

一是終端形態(tài)多樣化。手機、PC、眼鏡等可穿戴設(shè)備、傳感器/工業(yè)模組、機器人、網(wǎng)聯(lián)車等。

二是終端功能智能化。從智能終端到AI終端,從通信終端到智能體/具身智能,還可離線使用。

三是人機交互多模化。自然語言、觸摸屏、手勢、唇形、眼神等,從GUI(圖形用戶界面)到VUI(語音界面)并發(fā)展為Agent UI(智能體界面),APP存在感和獨立性將被弱化,轉(zhuǎn)而成為系統(tǒng)背后的服務(wù)工具。

四是內(nèi)容供應(yīng)個性化。獲取信息的方式從瀏覽到對話,內(nèi)容的產(chǎn)生從對外檢索到用戶生成(在終端內(nèi)生成與云端協(xié)同生成),提問與獲得的信息態(tài)轉(zhuǎn)換(文生圖與文生視頻),從內(nèi)容預(yù)制到內(nèi)容定制,千人千面。

五是通信連接多元化。從點到點(含接力、流量分擔(dān)與冗余并發(fā))到P2MP/MP2P(包括多歸屬、多切片),智能網(wǎng)聯(lián)車PC5/Uu接口分別實現(xiàn)V2V和V2N連接,以多歸屬/多切片實現(xiàn)多傳感器與車聯(lián)網(wǎng)多設(shè)備互聯(lián),AR視頻會議將異地參會者視頻組成MP2MP連接。

六是計費模式差異化?;隗w驗從流量計費到服務(wù)質(zhì)量計費,計費單元從帶寬到Token或算力,計費方式從包月、流量包到預(yù)訂計時等。

鄔賀銓介紹,端側(cè)大模型+智能體也會對網(wǎng)絡(luò)技術(shù)產(chǎn)生兩大影響。

一方面是大上行與高突發(fā)。根據(jù)Speedtest數(shù)據(jù),2024年10月,我國固寬百兆和千兆接入分別占94.8%和30.4%,固寬下行平均220Mbps,但上行僅44Mbps。采用專線接入可提高上行能力,但因平時無需高帶寬而利用率低且成本高。采用彈性無損智算IP網(wǎng)可支持10GE/100GE用戶接入,按流量時長計費。與此同時,2024年10月,我國5G用戶占移動用戶的55.6%,移動網(wǎng)下行平均140Mbps,但上行也僅23Mbps。對此,需要采用5G-A的大上行技術(shù)來適應(yīng)。

另一方面是云邊端協(xié)同,云與端間需要大帶寬低時延高可靠傳輸具體體現(xiàn)在模型參數(shù)及梯度(端側(cè)訓(xùn)練的模型參數(shù)上傳到云上,對云上大模型進(jìn)行全局參數(shù)更新,再下發(fā)到端側(cè)調(diào)整本地參數(shù),反復(fù)迭代全局尋優(yōu));傳輸模型訓(xùn)練或推理的原始數(shù)據(jù);傳輸在終端中生成的視頻等。對此,可采用RDMA無損高吞吐廣域網(wǎng),輔以負(fù)載均衡精準(zhǔn)流控,支持海量樣本快速入算和存算分離拉遠(yuǎn)訓(xùn)練服務(wù)。

此外,鄔賀銓提到,AI終端及其應(yīng)用推動網(wǎng)絡(luò)技術(shù)創(chuàng)新,也將帶動軟硬件產(chǎn)業(yè)及新型信息服務(wù)業(yè)的發(fā)展。他認(rèn)為AI終端將成為人工智能技術(shù)落地應(yīng)用的切入點,數(shù)字經(jīng)濟發(fā)展賦能的新增長點,以及傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型的著力點。

面向未來,鄔賀銓表示,端側(cè)大模型+智能體將為更多的開發(fā)者投身人工智能技術(shù)開發(fā)展現(xiàn)廣闊的應(yīng)用場景,帶動起AI技術(shù)的眾包時代,開拓產(chǎn)業(yè)的新生態(tài)。