導讀:基座模型通過工程化開發(fā)適配到專屬領域
隨著大模型向行業(yè)應用的深入發(fā)展,如何將基座模型通過工程化開發(fā)適配到專屬領域,并生產(chǎn)面向用戶的智能化應用,成為大模型落地最后一公里的關鍵問題。MaaS(Model as a service,模型即服務)提供大模型服務、平臺工具、應用開發(fā)等能力,通過工程化方式提升大模型可用、可信和可靠等能力,為大模型工程化落地提供有力支撐。產(chǎn)業(yè)界逐漸涌現(xiàn)出各類MaaS平臺,但同時出現(xiàn)了模型服務質(zhì)量參差不齊、平臺選型難、行業(yè)定制需求復雜等問題,從而亟需一套全面的標準體系助力MaaS行業(yè)健康有序發(fā)展。
中國信息通信研究院(簡稱“中國信通院”)緊跟MaaS領域最新發(fā)展趨勢,依托中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟于2023年成立MaaS工作組,聯(lián)合產(chǎn)學研各界專家共同啟動MaaS系列標準編制,經(jīng)過一年多的持續(xù)努力,現(xiàn)正式發(fā)布MaaS系列標準。本系列標準圍繞MaaS落地中遇到的問題,聚焦大模型定制調(diào)優(yōu)、大模型服務部署和推理加速、模型管理、大模型應用開發(fā)等維度,提出能力要求,為大模型服務商和平臺供應商提供能力建設參考,為應用方提供技術選型依據(jù)。
《MaaS模型即服務技術與應用要求第1部分:模型服務協(xié)議要求》(AIIA/PG 0110-2024)(以下簡稱“協(xié)議要求”)標準針對大模型服務供需雙方簽訂服務協(xié)議(SLA)時涉及的模型推理性能、服務可用性、計量準確性、權責條款等方面進行了明確規(guī)范,為大模型服務提供商和使用方制定服務協(xié)議提供參考。
《MaaS模型即服務技術與應用要求第2部分 模型服務評估方法》(AIIA/PG 0173-2024)標準,以協(xié)議要求標準中的要求為基礎,明確了可落地的模型服務質(zhì)量評估方法,對大模型服務的質(zhì)量進行多維度評估,為其是否滿足SLA提供符合性評價依據(jù),為應用方提供選型參考和質(zhì)量保障。
《MaaS模型即服務技術與應用要求第3部分:模型平臺》(AIIA/PG 0134-2024)標準從數(shù)據(jù)工程、模型調(diào)優(yōu)、模型交付、服務運營、平臺能力等角度對利用基座大模型打造專屬領域模型的全棧能力進行規(guī)范,降低大模型領域化的技術門檻,提升領域模型的定制調(diào)優(yōu)效率和能力。
《MaaS模型即服務技術與應用要求第4部分:模型服務平臺》(AIIA/PG 0137-2024)標準從大模型推理加速、服務部署、服務測試、服務管理、服務運營等角度對將大模型服務化成API等形式的全流程能力進行規(guī)范,指導大模型服務平臺供應商進行能力建設,提升大模型服務的部署效率與供給質(zhì)量。
《MaaS模型即服務技術與應用要求第5部分:模型管理平臺》(AIIA/PG 0193-2024)標準對企業(yè)內(nèi)部模型、數(shù)據(jù)等AI資產(chǎn)的管理運營進行規(guī)范,同時通過使用說明、適用場景、調(diào)用方法等模型卡片要素進行明確,以促進用戶使用大模型的活躍度,幫助企業(yè)以最大程度發(fā)揮大小模型協(xié)同效果。
《MaaS模型即服務技術與應用要求第6部分:模型應用開發(fā)平臺》(AIIA/T 0196-2024)標準圍繞基于大模型的AI應用開發(fā)全流程,從組件構建、RAG構建、智能體應用構建、應用集成和管理以及平臺運營等橫向維度提出規(guī)范要求,縱向維度涉及模型服務調(diào)取、AI能力嵌入、流程編排等技術要求,幫助企業(yè)快速創(chuàng)建私域大模型應用。