近日，中國信息通信研究院(以下簡稱“中國信通院”)完成可信AI《大模型推理平臺通用能力成熟度》首輪評估。

　　商湯大裝置萬象大模型開發平臺，獲得當前最高評級——4+級，并成為國內首家獲得最高評級的大模型推理平臺。

　　中國信通院依托人工智能關鍵技術和應用評測工業和信息化部重點實驗室、中國人工智能產業發展聯盟AI Infra工作組，聯合七十余家單位共同編制了《大模型推理平臺技術要求》標準，并依托該標準開展可信AI大模型推理平臺首批評估，是國內最具影響力和權威的大模型推理平臺評估之一。

　　該評估聚焦大模型推理平臺的功能、性能、穩定性，關注部署、推理、服務與管理環節，以實現低時延、高吞吐、可擴展、高易用、低成本目標。本次共評估88個能力項，其中基本功能34項，高級功能54項。

　　結果顯示，商湯大裝置的萬象大模型開發平臺在模型的部署、推理、服務環節均表現優異，可為開發者提供高性價比、靈活易用的服務，配備前沿模型、算法、推理引擎、知識庫等套件，助力開發者快速構建行業模型及應用編排。

　　商湯大裝置萬象大模型開發平臺提供從大模型開發到應用構建的全鏈條開發工具，為企業大模型落地提供一站式高效服務。萬象可兼容GPU、NPU等異構推理加速卡;其內置自研高效推理引擎，降低推理成本50%以上;同時，具備完整的安全機制，為企業大模型落地提供安全保障。

　　目前，商湯大裝置萬象大模型開發平臺已在交通、消費、政務、自動駕駛、智能家居、醫療等多個行業多種業務場景中落地。

　　交通領域，基于萬象，我們為某客戶構建了工程勘察設計領域智能平臺，可實現知識檢索、智能問答、報告輔助生成等功能，有效解決了客戶在知識傳承困難、融合性差和應用程度低等方面的痛點。

　　消費領域，某企業希望為員工配備AI助理，改變依賴查閱文檔獲取知識的低效方式。通過萬象平臺的調用大模型、檢索增強生成(RAG)技術、文檔插件及工程化優化，提升了知識獲取效率。

　　政務領域，某政府機構計劃打造小型AI創新平臺，基于萬象模型開發平臺及其配套的模型優化、API調用、部署和監控服務，大大簡化了復雜的部署工程，實現了企業開箱即用。

　　日前，國際數據公司(IDC)發布《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤(2024H2)》，報告顯示，商湯大裝置萬象平臺憑借13%的市場份額穩居國內AI大模型解決方案市場第二位，再次領跑行業第一梯隊。未來，商湯大裝置將繼續依托AI原生技術棧和行業級解決方案，結合專家服務體系，持續致力企業突破大模型落地“最后一公里”，驅動企業智能化轉型與創新增長。

免責聲明：以上內容為本網站轉自其它媒體，相關信息僅為傳遞更多信息之目的，不代表本網觀點，亦不代表本網站贊同其觀點或證實其內容的真實性。如稿件版權單位或個人不想在本網發布，可與本網聯系，本網視情況可立即將其撤除。