騰訊云MaaS再升級：混元筑底、生態(tài)擴容，持續(xù)推進“效能革命”

2023-09-07 18:13:50來源：中關村在線

9月7日，2023騰訊全球數(shù)字生態(tài)大會于深圳舉辦。會上，騰訊首次對外公布騰訊混元大模型進展，并宣布從技術底座、平臺能力、智能應用三大維度升級MaaS能力?；谧匝序v訊混元大模型，同時支持業(yè)內20余款主流開源模型，助力客戶構建專屬大模型及智能應用，加速模型產業(yè)落地，推進“效能革命”。

(資料圖片僅供參考)

升級后，騰訊云行業(yè)大模型精選商店將進一步擴容，能為客戶提供不同規(guī)模的模型服務；大模型訓練、精調工具鏈，可以幫助客戶更快、更低成本地打造“更實用”的專屬模型；同時，依托騰訊多元的PaaS、SaaS產品矩陣“試煉場”，用戶也能夠快速裝備即插即用的模型能力。

會上，騰訊云與信通院還共同發(fā)布了《行業(yè)大模型標準體系及能力架構研究報告》，參考騰訊云在行業(yè)大模型產業(yè)應用領域的實踐和經(jīng)驗，為客戶構建行業(yè)大模型提供了標準化流程、綜合評估方法，以便更好地幫助行業(yè)伙伴構建專屬大模型。

騰訊集團高級執(zhí)行副總裁、云與智慧產業(yè)事業(yè)群CEO湯道生表示，騰訊著眼于產業(yè)實踐建設行業(yè)大模型的思路已得到了業(yè)界的普遍認可。通過“行業(yè)大模型+企業(yè)數(shù)據(jù)精調”方案，騰訊幫助產業(yè)伙伴打造適合自己的大模型產品，解決企業(yè)應用大模型過程中面臨的專業(yè)度、準確度、數(shù)據(jù)安全、成本等諸多挑戰(zhàn)。技術變革和客戶需求的快速發(fā)展，推動了騰訊云MaaS服務能力快速迭代升級。

騰訊集團高級執(zhí)行副總裁、云與智慧產業(yè)事業(yè)群CEO湯道生

開放多元基底模型，騰訊云MaaS持續(xù)推進“效能革命”

會上，騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲認為，當前企業(yè)在大模型領域探索已過“嘗鮮期”，產業(yè)實踐將成為檢驗大模型價值的重要標準，大模型在產業(yè)領域應用的“縱深度”也將持續(xù)拓展?；诖耍v訊云行業(yè)大模型從技術底座、平臺能力、智能應用三大層面升級，加速模型落地進程。

技術底座方面，由騰訊自研的混元通用大模型首次公開亮相。吳運聲表示，騰訊混元大模型是騰訊云行業(yè)大模型的堅實底座，其不僅有出色的中文創(chuàng)作能力，還具備在復雜語境下的邏輯推理能力以及可靠的任務執(zhí)行能力，并已在騰訊內部多個產品和業(yè)務中成功接入并獲得顯著成果，并將通過騰訊云陸續(xù)面向行業(yè)客戶開放。

騰訊云副總裁、騰訊云智能負責人、優(yōu)圖實驗室負責人吳運聲

而為了滿足企業(yè)、開發(fā)者多元的模型需求，騰訊云還率先宣布上架和支持開源模型，接入了Llama 2、Falcon、Bloom等20多個行業(yè)最新主流的開源模型，覆蓋智能對話、文本生成、寫作等豐富應用場景?？蛻艨衫抿v訊云TI平臺對上述開源模型進行訓練，基于Jupyter Notebook快速啟動模型精調，低代碼操作完成模型部署。

同時，騰訊云也對平臺能力進行了大幅提升。升級后的TI平臺工具鏈，接入騰訊云HCC高性能計算節(jié)點及星脈高性能計算網(wǎng)絡，可提供3.2Tbps的網(wǎng)絡帶寬。全新升級的太極Angel大模型加速框架，較行業(yè)常用方案性能提升30%以上。全新的工具鏈，具備高性能的大模型精調與部署能力，覆蓋大模型開發(fā)、應用全生命周期，讓客戶只需加入自己獨有的場景數(shù)據(jù)，即可在短時間內精調出專屬的模型方案。

此外，企業(yè)也可接入騰訊升級后的SaaS、PaaS產品矩陣，通過豐富的、即插即用的智能應用，快速裝備模型能力。升級后的智能客服機器人擴展了知識邊界，大幅提升接待對話體驗，減少運營成本；企點分析AI助手，通過“對話式數(shù)據(jù)分析、輔助分析模型配置更新、智能結論提取、一鍵生成分析報告”等核心能力，改造傳統(tǒng)分析流程，提升企業(yè)數(shù)據(jù)的分析洞察產出效率；全新發(fā)布AI大模型加持的“通用口型”版小樣本數(shù)智人，無需訓練，上傳素材1小時內即可獲取專屬數(shù)智分身。

攜手客戶伙伴，助力20＋行業(yè)提質增效

會上，吳運聲表示，“騰訊云將不斷完善MaaS能力，與廣大客戶和合作伙伴攜手，共同迎接AI大模型時代的‘效能革命’。”作為行業(yè)大模型“實戰(zhàn)派”，騰訊云目前已落地文旅、泛互、零售、能源、醫(yī)療等20多個行業(yè)，并覆蓋生產、銷售、客服等多個環(huán)節(jié)，并已經(jīng)在頭部客戶中打造多個最佳實踐。

比如某科技公司搭建大規(guī)模建模平臺時，面臨人力、物力、資源等缺乏問題。騰訊云MaaS為其提升了自動駕駛領領域的2D感知、3D感知類建模任務的訓練性能，實現(xiàn)輕量化運維和接入。提供高性能算力集群及訓練加速能力，訓練性能提升40%；打通高性能分布式文件存儲和高性能計算節(jié)點，大幅提升算力資源利用率。

文旅領域是客服應用的集中場景，對模型應用的效率有強烈的提升需求。騰訊云聯(lián)合某線上旅游OTA公司，共同探索文旅行業(yè)大模型的應用，改善傳統(tǒng)智能客服對話配置中知識維護量大、耗時長、人力成本高等痛點。精調后的客戶專屬模型，無需配置對話流程，即可實現(xiàn)端到端解決業(yè)務問題。提升任務完成率，降低對話構建成本。

內容創(chuàng)作對大模型的生成速度、理解能力要求高，是最能驗證大模型場景廣度的領域之一。騰訊云MaaS助力閱文集團文生圖、圖生圖的推理部署和加速。C端用戶應用需要提供高QPS、低模型耗時的方案，閱文基于騰訊云TI平臺搭載的Angel推理加速引擎，推理能力平均提升30%，將文生文領域成本降低到原來的1/4。此外，TI平臺提供動態(tài)batch和自動服務調度機制，大幅提高了服務吞吐量，模型優(yōu)化和部署模塊一鍵加速和發(fā)布模型，極大減輕了服務部署的維護成本。

而政務領域則需要大模型深入應用場景，更加專業(yè)、可靠。騰訊云助力某稅務部門打造專屬政務大模型，解決傳統(tǒng)智能客服知識邊界受限，問題攔截率、覆蓋率低，政策法規(guī)、辦事指南的持續(xù)迭代造成后續(xù)運營維護成本高的問題。升級后的客服系統(tǒng)，從知識采集到知識運營均實現(xiàn)智能化升級，成為“稅務領域的知識專家”和“緊跟法規(guī)、指南的稅務助手”。

積極參與標準制定，助推行業(yè)大模型高質量發(fā)展

行業(yè)大模型的落地與拓展，需要標準化的流程與評估體系。會上，騰訊云與信通院共同發(fā)布了《行業(yè)大模型標準體系及能力架構研究報告》（以下簡稱“報告”），幫助行業(yè)伙伴更好地構建專屬大模型。

《行業(yè)大模型標準體系及能力架構研究報告》發(fā)布

吳運聲介紹，報告內包括行業(yè)需求分析與資源評估、行業(yè)數(shù)據(jù)與模型共建、行業(yè)精調與優(yōu)化部署等關鍵環(huán)節(jié)，能夠幫助行業(yè)伙伴洞悉行業(yè)應用場景、模型開發(fā)、模型能力、模型應用、模型運營、安全可信等維度，從而對大模型進行綜合評估。

中國信息通信研究院云計算與大數(shù)據(jù)研究所副所長魏凱表示，信通院作為國家信息通信領域的重要研究機構，一直關注AI技術的發(fā)展和應用，特別是大模型技術的創(chuàng)新和推廣。信通院將與騰訊云深入合作，共同推進行業(yè)大模型標準體系的建設和完善，為產業(yè)智能化發(fā)展提供技術支撐和服務。

“我們希望行業(yè)大模型標準體系及能力架構研究，能夠幫助行業(yè)伙伴解決如何將大模型能力“應用”到自身的行業(yè)和場景里的問題，可以更有效的解決成本、數(shù)據(jù)、安全，合規(guī)等大模型實際落地難題。通過建立標準體系，為行業(yè)大模型的建設和應用提供指引和支持?！彬v訊法務副總裁江波提到。

為千行百業(yè)輸送行業(yè)大模型解決方案的同時，騰訊一直積極參加大模型標準建設。2020年，騰訊被選舉為全國信標委人工智能分委會委員兼副秘書長單位，作為核心成員，承擔了更多標準制定工作以及技術引領作用。前不久，騰訊云還聯(lián)合中國信通院發(fā)起行業(yè)大模型生態(tài)計劃，并牽頭國內首個金融行業(yè)大模型標準制訂，為金融行業(yè)智能化的高質量規(guī)范化發(fā)展提供重要支撐。

更強的能力、更高的效率、更廣的場景、更深的應用，騰訊云行業(yè)大模型不斷迭代，通過MaaS能力助力產業(yè)提質增效。未來，騰訊云將持續(xù)升級產品、技術能力，幫助千行百業(yè)更高效率、高品質、低成本地創(chuàng)建和部署更實用的AI應用，助力更多實體實現(xiàn)高質量的數(shù)智化轉型升級。

標簽：