專家團(tuán)｜宇婷：目前只To B，騰訊云為什么優(yōu)先發(fā)布行業(yè)大模型，而非大模型？

“我們認(rèn)為必須有針對性的行業(yè)大模型，再加上企業(yè)自己的數(shù)據(jù)、精調(diào)，才能打造可需要和可應(yīng)用的服務(wù)。”

“企業(yè)要的不是在一百個(gè)場景中，解決70-80%的問題。而是精準(zhǔn)解決問題。”騰訊集團(tuán)高級執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生在現(xiàn)場表達(dá)。

6月19日，騰訊云正式發(fā)布了行業(yè)大模型，盡管在發(fā)聲的速度上，晚于百度、阿里巴巴、訊飛、360等多家廠商。但騰訊云也有自己的獨(dú)特性，著重優(yōu)先發(fā)布了行業(yè)大模型，而非大模型，目前只TO B。

在一波又一波大模型發(fā)布會(huì)沖擊之后，用戶們已經(jīng)分不清楚不同獨(dú)角獸巨頭們發(fā)布的模型之間的區(qū)別到底是什么。另一方面，在具體的行業(yè)場景中，通用大模型不能滿足企業(yè)的很多需求，比如不懂得專業(yè)的行業(yè)術(shù)語，回答虛且籠統(tǒng)。

信息不夠及時(shí)，大家期待能力越來越強(qiáng)大的大模型，同時(shí)也在思考如何在布局大模型的同時(shí)，保護(hù)好企業(yè)的產(chǎn)權(quán)與隱私，降低企業(yè)的大模型使用成本。這是不可回避的現(xiàn)實(shí)問題。

特別是，在當(dāng)前中國產(chǎn)業(yè)現(xiàn)狀下，面臨企業(yè)的深度共建，以及監(jiān)管政策，真正能夠解決行業(yè)和企業(yè)圍觀挑戰(zhàn)，仍有距離。

對于騰訊大模型，最值得關(guān)注的有兩個(gè)方向。‍‍‍

首先，如果是行業(yè)大模型，那么應(yīng)當(dāng)是有明顯的行業(yè)屬性，如何解決行業(yè)問題，例如新零售、新能源、金融、交通等細(xì)分行業(yè)問題？

其次，騰訊云或?qū)@云平臺、會(huì)議、客服、低代碼等領(lǐng)域級應(yīng)用，騰訊大模型的應(yīng)用場景會(huì)發(fā)生哪些改變？

在行業(yè)大模型標(biāo)準(zhǔn)體系方面，騰訊正在聯(lián)合中國信通院，共同構(gòu)建行業(yè)大模型的標(biāo)準(zhǔn)體系及能力架構(gòu)，包括1套ILMOps方法論、60多項(xiàng)能力建設(shè)指標(biāo)。這個(gè)標(biāo)準(zhǔn)體系覆蓋多個(gè)行業(yè)，涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面。

TI平臺MaaS解決方案，覆蓋十大行業(yè)，提供50個(gè)解決方案

騰訊云發(fā)布自身MaaS解決方案，覆蓋十大行業(yè)，提供50個(gè)解決方案。

騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)聲發(fā)表《騰訊云MaaS，打造一站式行業(yè)大模型精選商店》的主題演講，分享了騰訊云在行業(yè)大模型方面的技術(shù)方案，以及產(chǎn)業(yè)客戶實(shí)踐、行業(yè)大模型標(biāo)準(zhǔn)體系構(gòu)建的進(jìn)展。

吳運(yùn)聲在演講中詳細(xì)拆解了騰訊行業(yè)大模型特質(zhì)：騰訊云TI平臺內(nèi)置了多個(gè)高質(zhì)量行業(yè)大模型，涵蓋金融、傳媒、文旅、政務(wù)、工業(yè)等多個(gè)行業(yè)場景，同時(shí)開放支持客戶多模型訓(xùn)練任務(wù)，滿足個(gè)性化需求。比如針對客服等場景中的“對話問答”、“相似問生成”等任務(wù)，有較好的優(yōu)化，使用時(shí)僅需少量訓(xùn)練數(shù)據(jù)，便可達(dá)到較好的精調(diào)效果。

其次，TI-ONE平臺提供完善的大模型工具鏈，包括數(shù)據(jù)標(biāo)注、訓(xùn)練、評估、測試和部署等全套工具，同時(shí)具備強(qiáng)大的多機(jī)多卡訓(xùn)練加速能力，客戶可快速在TI-ONE平臺上進(jìn)行一站式的大模型精調(diào)。

其中，大模型訓(xùn)練，算力是基礎(chǔ)。騰訊云在大模型算力方面擁有領(lǐng)先優(yōu)勢。早在今年4月，騰訊云便發(fā)布了面向大模型訓(xùn)練的新一代HCC高性能計(jì)算集群，采用最新一代騰訊云星星海自研服務(wù)器，結(jié)合多層加速的高性能存儲系統(tǒng)，具備3.2Tbps業(yè)界最高互聯(lián)帶寬，算力性能提升3倍。

全新升級框架加速能力太極Angel，可以提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎(chǔ)上，新增了對大模型的訓(xùn)練和推理加速能力，通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式，相比行業(yè)常用方案性能提升超過30%。

同時(shí)，支持更適合AI運(yùn)算的向量數(shù)據(jù)庫，將幫助高效處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)，支持日處理千億級的檢索，將為客戶模型訓(xùn)練提供充沛動(dòng)力。

在旅游場景中，針對性的行業(yè)數(shù)據(jù)訓(xùn)練出來的行業(yè)大模型，客服機(jī)器人可以給出景點(diǎn)經(jīng)濟(jì)實(shí)惠的定制化推薦方案。

與共創(chuàng)客戶中央廣播電視總臺與騰訊的合作中，傳統(tǒng)數(shù)據(jù)標(biāo)簽體系無法達(dá)標(biāo)，重新構(gòu)建傳媒專屬的數(shù)據(jù)標(biāo)簽體系，重新研發(fā)了數(shù)據(jù)權(quán)重引擎，讓數(shù)據(jù)顆粒度更細(xì)。在數(shù)據(jù)標(biāo)簽支撐下，跨模態(tài)檢索，能夠快速剪輯搭配素材生成視頻。

在上海大學(xué)的案例，打通了數(shù)據(jù)古道，推行一網(wǎng)通辦。每天涉及到的數(shù)據(jù)，相當(dāng)于重新建造一座上海大學(xué)的圖書館。

騰訊會(huì)議、騰訊企點(diǎn)、向量數(shù)據(jù)庫產(chǎn)品迭代‍

行業(yè)應(yīng)用場景上，提高工作效率低。比如騰訊會(huì)議，覆蓋全流程場景的智能小助手，協(xié)助日程安排。會(huì)后還可以自動(dòng)生成智能總結(jié)和摘要，基于智能錄制，幫助用戶高效回顧。

騰訊企點(diǎn)客服，可以結(jié)合客戶的需求進(jìn)行訓(xùn)練。

騰訊會(huì)議的AI助手功能，以及騰訊企點(diǎn)呈現(xiàn)出在此輪AIGC浪潮之后的改變。其中騰訊企點(diǎn)智能客服的效果與傳統(tǒng)智能客服產(chǎn)生了差異化的進(jìn)化。

值得關(guān)注的是，這是騰訊企點(diǎn)這一款產(chǎn)品的第16年，它在AI大模型的加持之下，全新變身。

在大模型的訓(xùn)練和使用過程中，需要大量異構(gòu)算力的支持，對網(wǎng)絡(luò)速度與穩(wěn)定性要求也很高，加上GPU服務(wù)器比一般服務(wù)器穩(wěn)定性更低一些，服務(wù)器的運(yùn)維、問題的排查更頻繁，整體運(yùn)維的難度與工作量會(huì)高很多。

例如，在訓(xùn)練集群中，一旦網(wǎng)絡(luò)有波動(dòng)，訓(xùn)練的速度就會(huì)受到很大的影響；只要一臺服務(wù)器過熱宕機(jī)，整個(gè)集群都可能要停下來，然后訓(xùn)練任務(wù)要重啟，這些事件會(huì)使得訓(xùn)練時(shí)間大大增加，投入在大模型的成本也會(huì)飆升。因此，騰訊云所提供的穩(wěn)定計(jì)算、高速網(wǎng)絡(luò)與專業(yè)運(yùn)維，可以為算法工程師大大減輕設(shè)備運(yùn)維的壓力，讓他們把精力放在模型的構(gòu)建與算法的優(yōu)化上。

騰訊云也打造了面向模型訓(xùn)練的新一代HCC（High-Performance Computing Cluster）高性能計(jì)算集群，搭載最新次代GPU，結(jié)合多層加速的高性能存儲系統(tǒng)，加上高帶寬、低延遲的網(wǎng)絡(luò)傳輸，整體性能比過去提升了3倍，獲得了很多客戶的高度認(rèn)可，幾家AI獨(dú)角獸都與我們展開了合作。

在計(jì)算集群的“硬實(shí)力”之外，推出更適合AI運(yùn)算的“軟能力”——向量數(shù)據(jù)庫，它能更高效地處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù)，支持單索引10億級規(guī)模，比單機(jī)插件式檢索規(guī)模提升10倍，數(shù)據(jù)接入AI的效率，也比傳統(tǒng)方案提升10倍。