百度智能云千帆，如何成為最懂企業(yè)的大模型平臺？

圖源：攝圖網(wǎng)

作者|關(guān)注AI的 來源|奇偶派(ID：jioupai)

8月31日凌晨，百度文心一言成首批獲批全面開放的大模型應(yīng)用產(chǎn)品，用戶可在應(yīng)用商店下載使用，首日即頂多家應(yīng)用商店熱榜，還回答網(wǎng)友超3342萬個問題。

文心一言的正式開放，更重要的意義是，商業(yè)化靴子的正式落地，大模型能力可以進(jìn)入于B端企業(yè)的生產(chǎn)場景之中。如政務(wù)、互聯(lián)網(wǎng)、能源電力、汽車等行業(yè)的企業(yè)，正在基于百度智能云千帆大模型平臺引入大模型能力，探索讓大模型生根發(fā)芽。實(shí)際上，百度文心大模型已擁有中國最大的產(chǎn)業(yè)落地規(guī)模。

那么，從Chat走向Work的道路上，企業(yè)的痛點(diǎn)、難點(diǎn)究竟在哪里？百度做出了哪些思考與努力？又行至何處了呢？

1

大模型落地

企業(yè)多、雜需求成最大阻力

大模型能力成功落地的前提，是對不同企業(yè)需求與痛點(diǎn)的完全洞悉，而不同企業(yè)的需求，如果想要用兩個字來概括，那便是“多”與“雜”。

需求多的特征，主要體現(xiàn)在不同體量的公司身上，小型企業(yè)與大型企業(yè)的需求幾乎完全不同。

對于小型企業(yè)來說，無論從業(yè)務(wù)規(guī)模、運(yùn)營成本還是保有數(shù)據(jù)量來說，想要獨(dú)占一類大模型無異于天方夜譚，這類企業(yè)客戶應(yīng)用大模型的最好方法則是在基礎(chǔ)大模型與行業(yè)大模型之上開發(fā)相關(guān)AI應(yīng)用，使用較小的成本，達(dá)到盡可能好的效果。

而這類企業(yè)需求則主要有三點(diǎn)：首先是模型能力足夠，應(yīng)用后效果較好，能保證業(yè)務(wù)的質(zhì)量；次之，便是大模型能力的迭代速度需要跟隨業(yè)務(wù)發(fā)展情況，適應(yīng)企業(yè)發(fā)展節(jié)奏；最后也是最重要的，小型企業(yè)具體業(yè)務(wù)方向有千千萬萬，在大模型的落地應(yīng)用中需要一定的“自由度”，而這，便要求大模型企業(yè)提供齊全的工具鏈，滿足拓展需求。

其中，比較典型的一類企業(yè)便是電商直播公司，其應(yīng)用大模型能力可以替代直播完成網(wǎng)絡(luò)直播，而在具體應(yīng)用中，則需要自由替換、改變模特的性別、體型與服飾。

這類公司的最大痛點(diǎn)在于大模型企業(yè)不可能為它們“量身定做”，所以如何能在大模型基礎(chǔ)良好的情況下，開發(fā)一套平臺化、模塊化、可供企業(yè)自行搭建的工具箱，成為小型企業(yè)與大模型廠商共同需要思考的地方。

而對于大型企業(yè)來說，則與前者完全不同。這些組織架構(gòu)復(fù)雜、員工眾多、打法風(fēng)格明顯，同時有著行業(yè)內(nèi)既定的玩法與海量專業(yè)數(shù)據(jù)的大型企業(yè)，從底座開始構(gòu)建基礎(chǔ)打模型，則是最好的選擇。

但是，作為大模型能力的“門外漢”，訓(xùn)練大模型的成本和技術(shù)壁壘都非常高，既需要長期在大模型領(lǐng)域深耕的經(jīng)驗(yàn)，還需要充足的算力儲備、數(shù)據(jù)儲備、高端AI人才儲備，也注定了 他們必須尋求業(yè)內(nèi)玩家合作，使用相應(yīng)的技術(shù)與能力。

同時，很多大型企業(yè)想要的也不僅僅是一個大模型，而是希望獲得一種能力，最終擁有一個“只屬于自己的大模型”，這個大模型知道它的前世今生，儲存有客戶所有的數(shù)據(jù)，能夠孵化各種企業(yè)應(yīng)用。

而對于那些AI應(yīng)用不夠用，基礎(chǔ)大模型“用不完”的特定行業(yè)企業(yè)，用基礎(chǔ)大模型精調(diào)出更貼合實(shí)際場景的行業(yè)大模型則是首選。

這類企業(yè)一般都是在業(yè)內(nèi)有一定實(shí)力，了解行業(yè)know-how，同時還想在行業(yè)內(nèi)有進(jìn)一步發(fā)展的企業(yè)。但對于他們來說，自建行業(yè)大模型面臨著數(shù)據(jù)成本、算力成本、試錯成本高，模型效果難以保證，算法訓(xùn)練工程師需求多的難點(diǎn)。如何在保證數(shù)據(jù)安全的情況下，完成對基礎(chǔ)大模型的“借用”，則是這類企業(yè)接入大模型的關(guān)鍵要點(diǎn)。

而在需求多的特征之外，不同行業(yè)的企業(yè)，還表現(xiàn)出需求雜、跨度大的特征。

以大模型落地前沿的金融行業(yè)為例，作為人工智能應(yīng)用場景密集的行業(yè)，是大模型技術(shù)落地的重要領(lǐng)域之一，有望重塑現(xiàn)有業(yè)務(wù)流程，改變產(chǎn)業(yè)格局。

但在具體的應(yīng)用過程中，如何高效植入現(xiàn)有業(yè)務(wù)場景，讓一個團(tuán)隊既要懂業(yè)務(wù)場景，又要理解大模型的使用方法，還需要具備比較強(qiáng)的工程能力成為難題。同時，作為合規(guī)性要求幾乎是最高的行業(yè)，對產(chǎn)生的安全合規(guī)和隱私保護(hù)問題也要完成

比如，以更具體的企業(yè)實(shí)際需求為例，在以國家電網(wǎng)、南方電網(wǎng)為代表的能源電力行業(yè)中，如何通過大模型提升電力調(diào)度智能化，保障電網(wǎng)安全是“雙碳”時代下的全新需求；長安汽車為代表的制造行業(yè)中，如何加大智能化“色彩”，是大模型過去未曾接觸過的場景......

像這樣的復(fù)雜的生產(chǎn)場景，還有許多許多，在不同行業(yè)企業(yè)生產(chǎn)場景不同與不同體量企業(yè)需求不同的共同交織下，大模型的落地顯得愈發(fā)困難，也對百度等大模型企業(yè)提出了更高的要求，該怎樣去梳理企業(yè)需求？又怎樣去滿足行業(yè)需求呢？

2

憂企業(yè)所憂，百度智能云千帆如此進(jìn)化

如前文所述，面對千行百業(yè)的億萬需求，只單一提供通用大模型服務(wù)或者應(yīng)用產(chǎn)品服務(wù)的企業(yè)，是無法將這塊“蛋糕”完整地吃下去的。最好的做法便是通過提供全套的平臺服務(wù)與AI原生思維的方法，助力行業(yè)完成進(jìn)化。

而百度智能云則更進(jìn)一步，根據(jù)不同體量企業(yè)的需求不同，提供了不同的功能，對應(yīng)著企業(yè)們應(yīng)用大模型的不同路徑。

比如，針對小型企業(yè)需求龐雜的情況，百度智能云千帆將眾多能力開放給了企業(yè)端，提供模型再訓(xùn)練的全套工具鏈，支持多種形式模型調(diào)優(yōu)，包括SFT（全量參數(shù)微調(diào)、Prompt Tuning、Lora）及強(qiáng)化學(xué)習(xí)（獎勵模型學(xué)習(xí)、強(qiáng)化學(xué)習(xí)訓(xùn)練）等。目標(biāo)是幫助企業(yè)和開發(fā)者快速基于基礎(chǔ)大模型再訓(xùn)練，升級或者打造適合自己需求的智能應(yīng)用，而不用花費(fèi)巨大成本去“卷”自己的大模型。

百度智能云千帆還提供了國內(nèi)最全的預(yù)置Prompt模板。因?yàn)橛邪俣裙こ處煱l(fā)現(xiàn)，相當(dāng)一部分企業(yè)不會寫Prompt，感嘆使用門檻高。

目前，千帆大模型平臺預(yù)置了103款Prompt模板，包含對話、編程、電商、醫(yī)療、游戲、翻譯、演講等十余個場景。其中既有基于百度智能云在產(chǎn)業(yè)實(shí)踐中積累的Prompt模板，也有來源于文心一言高頻用戶的Prompt模板。

這些模版均可直接輸出給大模型，讓大模型快速理解企業(yè)的需求，大大提高模型的交互效率、輸出質(zhì)量。

而且，百度智能云也沒有緊守著城門不開，為其他大模型打開大門——即通過千帆大模型提供33個嚴(yán)格優(yōu)選、進(jìn)行性能與安全雙重增強(qiáng)后的第三方大模型，共同完成服務(wù)。企業(yè)充分享受“模型自由”

企業(yè)和開發(fā)者只需要登陸千帆大模型平臺操作臺，在【模型倉庫】中進(jìn)行部署、調(diào)用，便能輕松享受到優(yōu)質(zhì)大模型帶來的業(yè)務(wù)效果提升。

正如百度所說，他們希望的大模型發(fā)展是百花齊放，百家爭鳴地狀態(tài)，將會引入更多的開源模型，最終落實(shí)到真正的生產(chǎn)力場景之中。

對于大型企業(yè)基礎(chǔ)大模型的構(gòu)建需求，百度還充當(dāng)了注重AI原生思維，幫助客戶構(gòu)建自身智能化能力的導(dǎo)師角色。

百度智能云一位工程師表示，在大模型推出后，很多客戶的目標(biāo)不僅是買一個大模型，而是希望獲得一種能力，最終擁有一個“只屬于自己的大模型”。

一些大型央國企客戶的訴求也很明確，他們向百度提出，不需要百度幫忙寫代碼，“百度更多是一個教練的角色，給我好的工具，教會我應(yīng)該怎么用，長期來講我的能力也能夠不斷提升”。

而在這樣一個為大型企業(yè)構(gòu)建基礎(chǔ)大模型的過程中，文心千帆大模型平臺與其上包含的數(shù)據(jù)管理、模型訓(xùn)練、評估優(yōu)化、預(yù)測服務(wù)部署以及插件服務(wù)，幫助企業(yè)搭建出專屬大模型。

豐富的產(chǎn)品能力、更加自由的大模型工具部署、多樣化的服務(wù)方式、更懂產(chǎn)業(yè)的AI落地路徑，共同讓百度智能云千帆擁有了極強(qiáng)的場景落地能力，也有望成功從企業(yè)對大模型需求側(cè)完成切入，進(jìn)而滲透各行各業(yè)。

9月1日，國家網(wǎng)信辦發(fā)布境內(nèi)深度合成服務(wù)算法備案信息公告顯示，百度文心大模型算法、百度數(shù)字人驅(qū)動算法、語音合成算法等完成備案。百度成為“雙料王”，即同時獲批向公眾開放服務(wù)備案和深度合成服務(wù)算法備案。此舉意味著，繼文心大模型之后，百度數(shù)字人、語音合成等也正式完成合規(guī)備案。

3

從互聯(lián)網(wǎng)到生產(chǎn)車間

聽懂企業(yè)成為千帆“絕殺秘技”

在充分洞悉企業(yè)痛點(diǎn)，百度智能云還基于文心大模型的AI能力，升級了行業(yè)解決方案和通用AI應(yīng)用，進(jìn)入越來越多的核心場景。

在電商直播中，百度智能云曦靈數(shù)字人直播平臺利用大模型能力，完成了大幅降本增效。

該平臺通過百度自研的語音、視覺等技術(shù)，上傳一段真人視頻，不到30分鐘即可一比一復(fù)刻數(shù)字人主播。而結(jié)合百度文心大模型及電商行業(yè)專屬知識庫，形成了更適用直播場景的“營銷大模型”，輸入幾個關(guān)鍵詞，即可自動生成商品介紹、催單、場控等專業(yè)話術(shù)，并驅(qū)動數(shù)字人一鍵開播。

針對用戶彈幕互動，也可通過大模型生成智能問答直接回復(fù)，覆蓋諸如退換貨規(guī)定、發(fā)貨時間、優(yōu)惠力度等眾多常見問題。相比真人直播間每月約5萬元的成本，數(shù)字人直播間成本將大幅下降。

在辦公與教育領(lǐng)域里，金山辦公與好未來，是文心大模型落地的模范標(biāo)桿。

金山辦公通過千帆接入了文心一言，快速推出了 “WPS AI ”，成為中國協(xié)同辦公賽道首個ChatGPT類型的應(yīng)用。金山辦公助理總裁田然表示，百度作為中國最優(yōu)秀的大模型提供方之一，正在推動大模型在辦公領(lǐng)域的應(yīng)用和快速落地。

而好未來則借用千帆的能力，完成了第三方大模型的SFT微調(diào)，顯著提升了開源大模型的效果，而百度也成為了好未來快速推進(jìn)大模型應(yīng)用落地的重要合作伙伴。

安全生產(chǎn)是企業(yè)的生命線，百度智能云與深圳燃?xì)饴?lián)合發(fā)布“深燃-百度·文心大模型”。 這也是在燃?xì)庑袠I(yè)首次探索引入視覺大模型。針對燃?xì)鈭稣?、營業(yè)廳里的新場景、新任務(wù)，企業(yè)基于大模型只需要進(jìn)行微調(diào)，就可以形成針對性的行業(yè)模型能力，完成多個應(yīng)用場景的任務(wù)。

這些從企業(yè)核心場景中成長起來的經(jīng)驗(yàn)，也可以通過大模型沉淀為知識，在企業(yè)內(nèi)部傳承下來。

在過去，每個企業(yè)的專業(yè)知識是有限的，老工人在退休時會把相關(guān)知識全部帶走，即使通過師傅帶徒弟的方法，也會存在知識殘缺、片面的情況出現(xiàn)。而在文心大模型被引入后，每位員工的能力都將成為企業(yè)的數(shù)字資產(chǎn)留存下來，成為員工AI知識庫中的一部分，既可以為新員工提供培訓(xùn)服務(wù)，也可以打造智能助手，讓每一個工人身邊都有一個專家級的“助理”。

綜上可以看出，百度智能云能如此快速地將大模型落地與生產(chǎn)場景中，或許也說明了新環(huán)境使大模型競爭變成了一場綜合能力試煉：致勝因素將不再只是一家公司訓(xùn)練大模型的技術(shù)實(shí)力，還有它洞察市場需求、開發(fā)與之匹配的應(yīng)用和做好運(yùn)營的能力。

4

寫在最后

伴隨著大模型的發(fā)展，各行各業(yè)智能化的廣度和深度將迎來突破。

對于企業(yè)來說，伴隨著大模型改革的深化，同業(yè)競爭者紛紛選擇AI發(fā)展路徑已經(jīng)成為了倒逼他們快步向前的最好推動力，而在這個過程中，不同的需求與巨大的市場同時出現(xiàn)。

而對于大模型企業(yè)來說，環(huán)境的改變也讓大模型競爭成為了一場綜合能力試煉：致勝因素將不再只是一家公司訓(xùn)練大模型的技術(shù)實(shí)力，還有它洞察市場需求、開發(fā)與之匹配的應(yīng)用和做好運(yùn)營的能力。

據(jù)消息透露，百度智能云還要進(jìn)一步全方面強(qiáng)化服務(wù)企業(yè)的能力，在即將到來的9月5日2023百度云智大會上，百度智能云將宣布四大舉措，全面升級“千帆大模型平臺”，覆蓋算力基礎(chǔ)設(shè)施、大模型工具鏈、高質(zhì)量數(shù)據(jù)集等等，推基于文心大模型重構(gòu)的四大行業(yè)解決方案，發(fā)布覆蓋10款企業(yè)級的AI原生應(yīng)用產(chǎn)品。大模型相關(guān)的生態(tài)政策也將同步披露。

編者按：本文轉(zhuǎn)載自微信公眾號：奇偶派(ID：jioupai)，作者：關(guān)注AI的