百度智能云千帆，如何成為最懂企業(yè)的大模型平臺(tái)？

圖源：攝圖網(wǎng)

作者|關(guān)注AI的 來(lái)源|奇偶派(ID：jioupai)

8月31日凌晨，百度文心一言成首批獲批全面開(kāi)放的大模型應(yīng)用產(chǎn)品，用戶可在應(yīng)用商店下載使用，首日即頂多家應(yīng)用商店熱榜，還回答網(wǎng)友超3342萬(wàn)個(gè)問(wèn)題。

文心一言的正式開(kāi)放，更重要的意義是，商業(yè)化靴子的正式落地，大模型能力可以進(jìn)入于B端企業(yè)的生產(chǎn)場(chǎng)景之中。如政務(wù)、互聯(lián)網(wǎng)、能源電力、汽車等行業(yè)的企業(yè)，正在基于百度智能云千帆大模型平臺(tái)引入大模型能力，探索讓大模型生根發(fā)芽。實(shí)際上，百度文心大模型已擁有中國(guó)最大的產(chǎn)業(yè)落地規(guī)模。

那么，從Chat走向Work的道路上，企業(yè)的痛點(diǎn)、難點(diǎn)究竟在哪里？百度做出了哪些思考與努力？又行至何處了呢？

1

大模型落地

企業(yè)多、雜需求成最大阻力

大模型能力成功落地的前提，是對(duì)不同企業(yè)需求與痛點(diǎn)的完全洞悉，而不同企業(yè)的需求，如果想要用兩個(gè)字來(lái)概括，那便是“多”與“雜”。

需求多的特征，主要體現(xiàn)在不同體量的公司身上，小型企業(yè)與大型企業(yè)的需求幾乎完全不同。

對(duì)于小型企業(yè)來(lái)說(shuō)，無(wú)論從業(yè)務(wù)規(guī)模、運(yùn)營(yíng)成本還是保有數(shù)據(jù)量來(lái)說(shuō)，想要獨(dú)占一類大模型無(wú)異于天方夜譚，這類企業(yè)客戶應(yīng)用大模型的最好方法則是在基礎(chǔ)大模型與行業(yè)大模型之上開(kāi)發(fā)相關(guān)AI應(yīng)用，使用較小的成本，達(dá)到盡可能好的效果。

而這類企業(yè)需求則主要有三點(diǎn)：首先是模型能力足夠，應(yīng)用后效果較好，能保證業(yè)務(wù)的質(zhì)量；次之，便是大模型能力的迭代速度需要跟隨業(yè)務(wù)發(fā)展情況，適應(yīng)企業(yè)發(fā)展節(jié)奏；最后也是最重要的，小型企業(yè)具體業(yè)務(wù)方向有千千萬(wàn)萬(wàn)，在大模型的落地應(yīng)用中需要一定的“自由度”，而這，便要求大模型企業(yè)提供齊全的工具鏈，滿足拓展需求。

其中，比較典型的一類企業(yè)便是電商直播公司，其應(yīng)用大模型能力可以替代直播完成網(wǎng)絡(luò)直播，而在具體應(yīng)用中，則需要自由替換、改變模特的性別、體型與服飾。

這類公司的最大痛點(diǎn)在于大模型企業(yè)不可能為它們“量身定做”，所以如何能在大模型基礎(chǔ)良好的情況下，開(kāi)發(fā)一套平臺(tái)化、模塊化、可供企業(yè)自行搭建的工具箱，成為小型企業(yè)與大模型廠商共同需要思考的地方。

而對(duì)于大型企業(yè)來(lái)說(shuō)，則與前者完全不同。這些組織架構(gòu)復(fù)雜、員工眾多、打法風(fēng)格明顯，同時(shí)有著行業(yè)內(nèi)既定的玩法與海量專業(yè)數(shù)據(jù)的大型企業(yè)，從底座開(kāi)始構(gòu)建基礎(chǔ)打模型，則是最好的選擇。

但是，作為大模型能力的“門(mén)外漢”，訓(xùn)練大模型的成本和技術(shù)壁壘都非常高，既需要長(zhǎng)期在大模型領(lǐng)域深耕的經(jīng)驗(yàn)，還需要充足的算力儲(chǔ)備、數(shù)據(jù)儲(chǔ)備、高端AI人才儲(chǔ)備，也注定了 他們必須尋求業(yè)內(nèi)玩家合作，使用相應(yīng)的技術(shù)與能力。

同時(shí)，很多大型企業(yè)想要的也不僅僅是一個(gè)大模型，而是希望獲得一種能力，最終擁有一個(gè)“只屬于自己的大模型”，這個(gè)大模型知道它的前世今生，儲(chǔ)存有客戶所有的數(shù)據(jù)，能夠孵化各種企業(yè)應(yīng)用。

而對(duì)于那些AI應(yīng)用不夠用，基礎(chǔ)大模型“用不完”的特定行業(yè)企業(yè)，用基礎(chǔ)大模型精調(diào)出更貼合實(shí)際場(chǎng)景的行業(yè)大模型則是首選。

這類企業(yè)一般都是在業(yè)內(nèi)有一定實(shí)力，了解行業(yè)know-how，同時(shí)還想在行業(yè)內(nèi)有進(jìn)一步發(fā)展的企業(yè)。但對(duì)于他們來(lái)說(shuō)，自建行業(yè)大模型面臨著數(shù)據(jù)成本、算力成本、試錯(cuò)成本高，模型效果難以保證，算法訓(xùn)練工程師需求多的難點(diǎn)。如何在保證數(shù)據(jù)安全的情況下，完成對(duì)基礎(chǔ)大模型的“借用”，則是這類企業(yè)接入大模型的關(guān)鍵要點(diǎn)。

而在需求多的特征之外，不同行業(yè)的企業(yè)，還表現(xiàn)出需求雜、跨度大的特征。

以大模型落地前沿的金融行業(yè)為例，作為人工智能應(yīng)用場(chǎng)景密集的行業(yè)，是大模型技術(shù)落地的重要領(lǐng)域之一，有望重塑現(xiàn)有業(yè)務(wù)流程，改變產(chǎn)業(yè)格局。

但在具體的應(yīng)用過(guò)程中，如何高效植入現(xiàn)有業(yè)務(wù)場(chǎng)景，讓一個(gè)團(tuán)隊(duì)既要懂業(yè)務(wù)場(chǎng)景，又要理解大模型的使用方法，還需要具備比較強(qiáng)的工程能力成為難題。同時(shí)，作為合規(guī)性要求幾乎是最高的行業(yè)，對(duì)產(chǎn)生的安全合規(guī)和隱私保護(hù)問(wèn)題也要完成

比如，以更具體的企業(yè)實(shí)際需求為例，在以國(guó)家電網(wǎng)、南方電網(wǎng)為代表的能源電力行業(yè)中，如何通過(guò)大模型提升電力調(diào)度智能化，保障電網(wǎng)安全是“雙碳”時(shí)代下的全新需求；長(zhǎng)安汽車為代表的制造行業(yè)中，如何加大智能化“色彩”，是大模型過(guò)去未曾接觸過(guò)的場(chǎng)景......

像這樣的復(fù)雜的生產(chǎn)場(chǎng)景，還有許多許多，在不同行業(yè)企業(yè)生產(chǎn)場(chǎng)景不同與不同體量企業(yè)需求不同的共同交織下，大模型的落地顯得愈發(fā)困難，也對(duì)百度等大模型企業(yè)提出了更高的要求，該怎樣去梳理企業(yè)需求？又怎樣去滿足行業(yè)需求呢？

2

憂企業(yè)所憂，百度智能云千帆如此進(jìn)化

如前文所述，面對(duì)千行百業(yè)的億萬(wàn)需求，只單一提供通用大模型服務(wù)或者應(yīng)用產(chǎn)品服務(wù)的企業(yè)，是無(wú)法將這塊“蛋糕”完整地吃下去的。最好的做法便是通過(guò)提供全套的平臺(tái)服務(wù)與AI原生思維的方法，助力行業(yè)完成進(jìn)化。

而百度智能云則更進(jìn)一步，根據(jù)不同體量企業(yè)的需求不同，提供了不同的功能，對(duì)應(yīng)著企業(yè)們應(yīng)用大模型的不同路徑。

比如，針對(duì)小型企業(yè)需求龐雜的情況，百度智能云千帆將眾多能力開(kāi)放給了企業(yè)端，提供模型再訓(xùn)練的全套工具鏈，支持多種形式模型調(diào)優(yōu)，包括SFT（全量參數(shù)微調(diào)、Prompt Tuning、Lora）及強(qiáng)化學(xué)習(xí)（獎(jiǎng)勵(lì)模型學(xué)習(xí)、強(qiáng)化學(xué)習(xí)訓(xùn)練）等。目標(biāo)是幫助企業(yè)和開(kāi)發(fā)者快速基于基礎(chǔ)大模型再訓(xùn)練，升級(jí)或者打造適合自己需求的智能應(yīng)用，而不用花費(fèi)巨大成本去“卷”自己的大模型。

百度智能云千帆還提供了國(guó)內(nèi)最全的預(yù)置Prompt模板。因?yàn)橛邪俣裙こ處煱l(fā)現(xiàn)，相當(dāng)一部分企業(yè)不會(huì)寫(xiě)Prompt，感嘆使用門(mén)檻高。

目前，千帆大模型平臺(tái)預(yù)置了103款Prompt模板，包含對(duì)話、編程、電商、醫(yī)療、游戲、翻譯、演講等十余個(gè)場(chǎng)景。其中既有基于百度智能云在產(chǎn)業(yè)實(shí)踐中積累的Prompt模板，也有來(lái)源于文心一言高頻用戶的Prompt模板。

這些模版均可直接輸出給大模型，讓大模型快速理解企業(yè)的需求，大大提高模型的交互效率、輸出質(zhì)量。

而且，百度智能云也沒(méi)有緊守著城門(mén)不開(kāi)，為其他大模型打開(kāi)大門(mén)——即通過(guò)千帆大模型提供33個(gè)嚴(yán)格優(yōu)選、進(jìn)行性能與安全雙重增強(qiáng)后的第三方大模型，共同完成服務(wù)。企業(yè)充分享受“模型自由”

企業(yè)和開(kāi)發(fā)者只需要登陸千帆大模型平臺(tái)操作臺(tái)，在【模型倉(cāng)庫(kù)】中進(jìn)行部署、調(diào)用，便能輕松享受到優(yōu)質(zhì)大模型帶來(lái)的業(yè)務(wù)效果提升。

正如百度所說(shuō)，他們希望的大模型發(fā)展是百花齊放，百家爭(zhēng)鳴地狀態(tài)，將會(huì)引入更多的開(kāi)源模型，最終落實(shí)到真正的生產(chǎn)力場(chǎng)景之中。

對(duì)于大型企業(yè)基礎(chǔ)大模型的構(gòu)建需求，百度還充當(dāng)了注重AI原生思維，幫助客戶構(gòu)建自身智能化能力的導(dǎo)師角色。

百度智能云一位工程師表示，在大模型推出后，很多客戶的目標(biāo)不僅是買(mǎi)一個(gè)大模型，而是希望獲得一種能力，最終擁有一個(gè)“只屬于自己的大模型”。

一些大型央國(guó)企客戶的訴求也很明確，他們向百度提出，不需要百度幫忙寫(xiě)代碼，“百度更多是一個(gè)教練的角色，給我好的工具，教會(huì)我應(yīng)該怎么用，長(zhǎng)期來(lái)講我的能力也能夠不斷提升”。

而在這樣一個(gè)為大型企業(yè)構(gòu)建基礎(chǔ)大模型的過(guò)程中，文心千帆大模型平臺(tái)與其上包含的數(shù)據(jù)管理、模型訓(xùn)練、評(píng)估優(yōu)化、預(yù)測(cè)服務(wù)部署以及插件服務(wù)，幫助企業(yè)搭建出專屬大模型。

豐富的產(chǎn)品能力、更加自由的大模型工具部署、多樣化的服務(wù)方式、更懂產(chǎn)業(yè)的AI落地路徑，共同讓百度智能云千帆擁有了極強(qiáng)的場(chǎng)景落地能力，也有望成功從企業(yè)對(duì)大模型需求側(cè)完成切入，進(jìn)而滲透各行各業(yè)。

9月1日，國(guó)家網(wǎng)信辦發(fā)布境內(nèi)深度合成服務(wù)算法備案信息公告顯示，百度文心大模型算法、百度數(shù)字人驅(qū)動(dòng)算法、語(yǔ)音合成算法等完成備案。百度成為“雙料王”，即同時(shí)獲批向公眾開(kāi)放服務(wù)備案和深度合成服務(wù)算法備案。此舉意味著，繼文心大模型之后，百度數(shù)字人、語(yǔ)音合成等也正式完成合規(guī)備案。

3

從互聯(lián)網(wǎng)到生產(chǎn)車間

聽(tīng)懂企業(yè)成為千帆“絕殺秘技”

在充分洞悉企業(yè)痛點(diǎn)，百度智能云還基于文心大模型的AI能力，升級(jí)了行業(yè)解決方案和通用AI應(yīng)用，進(jìn)入越來(lái)越多的核心場(chǎng)景。

在電商直播中，百度智能云曦靈數(shù)字人直播平臺(tái)利用大模型能力，完成了大幅降本增效。

該平臺(tái)通過(guò)百度自研的語(yǔ)音、視覺(jué)等技術(shù)，上傳一段真人視頻，不到30分鐘即可一比一復(fù)刻數(shù)字人主播。而結(jié)合百度文心大模型及電商行業(yè)專屬知識(shí)庫(kù)，形成了更適用直播場(chǎng)景的“營(yíng)銷大模型”，輸入幾個(gè)關(guān)鍵詞，即可自動(dòng)生成商品介紹、催單、場(chǎng)控等專業(yè)話術(shù)，并驅(qū)動(dòng)數(shù)字人一鍵開(kāi)播。

針對(duì)用戶彈幕互動(dòng)，也可通過(guò)大模型生成智能問(wèn)答直接回復(fù)，覆蓋諸如退換貨規(guī)定、發(fā)貨時(shí)間、優(yōu)惠力度等眾多常見(jiàn)問(wèn)題。相比真人直播間每月約5萬(wàn)元的成本，數(shù)字人直播間成本將大幅下降。

在辦公與教育領(lǐng)域里，金山辦公與好未來(lái)，是文心大模型落地的模范標(biāo)桿。

金山辦公通過(guò)千帆接入了文心一言，快速推出了 “WPS AI ”，成為中國(guó)協(xié)同辦公賽道首個(gè)ChatGPT類型的應(yīng)用。金山辦公助理總裁田然表示，百度作為中國(guó)最優(yōu)秀的大模型提供方之一，正在推動(dòng)大模型在辦公領(lǐng)域的應(yīng)用和快速落地。

而好未來(lái)則借用千帆的能力，完成了第三方大模型的SFT微調(diào)，顯著提升了開(kāi)源大模型的效果，而百度也成為了好未來(lái)快速推進(jìn)大模型應(yīng)用落地的重要合作伙伴。

安全生產(chǎn)是企業(yè)的生命線，百度智能云與深圳燃?xì)饴?lián)合發(fā)布“深燃-百度·文心大模型”。 這也是在燃?xì)庑袠I(yè)首次探索引入視覺(jué)大模型。針對(duì)燃?xì)鈭?chǎng)站、營(yíng)業(yè)廳里的新場(chǎng)景、新任務(wù)，企業(yè)基于大模型只需要進(jìn)行微調(diào)，就可以形成針對(duì)性的行業(yè)模型能力，完成多個(gè)應(yīng)用場(chǎng)景的任務(wù)。

這些從企業(yè)核心場(chǎng)景中成長(zhǎng)起來(lái)的經(jīng)驗(yàn)，也可以通過(guò)大模型沉淀為知識(shí)，在企業(yè)內(nèi)部傳承下來(lái)。

在過(guò)去，每個(gè)企業(yè)的專業(yè)知識(shí)是有限的，老工人在退休時(shí)會(huì)把相關(guān)知識(shí)全部帶走，即使通過(guò)師傅帶徒弟的方法，也會(huì)存在知識(shí)殘缺、片面的情況出現(xiàn)。而在文心大模型被引入后，每位員工的能力都將成為企業(yè)的數(shù)字資產(chǎn)留存下來(lái)，成為員工AI知識(shí)庫(kù)中的一部分，既可以為新員工提供培訓(xùn)服務(wù)，也可以打造智能助手，讓每一個(gè)工人身邊都有一個(gè)專家級(jí)的“助理”。

綜上可以看出，百度智能云能如此快速地將大模型落地與生產(chǎn)場(chǎng)景中，或許也說(shuō)明了新環(huán)境使大模型競(jìng)爭(zhēng)變成了一場(chǎng)綜合能力試煉：致勝因素將不再只是一家公司訓(xùn)練大模型的技術(shù)實(shí)力，還有它洞察市場(chǎng)需求、開(kāi)發(fā)與之匹配的應(yīng)用和做好運(yùn)營(yíng)的能力。

4

寫(xiě)在最后

伴隨著大模型的發(fā)展，各行各業(yè)智能化的廣度和深度將迎來(lái)突破。

對(duì)于企業(yè)來(lái)說(shuō)，伴隨著大模型改革的深化，同業(yè)競(jìng)爭(zhēng)者紛紛選擇AI發(fā)展路徑已經(jīng)成為了倒逼他們快步向前的最好推動(dòng)力，而在這個(gè)過(guò)程中，不同的需求與巨大的市場(chǎng)同時(shí)出現(xiàn)。

而對(duì)于大模型企業(yè)來(lái)說(shuō)，環(huán)境的改變也讓大模型競(jìng)爭(zhēng)成為了一場(chǎng)綜合能力試煉：致勝因素將不再只是一家公司訓(xùn)練大模型的技術(shù)實(shí)力，還有它洞察市場(chǎng)需求、開(kāi)發(fā)與之匹配的應(yīng)用和做好運(yùn)營(yíng)的能力。

據(jù)消息透露，百度智能云還要進(jìn)一步全方面強(qiáng)化服務(wù)企業(yè)的能力，在即將到來(lái)的9月5日2023百度云智大會(huì)上，百度智能云將宣布四大舉措，全面升級(jí)“千帆大模型平臺(tái)”，覆蓋算力基礎(chǔ)設(shè)施、大模型工具鏈、高質(zhì)量數(shù)據(jù)集等等，推基于文心大模型重構(gòu)的四大行業(yè)解決方案，發(fā)布覆蓋10款企業(yè)級(jí)的AI原生應(yīng)用產(chǎn)品。大模型相關(guān)的生態(tài)政策也將同步披露。

編者按：本文轉(zhuǎn)載自微信公眾號(hào)：奇偶派(ID：jioupai)，作者：關(guān)注AI的