本文來自微信公眾號“DoNews” | 因客

大模型戰(zhàn)場再起波瀾。

搜狗搜索創(chuàng)始人王小川創(chuàng)立的百川智能發(fā)布了旗下第三款大模型產品Baichuan-53B，據(jù)介紹其訓練參數(shù)高達 530 億。而百川智能也放出風聲，后續(xù)還會有多款產品發(fā)布。再加上科大訊飛的星火大模型升級、馬上消費致力解決金融行業(yè)大模型在落地過程中的安全可控和隱私保護、基礎設施能力建設等關鍵問題的大模型呼之欲出，進入八月后的人工智能大模型賽道再掀高潮。

那么，如此熱鬧的市場中，到底具備了哪些特質的大模型才最具前景，哪些困難又是當前無法跨越的，都是當前需要好好研究的方向。

01 百模大戰(zhàn)開啟，市場要多熱鬧有多熱鬧

自從ChatGPT爆火之后，入局大模型已經成為各大科技公司的首選。據(jù)《中國人工智能大模型地圖研究報告》顯示，截至2023年5月底，國內10億級參數(shù)規(guī)模以上基礎大模型至少已發(fā)布79個，而在下半年，包括科大訊飛、阿里等頭部玩家也將發(fā)布最新產品，戰(zhàn)場進一步升級幾乎成為定局。

實際上，這輪百模大戰(zhàn)甚至可以追溯到到2020年。當年美國就已推出了15款大模型，其中就包括GPT-3。而中國隨后在2021年也推出了30款大模型，2022年更是推出了28款大模型，進入2023年，前5個月更是高達19款大模型面試，增速可見一斑。據(jù)數(shù)據(jù)統(tǒng)計，中國和美國大模型的數(shù)量占全球大模型數(shù)量的近90%，兩極之勢已經形成。

回到國內，大模型廠商幾乎是當前國內頂級科技公司、機構的清單名錄：百度、騰訊、阿里、商湯、華為迅速入局，智源研究院、中科院自動化所也步后塵，如此態(tài)勢下更帶動一大批腰部公司入場，集群效應顯著。

大模型規(guī)?；鲩L之下，據(jù)IDC預測，2026年中國AI大模型市場規(guī)模將達到211億美元，人工智能將進入大規(guī)模落地應用關鍵期。

因此，對于任何大模型來說，想要在亂局之下突圍，都不是容易的事，打贏戰(zhàn)役的基礎之一就是糧草充足。據(jù)媒體報道，由于訓練成本過高，ChatGPT的開發(fā)公司OpenAI仍然在2022年出現(xiàn)5.4億美元左右的虧損。OpenAI首席執(zhí)行官Sam Altman還表示，該公司必須籌集多達 1000 億美元的資金，才能滿足不斷上漲的成本。

頭部大模型公司燒錢尚且不足，更不用說其他玩家了。但另一方面，投資熱度降低也是行業(yè)內不爭的事實。根據(jù)媒體統(tǒng)計的數(shù)據(jù)，在國內市場，從ChatGPT發(fā)布到現(xiàn)在，在AI大模型賽道融資事件只有21起。其中大多數(shù)明星獨角獸企業(yè)，不是入局早具有先發(fā)優(yōu)勢，就是有機構大佬的背書，占盡資源才沒有顯得過于狼狽。

另外，需要注意的是，留給大模型講故事的領域看似很多，但真正講好的少之又少。連知名投資人都表示，行情再火，也要捂好自己的錢包，畢竟好的標的實在難找。從實際情況看也是如此，大牌廠商力推通用大模型，力圖走贏家通吃的互聯(lián)網(wǎng)路線，當下發(fā)力在整合資源層面的模型居多；而中小廠商，主打一個錯位競爭，力圖通過在細分領域的深耕，分得屬于自己的一杯羹。

充滿朝氣但混亂的大模型之爭，看似熱鬧卻也暗流涌動，套用一句臺詞形容，當下可謂是“風浪越大，魚越貴”的階段。

02 數(shù)據(jù)投喂的噱頭下，繞不開成本這道難題

當前大模型想要吸引眼球，數(shù)據(jù)投喂的量級從來都是大做文章的環(huán)節(jié)。梳理大模型發(fā)展的歷史，你會看到參數(shù)規(guī)模增長的夸張曲線。

在國外，2018年，谷歌提出了大規(guī)模預訓練語言模型BERT，該模型是基于Transformer的雙向深層預訓練模型，其參數(shù)首次超過3億規(guī)模；2019年，OpenAI繼續(xù)推出15億參數(shù)的GPT-2，但馬上英偉達推出了83億參數(shù)的Megatron-LM，谷歌推出了110億參數(shù)的T5，微軟推出了170億參數(shù)的圖靈Turing-NLG，都搶走了OpenAI的風頭。

2020年，OpenAI推出了超大規(guī)模語言訓練模型GPT-3，參數(shù)達到1750億，而微軟和英偉達聯(lián)手跟進，在2020年10月聯(lián)手發(fā)布了5300億參數(shù)的MegatronTuring自然語言生成模型。2021年1月，谷歌推出的Switch Transformer模型以高達1.6萬億的參數(shù)量成為史上首個萬億級語言模型。

在國內，2021年，商湯發(fā)布了書生大模型，擁有100億的參數(shù)量；2021年4月，華為云聯(lián)合循環(huán)智能發(fā)布盤古NLP超大規(guī)模預訓練語言模型，參數(shù)規(guī)模達1000億，聯(lián)合北京大學發(fā)布盤古α超大規(guī)模預訓練模型，參數(shù)規(guī)模達2000億。

進入2022 年，基于清華大學、阿里達摩院等研究成果以及超算基礎實現(xiàn)的“腦級人工智能模型”八卦爐完成建立，其模型參數(shù)規(guī)模突破了174萬億個，直接拉高了入局門檻。

海量數(shù)據(jù)投喂的意義在哪里？大通用性、泛化性是其追求的核心要求，那些以互聯(lián)網(wǎng)贏家通吃思維入局的各大廠商，殺入通用大模型，也正是由于其手握海量數(shù)據(jù)，具有先天優(yōu)勢可以進行資源整合。

但是，對大模型來說，真的是數(shù)據(jù)越多越好嗎？

首選，就是成本問題。昆侖萬維CEO方漢認為，“超過千億級別的大模型，訓練需要投入的人力、電力、網(wǎng)絡支出等投入，一年至少5000萬美金到1億美金。”如果這一測算成真，那顯然大模型只能是有錢人的游戲。

但其實，在當下的眾多垂直領域，大模型的身影也無處不在。而這些領域的一個共性特征就是：投喂數(shù)據(jù)并非天文數(shù)字。

這是為什么？垂直領域下，行業(yè)數(shù)據(jù)更加精準，因此十億級別參數(shù)甚至更少的數(shù)據(jù)，都可以支撐模型實現(xiàn)效果，自然花費的成本也更低廉。從這個角度解釋，教育、法律、金融等行業(yè)大模型的出現(xiàn)，也是因為行業(yè)形成共識：錢在這個游戲中，并不是萬能的。

03 錯位競爭，腰部大模型的生存要義

通用大模型走下神壇，與其表現(xiàn)出來的落地障礙有關，360集團副總裁彭輝總結為七點：缺乏行業(yè)深度、不懂企業(yè)、數(shù)據(jù)安全隱患、知識更新不及時、“胡說八道”、投入巨大、無法訓練進大模型的核心知識的保證所有權等。

而另一邊，垂直大模型卻如雨后春筍一般出現(xiàn)。

8月9日，網(wǎng)易有道推出“子曰”教育大模型首次落地的硬件產品——有道詞典筆X6 Pro，新增虛擬人口語教練Echo，可實現(xiàn)多輪英語對話。此外還有互動問答、語法精講功能，待機時長100天，起售價1399元。

內容層面上，首次引進經典教輔品牌《五年高考·三年模擬》，不局限于查詞本身，詞典筆還能做全科一對一輔導。

而在網(wǎng)易有道之前，學而思已經宣布正在進行自研數(shù)學大模型的研發(fā)，命名為MathGPT，面向全球數(shù)學愛好者和科研機構；而在五月，淘云科技宣布推出兒童認知大模型——阿爾法蛋兒童認知大模型，為孩子在練表達、塑情商、啟創(chuàng)造、助學習等方面帶來全新交互體驗。

除去教育，其他垂直領域的大模型也層出不窮：今年4月，知乎正式發(fā)布“知海圖AI”中文大模型，知乎創(chuàng)始人、董事長兼CEO周源表示：“知乎以應用層和數(shù)據(jù)層的獨特優(yōu)勢，將致力于為中文互聯(lián)網(wǎng)的大語言模型添磚加瓦?！保?月，攜程發(fā)布*旅游行業(yè)垂直大模型“攜程問道”，攜程集團董事局主席梁建章表示，希望用戶從包括“攜程問道”在內的產品中獲得旅游行業(yè)“可靠的內容，放心的推薦”。京東緊隨其后發(fā)布言犀大模型，其宣傳稱：“沉淀了京東在零售、物流、健康、金融等行業(yè)多年積累的知識，融合70%通用數(shù)據(jù)與30%京東數(shù)智供應鏈原生數(shù)據(jù)進行訓練，帶來了商品推薦、金融政策、理財規(guī)則、物流體驗等領域的能力?！?/span>

如此種種，讓我們需要好好面對一個問題：垂直大模型，為什么火？

首先，大模型變小，成本控制更容易。與通用大模型動輒萬億級別的參數(shù)投喂，垂直大模型往往在十億量級的參數(shù)訓練就能有效果，而其數(shù)據(jù)要求的專業(yè)性、精確性，也比通用大模型囫圇吞棗般的投喂要有針對和效率，進而折射出資金、算立等資源利用率的差異。

其次，垂直大模型在解決數(shù)據(jù)安全隱患、缺乏行業(yè)深度等問題方面更具優(yōu)勢。以AI制藥行業(yè)對大模型的需求為例，由于藥物研發(fā)對高精度實驗數(shù)據(jù)的獲取成本較高，且公開數(shù)據(jù)庫中有大量無標注數(shù)據(jù)，對于通用大模型而言使用這類數(shù)據(jù)投喂，顯然是“吃的是奶，產出來的什么都不是”的風險。對于需要利用好大量無標注數(shù)據(jù)，又要利用好少量高精度數(shù)據(jù)的需求，垂直大模型顯然是更好的選擇。

最后，垂直大模型是商業(yè)創(chuàng)意實現(xiàn)的溫床。在通用大模型的模式下，大、廣、全是其追求的方向，這勢必造成大模型之間功能同質化問題的出現(xiàn)。而垂直大模型在投入上本來就低，更適合小公司切入進來。

而小公司想要在市場中立足，在沒有資源、沒有實力的情況，勢必要從商業(yè)創(chuàng)業(yè)與服務上做文章，說到底，定制化的服務，只要能創(chuàng)造足夠的價值，永遠不會缺乏市場。

百模大戰(zhàn)，看起來箭在弦上了。