轉(zhuǎn)眼之間，2024 年已經(jīng)過半，AI 大模型的熱度從去年的技術(shù)探索轉(zhuǎn)向落地實踐，肉眼可見的是，各行各業(yè)都紛紛在這場熱潮中尋找新的業(yè)務(wù)創(chuàng)新點和行業(yè)增長點。
“大模型的出現(xiàn)帶來了變革，它實現(xiàn)了知識平權(quán)，為我們提供了技術(shù)條件，使得我們能夠參與到 AI 的應(yīng)用中來。” 寧德核電人工智能實驗室負(fù)責(zé)人王澍在 InfoQ 17 周年慶直播中表示，核電由于行業(yè)特殊性，從業(yè)人員自身的技術(shù)意識和能力有限，加上傳統(tǒng) AI 依賴于規(guī)則驅(qū)動，知識門檻高，使得過去核電領(lǐng)域?qū)?span lang=EN-US> AI 的應(yīng)用并不廣泛。而大模型的出現(xiàn)，讓過去看似不可能的事情變?yōu)榱丝赡堋?/p>
此外，即便是在物流、金融等這些已經(jīng)較為普遍應(yīng)用了 AI 技術(shù)等行業(yè)，大模型也帶來了新的突破。順豐科技運籌優(yōu)化算法專家王一帆指出，在復(fù)雜的供應(yīng)鏈領(lǐng)域，傳統(tǒng)技術(shù)面臨兩大挑戰(zhàn)，一是求解性能，二是使用門檻。對此，大模型解決了很多以前難以解決的瓶頸問題，使得業(yè)務(wù)效率大大提升。
螞蟻集團投研支小助技術(shù)負(fù)責(zé)人紀(jì)韓以知識圖譜技術(shù)的演進為例，介紹了大模型在金融領(lǐng)域的應(yīng)用價值。他表示，隨著市場的變化，管理知識圖譜的成本越來越高，而且事件與金融資產(chǎn)波動的邏輯也在內(nèi)生變化，這使得模型和知識圖譜難以跟上變化節(jié)奏。對此，大模型提供了另一種可能性，由于具備閱讀大量報告的能力，它能夠發(fā)現(xiàn)報告中金融邏輯的共性，使得機器進行復(fù)雜分析變得更加可行。
然而，在面對不同行業(yè)時，大模型的落地過程仍然充滿挑戰(zhàn)。比如，成本投入是否合理、可能帶來哪些新的風(fēng)險、如何克服內(nèi)外部的各種阻力等等。在直播對話中，三位老師展開了深入的探討和分享。
以下內(nèi)容根據(jù)對話整理，篇幅有刪減：
InfoQ：幾個月前，寧德核電推出了自主訓(xùn)練的核工業(yè)大模型，王老師可以介紹一下幾個月來的應(yīng)用進展嗎？
王澍：自從我們幾個月前發(fā)布了大模型，它已經(jīng)展現(xiàn)出了多方面的發(fā)展?jié)摿ΑＷ鳛槲覀兊闹R管理平臺，大模型在持續(xù)迭代中顯著提升了其泛化能力，效果顯著。此外，基于大模型開發(fā)的首款應(yīng)用 “AI 講師” 已經(jīng)在一些試點課程中推廣使用。
在生產(chǎn)領(lǐng)域，我們設(shè)備管理等方面也推出了一些試點產(chǎn)品。同時，我們在 AI 人才培養(yǎng)方面也取得了進展，不僅培養(yǎng)了復(fù)合型人才，還大膽推進了種子教育計劃。核電領(lǐng)域由于計算機背景相對薄弱，我們需要培養(yǎng)既能使用大模型又能訓(xùn)練大模型的人才。這一過程不能完全依賴第三方，必須培養(yǎng)自己的教員，以便為不同層次的一線員工提供相應(yīng)的培訓(xùn)。換句話說，全員都需要掌握不同程度的技能，以適應(yīng)我們行業(yè)的特殊需求。
此外，我們的大模型本身也實現(xiàn)了擬人化，作為寧德核電人工智能實驗室的 AI 智囊，參與了日常的頭腦風(fēng)暴、培訓(xùn)學(xué)習(xí)和科研項目研討等工作。
InfoQ：金融行業(yè)因為具有高度的復(fù)雜性、動態(tài)性和不確定性，一直是 A 及其相關(guān)技術(shù)的應(yīng)用熱點。請問紀(jì)老師，目前螞蟻集團在大模型層面進行了哪些探素？有哪些典型的實踐案例？
紀(jì)韓：我的工作主要集中在利用大模型及其多智能體系來解決投資研究中的問題。投資研究主要分為定量和定性兩個方向。在定量研究方面，我們已經(jīng)有多年的利用技術(shù)刻畫金融市場的經(jīng)驗，并且量化金融領(lǐng)域已經(jīng)形成了成熟的處理方式。引入大模型后，我們采用了一種更為成熟的技術(shù)，即利用大模型生成代碼，這使得那些不擅長編程的分析師也能通過大模型進行初級的定量分析。
在定性研究方面，金融分析師需要進行大量的案頭工作，如閱讀新聞資料、研報、財報和上市公司公告等。大模型在這方面表現(xiàn)出了其優(yōu)勢，擅長處理文字材料。基于此，我們開發(fā)了一個名為 “投研支小助” 的智能助手工具，旨在輔助分析師的日常工作。目前，螞蟻集團及其緊密合作伙伴已經(jīng)開始內(nèi)測這一工具，用以輔助理財師和分析師，幫助他們解決過去機器難以解決的問題。
InfoQ：大模型產(chǎn)出的內(nèi)容，目前在咱們內(nèi)部的應(yīng)用率和采納率如何，準(zhǔn)確性大概處于什么水平呢？
紀(jì)韓：可以肯定的是，大模型技術(shù)的應(yīng)用在兩個主要方面取得了顯著成效。
首先，對于理財師而言，過去他們能夠服務(wù)的客戶數(shù)量是有限的，因為他們需要為每位客戶準(zhǔn)備個性化的服務(wù)材料，包括投資分析報告和持倉分析等。但通過機器輔助，理財師的服務(wù)半徑得以顯著擴大，可以覆蓋更多的客戶，實現(xiàn)了服務(wù)能力數(shù)量級的提升。
其次，以支付寶的理財服務(wù)為例，過去在沒有大模型技術(shù)支持的情況下，我們每天只能挑選有限的重點事件、新聞或政策進行解讀，數(shù)量通常在 30-50 篇之間，甚至更多時候只有個位數(shù)。深入應(yīng)用大模型技術(shù)后，我們可以對細(xì)分行業(yè)領(lǐng)域進行更細(xì)致的分析和解讀，覆蓋全市場的行業(yè)，數(shù)量可以達到 100-200 以上。目前，我們每天都由機器先生產(chǎn)一大批相關(guān)的分析和解讀，然后由人工專家進行審核和改寫。這使得分析報告從過去的幾十篇甚至個位數(shù)，提升到了上百篇，實現(xiàn)了數(shù)量級的增長。
InfoQ：請問一帆老師，多年來，順豐一直在基于智能算法優(yōu)化物流供應(yīng)鏈，那么結(jié)合大模型我們最近有哪些新的應(yīng)用或?qū)嵺`嗎？
王一帆：順豐作為物流行業(yè)的重要企業(yè)，一直致力于解決物流和供應(yīng)鏈中的優(yōu)化問題，包括庫存優(yōu)化、銷量預(yù)測、物流配送和路徑規(guī)劃等全鏈路供應(yīng)鏈場景。我們不僅采用了傳統(tǒng)的運籌學(xué)方法，也積極運用人工智能技術(shù)。隨著大模型技術(shù)的興起，順豐投入了大量資源進行研發(fā)，利用我們在供應(yīng)鏈領(lǐng)域的豐富項目經(jīng)驗和行業(yè)積累，發(fā)揮了天然優(yōu)勢。目前，順豐在兩個主要領(lǐng)域進行了深入研究。
供應(yīng)鏈分析領(lǐng)域：傳統(tǒng)的對話式機器人需要用戶提出非常具體的問題才能給出準(zhǔn)確的回答。借助大模型技術(shù)，用戶可以用更寬泛的問題提問，大模型能夠?qū)@些問題進行細(xì)致篩選，提取出精準(zhǔn)信息，再傳遞給傳統(tǒng)的 AI 問答工具。這樣，工具可以針對解析出的信息進行深入分析，提供全局性的供應(yīng)鏈分析建議或咨詢方案。
供應(yīng)鏈決策領(lǐng)域：在裝箱問題、庫存優(yōu)化和路徑規(guī)劃等方面，傳統(tǒng)技術(shù)可能會遇到性能或定制化的問題。大語言模型最初用于解決詞匯層面的對話生成，例如提供句子的后續(xù)詞匯提示。盡管這看似與路徑規(guī)劃無關(guān)，但實際上，路徑規(guī)劃中的訪問次序優(yōu)化與詞匯生成的順序邏輯在數(shù)理上具有相關(guān)性。順豐借鑒了這方面的知識，將其應(yīng)用于路徑規(guī)劃，取得了良好效果。
InfoQ：在與眾多企業(yè)的交流中，我們發(fā)現(xiàn)雖然生成式 AI 或大模型技術(shù)被認(rèn)為具有巨大的想象力和潛力，但企業(yè)在實際投入時往往持謹(jǐn)慎態(tài)度，會深思熟慮技術(shù)實力和成本問題。因此，大家普遍希望對比了解，在傳統(tǒng) AI 技術(shù)的基礎(chǔ)上，大模型或生成式 AI 技術(shù)能夠解決哪些傳統(tǒng)技術(shù)無法解決的問題，或者在哪些方面能夠帶來更好的效果？
王澍：在大模型技術(shù)興起之前，我們核電領(lǐng)域?qū)?span lang=EN-US> AI 的應(yīng)用并不廣泛，主要集中在一些特定領(lǐng)域的探索，如 AR 眼鏡和機器狗等。這其中主要有兩個原因：首先是能力層面或意識層面的問題。由于 AI 本身具有較高的知識門檻，而核電人員往往缺乏計算機背景，因此很難具備應(yīng)用 AI 的意識和能力。大模型的出現(xiàn)帶來了變革，它實現(xiàn)了知識平權(quán)，為我們提供了技術(shù)條件，使得我們能夠參與到 AI 的應(yīng)用中來。
第二個方面是業(yè)務(wù)層面的差異。傳統(tǒng) AI 更多依賴于規(guī)則驅(qū)動，但核電領(lǐng)域的復(fù)雜性使得我們這些 IT 領(lǐng)域的門外漢難以輕松找到并應(yīng)用這些規(guī)則。大模型的端到端目標(biāo)驅(qū)動方式和自然語言交流機制，使得我們即使沒有深厚的 IT 背景，也能夠?qū)⒖此撇豢赡艿氖虑樽優(yōu)榭赡堋?/p>
王一帆：在使用大模型技術(shù)之前，我們在行業(yè)內(nèi)遇到了一些難以解決的瓶頸問題。這些問題通常涉及復(fù)雜的供應(yīng)鏈領(lǐng)域，我們面臨的第一個挑戰(zhàn)是求解性能。舉個例子，對于某類型的優(yōu)化問題，傳統(tǒng)技術(shù)能夠在一天內(nèi)求解 100 個案例，并且每個案例的得分都能達到 90 分以上，但如果沒有硬件或軟件的提升，就很難突破現(xiàn)有瓶頸，高效率的求解更多案例。大模型技術(shù)的出現(xiàn)改變了這一局面。現(xiàn)在我們可以在一天內(nèi)解決一千一萬甚至更多案例。雖然目前大模型可能還無法完全達到傳統(tǒng)方法 90 分以上的平均水平，但其潛力巨大。
另一方面，使用門檻也有所降低。以往，解決這些問題需要算法人員或技術(shù)專家設(shè)計特定方法。有了成熟的大模型平臺后，只需按照規(guī)定格式進行數(shù)據(jù)標(biāo)注和投喂，大模型就能根據(jù)現(xiàn)有數(shù)據(jù)不斷訓(xùn)練和迭代，成為一個高度智能的工具。面對新的應(yīng)用場景，大模型能夠快速得出良好結(jié)果，而使用這種技術(shù)不再依賴于專業(yè)的算法能力，只需在數(shù)據(jù)層面和操作層面進行一些培訓(xùn)即可，這大大降低了使用門檻。
紀(jì)韓：在金融領(lǐng)域，主觀研究一直帶有一種神秘性，業(yè)界一直在嘗試用機器來解決主觀決策的問題。例如，早期的 Alphasense 公司就利用自然語言處理技術(shù)來理解新聞，并從中提取與金融領(lǐng)域相關(guān)的事件和觀點。還有一家在金融界廣為人知的公司 Kensho，它利用知識圖譜技術(shù)，將資產(chǎn)的漲跌和行業(yè)事件聯(lián)系起來，實現(xiàn)金融推理。這些公司在大約 10 年前取得了一些技術(shù)成果。
隨著市場的變化，管理知識圖譜的成本越來越高，而且事件與金融資產(chǎn)波動的邏輯也在內(nèi)生變化，這些模型和知識圖譜很難跟上世界的變化。從那時起，大約從 2013 年到 2023 年，在這 10 年間，通過機器進行決策的嘗試相對沉寂。直到大模型技術(shù)的爆發(fā)，金融界才重新發(fā)現(xiàn)了一種新的可能。現(xiàn)在，我們可能不再需要像過去那樣，費盡心思地從分析師的大腦中提取他們的分析方法論和模式，通過知識工程的方式將其沉淀下來。
大模型只需要大量的金融語料，比如分析師撰寫的報告，就能從中抽象出分析師自身的分析邏輯。由于大模型具備閱讀大量報告的能力，它能夠發(fā)現(xiàn)報告中金融邏輯的共性。這種能力在過去，對于整個金融界來說，幾乎是不可能通過機器實現(xiàn)的負(fù)責(zé)分析邏輯。大模型的出現(xiàn)，為金融領(lǐng)域帶來了一種全新的可能性，使得機器進行復(fù)雜分析變得更加可行。
InfoQ：王澍老師之前提到，寧德核電在 AI 應(yīng)用方面起步較晚，因此用戶可能認(rèn)為核電是一個相對傳統(tǒng)、復(fù)雜且保守的領(lǐng)域。對于引入大模型可能帶來的風(fēng)險，那最初是如何考慮的，以及的初衷是什么？
王澍：核電行業(yè)的保守程度可能遠超外界的想象。在我們這個行業(yè)，有一條基本原則——任何未經(jīng)證明安全的行為，我們都視為不安全。安全是我們核電人的底線。換句話說，如果一項技術(shù)存在風(fēng)險，我們絕不會在核電行業(yè)中引入它，我們只使用那些經(jīng)過驗證的保守和成熟技術(shù)。
然而，我們在現(xiàn)實中考慮引入看似不太成熟的大模型，這可能聽起來有些矛盾。實際上，這背后有兩個方面的考慮。首先，我們需要判斷大模型技術(shù)是否值得投入，是否應(yīng)該采用。經(jīng)過大半年的可行性驗證，我們看到了它的價值，認(rèn)為這是值得做的事情。一旦確定這一點，我們就會進一步評估它可能帶來的風(fēng)險。核電行業(yè)并非所有崗位和領(lǐng)域都涉及安全風(fēng)險。因此，我們選擇了一些業(yè)務(wù)價值大且不涉及安全風(fēng)險的領(lǐng)域來引入大模型。例如，我們特別重視人才培養(yǎng)和第一個大模型平臺的開發(fā)，這些都是圍繞知識管理和人才發(fā)展進行的。既然我們已經(jīng)判斷這項技術(shù)必須采用，那么接下來的問題就是如何更好地實施它。我們的目標(biāo)是找到既能發(fā)揮大模型技術(shù)優(yōu)勢，又能確保安全和風(fēng)險可控的方法。
面對一項新技術(shù)，尤其是像大模型這樣不太成熟的技術(shù)，核電行業(yè)所面臨的挑戰(zhàn)是全方位的，每一個挑戰(zhàn)都可能非常嚴(yán)峻。我經(jīng)常感到窒息的一個問題是，核電領(lǐng)域?qū)?span lang=EN-US> AI，包括大模型的認(rèn)知基礎(chǔ)非常薄弱。我去年 5 月開始探討這個話題時，行業(yè)內(nèi)幾乎沒人明白我在說什么。
在這個極其保守的行業(yè)中，對新生事物往往存在偏見，甚至敵意。在這樣的環(huán)境下，如何推廣大模型技術(shù)，并最終取得階段性成果，是一個復(fù)雜的過程。我認(rèn)為這個過程可以分為幾個關(guān)鍵步驟。
第一，說服領(lǐng)導(dǎo)：我從去年 7 月開始，自己投入了大約 10 萬元，購買電腦，自學(xué)如何部署開源大模型，并訓(xùn)練了一個效果出乎意料的大模型。這最終打動了領(lǐng)導(dǎo)，使他們認(rèn)識到這項技術(shù)確實比人類更有優(yōu)勢。
第二， 說服一線員工：在說服了領(lǐng)導(dǎo)之后，接下來需要在整個一線環(huán)境中說服大家接受這個新事物。我們?nèi)ツ晖茝V了一個名為 “全民大模型” 的計劃，讓所有人都能通過大模型解決工作中的效率問題和難點問題。
第三，持續(xù)教育和培訓(xùn)：我們持續(xù)對管理層和一線員工進行大模型的科普宣講和培訓(xùn)，不斷向他們灌輸一個概念：如果不學(xué)習(xí) AI，未來就可能被 AI 淘汰。大模型已經(jīng)非常強大，幾乎能做你們能做的所有事情。
第四，培養(yǎng)種子教員：由于我們的基礎(chǔ)特別差，覆蓋面廣，但對人才培養(yǎng)非常重視，我們必須培養(yǎng)能夠講授 AI 和大模型知識的教員。這樣既能降低成本，也能讓企業(yè)相信我們真的能夠持續(xù)推進這項技術(shù)。
目前，從組織的最高層到基層員工，我們已經(jīng)形成了一種共識：大模型技術(shù)的價值是無法估量的。這種認(rèn)識貫穿了整個組織結(jié)構(gòu)，大家都認(rèn)識到這項技術(shù)的重要性和潛在的巨大影響。
InfoQ：螞蟻在技術(shù)與業(yè)務(wù)結(jié)合的探索層面一直走在行業(yè)前列，作為先行者可能沒有太多現(xiàn)成經(jīng)驗可參考，那么在我們進行 Al 大模型應(yīng)用過程中遇到的最大的落地難點是什么？對此螞蟻采取了什么手段，又取得了什么階段性進展？
紀(jì)韓：在螞蟻集團，我們對于大模型技術(shù)持有非常開放和包容的態(tài)度，許多同事自發(fā)地利用業(yè)余時間進行研究和嘗試。這種自發(fā)性的研究熱情，加上公司對新技術(shù)的鼓勵和支持，創(chuàng)造了一個積極的環(huán)境，促進了大模型技術(shù)的應(yīng)用和發(fā)展。
在金融領(lǐng)域應(yīng)用大模型技術(shù)，我們面臨一些挑戰(zhàn)，尤其是模型的嚴(yán)謹(jǐn)性和合規(guī)性問題。金融領(lǐng)域?qū)?yán)謹(jǐn)性的要求極高，因此我們在模型的調(diào)試和訓(xùn)練上投入了大量的精力，使用了精心制作的金融數(shù)據(jù)，包括正例和反例，以確保模型生成的內(nèi)容符合金融邏輯和嚴(yán)謹(jǐn)性。此外，我們還建立了智能體評審機制和 “安全圍欄”，確保生成內(nèi)容的合規(guī)性、專業(yè)性，并滿足金融領(lǐng)域?qū)?shù)值型信息的精確處理需求。由于早期基礎(chǔ)大模型在數(shù)值感知和時間識別方面的能力有限，我們通過與傳統(tǒng)專家系統(tǒng)和規(guī)則系統(tǒng)的結(jié)合，確保最終生成內(nèi)容的準(zhǔn)確性。
在這個過程中，我們特別重視人才梯隊的建設(shè)。金融領(lǐng)域的專家知識積累相對欠缺，研究方法論主要通過資深分析師的口頭傳授。為了讓模型生成的效果達到預(yù)期，并評估模型是否真的解決了金融問題，我們需要真正懂金融的專業(yè)人士對模型生成的結(jié)果進行打分、標(biāo)注和修正。
最初，讓資深分析師來參與模型標(biāo)注可能比較困難，但隨著一些對新技術(shù)更開放的研究員的參與，模型開始展現(xiàn)出效果，比如幫助生成初步的分析報告。這逐漸吸引了更多的分析師愿意參與到模型的打標(biāo)和迭代過程中。這個過程涉及到技術(shù)人員、算法人員和分析師之間的信任建立和磨合，最終形成了一個良性循環(huán)，使大家認(rèn)同大模型能夠幫助解決實際工作問題。這可能是金融機構(gòu)以及對大模型應(yīng)用有高正確性和嚴(yán)謹(jǐn)性要求的領(lǐng)域所面臨的情況。
InfoQ：不同的行業(yè)，盡管具體情況各異，但在應(yīng)用新技術(shù)和優(yōu)化流程時遇到的問題往往存在共性。下面請一帆老師分享順豐在供應(yīng)鏈優(yōu)化方面的經(jīng)驗和見解。
王一帆：在面對新技術(shù)的應(yīng)用和推廣時，不同行業(yè)雖有差異，但遇到的問題存在共性。我們的任務(wù)是說服相關(guān)人員采納這些技術(shù)，并幫助他們有效使用。在供應(yīng)鏈領(lǐng)域，我們已經(jīng)積累了豐富的經(jīng)驗，這些經(jīng)驗可能源自傳統(tǒng)行業(yè)和傳統(tǒng)技術(shù)。我們面臨的挑戰(zhàn)并不全是 AI 大模型技術(shù)出現(xiàn)后才遇到的，但新技術(shù)的出現(xiàn)無疑帶來了新的挑戰(zhàn)。
首先，AI 是一個快速發(fā)展的新興領(lǐng)域，技術(shù)更新迭代迅速，并依賴于多樣化的應(yīng)用場景。我們需要不斷跟蹤新技術(shù)，對它們進行驗證，并針對具體問題開發(fā)解決方案。這是一個不斷螺旋上升、積累有價值技術(shù)方案的過程。
其次，需求的差異性也是一個挑戰(zhàn)。供應(yīng)鏈領(lǐng)域的客戶對服務(wù)的細(xì)節(jié)要求各不相同，如時效性或成本。將這些差異化的需求轉(zhuǎn)化為大模型可以識別和響應(yīng)的特征，需要大量的迭代和調(diào)整。
再者，實現(xiàn)這些目標(biāo)需要一個堅實的數(shù)據(jù)基礎(chǔ)。沒有歷史數(shù)據(jù)的支持，我們不能期望大模型一步到位地達到理想效果。必須基于以往的決策和業(yè)務(wù)實踐，分析其優(yōu)缺點，并通過數(shù)據(jù)標(biāo)注等工作，為大模型提供必要的訓(xùn)練數(shù)據(jù)。
其四，大模型本身的決策精度問題。大模型追求泛化效果，能夠應(yīng)對多種場景，但要針對特定客戶或項目達到預(yù)期效果，則需要在泛化的基礎(chǔ)上進行更多定制化的調(diào)試和優(yōu)化。
其五，和之前提到的老師一樣，我們也遇到了需要自己投入資源以先期證明技術(shù)能力的情況。大模型開發(fā)涉及到軟硬件以及人力資源的大量投入，需要充分的支持才能取得效果。
InfoQ：對于企業(yè)而言，大模型未必越大越好，大家認(rèn)為未來傳統(tǒng) Al 技術(shù)和大模型如何有機地協(xié)同配合？
紀(jì)韓：在實際應(yīng)用大模型技術(shù)時，成本是一個重要的考量因素。我們經(jīng)常需要研究什么樣的模型規(guī)模和參數(shù)量適合解決特定復(fù)雜度的問題。在早期研究階段，我們傾向于使用較大的模型以期達到接近人類專家的金融研究水平，以獲得高質(zhì)量的分析結(jié)果。在真正投入生產(chǎn)時，我們必須考慮是否需要對金融市場上每天發(fā)生的幾千個事件，很多事件可能并沒有太大價值。例如，在財報季，上市公司集中公布財報和舉行電話會議，A 股市場每天可能有五六百家公司發(fā)布財報，每份報告可能數(shù)十萬字，用大參數(shù)量的模型處理這些報告將消耗巨大的資源。
我們需要識別哪些信息真正適合用大模型處理，以及哪些信息對業(yè)務(wù)有重大的增量價值。在金融行業(yè)研究中，我們可能更關(guān)注對市場影響大的龍頭企業(yè)，而對于基本面變化對行業(yè)影響微弱的長尾公司，則不必使用過于強大的模型處理。
我們采用了多智能體技術(shù)來模擬金融專家的分析任務(wù)，通過不同的任務(wù)節(jié)點分工合作，如問題拆解、定量分析、定性分析和信息匯總等。這個過程被抽象成一個多智能體協(xié)作的 PEER 范式，即 Planning（規(guī)劃）、Executing（執(zhí)行）、Expressing（表達）、Reviewing（評審），模仿專家分解任務(wù)、執(zhí)行任務(wù)、撰寫報告和通過同行評審迭代分析結(jié)果的過程。在這個過程中，不同任務(wù)節(jié)點的難度不同，所需的模型規(guī)模也不同。
例如，規(guī)劃任務(wù)可能不需要很大的模型，而撰寫任務(wù)則可能需要更大參數(shù)量的模型，如 72B 或 110B 以上，以便處理大量信息語料。我們認(rèn)為，能夠根據(jù)不同任務(wù)選擇適配的模型，并建立相應(yīng)的基礎(chǔ)設(shè)施，是未來在工業(yè)實踐中有效利用大模型的關(guān)鍵。這樣不僅可以確保任務(wù)的復(fù)雜度與成本開銷之間達到合理匹配，還能提高大模型技術(shù)在實際應(yīng)用中的效率和效果。
王一帆：大模型以其出色的泛化能力受到認(rèn)可，但這并不意味著模型越大越好。雖然大型模型能夠提供更強的推理能力和更精準(zhǔn)地理解用戶意圖，但它們在特定領(lǐng)域的專業(yè)性上可能不夠深入。例如，當(dāng)面對領(lǐng)域?qū)＜姨岢龅膶I(yè)問題時，大模型可能給出的回答不夠精確，表現(xiàn)出 “什么都知道一點，但什么都不精”的特點。針對這一問題，我們研究并采用了一種結(jié)合 “大模型” 和“小模型”的解決思路。“小模型”，也就是傳統(tǒng) AI 中的分析工具，擅長在特定類型的問題上給出精確答案，但它們可能無法回答所有問題。結(jié)合這兩種模型的優(yōu)勢，我們可以在供應(yīng)鏈分析等領(lǐng)域進行更有效的嘗試。
在使用過程中，我們首先利用大模型的泛化能力進行初步分析，理解并分析用戶想要提出的問題類型，然后對問題進行解析和歸類。例如，在供應(yīng)鏈分析中，可能包括根因分析、庫存仿真推演、銷量預(yù)測等具體問題。用戶可以用寬泛的方式向大模型提問，大模型將問題提煉并分發(fā)到不同的小模型中，由這些小模型提供精確的分析和回答。最終，這些精確的回答可以通過大模型以更精致、系統(tǒng)的方式呈現(xiàn)給用戶，比如通過圖形、報表或全面的解析報告。這種結(jié)合使用大模型和小模型的方法，能夠充分發(fā)揮各自的長處，互補不足，從而提高整體效果。
王澍：大模型確實不是越大越好。在我們核電行業(yè)，大模型訓(xùn)練是我們經(jīng)過近一年訓(xùn)練所積累的技術(shù)優(yōu)勢之一。這包括數(shù)據(jù)收集、清洗，以及在大模型訓(xùn)練中的模型選擇、超參數(shù)設(shè)置等。除了傳統(tǒng) AI 技術(shù)與大模型的結(jié)合，我想進一步探討的是傳統(tǒng) AI 技術(shù)、通用大模型、垂直大模型以及人如何協(xié)同作戰(zhàn)。關(guān)鍵在于發(fā)揮各自的優(yōu)點，而不是過分關(guān)注缺點。我們不應(yīng)該期望單一技術(shù)解決所有問題，也不應(yīng)該因為某項技術(shù)的短板而全盤否定它。
大模型的優(yōu)點主要有兩個：一是在準(zhǔn)確回答問題方面能夠做到極其精準(zhǔn)；二是它們提供了強大的泛化能力，也就是所謂的頭腦風(fēng)暴能力。人的特點在于，我們可以迅速判斷一個答案的正確與否，這是在四者協(xié)同工作中的一個顯著優(yōu)勢。通過這種協(xié)同，許多曾經(jīng)難以處理或無法解決的問題，現(xiàn)在至少有了新的解決思路。這種協(xié)同作戰(zhàn)不僅提高了解決問題的能力，也為我們提供了更廣闊的視野和更多的可能性。這些感受來自于我過去一年在訓(xùn)練和使用大模型過程中的親身體驗。通過將傳統(tǒng) AI 技術(shù)、不同種類的大模型以及人的判斷力有效結(jié)合起來，我們可以更全面、更高效地應(yīng)對各種挑戰(zhàn)。
InfoQ：技術(shù)的先進性要真正落實帶企業(yè)業(yè)務(wù)場景，給業(yè)務(wù)帶來收益才有價值。那么，如何將 Al 大模型技術(shù)的應(yīng)用與企業(yè)的業(yè)務(wù)需求緊密結(jié)合？阻力是什么？如何跨越？
王一帆：在大模型技術(shù)到來之前，我們面對的挑戰(zhàn)已經(jīng)存在多年，特別是如何讓業(yè)務(wù)人員理解 AI 大模型或傳統(tǒng)運籌學(xué)算法。由于這些技術(shù)對他們來說難度相當(dāng)，我們的目標(biāo)一直是促進技術(shù)和業(yè)務(wù)之間的互通，以便更好地推動算法項目的落地，具體來說有以下幾點。
第一，我們需要深入理解業(yè)務(wù)場景，這樣才能將業(yè)務(wù)需求轉(zhuǎn)化為算法能夠理解的語言，并通過算法或大模型技術(shù)將所需結(jié)果傳遞給客戶。
第二，我們要在眾多技術(shù)方案中選擇適合特定項目的技術(shù)。例如，如果項目對時效性要求高但對求解精度要求相對較低，AI 大模型或快速啟發(fā)式方法可能是合適的選擇。相反，對于一些規(guī)劃或計劃層面的項目，可能更適合采用更傳統(tǒng)、更保守的方法，以確保結(jié)果的穩(wěn)定性和安全性。
第三，我們需要考慮客戶的接受程度。客戶只有在理解技術(shù)和業(yè)務(wù)的基礎(chǔ)上，才能對所采用的方法給予支持。這需要我們在客戶的使用習(xí)慣上進行培養(yǎng)，逐步引導(dǎo)他們適應(yīng)新技術(shù)帶來的便利性和優(yōu)勢，并通過 KPI 報表等結(jié)果導(dǎo)向的方式證明技術(shù)的有效性。此外，數(shù)據(jù)質(zhì)量的提升也是關(guān)鍵。維護高質(zhì)量的數(shù)據(jù)可以促進 AI 大模型的迭代，使其更加精準(zhǔn)。
第四，順豐作為物流行業(yè)的代表，正在積極探索各種行業(yè)場景中大模型和傳統(tǒng)方法的應(yīng)用，并針對這些場景進行深入探索和擴展。這是一個長期的過程，我們將持續(xù)投入。
王澍：企業(yè)普遍面臨的共性問題之一是辦公效能的提升。自從我們引入大模型技術(shù)后，首先解決的就是這方面的一些問題。例如，通過大模型技術(shù)，我們能夠?qū)崿F(xiàn)文本自動生成圖表和 PPT，連模板設(shè)計都變得不再必要，這在國有企業(yè)中已經(jīng)成為一種常規(guī)操作。然而，在安全至上的核電行業(yè)，大模型的應(yīng)用面臨一些特有的挑戰(zhàn)。
大模型的前期能力不足：這主要表現(xiàn)在兩個方面，一是大模型的幻覺問題嚴(yán)重，即生成的信息可能不準(zhǔn)確；二是泛化能力不足，即對特定領(lǐng)域的適應(yīng)性不強。解決這一問題沒有捷徑，需要耐心迭代，堅信大模型的能力會隨著時間積累而實現(xiàn)質(zhì)的飛躍。
傳統(tǒng)行業(yè)的使用意愿低：這主要是因為大家不熟悉如何使用大模型，或者沒有意識到大模型在解決特定問題上的優(yōu)勢。要提高使用意愿，可以通過提供培訓(xùn)、獎勵機制，或者適度施加行政壓力等手段，激發(fā)大家使用大模型的動力。
此外，大模型在寫論文方面的應(yīng)用，為企業(yè)員工提供了一個明顯的受益點，這可以作為一個非常好的突破口。通過大模型輔助撰寫或解讀論文，不僅可以提高研究效率，還能幫助員工在學(xué)術(shù)和專業(yè)領(lǐng)域取得更好的成果。
紀(jì)韓：大模型技術(shù)在金融領(lǐng)域的應(yīng)用已經(jīng)開始展現(xiàn)出顯著的業(yè)務(wù)價值。例如，它被用來幫助上市公司生成財報和金融機構(gòu)生成研報，這在一些合作緊密的上市公司中已經(jīng)成為現(xiàn)實。
提高研究效率和覆蓋度：在金融投資領(lǐng)域，大模型技術(shù)如投研支小助等產(chǎn)品可以輔助專家閱讀大量新聞、財報和研報，極大地提高了市場研究的及時性和覆蓋度。這種能力是人工所無法比擬的，可以說是量級式的提升。
風(fēng)險識別和欺詐檢測：在風(fēng)控領(lǐng)域，大模型通過文本分析能夠識別資料中的矛盾點，進行欺詐檢測，幫助風(fēng)險管理部門更有效地識別潛在風(fēng)險。
C 端用戶的金融助手：螞蟻集團通過智能金融管家支小寶，將高端的金融管家服務(wù)帶給普通用戶。這種服務(wù)以往只有高凈值或超高凈值人群才能享受，但現(xiàn)在通過技術(shù)手段，可以讓每位用戶都獲得個性化的投資顧問和保險配置服務(wù)。
解決投資焦慮：在市場波動時，普通投資者可能會感到焦慮和不安。金融助手可以通過專業(yè)的分析幫助用戶理解市場動態(tài)，減少不必要的擔(dān)憂，鼓勵長期健康的投資行為。
普惠金融價值：雖然金融服務(wù)在業(yè)務(wù)數(shù)值上可能難以直接衡量，但從普惠金融的角度來看，技術(shù)的應(yīng)用具有巨大的社會價值。它可以幫助普通投資者更好地管理自己的財務(wù)，提高整個社會的金融素養(yǎng)。
InfoQ：對于 Al 大模型＋業(yè)務(wù)場景，各位老師有什么樣的暢想和規(guī)劃？據(jù)此，當(dāng)下企業(yè)該做好哪些準(zhǔn)備？
紀(jì)韓：我們公司內(nèi)部目前有一個普遍認(rèn)同的觀點：當(dāng)前大模型和智能體技術(shù)，正處在學(xué)習(xí)模仿金融專家的階段。現(xiàn)階段，這項技術(shù)已經(jīng)能夠輔助金融專家進行工作，未來我們希望它不僅僅是輔助的助手，還能進行獨立的金融決策，成為金融專家的 Agent 替身。這是一個長遠的目標(biāo)，也是我們對未來技術(shù)發(fā)展的愿景。
王一帆：我們在供應(yīng)鏈分析和供應(yīng)鏈決策這兩個領(lǐng)域已經(jīng)取得了一些初步的成果和進展。如果這些進展順利，我們公司計劃在下半年推出一些基于大模型的新產(chǎn)品。請大家持續(xù)關(guān)注我們的動態(tài)。
王澍：在我們這種傳統(tǒng)公司，準(zhǔn)備工作應(yīng)該從以下三個方面規(guī)劃。
一是機制建設(shè)：首要任務(wù)是建立一種機制，避免讓帶薪上班成為常態(tài)。這里存在一個矛盾：在產(chǎn)品可行性得到驗證之前，企業(yè)不太可能進行投資；但若沒有企業(yè)的投資，產(chǎn)品也無法完成可行性驗證。因此，機制建設(shè)是我們需要優(yōu)先考慮的問題。
二是人才培養(yǎng)：對于垂直領(lǐng)域的大模型開發(fā)，需要該領(lǐng)域的專業(yè)人員深度參與。與其從外部培養(yǎng)專業(yè)人員，不如加強內(nèi)部人員的培養(yǎng)，使他們能夠掌握大模型技術(shù)，具備相關(guān)的能力。
三是算力儲備：我將這一點排在第三位，因為只要有足夠的資金，算力是相對容易獲取的資源。雖然重要，但相較于機制建設(shè)和人才培養(yǎng)，它并不是最迫切需要解決的問題。
本文來自微信公眾號 “InfoQ”（ID：infoqchina），作者：高玉嫻，36 氪經(jīng)授權(quán)發(fā)布。
京公網(wǎng)安備 11010802036102號北京金支點技術(shù)服務(wù)有限公司保留所有權(quán)利 | Copyright ? 2005-2025 Beijing Golden Point Outsourcing Service Co., Ltd. All Rights Reserved.