界面新聞記者 | 何柳穎
界面新聞編輯 | 江怡曼
9月6日,由界面新聞主辦的2024REAL科技大會在上海順利舉辦,本次大會主題為“大模型落地,重塑現實場景”。
近年來,金融科技加速發展,金融+大模型成為了行業趨勢。目前在技術與實踐層面,各大金融機構進行了哪些嘗試?迎來了哪些挑戰?相關監管配套是否完善?
在由寧波銀行贊助呈現的“金融大模型的進階之路”圓桌討論會上,江蘇蘇商銀行股份有限公司副行長黃進、眾邦銀行首席信息官李耀、招聯消費金融股份有限公司首席信息官王耀南、眾源資本高級投資副總裁冉翀、螞蟻集團金融AI首席架構師徐萬青等與會嘉賓們就以上話題進行了熱切討論。
(“金融大模型的進階之路”圓桌討論會現場)
應用場景多方面突破
“銀行已經進入5.0時代,銀行所有的業務模式都值得用AI重新思考一遍。” 李耀強調AI對于銀行的重要性。
起步之際,銀行+大模型多集中于人工客服、資料庫等基礎層面,如今伴隨技術的迭代與新需求的涌現,應用場景實現了多方面突破。
黃進介紹,目前銀行主要基于大模型的生成能力,在兩個核心的業務領域——產業鏈金融和科創金融,輔助生成相關的盡調報告。“我們也會基于自身的信貸語料庫,以及行內整合的非結構化數據,將大模型的分析能力應用在O2O的信貸審批環節,應用場景包括信貸客戶的KYC以及部分貸后管理環節。”
基于大模型能力,螞蟻集團于去年發布了智能業務助手“支小助”。 徐萬青介紹,經過一整年的打磨和培養,現在“支小助”已經升級到2.0版本,并落地在銷售、理賠、財務寫作,營銷創意等多個場景。他稱,規模化的落地驗證了支小助2.0能為業務帶來非常好的提升效果。
“比如在財務報表領域,阿里巴巴最近發布的財報首次使用支小助2.0幫助專家進行了很多精密任務的執行。包括財務邏輯理解、業績歸因、專業寫作,都由支小助2.0輔助財務專家進行編寫。”徐萬青稱,這些任務(完成情況)已經達到了高級財務專家的要求。
對于金融機構而言,如何借助大模型實現降本增效是一個重要命題。
招聯消費金融股份有限公司首席信息官王耀南分享道,招聯2023年11月發布消費金融行業首個130億參數大模型“招聯智鹿”,今年7月升級推出“招聯智鹿二代”,以智能客服為例,不僅可以結合具體會話狀態與服務場景,快速精準地進行會話小結,大幅提升坐席作業效率,還能充分利用深度學習技術,準確理解客戶意圖,共情客戶情緒,并將與客戶交互的“經驗”和“感覺”積累成參考樣本,實現舉一反三的智能服務,大幅降低投訴率。
徐萬青也談及,現在支小助2.0有能力去學習優質的銷售經驗、銷售能力和銷售話術,從而構建一個數字分身,讓數字分身幫助基礎銷售人員提升他們的客戶服務的能力和標準。“這套能力在保險規劃師團隊上已經完全鋪開使用了,目前可以將人均產能提升約150%。”
展望銀行業未來的大模型應用,王耀南表示,希望用大語言模型的推理能力持續優化招聯的整體業務運營情況。他認為,對于金融企業而言,要把業務和語言模型結合,產生(實際)效果,因為只有在企業內部踏踏實實落地,語言模型的價值才能更好地凸顯出來。”
徐萬青強調需要基于用戶的角度進行思考。“以理財為例,我們的客戶會希望能夠獲得更個性化的金融服務,希望大模型理解我真正的偏好、訴求、風險;同時,也希望這個服務的獲取方式非常便利,借助大模型能力,實現語言交流、視頻交流;更進一步,用戶希望給到的個性化服務,能夠真正有效的能夠支持他的投資決策,而這對大模型處理信息的及時性和有效性也提出了更高的要求。”
金融領域有其特殊性,李耀建議在運用大模型的過程中,應當走“通用加專用”的道路,即通用大模型搭配專用模型使用,這可以讓傳統的專家模型、機器學習手段更加穩定、更加具有可解釋性。
冉翀則認為,在金融大模型的未來,如果能把任務和職業定義清楚,應該是都有可能利用大模型來實現任務和職業的替換。
(“金融大模型的進階之路”圓桌討論會現場)
技術與成本的多重挑戰
不可避免地,路上總有挑戰。
一方面,Bug總會出現,這要求大量的實踐與改進。王耀南舉例稱,在推斷客戶最近的資金需求時,銀行一般會查看他們的人行查詢報告次數,人工會發現客戶最近沒有很頻繁查看,但機器人推斷出客戶查看很頻繁。最后發現,這名客戶在一年前查看的次數比較多,但最近一年只有一次。“大語言模型對時間沒有什么概念,如果由機器做推斷,需要的細節非常多,我們正在持續推進這方面的工作。”
冉翀也強調,目前在金融領域,如果模型的搜索能力不夠強,或者理解錯誤,出現幻覺,單一任務上就有出錯可能性。“面對復雜的工作流,比如有5個步驟,每個步驟都要做一次,如果每個步驟只有80%的正確率,答案幾乎不可能是對的。”
冉翀稱,在此背景下,模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性,這是當下面臨的很明確的問題。
“模型的能力要足夠強,是不是(達到)金融級別的模型?是不是足夠可靠?是否有很強的多步推理能力?模型能不能知道自己錯了?以及中間和用戶場景之間的Gap怎么彌補?這些都是挑戰。”冉翀具體指出。
另一方面,成本的問題需要考量。李耀提及,“現在大公司要做大模型,沒有一萬個顯卡沒法進行,這也就意味著3-4億美金的投入。對我們來說,不做訓練,只做推理,投入也是很大的。”
黃進也坦言,“現在各種大模型出來得太多、太快了,大模型需要本地化部署。我們作為一家中小銀行,缺乏足夠的財力與精力來適應這些比較大的外部需求變化。”
同時,數據對于大模型的運用尤其重要,但數據的獲取并不容易。黃進表示,為什么說現在的金融行業并沒有真正的模型能達到金融學專業的碩士或者博士水平?因為數據很缺乏,單靠某一家機構、銀行無法解決這個問題,這需要更高層面的努力。
最后,人才亦是關鍵所在,“大模型的人才非常難得,既要懂業務,同時還要懂大模型的技術,還要有工程化交付的能力,這些都要求極強的學習能力。” 黃進稱。
強監管背景下如何走得更遠?
在 “AI+金融”的各式探索中,監管與合規的重要性愈加突出。
黃進坦言,由于銀行強監管的特點,整個大模型利用還是相對比較局限,更多偏向中后臺,沒有完全直接對客的應用場景。
徐萬青在論壇上強調,金融行業是強監管行業,大模型在這樣的監管和合規要求下能做的事情是什么?不能做的事情是什么?怎么結合才能實現用戶更深的需求?這些問題都有待思考和突破。
李耀對此持有同感,并期待監管層在這方面能有更多相關立法和管理條例。
2024年法治藍皮書《中國法治發展報告》指出,2023年是生成式人工智能監管元年。為應對生成式人工智能帶來的安全風險,國家網信辦等7部門發布了《生成式人工智能服務管理暫行辦法》。中國也因此成為世界上首個為GPT大模型立法的國家。
在金融科技領域,更完善的AI監管制度仍在路上。顯然,只有在監管環境更為明朗的環境下,銀行的大模型運用才能走得更遠。