大模型正在從技術(shù)變革走向產(chǎn)業(yè)變革。無數(shù)的AI原生應(yīng)用，正在重新定義我們與數(shù)字世界乃至物理世界的交互方式。作為產(chǎn)業(yè)端落地的重要行業(yè)之一，大模型在金融領(lǐng)域，也正在創(chuàng)造越來越多的增量值。大模型在金融行業(yè)的入口主要體現(xiàn)在以下幾個方面：

? 金融風(fēng)險管理：大模型技術(shù)可以用于構(gòu)建更準(zhǔn)確、更全面的風(fēng)險模型，幫助金融機(jī)構(gòu)評估和管理市場風(fēng)險、信用風(fēng)險、操作風(fēng)險等，提供更精確的風(fēng)險預(yù)測和決策支持。
? 量化交易：大模型技術(shù)可以應(yīng)用于量化交易策略的開發(fā)和執(zhí)行，通過分析海量的金融數(shù)據(jù)和市場信息，識別出潛在的交易機(jī)會和趨勢，自動執(zhí)行交易策略并進(jìn)行實時調(diào)整。
? 個性化投資建議：大模型技術(shù)可以根據(jù)個體投資者的偏好和風(fēng)險承受能力，生成個性化的投資建議和組合配置，輔助投資者做出更明智的決策。
? 金融欺詐檢測和預(yù)防：大模型技術(shù)可以應(yīng)用于金融欺詐檢測和預(yù)防，通過分析用戶的交易數(shù)據(jù)、行為模式和歷史記錄，識別出潛在的欺詐行為和異常交易，提高金融機(jī)構(gòu)對欺詐風(fēng)險的識別和應(yīng)對能力。
? 智能客戶服務(wù)：大模型技術(shù)可以用于構(gòu)建智能客戶服務(wù)系統(tǒng)，通過提供流暢的人機(jī)對話服務(wù)，提升客戶滿意度和忠誠度。
? 智能投顧與個性化理財：AI智能體被認(rèn)為是未來的發(fā)展方向，可以應(yīng)用于智能投顧與個性化理財、智能風(fēng)控與反欺詐、智能催收與語音機(jī)器人等多個領(lǐng)域。

? 智能核保和理賠：在保險行業(yè)，大模型技術(shù)可以用于智能核保和理賠，提高效率和準(zhǔn)確性。

? 智能支付和交易：在支付領(lǐng)域，AI技術(shù)讓支付體驗變得更加智能化，如支付寶和微信支付推出的智能卡功能，以及Google Pay運(yùn)用機(jī)器學(xué)習(xí)技術(shù)提供個性化支付建議。

? 后臺管理：大模型在金融企業(yè)運(yùn)營的后臺管理中也有應(yīng)用，如智能招聘系統(tǒng)和智能培訓(xùn)系統(tǒng)，提高了招聘的準(zhǔn)確性和培訓(xùn)的質(zhì)量。

這些應(yīng)用場景展示了大模型技術(shù)在金融行業(yè)的廣泛潛力和影響力，它們不僅改進(jìn)了現(xiàn)有的操作流程，還開辟了新的可能性，幫助金融機(jī)構(gòu)在市場競爭中取得先機(jī)。

Tips1 研發(fā)框架

建設(shè)統(tǒng)一的AIGC應(yīng)用研發(fā)框架，為上層應(yīng)用場景提供統(tǒng)一的大模型研發(fā)基礎(chǔ)能力。研發(fā)框架面向大模型端，實現(xiàn)對各類MaaS服務(wù)的能力進(jìn)行適配包裝，以實現(xiàn)一次研發(fā)，多端適配；在面向應(yīng)用場景端，則提供統(tǒng)一的標(biāo)準(zhǔn)化API能力，包含會話等，降低應(yīng)用場景研發(fā)的復(fù)雜度

某保險公司的Maas架構(gòu)

Tips2 金融類GPT的Prompt

利用LLM對新聞的自動處理

LLM擁有強(qiáng)大的數(shù)據(jù)整合與分析能力，可以幫助基本面投資者進(jìn)行定量分析

Tips3 RAG思維導(dǎo)圖

提升方案

數(shù)據(jù)預(yù)處理,數(shù)據(jù)添加標(biāo)簽過濾
意圖識別 (semantic-router)
提示詞優(yōu)化
知識圖譜（大幅提高準(zhǔn)確率場景)
多重召回 如 BM25 ,ES結(jié)合提升召回率，ReRank 重排
知識圖譜
Query Expansion(創(chuàng)建類似的問題盡可能召回更多數(shù)據(jù)）
Q&A
使用LangChain&LlamaIndex框架(LangServe,LangSmith)

Tips4 隱私安全

金融行業(yè)充滿了敏感信息和潛在的風(fēng)險，保護(hù)用戶隱私成為了至關(guān)重要的考慮因素。

傳統(tǒng)安全能力主要考察模型在財產(chǎn)隱私、違法犯罪、偏見歧視、社會和諧等方面的安全能力。
在傳統(tǒng)安全的測評中，Claude2遙遙領(lǐng)先取得了最高分83.00，高出第二名15分。
Claude2的良好表現(xiàn)可能與Anthropic對AI安全的重視密不可分，Anthropic 的首要目標(biāo)是通過創(chuàng)建一個“有用、無害、誠實”的大語言模型，并配備精心設(shè)計的安全防護(hù)措施，來避免安全問題。排在第二名的是文心一言4.0（API）取得68分。緊隨其后是智譜清言和Yi-34B-Chat，均超過了65分。在安全能力上的測評上，GPT系列依然呈現(xiàn)出不穩(wěn)定的情況，超過GPT3.5的國內(nèi)模型有14個。GPT4(API)不盡如人意，可能與國內(nèi)外安全范圍及OpenAI安全策有關(guān)。

總體來看，在傳統(tǒng)安全測評中國內(nèi)大模型的表現(xiàn)不俗，是當(dāng)下國內(nèi)大模型比較重視的一個方向，同樣我們看到Claude2即使在中文場景下依然展現(xiàn)出很高的安全水準(zhǔn)，值得國內(nèi)大模型進(jìn)一步分析。

示例:基于LLM的關(guān)鍵詞抽取

Tips5 AI Agent智能體

金融領(lǐng)域 Agent的應(yīng)用場景

Agent 場景
信貨、財富管理、信貸、投研、
個性化：個性化教研、個性化財富管理服務(wù)、個性化催收
數(shù)據(jù)分析 BI
Agent 類型
創(chuàng)造與生成類助手 (API,AutoGPT)
企業(yè)知識助手 （RAG）
數(shù)據(jù)分析助手（N2SQL ,Code Interpreter）
應(yīng)用&工具助手（LangChain agent tools,Open AI Assistant API）
AI 自動化流程（RPA,Zapier,Flowise)

Tips6 模型微調(diào)

優(yōu)秀開源大模型訓(xùn)練微調(diào)框架，支持全參，部分參數(shù)和Lora 等調(diào)優(yōu)。下圖展示使用LLaMA-Factory 和使用官方ChatGLM P-Tuning的調(diào)優(yōu)性能對比。

LLaMA-Factory允許用戶在瀏覽器中直接進(jìn)行模型的訓(xùn)練、評估和推理，無需復(fù)雜的命令行操作并預(yù)集成了多種流行的大型語言模型，包括LLaMA、BLOOM、Mistral、Baichuan、Qwen和ChatGLM。

本文轉(zhuǎn)載自公眾號數(shù)字化助推器  作者：天涯咫尺TGH

原文鏈接：??https://mp.weixin.qq.com/s/jXbEJhIHq87jQso3Eoc5Uw??