關于企業級人工智能應用常用架構，如果老板讓你負責牽頭引入人工智能技術，你知道該怎么做嗎？ 原創
“ 大模型+本地知識庫，是主流的技術架構方向”
在當前人工智能爆火的時代，人工智能走進了越來越多的企業，很多企業都在業務中引入人工智能技術。
但在一些沒接觸或剛接觸人工智能的技術人員來說，領導突然要引入人工智能技術時，并且讓拿出一個技術方案來，這時很多人都會不知所措，無從下手。
今天就來討論一下企業級人工智能解決方案應該是什么樣的。
01、人工智能常見的應用技術
人工智能領域是一個繁雜的技術領域，因為它涉及到多種不同的學科和技術，但作為應用者來說，我們不需要關心人工智能是怎么發展的，以及怎么做出來的。
我們需要關心的是，怎么在人工智能之上構建應用，解決實際的業務問題。而這才是我們更多需要了解的技術。
大模型技術
人工智能目前最重要的技術之一，就是基于機器學習模型，使用龐大數據訓練出來的具有大量參數的大模型技術，大模型技術可以說是當代人工智能技術的核心。
而根據不同的任務，大模型技術又有多種分類，比如自然語言處理(NLP)，計算機視覺(CV)，分類任務，文生圖，聲音，圖像，視頻處理任務等。
而不管什么模型，實現原理雖然不盡相同，但我們在使用的過程中，只需要按照自己的需求，選擇合適的模型即可。
本地知識庫技術
其次就是本地知識庫，本地知識庫的作用一是為了填補大模型天生的缺陷，那就是數據更新不及時；其次就是，節省成本。
因為不論大模型的訓練和微調，哪怕是使用第三方的開源模型，同樣需要很高的成本，包括數據收集成本，訓練成本，以及技術人力成本等。
而本地知識庫因為使用簡單，成本低，技術要求不高，就成為了大模型最好的補充技術之一。
本地知識庫的文章，??爆火的本地知識庫項目是什么？??
AI Agent技術
還有就是AI Agent技術，如果把大模型比作人的大腦，那么AI Agent技術就是大模型的手和腳。
有了agent技術，大模型就可以通過function calling的方式調用外部工具，這大大擴展了大模型的能力邊界。
因為數據安全的原因，有些企業只能在企業內部使用大模型，而不能使用一些第三方的大模型；因此，對有資金和技術的企業，就可以從頭設計或使用一些開源的模型進行訓練，并部署一個大模型。
關于AI Agent可以看一下之前的文章，??大模型的手和腳??。
本地大模型部署工具
但對一些小企業無法做到模型的設計與訓練，那么它們就可以使用一些開源大模型，然后在使用一些本地部署模型的框架，來解決數據安全的問題。
比如，ollama，lmstudio，gpt4all等開源框架，在本地部署大模型，這些開源框架，不但提供了客戶端的用戶接口，而且還提供了編程接口。
再有就是，類似于Langchain和AnythingLLM的開發框架，這兩種框架的作用是，讓你能夠更加方便的使用大模型。其功能類似于java web開發中的，ssm框架，有了它們就可以更加方便的開發應用。
當然，如果你不想使用它們也可以，可以直接使用大模型原生的SDK工具包，或者自己開發工具包。
關于本地部署大模型可以看一下之前的文章，??你想在本地部署大模型嗎??？
02、企業人工智能應用架構
在企業應用中，根據不同的企業，不同的業務，以及公司的技術能力和資金能力，可以選擇不同的系統架構。
首先，對一些小微企業來說，就是那種技術能力和資金都不充足的企業，最好的選擇方式就是：
第三方大模型+本地知識庫的方式
之所以選擇這種方式，是因為自己訓練和維護一個模型的成本比較高，很多企業可能都沒有這個能力。
而且，因為第三方大模型基本上都屬于通用模型，也就是什么都懂，但什么都不精。因此通用模型的最明顯的一個缺點就是在垂直領域表現泛泛，因此可以使用本地知識庫的方式來補充這一點。
其次，對一些有能力部署本地模型，但又是很有能力的企業，那么就可以選擇使用的方式是：
本地大模型+第三方大模型+本地知識庫
之所以選擇這種方式是因為，因為很多企業的業務并不是一個模型就可以解決的，很多時候都需要多種模型的搭配使用，比如需要一個自然語言模型處理客戶問題，一個音頻模型來給客戶打電話等。
而且也因為部分數據安全問題，比如涉及到一些企業內部數據，不適合在第三方模型上使用。
因此使用這種方式，一是可以把自己的核心業務和核心數據放到自己本地模型上進行處理；其次可以把一些邊緣業務使用第三方大模型來完成。
這樣既節約了成本，也降低了企業維護本地模型的成本；而本地知識庫的作用和第一種相同。
最后就是那種對數據安全要求比較高的企業，并且它們有足夠的技術和資金支持，那么它們就可以選擇自己設計和訓練模型，讓自己的核心業務完全運行在本地大模型中。
本地大模型+本地知識庫
這種方式，只適合那種對業務安全性要求較高，并且財大氣粗，具有一定技術實力的企業，比如國家電網。
至于AI Agent技術，根據不同的業務方向，可以根據需求選擇是否使用。
從這也可以看出，不論采用何種方式，本地知識庫都是必不可少的一環。原因就是因為大模型的天生缺陷，以及成本問題。
除非大模型能夠真正學會自我學習，并且能夠降大模型的成本，本地知識庫才有可能退出市場。
這也是為什么最近本地知識庫爆火的原因。
本文轉載自公眾號AI探索時代 作者：DFires
