ChatBI，全稱是ChatBusinessIntelligence，意思是“聊天式商業智能”。簡單來說，就是把數據分析和聊天機器人結合起來，讓非專業人員也能輕松獲取和分析數據。顯著降低數據分析的門檻，讓商業數據分析工作變得更加簡易。它背后有一個非常聰明的大腦（像ChatGPT那樣的人工智能），這個大腦能聽懂我們平時說的話（自然語言），然后自動去相關的數據庫中查找、計算、分析數據，最后把結果用最直觀的圖表或文字展現出來。一、ChatBI...

輸出層（OutputLayer）是Transformer框架的最后一部分，負責生成最終的輸出序列。它是Transformer框架中連接“模型理解”與“實際應用”的橋梁，決定了模型是否能夠適配具體任務并產出有意義的結果。因此它在整個模型中起著至關重要的作用。下面我們一起來詳細了解輸出層的關鍵作用和工作原理。一、如何理解輸出層1.輸出層作用：Transformer架構的輸出層是整個模型中將編碼得到的語義信息轉化為目標任務結果的部分。它的目的是...

1.感觸從2018年開始我就一直從事機器人研發工作，自從2022年11月CharGpt誕生以來，我一直動態關注，用了CharGpt3.0之后，確實給到我很多驚喜，它比以前我們用的機器人知識庫平臺有了質的飛躍。2.機器人知識庫1.0時代舊有的機器人知識庫平臺是這樣玩的，當人與機器人對話時，機器人用麥克風采集人的聲音，把錄音后的音頻文件傳送到知識庫后臺，后臺靠語音識別技術形成文字，再用文字與數據庫中的語句做對比，數據庫檢索到匹配度...

PyTorch在深度學習領域中，無疑是一個巨人般的存在，它是一個開源的框架，用于構建和訓練神經網絡模型。它的目標是提供一個易于使用的、高性能的、靈活的框架，可以讓開發者快速地構建和訓練模型。近期火爆的Llama3.1,Llama3.2大模型就是基于PyTorch框架訓練而成的。本篇就以通俗易懂的方式為各位同學介紹一下為什么要用PyTorch，它能給我們帶來哪些便利。1.PyTorch的作用假如你想讓電腦識別貓咪。你手里有一堆貓的照片和一些不...

Dify是一款功能強大、易于使用的開源AI平臺，它為開發者提供了一個構建、部署和管理AI應用的便捷方式。憑借其可視化界面、多模型支持和可擴展性，Dify正在成為越來越多開發者和企業的首選，本篇我們一起來看看如何快捷方便地搭建Dify+Ollama本地聊天機器人。一、安裝部署Dify有兩種安裝方式，一種是DockerCompose部署，另一種是本地源碼編譯后再安裝，為了方便快捷，本次選擇在Ubuntu下用DockerCompose部署，Dify也支持Windows...

一、配置與安裝我在嘗試運行AlpacaLoRA工具給大模型做微調時，發現了準備篇中的一些方法存在問題。經過了反復摸索，有以下幾點需要重新配置一下。1.由于https:huggingface.co國內無法訪問，需要預先從鏡像站：https:hfmirror.com下載好模型文件，而且需要重新選擇baffo32decapodaresearchllama7Bhf模型進行微調，因為這是AlpacaLoRA工具的推薦模型，為了提高成功率，本次先選它。2.我們準備用huggingfacehub工具下載模型，先激...

當我們想構建高性能的機器學習和AI系統時，僅僅訓練單個模型和系統往往是不夠的。通常在開發中需要構建多個模型，使用多種不同的算法，然后將不同的模型相互比較，看看哪個模型最好。此外，在比較過程中還需要“調整”每種不同算法的設置，以使它們以最佳方式（或接近最佳）執行。所以大多數機器學習算法都有“設置”，我們可以稱之為超參數，使用超參數是機器學習的重要組成部分。一、什么是超參數在機器學習和人工智能中，超...

在當下流行的各種大模型工具中，LlamaFactory是全球開發者常用的一套工具集，它基于Transformer架構，為我們提供了一套簡單、快速而又高效的大模型定制化訓練與部署工具，并且它提供了模塊化、可擴展和流程化的框架，支持多種主流的大語言模型（如LLaMA、ChatGLM、Qwen等），一站式地集成了數據預處理、訓練、微調、評估和推理等多種功能。本篇我們一起來看看LlamaFactory能為我們帶來哪些便利。一、核心功能1.多模型支持兼容主...

機器人流程自動化（RoboticProcessAutomation，簡稱RPA）是一種通過軟件機器人來自動化地執行重復性、規則性強、耗時的任務的技術。它模仿人類用戶在應用程序界面上的交互行為，如點擊鼠標、輸入數據、復制粘貼等，從而實現業務流程的自動化處理。那應該如何去理解這項技術呢？下面我們來一窺究竟。一、RPA的特點1.非侵入性：RPA不需要對現有的IT系統、軟件或應用程序進行修改或集成。它直接在應用的用戶界面層（UI層）進行操作...

在當下流行的幾種大模型微調方法中，大家經常會看到談論SFP與Unsloth的文章，那我們應該如何了解它們？它們的技術特點又有哪些？各自應用在哪些模型微調的場景呢？本篇我們帶著這些問題，一起來了解一下。一、SFT微調技術介紹監督微調（SupervisedFinetuning,SFT）是一種遷移學習（TransferLearning）技術，指的是在已經預訓練好的模型（例如大語言模型中的GPT、BERT等）基礎上，使用帶有人工標注標簽的監督數據，對模型進行進...

在機器學習領域中，ChainofThought（思維鏈）技術是一種在大語言模型（LLM）推理任務中非常重要的方法，它誕生的目的是使模型能夠像人類一樣，通過一系列中間推理步驟來得出最終答案，而不是簡單地給出一個直接的答案。這種能力對于提升模型的解釋性、可信度和解決復雜問題的能力至關重要，尤其是在涉及邏輯推理、數學計算、問答等需要多步推理的應用場景中。本篇我們一起來了解一下CoT技術。一、什么是思維鏈技術1.基本概念思...