為了講清自注意力機制讓模型“理解”語言的底層邏輯，我從人類理解語言的日常體驗切入，用“注意力打分”“語義表格”等生活化比喻拆解核心原理，再穿插真實研究軼事，讓技術(shù)原理既易懂又有溫度。一、先問個簡單問題：你怎么讀懂這句話？“上周三在小區(qū)花園喂的那只三花流浪貓，今天居然跟著我進了單元樓。”讀這句話時，你絕不會把“它”和“單元樓”綁在一起——你自動知道“它”指的是三花流浪貓，“今天”對應(yīng)的是“上周三...

為了講清Transformer成為大語言模型核心的原因，我從傳統(tǒng)模型的局限切入，用生活化比喻拆解自注意力、并行計算、多頭注意力三大核心優(yōu)勢，再穿插架構(gòu)誕生的趣聞，讓技術(shù)原理變得生動易懂。一、被「傳話游戲」困住的老模型2017年前，AI理解語言的方式像極了小學生玩?zhèn)髟捰螒颉Ｑh(huán)神經(jīng)網(wǎng)絡(luò)（RNN）得順著單詞順序挨個處理，比如讀到“Joe吃了早餐后去打棒球，他打出了兩記”時，前面“Joe是棒球運動員”的信息早隨著計算鏈條變得...

??突破認知：PPT制作的核心矛盾不在技術(shù)在大多數(shù)技術(shù)從業(yè)者眼中，PPT制作不過是一項"軟技能"，是展示工作的輔助工具。然而，基于對500+技術(shù)團隊PPT使用情況的深度分析，我們發(fā)現(xiàn)了一個反常識的結(jié)論：PPT制作效率低下的根本原因，不是工具掌握程度，而是結(jié)構(gòu)化思維的缺失。這個發(fā)現(xiàn)顛覆了傳統(tǒng)認知。數(shù)據(jù)顯示，同等技術(shù)水平下，具備結(jié)構(gòu)化思維能力的開發(fā)者，其PPT制作效率比普通開發(fā)者高出35倍，信息傳達準確率提升80%以上。而單...

 在肝移植領(lǐng)域，器官短缺始終是制約救治效率的核心難題。而“循環(huán)死亡后器官捐獻（DCD）”，是補充器官來源的重要途徑。 DCD指捐獻者在心跳、呼吸停止（循環(huán)死亡）后進行器官捐獻的模式。 然而，這一補充器官來源的重要途徑卻長期受困于“無效獲取”問題：醫(yī)療機構(gòu)為潛在捐獻者投入大量人力、設(shè)備與運輸成本，卻因捐獻者未在器官耐受缺血的時間窗內(nèi)死亡，最終無法獲得可用肝臟。這種資源浪費不僅加重醫(yī)療系統(tǒng)負...

在人工智能技術(shù)飛速發(fā)展的當下，大語言模型（LLMs）已成為重塑人類語言交互方式的核心力量。它不僅在技術(shù)架構(gòu)層面構(gòu)建了模擬人類語言理解的復雜機制，更在認知層面不斷逼近人類語言處理能力，甚至深刻改變了人類自身的語言理解模式。一、技術(shù)架構(gòu)：注意力機制為核心的語言理解模擬大語言模型對人類語言理解的模擬，本質(zhì)上依賴于以Transformer架構(gòu)為基礎(chǔ)的技術(shù)體系，其中注意力機制是實現(xiàn)“類人類理解”的核心突破，輔以多頭注意...

編輯聽雨出品51CTO技術(shù)棧（微信號：blog51cto）就在幾個小時前，OpenAI發(fā)布了一篇重磅的最新研究，構(gòu)建了一個實驗性的大語言模型，并且提出稀疏訓練+剪枝+橋接的新方法，讓原本黑箱的LLM內(nèi)部機制可視化了。大家都知道，如今GPT、Claude等LLM越來越強大，寫文章、生成代碼、做推理，樣樣不在話下。但是，模型內(nèi)部是如何“思考”的？這一直是一個黑箱問題。打個比方，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的工作方式就像一堆糾纏在一起的電線：每個神經(jīng)元...

編輯云昭出品51CTO技術(shù)棧（微信號：blog51cto）真的假的！Coding編輯器已經(jīng)可以演變成一家公司全員在用的Office了！全球最快的編輯器，可以說把編輯器玩出了新高度！有些公司喜歡在辦公室貼標語，有些公司喜歡開會畫流程。Zed團隊的辦公方式別具一格：所有人，每周一中午十二點，直接一起走進Zed。注意，不是走進某個會議室，是走進一份真實、可編輯的文檔。我們每周一在Zed舉行的“全體員工”會議Nathan剛結(jié)束本周的公告，Morg...

文章鏈接：https:arxiv.orgpdf2511.08930亮點直擊系統(tǒng)性分析與統(tǒng)一視角：對軌跡蒸餾（TD）進行了系統(tǒng)性分析，揭示了其本質(zhì)是一種有損壓縮過程。這一視角解釋了為何TD方法雖然能有效保留全局結(jié)構(gòu)，卻不可避免地會犧牲精細細節(jié)。創(chuàng)新的分層蒸餾框架：重新審視軌跡蒸餾和分布蒸餾的角色，提出一個新穎的分層蒸餾（HierarchicalDistillation,HD）框架。該框架協(xié)同利用兩種方法的優(yōu)勢，先構(gòu)建結(jié)構(gòu)，再優(yōu)化細節(jié)。專為細節(jié)優(yōu)化的判別器...

編者按：在構(gòu)建基于大語言模型的RAG系統(tǒng)時，您是否曾思考過：究竟哪種表格數(shù)據(jù)格式能讓LLM最準確高效地理解和提取信息？我們今天為大家?guī)淼奈恼拢髡咄ㄟ^一項對照實驗指出：表格格式對LLM的理解能力有顯著影響，其中MarkdownKV格式在準確率上表現(xiàn)最佳，但也伴隨著更高的token消耗。文章詳細介紹了作者針對GPT4.1nano模型進行的對照實驗，測試了包括CSV、JSON、MarkdownTable、YAML等在內(nèi)的11種常見表格格式，使用1000條員工...

譯者朱先忠審校重樓簡介在人工智能領(lǐng)域，卷積神經(jīng)網(wǎng)絡(luò)（CNN）和視覺轉(zhuǎn)換器（ViT）等傳統(tǒng)視覺模型非常擅長識別圖像中的內(nèi)容，但它們真的理解圖像中的內(nèi)容嗎？這就是OpenAI的多模態(tài)模型——對比語言圖像預(yù)訓練（CLIP）的用武之地。CLIP彌合了視覺和語言之間的差距，幫助人工智能超越固定標簽，真正掌握圖像的含義。為什么我們需要CLIP？在CNN或ViT等傳統(tǒng)視覺模型中，訓練目標很簡單：為每張圖像預(yù)測一個預(yù)定義的標簽（如“貓”、...

在AIAgent框架百花齊放的今天，Agno作為一個全棧框架，專注于構(gòu)建具有內(nèi)存、知識和推理能力的多智能體系統(tǒng)。本文將深入剖析Agno的架構(gòu)設(shè)計理念、核心組件以及其在性能優(yōu)化方面的獨特之處，幫助開發(fā)者全面理解這個高性能Agent框架的技術(shù)細節(jié)。一、Agent核心概念1.1Agent定義和職責在Agno框架中，Agent被定義為自主程序，它們使用語言模型來完成任務(wù)。與傳統(tǒng)的固定代碼路徑不同，Agent通過語言模型動態(tài)決定行動，而不是遵循固定的...

用RAG構(gòu)建AI應(yīng)用時，總感覺差了點什么。明明相關(guān)的信息都在向量數(shù)據(jù)庫里，但AI就是找不到正確的關(guān)聯(lián)。問它"SpaceX的創(chuàng)始人還創(chuàng)辦了哪些公司"，它能找到關(guān)于SpaceX的文檔，卻理解不了"創(chuàng)始人"和"其他公司"之間的關(guān)系鏈條。這就是傳統(tǒng)RAG的軟肋——它只懂相似性，不懂關(guān)系。Cognee就是來解決這個問題的。它到底是什么？簡單說，Cognee是個開源的端到端知識圖譜構(gòu)建框架。但它不僅僅是知識圖譜——它將向量搜索的語義理解能力和知...

大家好，我是玄姐。AI智能體已經(jīng)在企業(yè)的眾多場景中落地，比如：對話與問答、報告生成、內(nèi)容審核、流程自動化、可視化數(shù)據(jù)分析、AI編程等。當你向智能客服提問時，在你點擊發(fā)送按鈕之后，AI智能體應(yīng)用架構(gòu)是如何生成并回復你的問題的？這篇文章將通過一張核心架構(gòu)設(shè)計全流程圖，帶你深入了解AI智能體應(yīng)用架構(gòu)設(shè)計在接收到用戶請求后是如何一步步處理的。這不僅是對AI智能體技術(shù)的揭秘，也是對AI智能體應(yīng)用架構(gòu)設(shè)計落地的深入探...

CritiCal:CanCritiqueHelpLLMUncertaintyorConfidenceCalibration20251028｜HKUST,HKUST??1???http:arxiv.orgabs2510.24505v1????????https:huggingface.copapers2510.24505????????https:github.comHKUSTKnowCompCritiCal???研究背景與意義問題定義與現(xiàn)狀概述大型語言模型（LLMs）在高風險領(lǐng)域的安全使用依賴于準確的置信度校準，即模型對其回答可信度的準確表達。現(xiàn)有傳統(tǒng)方法多通過模仿參考置信度表達...

DeepEyesV2:TowardAgenticMultimodalModel20251107｜XiaohongshuInc.??26??http:arxiv.orgabs2511.05271v1??????https:huggingface.copapers2511.05271??????https:visualagent.github.io??研究背景與意義問題定義與現(xiàn)狀概述當前多模態(tài)大模型（MLLM）雖具備較強的視覺和文本理解能力，但在主動調(diào)用外部工具（如代碼執(zhí)行環(huán)境和網(wǎng)絡(luò)搜索）以輔助推理方面仍顯不足。現(xiàn)有模型大多被動接受輸入，缺少自主調(diào)用工具整...

在AI模型開發(fā)中，數(shù)據(jù)標注始終是繞不開的“痛點”——人工標注耗時耗力、成本高昂，還容易因主觀差異導致標注不一致。而隨著大模型能力的成熟，自動化標注正在成為破局關(guān)鍵：它能將原本一周的標注工作量壓縮到1天，還能保持穩(wěn)定的標注標準，甚至在專業(yè)領(lǐng)域省去人工培訓成本。今天，我們就從核心流程、技術(shù)選型、實戰(zhàn)代碼到行業(yè)工具，全面拆解大模型自動化標注的落地方法，幫你快速上手這一效率利器。一、先搞懂：大模型自動化標...

在生成式人工智能（GenAI）的浪潮席卷全球之際，一個根本性的矛盾正橫亙在技術(shù)進步與個人尊嚴之間。一方面，從智能手機上的每一次語音轉(zhuǎn)錄，到云端大模型的每一次創(chuàng)意生成，海量的非結(jié)構(gòu)化數(shù)據(jù)如同一座座待采的金礦，蘊藏著優(yōu)化用戶體驗、洞察失敗模式、驅(qū)動產(chǎn)品迭代的無窮價值。另一方面，這些數(shù)據(jù)——用戶的對話、草稿、圖像——本身就是其數(shù)字人格最私密的延伸。如何安全地開采這座金礦，而不導致隱私的全面崩塌，已成為我們...

一、導論——在不泄露秘密的前提下，如何證明你擁有秘密？1.1定義范式：證明者、驗證者與三大支柱所謂零知識證明（ZeroKnowledgeProof,ZKP），是一種精妙的密碼學協(xié)議。它讓一方（證明者）能向另一方（驗證者）確證某個論斷為真，卻不必透露任何與論斷內(nèi)容相關(guān)的蛛絲馬跡。整個證明過程，除了“此話為真”這一結(jié)論外，不泄露分毫證明者所持有的“秘密知識”（即“見證”，witness）。完整性（Completeness）：若論斷為真，一個...

在人工智能邁向通用智能的征途中，真正的因果推理能力被普遍視為一道關(guān)鍵且艱巨的關(guān)隘。當前的深度學習模型，尤其是大型語言模型（LLMs），憑借其在海量文本數(shù)據(jù)中學習復雜模式的卓越能力，展現(xiàn)了驚人的語言生成與理解水平。然而，它們究竟是在進行真正的“思考”與“推理”，還是僅僅在對訓練數(shù)據(jù)中的語言模式進行高保真的“復制”與“重組”？這一問題在因果推理領(lǐng)域顯得尤為尖銳。近期，一篇題為《大型語言模型在因果學習中...

隨著大型語言模型（LLM）的能力邊界不斷拓展，對超長上下文（LongContext）處理能力的需求正以前所未有的速度增長。從深入理解數(shù)百萬字的法律文書、分析海量代碼庫，到實現(xiàn)需要跨越漫長對話歷史的多輪推理，長上下文已成為解鎖下一代人工智能應(yīng)用的關(guān)鍵瓶頸。然而，當前主流技術(shù)路線面臨著嚴峻的挑戰(zhàn)：自注意力機制固有的二次方復雜度，使得上下文窗口的每一次線性增長，都會帶來計算和內(nèi)存成本的指數(shù)級飆升。這形成了一個難以...

引言：大模型強化學習后訓練的時代挑戰(zhàn)隨著ChatGPT、Claude等大語言模型在推理、數(shù)學和代碼生成等復雜任務(wù)上展現(xiàn)驚人能力，強化學習后訓練（RLPostTraining）已成為提升模型性能的關(guān)鍵環(huán)節(jié)。然而，傳統(tǒng)的同步訓練架構(gòu)面臨著嚴峻的資源利用率和可擴展性挑戰(zhàn)。就在2025年初，Meta發(fā)布的Llama3RLHF版和Google的Gemma2模型都顯露出在大規(guī)模RL訓練時的效率瓶頸。在這一背景下，阿里巴巴團隊提出的ROLLFlash系統(tǒng)代表了重要的技術(shù)突破...

在大語言模型（LLM）與強化學習（RL）深度融合的浪潮中，后訓練階段通常采用基于策略梯度的方法，如近端策略優(yōu)化（PPO），以提升模型的推理能力。然而，傳統(tǒng)PPO采用對稱的actorcritic架構(gòu)，即critic（價值函數(shù)）與actor（策略模型）規(guī)模相當，這在LLM尺度下帶來巨大的計算開銷和訓練不穩(wěn)定問題。近年來，無critic的RLVR（ReinforcementLearningforLLMReasoning）范式逐漸成為主流，例如GRPO（GroupPolicyOptimization）通過平均...

編輯聽雨出品51CTO技術(shù)棧（微信號：blog51cto）繼上回與山姆·奧特曼同臺回應(yīng)微軟和OpenAI的合作細節(jié)后，微軟CEO納德拉再度出席主持人DwarkeshPatel的一檔播客節(jié)目，并公開微軟在整個技術(shù)棧層面為AGI做的一系列準備。微軟對未來AI的布局可謂野心勃勃。他們正在構(gòu)建一個從芯片、基礎(chǔ)設(shè)施到模型和應(yīng)用的全方位AI生態(tài)，不僅服務(wù)頂尖實驗室，還面向整個經(jīng)濟的長尾市場。在節(jié)目中，主持人和SemiAnalysis創(chuàng)始人DylanPatel與納德拉一起...

當AI的進化帶來的驚喜越來越少，我們不禁要問：大模型時代是否已經(jīng)觸及天花板？ 昨晚，GPT5.1正式發(fā)布，這距離GPT5的面世僅過去了三個月。新版本帶來了兩個變體：Instant專注于快速響應(yīng)和對話流暢性，Thinking則致力于復雜推理任務(wù)。 OpenAI宣稱，GPT5.1在數(shù)學和編程任務(wù)上有所改進，并提供了八種對話風格預(yù)設(shè)，從“專業(yè)”到“古怪”不等。  然而，翻看官方博客，你會發(fā)現(xiàn)一個有趣的現(xiàn)象：幾乎沒有提及性能...

編輯云昭出品51CTO技術(shù)棧（微信號：blog51cto）“過去一年作為從業(yè)者，我們最大的感受就是AI在各種生活生產(chǎn)的場景都能夠看到明顯效果了。”11月13日上午，百度創(chuàng)始人Robin李彥宏信步亮相百度世界大會，道出了自己對過去一年的總結(jié)。這便引出了此次大會的主題緊扣：效果涌現(xiàn)。從2023年到2025年的尾聲，這可以說是這位AI先生對于當下全球AI進程的獨有總結(jié)。跟前幾次大會不同，這次大會的演講和發(fā)布都發(fā)生了不少變化。之前大家會把...

今天，OpenAI悄悄放出了GPT5.1，直接把ChatGPT的體驗拉到了新高度。簡單說，這次更新有兩個關(guān)鍵詞：更聰明、更像人。??GPT5.1到底更新了啥？這次一口氣發(fā)布了兩個版本：Instant：主打“即時對話”，反應(yīng)更快、語氣更自然，像個懂梗、會聊天的朋友。Thinking：主打“深度思考”，處理復雜問題時更耐心、邏輯更強，解釋也更通俗易懂。官方說，它比上一代GPT5在“理解指令”和“溝通體驗”上都有顯著提升。比如現(xiàn)在你讓它“每次只...

編輯｜聽雨出品51CTO技術(shù)棧（微信號：blog51cto）最近NanoBanana2現(xiàn)身第三方平臺MediaIO，一出手就技驚四座。已經(jīng)有手快的網(wǎng)友迫不及待地體驗了最新版，以下是NanoBanana2的一些杰作——可以按照提示更改顏色和翻譯：可以根據(jù)模擬圖像生成真實場景：可以把一個玩具拆成一堆零件：甚至可以解一道數(shù)學題：你可能會為Banana2精確的文本渲染、超逼真的場景以及手解數(shù)學題的推理泛化能力而嘖嘖稱奇，那么NanoBanana到底是怎么來的？...

譯者核子可樂審校重樓蘋果公司近期發(fā)表《思考的幻覺》論文，認為大推理模型必然不具備思考能力，仍只是進行模式匹配。其論據(jù)可概括為：當問題規(guī)模持續(xù)增大，采用思維鏈推理的大推理模型將無法使用預(yù)定義算法進行計算。但這種認證存在根本性缺陷。畢竟哪怕面對漢諾塔（小圓盤始終在大圓盤之上）這樣簡單的問題，人類也不可能解開20層的問題。換言之，大推理模型能否思考仍是一樁懸案。本文將提出更大膽的診斷：大推理模型幾乎必...

大家好，我是玄姐。最近，X（原推特）上有一條推文火了灬大多數(shù)人看到后會想：我得學CUDA內(nèi)核工程，這樣才能有價值。但事實并非如此。即便你花一輩子鉆研，也大概率擠不進那個約100人的頂尖圈子。內(nèi)核固然重要，但不該是你的第一步。首要任務(wù)是理解整個系統(tǒng)的運作邏輯。你可能讀過幾百篇關(guān)于Triton內(nèi)核、PCIe與NVLink對比、或是DeepSpeedZeRO的文章，但作為GPU工程師，核心問題不是“我能手寫內(nèi)核嗎？”，而是“這些組件如何協(xié)...

大家好，我是玄姐。我整理了一份簡潔的可視化指南，涵蓋AIAgent領(lǐng)域30個最重要的術(shù)語。這些術(shù)語能幫你理解現(xiàn)代AI智能體（Agent）實際的思考、行動和協(xié)作方式，是核心必備知識。如果你正在研究LangChain、SpringAI、SpringAIAlibaba、CrewAI、LangGraph或AutoGen等智能體框架，這份術(shù)語表能幫你理清關(guān)鍵構(gòu)成模塊之間的關(guān)聯(lián)。一、核心術(shù)語解析Agent（智能體）：能感知環(huán)境、進行推理并為達成目標采取行動的自主AI實體。Environmen...

論文鏈接：https:arxiv.orgpdf2510.26802v1項目主頁：https:videocof.github.io引言近年來，以Veo、Sora等為代表的視頻生成模型展現(xiàn)出驚人的生成能力，能夠合成高度逼真、時間連續(xù)的動態(tài)畫面。這些進展暗示，模型在視覺內(nèi)容生成之外，或許已開始具備對物理世界結(jié)構(gòu)與規(guī)律的潛在理解。值得注意的是，Google最新研究指出，諸如Veo3等模型正在顯現(xiàn)出超越純粹生成的“涌現(xiàn)能力”，例如感知建模、動態(tài)預(yù)測以及推理能力。由此催生出一...

“提示詞工程是用戶與大模型交流的橋梁，提示詞的好壞直接影響到模型的效果。”在大模型應(yīng)用開發(fā)中，所有的操作最終的結(jié)果都是拼接成提示詞輸入給大模型，因此可以說提示詞是大模型應(yīng)用的核心。因此，而誕生了一項叫做提示詞工程的技術(shù)，提示詞工程是與大模型交互的核心技術(shù)，旨在通過設(shè)計和優(yōu)化輸入提示詞，充分釋放大模型的潛力。提示詞工程將大模型視為一個任務(wù)執(zhí)行者，通過明確的指令和上下文信息，引導其完成特定任務(wù)。提...

過去幾年，我們見證了一個趨勢——無論是企業(yè)部署AI，還是研究機構(gòu)訓練大模型，大家都在拼命“微調(diào)”。但問題是：微調(diào)成本太高、周期太長，還容易過擬合。那有沒有一種方法，讓模型在不改動參數(shù)的情況下，依然能“變聰明”？最近，來自斯坦福大學、UCBerkeley和SambaNovaSystems的研究團隊，提出了一個顛覆性方案——AgenticContextEngineering（ACE）。它讓模型的成長，不再靠重新訓練，而是靠上下文自我進化。這不是又一個Pro...

如果有一天，一個語言智能體（LanguageAgent）能不依賴任何獎勵機制、沒有人工示范，就能通過“自己探索的結(jié)果”學得比模仿學習還好——這是不是有點像人類的“頓悟”？MetaSuperintelligenceLabs最近發(fā)布的新研究《EarlyExperience》（早期經(jīng)驗）正是這樣一種讓智能體“自我成長”的新方法。它在沒有獎勵、沒有強化學習（RL）主循環(huán)、甚至不依賴大規(guī)模人類示范的前提下，依然在8個任務(wù)環(huán)境中全面超越模仿學習（IL）。這不是魔...

當我們談?wù)?ldquo;AI代理（AIAgent）”時，很多人想到的是能幫你寫文檔、總結(jié)網(wǎng)頁、生成報告的智能助手。但有一個問題一直沒被真正解決——它們都“看得懂”網(wǎng)頁，卻“點不了”網(wǎng)頁。而就在本周，GoogleAI給出了解法：推出全新的Gemini2.5ComputerUse（電腦操作版），一個能在瀏覽器中真實執(zhí)行點擊、輸入、拖拽等交互操作的模型。這意味著，AI不再只是讀懂網(wǎng)頁，而是能像一個“虛擬助手”那樣，親自替你完成操作流程。一、從“會看”...

前兩天Kimi上新了K2Thinking模型，并且是開源且能思考的ThinkingAgent。經(jīng)過我這兩天的實際使用，K2thinking在搜索+編程方面能力提升了，但是在實際編程過程中，搜索能力反倒成為一種輕微的負擔，會出現(xiàn)短暫的卡頓現(xiàn)象，等待時間稍微有點長，消耗的token也降低了不少，我做了3個case，花費也才5塊錢左右。而且能夠在線編輯，支持基本樣式選擇。以及word文檔編輯器、excel數(shù)據(jù)處理等等。也能做出一個英語學習平臺（后面會介紹）...

學習如何借助Stanford的AgenticContextEngineering構(gòu)建能自我糾錯并自動優(yōu)化性能的自適應(yīng)數(shù)據(jù)庫查詢系統(tǒng)。作者使用AI生成的圖片當下大多數(shù)TexttoSQL系統(tǒng)采用多智能體架構(gòu)與單體式提示詞（monolithicprompts）。它們通過一串復雜的、分工明確的智能體來生成可運行的查詢——一個負責schema分析，另一個負責查詢規(guī)劃，第三個負責SQL生成。這些單體系統(tǒng)確實能用。它們可以把“showmetopcustomers”變成可執(zhí)行的SQL。但結(jié)果常常低效...

在這個視頻中我介紹了如何給智能體添加記憶，以及中間件和工具的使用方法。記憶對于智能體來說，記憶（memory）非常關(guān)鍵——它讓智能體能夠記住過去的交互、從反饋中學習、并根據(jù)用戶偏好進行調(diào)整。當智能體處理越來越復雜的任務(wù)并與用戶多次交互時，這種能力對效率和用戶體驗都至關(guān)重要。??短期記憶（Shorttermmemory）允許應(yīng)用程序在單個線程或會話中記住先前的交互。一個線程（thread）組織了一次會話中的多輪交互，類似于電...

你是否認真考慮過RAG流水線中的文檔隱私？這篇文章也許能提供一個有幫助的方向。。為什么“StandardRAG→CloudSearch”在隱私上行不通StandardRAG的做法是把明文文檔塞進prompt。對于企業(yè)合同、病歷或個人筆記等輸入，這是完全不可行的——從設(shè)計上你就在暴露敏感數(shù)據(jù)。ParametricRAG(PRAG)試圖把知識“烘進”LoRA權(quán)重，但在實踐中碰上兩堵墻：運維負擔與時延。每份文檔都需要各自的syntheticQ&A生成以及定制化的LoRA微調(diào)。在線...

Prompts確立意圖。Context選擇事實、歷史和工具輸出，讓AI在長任務(wù)中保持連貫。在這個領(lǐng)域的第一幕里，我們沉迷于字詞斟酌。微調(diào)一個動詞，挪一條約束，看看模型會不會聽話。它常常奏效，足以讓人以為這是一門手藝。直到問題變得更長、更亂、更多步驟，一條安靜的真相浮出水面。措辭重要，但模型看到什么更重要。Promptengineering關(guān)注“如何把話問好”。Contextengineering關(guān)注此刻該把哪些信息擺上臺面。這包括指令、檢索到的...

文章摘要本文深入探討了生成式AI與知識圖譜的結(jié)合如何重塑企業(yè)數(shù)據(jù)管理和運營效率。以Glean為代表的企業(yè)搜索工具，通過GraphRAG技術(shù)，將知識圖譜與大型語言模型（LLM）結(jié)合，為企業(yè)節(jié)省了大量時間與成本。文章分析了技術(shù)優(yōu)勢、實施挑戰(zhàn)及未來趨勢，適合對AI創(chuàng)新感興趣的專業(yè)人士閱讀。全文推文一、生成式AI：企業(yè)效率的新引擎想象一個世界，AI不僅輔助企業(yè)運營，還從根本上重塑其運作方式。如今，這個世界已經(jīng)到來，生成式AI技...

圖片LeveragingRetrievalAugmentedLargeLanguageModelsforDietaryRecommendationsWithTraditionalChineseMedicine'sMedicineFoodHomology:AlgorithmDevelopmentandValidation文章摘要研究團隊開發(fā)了YaoshiRAG框架，通過構(gòu)建藥食同源知識圖譜和檢索增強生成技術(shù)，顯著提升了大語言模型在中醫(yī)藥食同源膳食推薦方面的準確性和可靠性，為傳統(tǒng)中醫(yī)智慧與現(xiàn)代AI技術(shù)的融合開辟了新路徑。原文PDF鏈接:https:t.zsxq.comwiQZ5正文引言：...

高頻金融市場建模困難，因價格由眾多市場參與者的互動內(nèi)生產(chǎn)生，且參與者常有有限理性和不完全信息。本文提出了JaxMARLHFT，這是首個針對高頻交易（HFT）在限價訂單簿（LOB）上進行多智能體強化學習（MARL）的GPU環(huán)境。利用JAX的并行化能力，JaxMARLHFT實現(xiàn)了高達240倍的訓練時間縮短，支持大規(guī)模實驗和超參數(shù)調(diào)優(yōu)。實驗表明，與現(xiàn)有實現(xiàn)相比，吞吐量提高了240倍，支持更大模型和數(shù)據(jù)集及更廣泛的超參數(shù)搜索。摘要JaxMARLHFT是...

表格檢索，在RAG中是一個非常小眾的問題，主要基于RetrieverReader架構(gòu)的表格問答（TableQA）系統(tǒng)中，Retriever組件負責從大規(guī)模表格語料庫中檢索出與問題相關(guān)的候選表格，而Reader組件則在檢索到的表格上進行具體的問答推理。這里有個一個非常關(guān)鍵的點是：如何將表格的語義與用戶的問題語義進行對齊。今天分享的QGpT,是如何做好對齊？假設(shè)有一個包含多個列和行的表格，其中每一列代表一個不同的屬性（如“姓名”、“年齡”、“...

三年前的那封郵件，讓我錯過了晉升機會記得那是2021年的冬天，我滿懷信心地參加了公司的技術(shù)主管競聘。作為團隊的技術(shù)骨干，我主導過多個核心項目，代碼質(zhì)量有口皆碑，解決技術(shù)難題的能力更是團隊公認的"救火隊長"。然而，最終的結(jié)果卻讓我大跌眼鏡——職位給了一個技術(shù)實力不如我，但溝通能力出色的同事。HR給出的反饋讓我至今難忘："你的技術(shù)能力毋庸置疑，但在跨部門協(xié)作和向上管理方面，還有很大提升空間。特別是郵件溝通，...

當頂尖人才流向科技巨頭，普通企業(yè)如何在這場AI競賽中找到自己的位置？ 今天，前DeepSeek核心研究員羅福莉正式宣布加盟小米，參與其推理大模型XiaomiMiMo的研發(fā)。她在朋友圈寫道：“智能終將從語言邁向物理世界。我正在XiaomiMiMo，和一群富有創(chuàng)造力、才華橫溢且真誠熱愛的研究員，致力于構(gòu)建這樣的未來。”  然而，在這場引發(fā)行業(yè)震動的人才爭奪戰(zhàn)背后，隱藏著更為殘酷的真相——在當前的AI競賽中，人才只是表...

編輯｜聽雨出品51CTO技術(shù)棧（微信號：blog51cto）今天HackerNews上有一位伊朗老哥發(fā)的帖子火了。這位老哥聲淚俱下地描述自己花了18個月，在戰(zhàn)爭、經(jīng)濟崩潰和每周120小時的工作中，打造了一個叫NeoClerks的AI數(shù)字人平臺，支持實時對話，具備企業(yè)級基礎(chǔ)設(shè)施，可以與SoulMachine、DID、Synthesia等產(chǎn)品相媲美。圖片但苦于伊朗的經(jīng)濟崩潰、受國際制裁以及本地人沒有購買意愿等原因，他無法讓這個產(chǎn)品在伊朗盈利，于是就上HN發(fā)帖求助...

引言：從流量見頂?shù)叫势凭之旊p11步入第十七個年頭，電商行業(yè)在流量紅利見頂?shù)谋尘跋拢龔淖非笠?guī)模轉(zhuǎn)向探尋效率。今年雙11，淘寶的實踐清晰地指向了AI。本文將沿用經(jīng)典的“人、貨、場”分析框架，深度拆解其全鏈路AI實踐，探討AI如何系統(tǒng)性地重構(gòu)電商的核心要素。AI重構(gòu)“貨”：商品信息體系的再造變革的起點，始于對“貨”的重新理解。雙11前，淘寶利用生成式AI，對其商品庫中約20億量級的商品，進行了一次徹底的結(jié)構(gòu)化信息...

大家好，我是玄姐。?在這個行業(yè)待了足夠久，見證了無數(shù)技術(shù)的興衰更迭。見過新框架引發(fā)的狂熱追捧，見過革命性工具許下的美好承諾，也聽過那些宣稱“將改變一切”的激動人心的預(yù)言。但大多數(shù)時候，這些技術(shù)不過是裹著營銷噱頭的漸進式改進。但并行智能體（ParallelAIAgents）不一樣。這是第一次可以毫不夸張地說，正在見證一項將從根本上改變軟件開發(fā)方式的技術(shù)。一、發(fā)展歷程回顧要理解當下的技術(shù)現(xiàn)狀，我們需要回顧AI輔助編...

“提示詞工程是模型應(yīng)用的技術(shù)，而思路是模型開發(fā)的法寶。”上周比較忙基本上處于天天加班到很晚的狀態(tài)，原因就是做的大模型應(yīng)用效果不太好，再加上業(yè)務(wù)端要去甲方爸爸那邊演示，因此就加班改bug調(diào)整優(yōu)化。然后等周末兩天閑下來休息的時候回頭看看才發(fā)現(xiàn)，之所以出現(xiàn)這樣的情況完全是開發(fā)思想還沒轉(zhuǎn)變過來，因為大模型的開發(fā)流程上正確并不代表結(jié)果上也會正確。大模型應(yīng)用開發(fā)是經(jīng)驗開發(fā)在之前的技術(shù)開發(fā)中，從經(jīng)驗來看只要流程...