国产精品电影_久久视频免费_欧美日韩国产激情_成年人视频免费在线播放_日本久久亚洲电影_久久都是精品_66av99_九色精品美女在线_蜜臀a∨国产成人精品_冲田杏梨av在线_欧美精品在线一区二区三区_麻豆mv在线看

我逆向工程了 ChatGPT 的記憶系統(tǒng),發(fā)現(xiàn)了這些核心機(jī)制!! 原創(chuàng)

發(fā)布于 2025-12-15 08:51
瀏覽
0收藏

大家好,我是玄姐。

當(dāng)我詢問 ChatGPT 關(guān)于我的記憶時(shí),它列出了 33 個(gè)事實(shí),從我的名字、職業(yè)目標(biāo)到當(dāng)前的健身計(jì)劃應(yīng)有盡有。但它究竟是如何存儲和檢索這些信息的?為何整個(gè)過程會如此無縫自然?

我逆向工程了 ChatGPT 的記憶系統(tǒng),發(fā)現(xiàn)了這些核心機(jī)制!!-AI.x社區(qū)

經(jīng)過大量實(shí)驗(yàn),我發(fā)現(xiàn) ChatGPT 的記憶系統(tǒng)遠(yuǎn)比預(yù)想中簡單:沒有向量數(shù)據(jù)庫,也沒有基于對話歷史的檢索增強(qiáng)生成(RAG),取而代之的是四個(gè)獨(dú)立的層級:適配環(huán)境的會話元數(shù)據(jù)、長期存儲的明確事實(shí)、近期對話的輕量摘要,以及當(dāng)前對話的滑動(dòng)窗口。

本文將詳細(xì)拆解每個(gè)層級的工作原理,以及這種設(shè)計(jì)為何可能優(yōu)于傳統(tǒng)檢索系統(tǒng)。所有結(jié)論均來自對 ChatGPT 對話行為的逆向工程,OpenAI 并未公開這些實(shí)現(xiàn)細(xì)節(jié)。

一、ChatGPT 的上下文結(jié)構(gòu)

要理解記憶系統(tǒng),首先需要明確 ChatGPT 處理每條消息時(shí)接收的完整上下文。其結(jié)構(gòu)如下:[0] 系統(tǒng)指令 [1] 開發(fā)者指令 [2] 會話元數(shù)據(jù)(臨時(shí))[3] 用戶記憶(長期事實(shí))[4] 近期對話摘要(過往聊天的標(biāo)題 + 片段)[5] 當(dāng)前會話消息(本次聊天內(nèi)容)[6] 你的最新消息

我逆向工程了 ChatGPT 的記憶系統(tǒng),發(fā)現(xiàn)了這些核心機(jī)制!!-AI.x社區(qū)

前兩個(gè)組件定義了模型的高層行為和安全規(guī)則,并非本文重點(diǎn)。真正值得關(guān)注的部分從 “會話元數(shù)據(jù)” 開始。

二、四大記憶層級詳解

1. 會話元數(shù)據(jù)(Session Metadata)

這類信息僅在會話開始時(shí)注入一次,不會永久存儲,也不會成為長期記憶的一部分。該模塊包含:

  • 設(shè)備類型(桌面端 / 移動(dòng)端)
  • 瀏覽器及用戶代理(User Agent)
  • 大致位置 / 時(shí)區(qū)
  • 訂閱等級
  • 使用模式與活躍頻率
  • 近期模型使用分布
  • 屏幕尺寸、暗黑模式狀態(tài)、JavaScript 啟用情況等

會話元數(shù)據(jù)示例:

會話元數(shù)據(jù):

- 用戶訂閱:ChatGPT Go
- 設(shè)備:桌面瀏覽器
- 瀏覽器用戶代理:macOS(Intel芯片)上的Chrome瀏覽器
- 大致位置:印度(可能使用VPN)
- 當(dāng)?shù)貢r(shí)間:約16:00
- 賬戶時(shí)長:約157周
- 近期活躍度:
  - 過去1天內(nèi)活躍1天
  - 過去7天內(nèi)活躍5天
  - 過去30天內(nèi)活躍18天
- 對話模式:
  - 平均對話深度:約14.8條消息
  - 平均用戶消息長度:約4057字符
  - 模型使用分布:
    * 5% gpt-5.1
    * 49% gpt-5
    * 17% gpt-4o
    * 6% gpt-5-a-t-mini
    * 等
- 設(shè)備環(huán)境:
  - JavaScript已啟用
  - 暗黑模式已啟用
  - 屏幕尺寸:900×1440
  - 頁面視口:812×1440
  - 設(shè)備像素比:2.0
- 當(dāng)前會話時(shí)長:約1100秒

我逆向工程了 ChatGPT 的記憶系統(tǒng),發(fā)現(xiàn)了這些核心機(jī)制!!-AI.x社區(qū)

這些信息能幫助模型根據(jù)你的使用環(huán)境定制回復(fù),但會話結(jié)束后所有數(shù)據(jù)都會失效。

2. 用戶記憶(User Memory)

ChatGPT 擁有專門的工具,用于存儲和刪除關(guān)于用戶的穩(wěn)定、長期事實(shí)。這些信息會在數(shù)周、數(shù)月內(nèi)不斷累積,形成一個(gè)持久的 “用戶畫像”。

以我為例,模型存儲了 33 個(gè)事實(shí),包括:

  • 姓名、年齡
  • 職業(yè)目標(biāo)
  • 背景與過往工作經(jīng)歷
  • 當(dāng)前項(xiàng)目
  • 學(xué)習(xí)領(lǐng)域
  • 健身計(jì)劃
  • 個(gè)人偏好
  • 長期興趣

這些記憶并非模型猜測得出,僅在以下兩種情況下會被明確存儲:

  1. 用戶明確指令:例如:“記住這個(gè)” 或 “把這個(gè)存入記憶”;
  2. 模型檢測到符合 OpenAI 標(biāo)準(zhǔn)的事實(shí)(例如:姓名、職位、明確偏好),且用戶通過對話隱含同意。

這些記憶會作為獨(dú)立模塊,注入未來的每一次提示詞中。若需添加或刪除內(nèi)容,直接告知模型即可:

  • “把這個(gè)存入記憶……”
  • “從記憶中刪除這個(gè)……”

用戶記憶示例:

- 用戶姓名:曼坦·古普塔(Manthan Gupta)
- 曾任職于Merkle Science和 Qoohoo(YC W23項(xiàng)目)
- 偏好通過視頻、論文和實(shí)操結(jié)合的方式學(xué)習(xí)
- 開發(fā)過 TigerDB、CricLang、負(fù)載均衡器、FitMe等項(xiàng)目
- 正在研究現(xiàn)代信息檢索系統(tǒng)(LDA、BM25、混合檢索、稠密嵌入、FAISS、RRF、大模型重排序)

3. 近期對話摘要(Recent Conversations Summary)

這是最讓我意外的部分,我本以為 ChatGPT 會對過往對話使用某種 RAG 技術(shù),實(shí)則采用了輕量摘要的方式。

ChatGPT 會以以下格式存儲近期對話摘要列表:

1. <時(shí)間戳>:<聊天標(biāo)題>
|||| 用戶消息片段 ||||
|||| 用戶消息片段 ||||

我逆向工程了 ChatGPT 的記憶系統(tǒng),發(fā)現(xiàn)了這些核心機(jī)制!!-AI.x社區(qū)

關(guān)鍵發(fā)現(xiàn):

  • 僅總結(jié)用戶消息,不包含助手回復(fù);
  • 最多存儲約 15 條摘要;
  • 僅作為用戶近期興趣的 “粗略地圖”,而非詳細(xì)上下文。

該模塊能讓 ChatGPT 在不同會話間保持連貫性,且無需調(diào)取完整對話記錄。相比之下,傳統(tǒng) RAG 系統(tǒng)需要:

  1. 對每條過往消息進(jìn)行嵌入處理;
  2. 對每個(gè)查詢執(zhí)行相似度搜索;
  3. 調(diào)取完整消息上下文;
  4. 導(dǎo)致更高的延遲和 token 成本。

ChatGPT 的方案更簡潔:預(yù)先生成輕量摘要并直接注入,以犧牲部分細(xì)節(jié)為代價(jià),換取速度和效率的提升。

4. 當(dāng)前會話消息(Current Session Messages)

這是當(dāng)前對話的常規(guī)滑動(dòng)窗口,包含本次會話中所有消息的完整歷史(未摘要處理)。

雖然我未能獲取 ChatGPT 確切的 token 限制,但模型確認(rèn)了以下規(guī)則:

  • 限制基于 token 數(shù)量,而非消息條數(shù);
  • 達(dá)到限制后,當(dāng)前會話中較早的消息會被移除(但記憶事實(shí)和對話摘要仍保留);
  • 該模塊的所有內(nèi)容都會原封不動(dòng)傳遞給模型,以維持完整的會話連貫性。

這也是模型能在單一會話中進(jìn)行連貫推理的核心原因。

三、記憶系統(tǒng)的協(xié)同工作原理

當(dāng)你向 ChatGPT 發(fā)送消息時(shí),整個(gè)流程如下:

  1. 會話啟動(dòng):注入會話元數(shù)據(jù),讓模型了解你的設(shè)備、訂閱狀態(tài)和使用模式;
  2. 每條消息處理:始終包含你的存儲記憶事實(shí)(我案例中是 33 條),確保回復(fù)貼合你的偏好和背景;
  3. 跨會話感知:通過近期對話摘要獲取用戶近期興趣,無需調(diào)取完整歷史;
  4. 當(dāng)前上下文維護(hù):借助當(dāng)前會話的滑動(dòng)窗口,保障單一會話內(nèi)的連貫性;
  5. Token 預(yù)算控制:會話持續(xù)推進(jìn)時(shí),較早的消息會被移除,但記憶事實(shí)和對話摘要保留,維持整體連貫性。

這種分層設(shè)計(jì)讓 ChatGPT 既能提供個(gè)性化、上下文感知的體驗(yàn),又無需承擔(dān)檢索數(shù)千條過往消息的計(jì)算成本。

四、結(jié)論

ChatGPT 的記憶系統(tǒng)是一套平衡了個(gè)性化、性能和 token 效率的多層架構(gòu)。通過結(jié)合臨時(shí)會話元數(shù)據(jù)、明確長期事實(shí)、輕量對話摘要和當(dāng)前會話滑動(dòng)窗口,它實(shí)現(xiàn)了一項(xiàng)了不起的成果:既具備 “懂你” 的個(gè)性化體驗(yàn),又?jǐn)[脫了傳統(tǒng) RAG 系統(tǒng)的計(jì)算開銷。

核心洞察在于:并非所有內(nèi)容都需要以 “傳統(tǒng)記憶” 的形式存在,會話元數(shù)據(jù)實(shí)時(shí)適配環(huán)境,明確事實(shí)跨會話持久化,對話摘要提供無細(xì)節(jié)負(fù)擔(dān)的連貫性,當(dāng)前會話保障即時(shí)推理流暢。這些動(dòng)態(tài)組件會隨會話推進(jìn)和用戶偏好演變不斷更新,最終營造出 “系統(tǒng)真正了解你” 的錯(cuò)覺。

對用戶而言,這意味著 ChatGPT 會隨時(shí)間變得越來越個(gè)性化,且無需手動(dòng)管理知識庫;對開發(fā)者而言,這是一個(gè)務(wù)實(shí)的工程啟示:有時(shí)更簡潔、經(jīng)過精心篩選的方案,反而優(yōu)于復(fù)雜的檢索系統(tǒng),尤其是在你能掌控整個(gè)技術(shù)鏈路時(shí)。

這種設(shè)計(jì)的取舍十分明確:ChatGPT 為了速度和效率,犧牲了部分歷史細(xì)節(jié)的深度。但對大多數(shù)對話場景而言,這正是最合理的平衡,系統(tǒng)記住了真正重要的內(nèi)容(你的偏好、目標(biāo)、近期興趣),同時(shí)保持快速響應(yīng)。

參考原文:

??https://manthanguptaa.in/posts/chatgpt_memory/??

好了,這就是我今天想分享的內(nèi)容。


本文轉(zhuǎn)載自??玄姐聊AGI??  作者:玄姐

?著作權(quán)歸作者所有,如需轉(zhuǎn)載,請注明出處,否則將追究法律責(zé)任
已于2025-12-15 08:51:10修改
收藏
回復(fù)
舉報(bào)
回復(fù)
相關(guān)推薦
疯狂蹂躏欧美一区二区精品| 奇米4444一区二区三区| 91久久精品国产91久久性色| 国产片在线观看| 一区二区三区毛片免费| 伊人精品综合| 国产亚洲一区字幕| 亚洲一区二区三区国产| 免费人成自慰网站| 黄色三级视频片| 欧美国产91| 欧美三级伦理在线| 91免费精品国自产拍在线不卡| 91精品在线观| 本网站久久精品| 亚洲国产视频一区二区| 国产精品黄视频| 亚洲s色大片| 黄色免费观看网站| 蜜桃精品在线观看| 母乳一区在线观看| 制服丝袜亚洲色图| 草草草视频在线观看| 美女视频网站久久| 日韩视频专区| 狠狠色丁香久久综合频道| 26uuu国产一区二区三区| 91日本在线视频| 五月婷婷丁香色| videos性欧美另类高清| 亚洲国产成人高清精品| 成人激情直播| 日韩精品一区在线| 欧美精品久久久久久久| av在线播放观看| 日本精品视频| 一区二区成人av| 欧美美女一区| 国产a一区二区| 蜜桃久久精品一区二区| 午夜精品福利一区二区三区av| 亚洲一区二区成人在线观看| 日韩精品无码一区二区三区| 国产最新精品| 91日本在线观看| 亚洲影视一区| 欧美日本中文字幕| 国产亚洲第一伦理第一区| av毛片久久久久**hd| 亚洲成人一区二区三区| 亚洲黄色www网站| 成人午夜免费在线| 成人av动漫在线| 在线成人性视频| 91美女片黄在线观看91美女| 国产精品久久久久永久免费看| 国产精品天天摸av网| 快色在线观看| 亚洲欧美日韩国产中文| 偷偷要 色偷偷| 婷婷综合网站| 婷婷成人激情| 国产综合视频一区二区三区免费| 亚洲第一页自拍| 久久99精品国产麻豆婷婷洗澡| 91国内免费在线视频| 日日噜噜噜夜夜爽爽狠狠视频| 福利电影一区二区| 欧美亚洲大陆| 性做久久久久久免费观看欧美| 欧美在线观看在线观看| 97精品国产露脸对白| av人人综合网| aaa级精品久久久国产片| 国产精区一区二区| av午夜在线| 亚洲天堂网站在线观看视频| 日韩精品极品视频| 国产jizz| 日韩一级视频免费观看在线| 日韩毛片在线免费看| 欧美视频日韩视频在线观看| 日韩精品丝袜美腿| 国产精品18久久久| 国产一区二区精品在线观看| 极品美乳网红视频免费在线观看 | 日本国产在线| 亚洲美女免费在线| 三上悠亚激情av一区二区三区| 日韩欧美视频一区二区| 午夜精品一区二区三区电影天堂| 日韩成人视屏| 手机在线免费观看毛片| 欧美国产日韩免费| 狠狠色2019综合网| 色婷婷综合久久久中文字幕| 国产精品偷拍| 欧美有码在线视频| av在线网址观看| 国内免费久久久久久久久久久| 成人黄色网址在线观看| 国产污视频在线播放| eeuss中文| 久久久噜噜噜| 3d蒂法精品啪啪一区二区免费| 国产精品传媒视频| 免费高清特黄a大片| 色老头一区二区三区| 国产成人免费视频网站 | 精品久久久久99| 日韩一级电影| 日本久久精品一区二区| 68精品国产免费久久久久久婷婷| 亚洲成人一二三| 久久国产夜色精品鲁鲁99| 久久av免费观看| 海角国产乱辈乱精品视频| 亚洲国产mv| 污版视频在线观看| ririsao久久精品一区| 51成人做爰www免费看网站| 亚洲欧美另类综合偷拍| 国产精品系列在线播放| 成人在线app| 亚洲国产日韩美| 成人短视频在线看| 亚洲一区二区三区久久| 成人高清视频观看www| 久久超级碰碰| 日本精品一级二级| 99视频在线免费| 欧美精品videosex牲欧美| 亚洲美女啪啪| 精品国产乱码久久久久久蜜臀| 成人精品国产亚洲| 一区高清视频| 国产精品免费看片| 超碰中文在线| 日韩精品一线二线三线| 久久99蜜桃| 成熟丰满熟妇高潮xxxxx视频| 亚洲国产天堂久久国产91 | 一区二区视频在线观看| 亚洲精品福利在线| 99久久国产免费看| 亚洲人免费短视频| 中文字幕免费精品| 欧美人动性xxxxz0oz| 激情五月播播久久久精品| 五月婷婷导航| 久久综合网hezyo| 奇米888四色在线精品| 午夜在线不卡| 日韩美女在线播放| 国产日韩精品久久久| 激情亚洲影院在线观看| 影音先锋在线亚洲| 久久成人这里只有精品| 在线视频国内一区二区| 一本色道久久综合亚洲精品不| 久久国产情侣| 一区二区三区国| 亚洲va中文在线播放免费| 欧美乱大交xxxxx潮喷l头像| 2019中文字幕在线| 蜜桃视频免费观看一区| 一区二区三区国产精华| 亚洲日产av中文字幕| 深爱激情久久| 88久久精品| 日韩精品社区| 日韩欧美不卡| 成年人小视频网站| 日韩 欧美 视频| av污在线观看| 久久成人福利视频| 爱情岛论坛成人| 探花国产精品| 韩国三级成人在线| 男人的天堂亚洲一区| 一区二区电影网| 久久bbxx| 日本午夜人人精品| 国产一区二区香蕉| 欧美日韩不卡一区二区| 91精品国产欧美日韩| 中文日韩电影网站| 国产精品jizz在线观看麻豆| 国产精品免费一区二区三区四区 | 亚洲午夜久久久久久久久电影网 | 成人免费视频一区| 成人午夜大片免费观看| 自拍偷拍国产亚洲| 亚洲国产婷婷香蕉久久久久久| 亚洲午夜av久久乱码| 成人性生交大片免费看小说| 亚洲欧洲国产精品| 一本色道久久88精品综合| 国产日产欧美a一级在线| 霍思燕三级露全乳照|