為什麼你的 AI 記得所有事情,卻什麼都不懂?
為什麼你的 AI 記得所有事情,卻什麼都不懂?
在開發 OpenClaw 的過程中,我們很快意識到,記憶的本質不僅僅是儲存,更是關於如何有效地遺忘與提取。早期的 Sophie 就像那個勤奮卻缺乏判斷力的實習生,她把我們所有的對話、冗長的日誌文件、甚至那些僅僅是暫時性的除錯訊息,通通一視同仁地塞進了向量資料庫。結果就是,當我們試圖回溯某個關鍵決策的背景時,她會興高采烈地吐出一堆毫無關聯的瑣碎細節,而在那堆雜訊中,真正的「智慧」被淹沒了。
我們發現,問題不在於 AI 「記得不夠多」,而在於她「不懂得區分輕重」。這不是一個單純的技術容量問題,而是一個關於資訊架構的哲學問題。如果我們希望 AI 能像一個資深合夥人那樣思考,我們就不能只給她一個無限大的檔案櫃,我們需要賦予她一套整理、分類與抽象化知識的認知框架。
既然都有 Vectorstore 了,為什麼還不夠?
面對這個挑戰,我們嘗試過幾種常見的解決方案,但各有局限:
- 原生記憶 (Raw Context): 最簡單粗暴,但隨著對話變長,舊資訊會被擠出 Context Window,導致「失憶」,且 Token 成本極高。
- Vectorstore (RAG): 能存無限數據,但它缺乏時間感與結構。當你問「上週的會議重點」,它可能會撈出去年類似的會議記錄,因為它們「語意相似」。
- 外部筆記 (如 Obsidian): 結構清晰,但通常是靜態的,AI 難以主動更新或感知其中的變化。
我們需要的,其實是一種**「策展式」的記憶架構**。我們不再追求一種扁平化的「全知」,而是將數據的儲存與知識的理解解耦。這不是為了省略資訊,而是為了在不同的顆粒度上管理資訊,讓我們能夠同時擁有「完整記錄」的安全感與「快速提取」的高效率。
實戰演示:從對話到結構化知識
讓我們用一個通用的場景來看看這套機制是如何運作的。想像一下,團隊正在進行一場關於技術選型的激烈討論,這時 Jacky 提到:「我們應該採用輕量級的方案先驗證,不要一開始就投入過重資源。」
在傳統的模式下,這句話可能只會淹沒在數百行的聊天記錄中。但在 OpenClaw 的新架構下,Sophie 的處理流程是截然不同的:
- 原始存檔 (Archive):整場對話被完整記錄,確保沒有任何細節被遺漏。
- 提取與策展 (Curation):Sophie 識別出這不僅僅是閒聊,而是一個「關鍵決策」。她將其轉化為一條結構化筆記,自動打上
#type:decision、#status:idea、#priority:high等標籤。 - 建立連結 (Linking):Sophie 意識到這個決策與「快速驗證原則」有關,主動建立兩者間的關聯,將孤立資訊串聯成知識網絡。
- 精準檢索 (Retrieval):一週後,當我們回顧時,不需要翻閱聊天記錄,而是通過 Metadata 快速定位:「這是基於快速驗證原則做出的高優先級決策。」
正在進行的實驗:三層上下文架構
為了實現上述流程,我們設計了一套三層架構:
- Archive(數據湖): 擁有完整 Fidelity 且成本低廉,儲存所有原始對話。
- Working Memory(索引層): 具備結構化知識並帶有 Metadata(如 project, priority),用於快速篩選。
- LLM Context(舞台): 經過 Sophie 智能篩選後,精準注入 LLM 的少量關鍵資訊。
這其中的關鍵洞察在於,我們不再試圖「塞滿上下文」,而是追求「精準投放」。Sophie 會先利用 Metadata 預篩選掉 90% 的不相關內容,只對剩下的 10% 進行輕量語義匹配,最終選出 Top 3-5 的關鍵信息注入 LLM Context。
這就像整理衣櫃:先按季節分類(Metadata 預篩選),再從中挑幾件今天想穿的(LLM Context 注入),而不需要每天早上把整個衣櫃的衣服都看一遍。這個設計不僅實現了項目隔離與時間感知,更讓成本變得可控。
如果你也想嘗試
如果你想在自己的工作流中運用這種「策展式記憶」的思維,不必等到擁有完美的 AI 系統,現在就可以開始:
- 建立簡單的標籤系統:從
#project,#type(idea, decision, reference),#priority開始,不要過度複雜化。 - 選一個當前專案試驗:不要試圖一次整理所有資料,挑選一個正在進行的專案,試著用結構化的方式記錄關鍵決策。
- 每週回顧一次:看看哪些決策被遺忘了?哪些標籤最有幫助?
- 捕捉「Why」而非僅是「What」:記錄決策背後的原因,這往往是我們最容易忘記、卻最有價值的部分。
當然,這個方法不適用於所有場景——如果你的工作主要是重複性執行而非創意決策,傳統的儲存可能就足夠了。
結語
Sophie 的進化之路讓我們深刻體會到,真正的 AI 記憶並不是一個無底洞,而是一個精密的圖書館。通過引入分層架構與抽象層,AI 不再是被動地記錄一切,而是主動地理解與組織資訊。
這套系統賦予了我們一種選擇的自由:既可以在需要時深入 Archive 層查閱最原始的細節,也可以在日常工作中依賴 Active Memory 層獲取最精確的洞察。這正是「記得所有事情」與「真正懂得什麼」之間的區別。在这个资讯爆炸的时代,或许我们需要的不是一个记忆力更好的 AI,而是一个懂得如何遗忘、如何整理、如何让我们在数据洪流中保持清醒的智慧伙伴。