我给我的 AI 装了一个"长期记忆大脑"

你有没有发现:跟 AI 聊得再投机,关掉窗口、开个新对话,它就把你忘得一干二净?你是谁、喜欢什么、上次聊到哪——全部清零。这不是它不上心,是大多数 AI 天生就没有「长期记忆」。

最近我花了点时间,给自己的 AI 装上了一个「长期记忆大脑」——用的是一个开源记忆系统,叫 Hindsight。这篇就把整个过程、用到的技术、还有我踩的坑,原原本本讲给你听。

为什么 AI 会"失忆"

大语言模型(LLM)本身是无状态的。单次对话里它之所以记得上文,靠的是「上下文窗口」——相当于一块临时白板,你这次对话写在上面,它能看见;窗口一关,白板擦干净,下次对话从零开始。

所以「失忆」不是 bug,是默认设定。想让它记住跨对话的事,你得在它外面额外接一套系统。

什么是"长期记忆大脑"

说穿了不神秘。它是一个独立于对话的系统,只干两件最朴素的事:

1. 把你聊过的重要事实记下来;
2. 下次对话时,在合适的时机想起来,悄悄喂回给 AI。

关键在于:它跨对话、甚至跨不同的 AI 工具持久存在。今天在 A 工具告诉它的事,明天在 B 工具它也记得。

核心三件事:存、取、想

一套好用的记忆系统,大致是这三步。

存(Retain)

不是把整段对话囫囵囤起来,而是从里面抽出「事实」,再带上时间戳存进去。比如「6 月某日,确定了网站用某方案部署」。带时间戳很重要——这样它不仅知道发生了什么,还知道什么时候、谁更新、新旧顺序。

Hindsight 还把记忆分了层:客观事实、行为经历、自动沉淀下来的判断、以及最高层的「人物画像」。越往上越抽象——这样 AI 既记得住细节,也记得住「你大概是个什么样的人」。

取(Recall)

这是最有技术含量的一步。好的记忆系统不会只用一种方式去找,而是「四路并行」(Hindsight 把这套叫 TEMPR):

• 语义检索:理解你这句话的意思,不靠字面。问「我该买哪台相机」,它能找到你之前聊过的摄影偏好。
• 关键词检索:精确命中专有名词、型号、人名。
• 知识图谱:顺着「谁和谁有关系」去找,把零散事实串成网。
• 时间线检索:按时间找最近发生的、或某个时段的事。

四路一起上,召回结果又准又全——光靠语义会漏精确词,光靠关键词又太死板。

想(Reflect)

更高级的系统还会自我反思:定期回顾存下来的事实,总结出更高层的新认识,并且更新旧观点而不是粗暴覆盖。比如它先记住「这人在学摄影」,后来又记住「这人接了商业拍摄」,反思后会升级为「这人从爱好者成长为半职业」。这让记忆越用越聪明,而不是一堆越堆越乱的流水账。

本地 vs 云:我为什么选本地

部署一般两条路:云托管(省事,别人帮你跑)和本地自托管(用 Docker 在自己机器上跑)。

本地版会自带一个小数据库 + 一个做语义检索的 embedding 小模型,加起来才几百 MB,普通电脑就跑得动。

我选了本地,核心原因就俩字:隐私。你的记忆——你是谁、聊过什么、有什么习惯——全部留在自己机器上,不上传任何第三方。对一个专门存「个人信息」的系统来说,这点我觉得值得。

我踩的三个坑(最值钱的部分)

理论很美,真装起来全是坑。挑三个最有代表性的。

坑一:第一人称盲区

装好后我做的第一个测试,是问它:「我喜欢什么?」——结果召回 0 条。可库里明明存着我的爱好。

排查发现:存进去的事实写的是「某某喜欢摄影」,而我查的是「我喜欢什么」。机器不知道「我」=那个具体的人,语义对不上,自然找不到。

解法很轻:在召回之前给查询加一个**「身份前缀」**,把第一人称的「我」翻译成具体的名字,语义一下就接上了。坑很小,但不修,记忆系统一半的价值就废了——因为人最常用的就是第一人称。

坑二:图片这种多模态内容怎么存

你总不能把一整张图的像素塞进记忆库,又大又没法检索。

做法是:只存图片的「文字描述」+ 原图的链接。要回忆时,AI 读描述就知道「哦,那是张什么图」;真需要原图,再顺着链接去取。又省空间,又够用。这也提醒我们:记忆的本质是可检索的信息,不是原始数据的仓库。

坑三:口语化 vs 关键词,召回不一样

同一件事,你用精确关键词去问,和用大白话去问,召回结果可能差很多——口语化的问法有时候会漏。

这给我提了个醒:记忆系统不是装上就万事大吉。你得拿真实的、口语化的问法反复测(就像坑一里那句「我喜欢什么」),才知道它到底好不好使。理想测试全过,不代表真实场景不翻车。

我学到的

• 给 AI 装记忆,本质就是**「存 + 取」**两件事,但「取」得足够聪明,才真的好用。
• 涉及个人数据,能本地就本地,隐私值这个钱。
• 任何系统都要用**「人话」实测**,别只测理想情况——真实用户不会按你的剧本说话。

记忆这东西,装之前你觉得可有可无;装上之后,AI 第一次「记得你」的那一刻,你就很难再回去了。