分享一个节约token,并提高AI智商的思路

yfowc 2026-06-06 15:46 1

新人第一帖,这个也是烟雨大佬推荐解决AI长期记忆的一个思路,我只是分享给大伙.佬们轻喷


众所周知LLM模型 上下文填得越满,LLM输出质量越差。以 168K token 的上下文窗口为例,大约用到 40% 就开始走下坡路了。


如果能通过长期记忆解决部分上下文读取的问题也是好的.


推荐的项目是 MemOS. MemOS

地址在: GitHUb

官网在: 官网地址


MemOS 是一个面向大型语言模型(LLM)和人工智能代理的内存操作系统,统一了存储/检索/管理,实现了长期记忆的上下文感知和个性化交互,内置了知识库、多模态工具存储器和企业级优化功能。


按官方说法,使用opneclaw加入memOS,tonken使用降低72%.


之前使用小龙虾的时候确实是可以完美实现云记忆,降低token增加智商的 ^-^


memOS会自动判断哪些值得存储,同时官方提供了MCP和云存储服务,可以简单上手.不过我今天不是说的这个,重点是memOs可以自己手动部署,同时使用低消耗的本地模型来运行存储和读取记忆,不花一分钱,所有记忆保持在本地,实测每次读取记忆在10秒内,我觉得效果是非常棒的了.

这是我在本地运行的效果,本地的MCP:


具体的本地搭设和效果我说的就不够详细了,佬们直接烟雨大佬的博客吧


烟雨佬的博客文章


如果这个思路佬们觉得有用可以留言交流,如果使用后有帮助也请反馈使用效果,谢谢

最新回复 (15)
  • yfowc 楼主 06-06 15:50
    1

    当然我部署这个本地的memOS本身也是使用的codex.哈哈哈

  • sweetceli 06-06 15:59
    2

    他这个设计核心和GenericAgent很像啊

  • yfowc 楼主 06-06 16:02
    3

    GenericAgent



    我看了GenericAgent的思路,是一直沉淀技能,那长期用下来肯定是memOS好啊,本地读取和筛选都不是用的付费模型,而且本身memOs都有整理记忆库的功能

  • sweetceli 06-06 16:03
    4

    能不能搭配Hermes使用,感觉这两结合起来挺不错

  • Kriavn1 06-06 16:11
    5

    感谢分享,准备研究下,公司项目太大太耗上下文了

  • yfowc 楼主 06-06 16:18
    6

    你看烟大的博客,长期记忆本来就是其中一环

  • 摩西 06-06 16:23
    7

    这个会不会对缓存命中有什么影响?

  • 土豆教主 06-06 17:52
    8

    我其实比较好奇的是,如果单独部署这个的成本,跟那些开放式内存redis之类的存储那个性价比更优呢

  • yfowc 楼主 06-06 18:01
    9

    本地部署有什么成本…几块钱的token?还有大概7个多G的硬盘空间?

  • 土豆教主 06-06 18:04
    10

    欸嘿,我研究下,看看他怎么更新记忆的

  • yfowc 楼主 06-06 19:32
    11

    按道理应该没影响,缓存也不在本地啊..

  • 纸飞机 06-06 19:35
    12

    这个博客文章质量还蛮高的,值得细读。长期沉工程化还是很有价值。

  • Megasoft 06-06 21:36
    13

    如果修改了上下文,缓存肯定受影响的吧

  • yfowc 楼主 06-07 00:09
    14

    memOS取记忆已经是上下文的一部分,怎么会影响缓存,又不是说对话完毕了才会去修改.你可以看下文章了解一下.

  • lzy1216 06-07 00:23
    15

    这不就是跟卡神提出的llm wiki一个思路吗?看来好的方案殊路同归

* 帖子来源Linux.do
返回