本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
- 我的帖子已经打上 开源推广 标签: 是
- 我的开源项目完整开源,无未开源部分: 是
- 我的开源项目已链接认可 LINUX DO 社区: 是
- 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
- 以上选择我承诺是永久有效的,接受社区和佬友监督: 是
以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出
实现了什么
本插件为CPA(CliproxyApi)插件
旨在解决 GPT 5.5 模型的 516 降智问题(即思维链截断导致的降智)
实现方法为插件在CPA侧检测到推理命中 518*n-2 这种截断时, 自动继续推进思考
并为了防止首字过长导致客户端误判进而报错, 在思考时采取了类似于假流式的做法
并且得益于是CPA插件, 只需在CPA上安装, 即可享受
注意, 这不可避免的依旧会实际提升真实的首字延迟
是类似于"用时间换思考深度"的
如果使用GPT的场景相对轻量化则不建议使用
话说5.6快出了吧那5.5岂不是没有人用了
希望5.6别有这个毛病
如何安装
复制以下提示词给你的agent:
请帮我安装 CPA 插件 codexcomp。安装说明在 https://github.com/uf-hy/cpa-plugin-codexcomp/blob/master/SETUP.md ,请先读取这个文档再执行安装。
插件效果对比
以下是使用 Hao佬的
codex-candy-eval测试脚本 (原帖指路:【仅供参考】Codex 降智测试脚本)
在使用插件前后的对比测试
插件开启前:
Run Codex In Tok Out Tok Reason Tok Time(s) TPS OK
--- --------------------------------------- ------ ------- ---------- ------- ---- --
1 最少取出 29 个。\n\n理由很直接:看最... 7363 722 516 17.1 42.3 ✗
2 最少要取出 29 个糖果。\n\n理由很简单... 7363 739 516 18.3 40.3 ✗
3 最少是 21 个。\n\n因为形状能靠手感分... 7363 1772 1552 34.6 51.2 ✓
4 最少取出 29 个。\n\n理由很简单:先看... 7363 747 516 16.4 45.7 ✗
5 答案是 21 颗。\n\n按题意,形状能靠手... 7363 3375 3069 65.8 51.3 ✓
Graded 5/5 correct=2 accuracy=40.0%
插件开启后:
Run Codex In Tok Out Tok Reason Tok Time(s) TPS OK
--- ---------------------------------------- ------ ------- ---------- ------- ---- --
1 按题里说的形状能靠手感分辨,最少是 21... 7363 3933 3641 87.6 44.9 ✓
2 答案是 21 颗。\n\n按题面说的形状能靠... 7363 2379 2059 45.7 52.0 ✓
3 按题里形状能靠手感分辨来理解,最少取 ... 7363 3500 3273 68.8 50.8 ✓
4 答案是 21 颗。\n\n利用手感指定形状去... 7363 4811 4555 104.9 45.9 ✓
5 按题目说的形状可凭手感分辨来算,最少... 7363 3342 3100 82.1 40.7 ✓
Graded 5/5 correct=5 accuracy=100.0%
参考了如下项目
来自 neteroster 佬的
原帖: https://linux.do/t/topic/2504036
和
来自 Sh1nj1Re1 佬的
原帖: 【开源自荐】缓解Codex降智 516问题(518*n-2思考截断)的一种方法
本项目和两位大佬的区别的话, CodexCont 更趋近于使用一个中间的服务器来实现, 需要客户端修改上游代理服务器, 比较广泛的兼容
而 Codexcomp 在 CodexCont 的基础上更加的面向 Codex CLI 实现的, 可能更适用于本来在使用Codex CLI的用户
而本人使用opencode, 倾向于使用CPA来进行修改, 这样便所有的设施都无需修改url, 也不需要一个额外的进程用来处理, 更适用于本来在使用CPA的用户