有没有速度特别快的免费的llm api用?

yuanyuming 2026-07-15 09:37 1

有一些比较简单的活但是及时性要求比较高. 有没有免费的或者比较便宜的, 速度比较快的api用?

最新回复 (19)

小铭小铭 07-15 09:38

1楼

你说的是不是deepseek v4 flash官方API？
NO.39 希望皇霍普 07-15 09:39

2楼

商汤日日新 token plan,免费有 DeepSeek 4flash
yuanyuming 楼主 07-15 09:39

3楼

dsv4f感觉还是不够快, 之前看到有1500token/s的. 忘了叫啥了
MareixHunk 07-15 09:40

4楼

1000token/s 的是不是小米的 mimo
yuanyuming 楼主 07-15 09:40

5楼

商汤日日新

我去试试看看有多快. 现在dsv4f好像只有30-40token/s
Xuezi003 07-15 09:41

6楼

stepfun挺快的，适合小任务
yuanyuming 楼主 07-15 09:41

7楼

我之前见了有一个qwen3.6的跑1500token/s的, 但是忘了在哪见的了.
OMGpizzaTNT 07-15 09:42

8楼

反代chat jimmy的llama3.1 8b，很蠢但很快，能跑到10k tok/s
cxu 07-15 09:43

9楼

你是否在找

看到坛里有佬分享 ChatJimmy 的恐怖输出速度，实测最高跑到 21,874+ tok/s，按下回车的瞬间答案就糊脸上了，根本来不及反应！
体验了一下确实离谱。虽然跑的是 Llama 3.1-8B 小模型，回答质量一般，但这个速度拿来做翻译、摘要、格式转换简直是神器，这速度真是离谱到家了
唯一的问题：它只有网页端，没有 API！
所以我写了个 Cloudflare Worker，把 Ch…
gep 07-15 09:43

10楼

cerebras的glm 4.7
peter 07-15 09:44

11楼

快的效果是不是不好，试了下deepseek跟gpt5.5 差距还是有点大的
wxk666 07-15 09:44

12楼

minimax我记得有highspend模型不知道速度是否符合佬友的预期

小米的mimo也可以速度也挺快
yuanyuming 楼主 07-15 09:45

13楼

可以, 我去跑一下看看用harness能不能限制住这个脱缰的野马.
yuanyuming 楼主 07-15 09:45

14楼

主要是有一些查询, exploration的请求, 等的让人焦急… 涉及多跳文件查询.
sxjeru 07-15 09:46

15楼

可以试试 Gemini 3.1 Flash Lite，最快能有 300+ tps，基本 1-2s 能回传结果。
yuanyuming 楼主 07-15 09:47

16楼

去测试一波, 刚看chat jimmy好像只有6000多的上下文… 估计比较难受.
Grandy 07-15 09:49

17楼

groq 400-500token/s但是上下文很小
fslx 07-15 09:51

18楼

阶跃星辰的step3.5flash或者3.7flash也很快
yuanyuming 楼主 07-15 10:00

19楼

一会去测试一下, 主要是现在有个问题, 多跳文件, 多次执行命令, 就会比较难受. 每次都要重新请求, 就很慢