有佬友知道“国内大模型蒸馏风波的来龙去脉”是真是假吗？

咪嗷呜 2026-07-22 10:28 1

某pdf说 kimi 把 RL 整个后训练团队都砍了，纯蒸^-^只做 sft 真的假的，如图

最新回复 (19)

popyui 07-22 10:29

1楼

他说啥你信啥，超时空蒸馏呗。

你想想可能吗。
Muse 07-22 10:30

2楼

感觉这不太可能，后训练是必须的吧，后训练需要监督微调，纯蒸馏那不就是无监督了，纯黑盒？
于苍梧 07-22 10:31

3楼

你的意思是，k3蒸馏肥波后实现了肥波也做不好的3d游戏和网页，对吗？

蒸馏能突破原模型上限的话我支持蒸馏。
Crimson-Rogue 07-22 10:31

4楼

这种基本是带情绪或带立场的二手加工，没有署名、没有可查信源的内部爆料，看看就行，别当真
xiaokonglong 07-22 10:31

5楼

老美AI的垂死挣扎罢了，现在搞技术搞实力没法领先优势了，就开始搞下作手段了
若时间无垠 07-22 10:32

6楼

国内公知们打的舆论战罢了 ^-^出处不明
repo 07-22 10:32

7楼

信源都是QQ微信聊天记录，昨天就看到有人开贴问了，当二手传闻看看差不多了

看了一下甚至有不少错误，比如标准Fernet使用AES-128-CBC和HMAC-SHA256，不是文中的2^65536，对照信源基本都是把指控和八卦有AI拼起来和加工的，我甚至都没有找到时间线的信源
时牧 07-22 10:33

8楼

可能只是国内小嘉豪用 ai随便生成的
tsjbjgs 07-22 10:33

9楼

你现在信了或者你现在这里发帖人，故意制造舆论的目的就达到了，需要关注么？东西发布了么？
breadpig 07-22 10:33

10楼

作为用户只关心好不好用，能不能用，如果能越来越便宜，大航海时代快来吧！
y29lee 07-22 10:33

11楼

纯sft能做出来这水平吗，那RL吃这么多资源开玩笑呢。而且蒸馏没有cot效果哪有这么好，真sft做出来的那直接领先世界了
WolfHolo 07-22 10:34

12楼

我咋记得这是初中生AI生成写的舆论战这一块儿
tikitoki 07-22 10:34

13楼

以前是坏人骗蠢人，然后是蠢人骗蠢人，现在是蠢人拿AI骗完自己再骗其他蠢人。
blacksein 07-22 10:34

14楼

又是路由到fable

写这东西的老哥是个缝合怪吧 ^-^
btsonny 07-22 10:35

15楼

国内外砂纸互相震动导致就是纯粹骗经费
iesori 07-22 10:35

16楼

管你蒸不蒸的，我只想用上便宜好用的模型，而且你是说纯蒸馏蒸出了一个部分能力比原模型更强的？蒸到未发布的模型了？ ^-^
FleetSnowfluff 07-22 10:36

17楼

不要输出和相信这种毫无信源的啊，这种捕风捉影的小故事，你丢给AI一天写出几千篇 ^-^能不能有点自己的判断能力啊
sophon7 07-22 10:36

18楼

只能说一开始拿蒸馏这个词用来扣帽子的人就很坏
for_the_zero 07-22 10:38

19楼

超时空蒸馏

模型自己强化

梁圣狂送fable

……

刷到知乎某人得出结论：Anthropic通共

fable发布之前就提前给zai蒸馏

允许DeepSeek长期使用自己的顶级模型做低价转售

A\大人其实是在通共啊（