从模型蒸馏想到， AI 模型的护城河可能并不深

就像研究原子弹的人当中也有社会主义者。操作的人未必在意长期股东的利益。
另外 Fable 和 5.6 不让用了。民转军。不就护城河深些了？

bro 以为「护城河」是那些公开能访问到的数据。 我只能说但凡刷刷 deepseek 架构解析的短视频都不至于得出这种结论

不深，那你觉得有多浅，你意思是国内可以随便冒出几千家做大模型的企业？还是说随便一个本科生就能带领团队做大模型研究？

护城河不深和泡沫有什么联系吗？还是你只是想唱衰 llm

准确来说是闭源模型可能没有我们想象的那么一骑绝尘领先于开源模型，做算法门槛蛮高的

不深的话 fable 就没有禁用的逻辑。（它想封禁的对象用一个替代品可以做到完全一样的事情，它禁了寂寞

特别是 cc 还有生物相关内容的白名单机制。

目前 AI 已经应用在我们生活的方方面面，正切实改变我们的生活，为什么还觉得 AI 是泡沫呢

不深为什么腾讯阿里谷歌 Meta 的模型做不到第一

为什么 Grok 砸了那么多钱结果依然二三流、变成出租集群的生意了

主要护城河是算力、硬件基建

挺深的，grok 就是最好的证明，不深的话马斯克就不可能摆烂把算力租出去了

那应该是通过木马手段实行的蒸馏

护城河不深跟泡沫有什么关系，要我说，护城河浅反而更能促进几家 AI 公司互相学习、互相竞争，而不是凭借领先直接开摆。可惜 AI 护城河并没那么浅，否则 AI 也不会就那么几家打出名头来。

不深的话，全球的 ai base model 一定很多国家都在搞吧

蒸馏可以快速接近 80%甚至 90%的专项能力，但是剩下的那 10%-20%就是无法逾越的天堑。

护城河不深，为啥 v 站的程序员都钻窟窿打洞非要用上某家 ai 公司的 CC ？他们为啥不用国产的呢？量大管饱还不会动不动就封号不香吗？

有没有可能，真正厉害的模型人家根本不对外开放，听说现在 Anthropic 就已经有内部模型，只提供给少数大厂用，其他人有钱都买不到

护城河不深其他国家咋不蒸馏一个