吐槽贴：现在B站数码up怎么都在搞本地AI，这东西完全没法用啊

PS：在某图评论区，吐槽了一句395跑Hermes会超时，直接被删评拉黑了。MD十多年老粉转黑，什么黑心up ^-^

商广吧, 应该是amd合作的. 本地ai除了做做向量化和翻译,用amd那cpu可怜的ai能力跑模型来做养虾的纯瞎吹

普通人推理老老实实英伟达罢 ^-^直接吃社区的推理栈优化

某图是指一个司开头，3个字的up么？

都是商单为卖货呀，博主也要吃饭呀，你应该了解，做博主不是为了慈善，都是为了挣钱 ^-^

认真你就输了

我之前也以为本地 mac 部署 ai 有搞头，干了个 mbp 回来，发现等 input 处理要 100 多 s，压根不可用。于是放弃。

不过个人开发本来就要用这么大内存（虚拟机啥的），所以也没浪费。

是的一般都是商单，厂家都会看评论区的，差评影响博主赚钱了，肯定要删你

可能是货多了滞销，想用ai+的名以带出去，不过龙虾都退潮了，没跟上潮流属于是

是呗，现在AMD宣传的多少TOPS算力，一大半都是NPU。现在NPU基本调用不了，纯坑人啊。

YES ^-^，今天刷到，发现进不了首页了

现在就等一手rtx spark ^-^

粉丝量那么大，好坑人 ^-^（主要是我也被坑了哈哈哈）

挣钱可以，多少提一下首token的问题也行啊，评论都拉黑有点太寒颤了 ^-^

坑的就是粉丝哈哈，不然博主要粉丝量干啥。这就是商业模式呀。

理解商业的本质你就看懂这个世界了

打广告本来就是挑好的说，硬件厂也是跟AI风嘛。

但是超时时间不是可以设置的吗？

另外本地部署本来就是需要折腾，你只说首token慢，也不说一下到底进了多少token，多少的prefill速度吗？

不同模型不同量化不同框架不同配置都有不同速度，跟买完API输个key就用比心智负担当然比不过……

某图评论区？是三个字的那个UP主吗？

话说慢一点也行，只要能部署本地的NSFW模型 ^-^

中间是不是一个波字？很久没上B站了，人家那个是接的商单

大部分都是商单，你要知道现在B站光靠自己的视频创作根本没啥收益，用流量和商单来拿钱罢了

你可以在油管吐槽，好像油管没有拉黑功能。以前玩路由器的很多都转行小主机了

以前以前还真的本地搭建过小模型，没有任何一个能用，这些UP也真能吹。