自建 Qwen3.6-27B FP8 模型免费开放调用

吃个核桃补补脑 2026-07-06 21:31 1

各位佬友好，近期用自己的一台8卡A100服务器搭了一个 Qwen3.6-27B FP8 量化模型，因为自己用也用不了多少，无偿分享给社区佬友测试折腾使用，没有限流没有没有限量

不会留存外传大家对话内容，纯公益分享，不盈利、不收费，后续资源不足可能限流

公网服务器很弱鸡还请大家不要攻击它，模型大家可以使劲蹬，让我看看GPU起飞的感觉哈哈哈

密钥base64

c2stWTM4c0NiSTVybVpr5Yig6Zmk5oiRcnVYTHlndnJVbnB1QXVCNmJvdWhSdEJVRTLliKDpmaTmiJFQNEdGcUJCUXJN

最新回复 (19)

迦楼罗 07-06 21:34

1楼

来了来了，最前排，本地部署的是不是没有限制佬？
7yu 07-06 21:35

2楼

试了一下，连不上，也打不开网页，是不是挂了？ ^-^
吃个核桃补补脑楼主 07-06 21:35

3楼

我这个是官方开源的那个，后续可以考虑来个无限制的哈哈哈哈，但是我感觉27B的稠密模型更好用一点
吃个核桃补补脑楼主 07-06 21:37

4楼

没啊，我刚刚特意试了试，服务器都还没上强度呢哈哈哈哈
skyfox 07-06 21:38

5楼

咋用，获取不到模型啊，我把new地址和密钥填进去了
Winlend 07-06 21:38

6楼

网页可以打开，CCS中可以获取模型。
PulpCode 07-06 21:39

7楼

谢谢佬，连通了，最近刚好要用小点参数模型尝试一下项目，用上了
CYYxv 07-06 21:39

8楼

本地部署的公益站很少见，有点意思
skyfox 07-06 21:40

9楼

OK了，谢谢啊，兄弟，嘿嘿，爽用一下
吃个核桃补补脑楼主 07-06 21:41

10楼

肯定是姿势不对，注意api地址最后面尽量不要有/ ^-^
skyfox 07-06 21:42

11楼

不能思考嘛？好像没思考，直接输出了。难绷
小菜 07-06 21:42

12楼

就说，还是佬友有实力，还有高手！
耕田牛 07-06 21:42

13楼

这应该是独一份公益站吧，试试鲜，期待来个无限制的～
yyn 07-06 21:42

14楼

感谢佬的分享实力太强了！连通了，准备开蹬！
吃个核桃补补脑楼主 07-06 21:44

15楼

对我把思考模式关了，因为我平时用一些agent跑一些简单的小任务多。复杂任务的话我还是推荐用一些参数量更大的高阶模型，这个27B思考半天估计也不如那些高阶模型快速输出哈哈哈哈
吃个核桃补补脑楼主 07-06 21:44

16楼

上强度了佬友们
7yu 07-06 21:45

17楼

有限制的ip吗？我用hf的newapi连上了。。。。本地不行
JackBlue 07-06 21:46

18楼

思考也被混杂到content里面了
吃个核桃补补脑楼主 07-06 21:46

19楼

没有哎，公网的服务器就在华南阿里云上，在国内应该没问题啊