2. Linux.do
  3. Opencode go的GLM-5.2是量化版本？

Opencode go的GLM-5.2是量化版本？

Leon 2026-06-19 17:46 1

看了一下OpenCode Go的官方文档，第一供应商是deepinfra


然后打开deepinfra官网查看模型卡


而官方在HF发布的满血版本则是BF16的



不知道FP4量化版本跟满血的BF16版本的差距有多大。。。

有佬有能感觉出区别吗？

最新回复 (10)
  • Red Carp 06-19 17:49
    1楼

    FP16和FP4在700B+的这个尺度下，性能表现不会相差很多，甚至体感上都感觉不出来。

    FP4在推理部署上是一个甜点，在成本和性能上都取得了平衡，所以很多都是这么做的。

  • alizoed 06-19 17:51
    2楼

    我记得官方部署的都是FP8的版本来着，我个人用着感觉还行

  • neteroster 06-19 17:53
    3楼

    FP4 还是会有影响，FP8没问题

  • 过期绿坝粮 06-19 17:54
    4楼

    OpenCode还会公开渠道来着，真不错(


    FP8的量化体感上应该没太大问题吧

  • revival 06-19 17:54
    5楼

    BF 16 是训练专属精度吧，实际工程部署推理的时候一般不会部署这么高精度的

  • jcc 06-19 18:06
    6楼

    按照以前的经验，FP4的明显能感觉降智

  • Leon 楼主 06-19 18:12
    7楼

    你区别不大应该指的是FP8吧，反正在qwen十几B小模型的尺度上，FP4精度跟满血的已经有比较明显的区别了


    否则官方也不会使用FP8版本量化而不用更省资源的FP4了。

  • alizoed 06-19 18:13
    8楼

    话说佬这个页面哪儿找的，一直没找到，想看看其他模型的提供商是谁



    看了一下OpenCode Go的官方文档，第一供应商是deepinfra



    然后打开deepinfra官网查看模型卡



    就这个

  • Leon 楼主 06-19 18:15
    9楼


    这个页面往下拉到常见问题，展开。


  • benzoo 06-19 18:23
    10楼

    我记得官方部署的都是FP8的版本来着



    啊 这种操作之前有过吗？感觉很诡异啊，意思拿满血版跑个榜单就下了，多部署些量化版给大家用，还不注明？？

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐