2. Linux.do
  3. 你们对模型的参数量与精度有“洁癖”吗？

你们对模型的参数量与精度有“洁癖”吗？

trdyun 2026-06-22 02:17 1

不知道为什么，我在使用模型的时候，总是会对参数量有一些类似于“洁癖”上的需求

虽然说模型的参数量在大多数时候意味着模型的能力

但我在有限的算力资源中，总是在尝试着尽可能大的参数量、尽可能高的模型精度

以至于忽略了模型部署时并发的需求

各位佬友，我想问一下，仅对于模型本地部署 coding 来说

一味的追求大参数、高精度、长上下文，是不是一种变态的“洁癖”

最新回复 (7)
  • SDA 06-22 02:19
    1楼

    当然不算，企业招人都想要当前条件下最好的，毕竟谁不喜欢一个聪明人给自己干活呢

  • trdyun 楼主 06-22 02:22
    2楼

    难道在有限的资源里，一直追寻参数量大是一件好事？

  • 欣欣|林可欣 06-22 02:24
    3楼

    还是回到根本上来吧


    你想对谁「好」？

  • SugarBreeze 06-22 02:28
    4楼

    但不得不承认，目前100B参数以下的模型，scaling law主导是非常明显的，参数越大能力和token效率都有显著提升

  • guidaoshi 06-22 02:29
    5楼

    如果是RP或者类似逻辑性要求高的情况，我觉得本地模型的上限太短了。可能本地唯一的优势就是隐私了？毕竟自由度方面，gemini和ds就几乎等于无甲了，如果你大锅饭，是不是也可以算是隐私了。


    一定要说，可能本地模型还是追求参数大吧…

  • trdyun 楼主 06-22 02:38
    6楼

    scaling law 也包括模型精度吗？

  • ANON 06-22 02:43
    7楼

    毕竟按照数位写的ab总能写成类似da + b的形式，精度不同完全可以看成参数量不同的模型

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐