发现宝藏,英伟达免费 NIM API diffusiongemma模型速度极快,适合做文本后处理及润色

Mozi 2026-07-10 21:48 1


速度至少 700 token 每秒

首字延迟 800 毫秒左右


用于语音输入法的文本后处理,或者是文本翻译和润色,非常好用


模型 ID 为google/diffusiongemma-26b-a4b-it


比如闪电说里面用作文本润色


最新回复 (8)
  • Simber 07-10 21:52
    1

    这个好,接入到我微信公众号自动回复中,挺好,不会超时

  • 路人A 07-10 21:52
    2

    从6月14日开始,已经偷偷蹬了一个月了 ^-^

  • Mozi 楼主 07-10 21:52
    3

    单次输出的Token数量有限制,这个要注意


    单次输出 token 大概 1100 多

  • lenluo 07-10 21:53
    4

    感谢佬友分享,做个小的翻译后台。

  • Simber 07-10 21:59
    5

    没事,应该够用,做一些文章大纲的Search工作

  • xms2008 07-10 22:26
    6

    可以改最大输出

  • Mozi 楼主 07-10 22:27
    7

    你这个是英伟达 NIM 的 API 吗?

  • xms2008 07-10 22:34
    8

    对,直接这么配置最输出

* 帖子来源Linux.do
返回