2. Linux.do
  3. 免费kaggle 一键跑Ornith-1.0-9B/35B 及其他模型

免费kaggle 一键跑Ornith-1.0-9B/35B 及其他模型

mikey 2026-07-03 15:10 1


交互的话可在widget里选模型。后台跑的话改一下default_model_id


tps数字大致如下。其他性能没测过。


deepreinforce-ai/Ornith-1.0-9B-GGUF CPU 3tps

                                    2xT4 31tps

deepreinforce-ai/Ornith-1.0-35B-GGUF CPU 4.5tps

                                    2xT4 40-60tps

Ornith-1.0-35B比Ornith-1.0-9B快因为实际是35B-A3B, 总的来说性能应该不如9B

最新回复 (3)
  • ba lao 07-05 00:53
    1楼

    大佬我有个问题。怎么让这个模型既部署在kaggle，又能在公网调用模型api

  • Noble Kale 07-05 00:59
    2楼

    好像要做内网穿透但是没目前没有特别好的免费方案

  • ba lao 07-05 00:59
    3楼

    cloudfare tunnel怎么说

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐