openpangu2f部署好了,一些小测试

yricky 2026-07-08 23:08 1

按照mrexodia/openPangu-2.0-Flash-GGUF · Hugging Face 在DGX Spark上部署的,部署的q8量化,资源占用如图:




一个90G的小模型,该测些什么项目?



天气卡片测试

直出有一个错误:https://strong-coffee-u5e3izgq.edgeone.dev

deepseek v4f帮忙修复后:https://rapid-amber-xs50xtzi.edgeone.dev




魔方测试

https://great-olive-jxmvcmsg.edgeone.dev 就这样吧,deepseek v4f没修好


最新回复 (5)
  • yricky 楼主 07-08 23:10
    1

    初步试了一下nsfw,好像没什么甲,但是文笔比gemma4 31b差远了。


    值得好评的是,CoT是全中文的

  • Wolke_Wolke 07-08 23:12
    2

    常见题库:

    https://linux.do/t/topic/286836


    前端HTML:


    ^-^
    开源推广申明

    更新:
    新增猜测模型功能!

    [image]
    [image]
    盲测你对于大模型的前端风格的了解程度!

    嗯,大概两个月前,我开启了这个项目

    简单来说,就是让不同渠道的不同模型,做相同的赛题,然后展示出来
    目前的成果:

    [image]
    For Whom?
    市面上的benchmark,其实更多的是面向AI的研究者,面向AI的厂商,面向媒体KOL,面向…
  • yricky 楼主 07-08 23:23
    3


    Q8模型在DGX Spark上4路并发单路约7t/s

  • qxqy 07-09 09:50
    4

    不错,多来点国产开源模型测试评价!

  • all4ai 07-09 23:22
    5

    这次是不是还是继续抄袭千问模型?

* 帖子来源Linux.do
返回