2. Linux.do
  3. 求问大佬5070ti能跑什么好用的本地模型，小白不太懂

求问大佬5070ti能跑什么好用的本地模型，小白不太懂

cz129454 2026-08-29 22:59 1

就是用来写写文章，没其他多余要求，不要太弱智就行了

最新回复 (12)
  • zzq 08-29 23:08
    1楼

    搞个 qwen3.8 27B。

    参考 Qwen3.8 27B 单16G显存显卡本地测试与部署教程（128K上下文+视觉保留）

  • unravel 08-29 23:11
    2楼

    本地别想用来写文章了…随便找个豆包元宝都强

  • cz129454 楼主 08-29 23:15
    3楼

    哈哈，就是想尝试一下，今年中午有时间学习一下ai，后悔没配好一点显卡

  • TRIGGER2227 08-29 23:15
    4楼

    本地玩玩图片生成视频生成吧，文章别想了，上下文撑不住的

  • bad 08-29 23:17
    5楼

    是的生成速度也慢。现在的dpskv4f这个api性价比太高了。就算不是梁文谷而是梁文峰的价格都算是超级便宜大碗！

  • cz129454 楼主 08-29 23:19
    6楼

    哎，试了一下，生成速度太慢了，还是老老实实接api吧。

  • ionase 08-29 23:24
    7楼

    qwen3.8 27B 的话差不多40~50token/s吧，但说实话如果不是为了做一些nsfw的东西没理由不去用api

  • unravel 08-29 23:27
    8楼

    好点的显卡也是那样，可以做生图和视频。个人本地大模型都不如api

  • cz129454 楼主 08-29 23:28
    9楼

    确实会用到有一些敏感词汇，我找了个无审查的qwen27b,不过本地太慢了，接入agent写一篇得花好长时间。

  • ionase 08-29 23:35
    10楼

    毕竟api的速度都是几百甚至上千tps的

    我自己是之前试过用来操控浏览器批量下一些nsfw的东西，然后他跑了几个小时就干了我可能十几分钟就能弄完的东西 ^-^

    然后就放弃折腾了，本地想玩大模型消费级显卡还是太慢了

  • cz129454 楼主 08-29 23:38
    11楼

    是的，大佬，我还是研究一下agent怎么用吧，不瞎搞了，这ai发展太快了，老年人都跟不上了

  • 缘木求鱼 08-30 08:50
    12楼

    用来玩一下游戏就好了，跑模型就算啦

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐