2. Linux.do
  3. 4060ti16g本地模型部署探讨

4060ti16g本地模型部署探讨

加载中... 2026-10-27 01:31 1

12490f 32g+ 4060ti16g 想在本地部署个模型有时跑一下逆向任务,或者goal挂着写点小游戏的代码(很简单游戏).有可行性吗?推荐的模型有吗?

最新回复 (8)
  • 加载中... 楼主 10-27 01:32
    1楼

    问了一下哈基米 说能部署7b的qwen 能丝滑的写代码 60t/s 是真的吗

  • 伊多拉修 10-27 01:34
    2楼

    同内存、同显存5070ti测过可行性不高，显存再高点整qwen3.8 27b还能勉强干点小活儿

  • Moyuuuu 10-27 01:35
    3楼

    27b的qwen3.8 3bit吧，tps有多少就不知道了

  • 加载中... 楼主 10-27 01:35
    4楼

    哈基米一天净骗人



    “体验会非常惊艳”

  • Davidasx 10-27 01:38
    5楼

    哈基米总是认为qwen2.5 claude3.7 gpt4o是最前沿的模型^-^而且总是懒得搜索

  • sczerg 10-27 01:43
    6楼

    哈基米 说能部署7b的qwen 能丝滑的写代码 60t/s 是真的吗



    明显是假的。不过我试了一下strata，这个倒是真的能用。

  • kooo13579 10-27 02:04
    7楼

    是智障吧


    opus4.6 glm 5.3 寫godot也出大量bug，7b是想做甚麼 ^-^

  • arkicho 10-27 02:07
    8楼

    笔记本4070laptop只能和你说7b q4确实可以，但是人工智障，最讨厌的是可能会思考无限循环，你不会想用的，量化至少保持个q8把 ^-^16g你可以试试，但是速度肯定不会那么快了

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐