2. Linux.do
  3. 【求教各位AI大佬】RTX 5080 + 9800X3D这套配置，有必要折腾本地AI吗？

【求教各位AI大佬】RTX 5080 + 9800X3D这套配置，有必要折腾本地AI吗？

machengzhoujun 2026-08-03 14:37 1

各位佬友好。


最近装了一台新主机，主要用途是游戏、学习和日常使用。


之前一直使用 ChatGPT、Claude 等云端AI服务，最近看到本地AI发展很快，有点想尝试自己部署一些模型。


但是本人目前属于AI小白，不确定自己的硬件是否适合，也不知道本地AI对于普通用户实际价值有多大。


所以想请教各位大佬，这套配置有没有必要折腾？


主机配置如下：


CPU


AMD Ryzen 7 9800X3D


散热


泰坦 A090

360mm 一体水冷 + 循环


主板


微星 MAG B850 TOMAHAWK MAX WIFI


内存


金士顿 DDR5 6000MHz

16GB × 2（32GB）

CL30


显卡


影驰 RTX 5080 16GB 黑金 OC


硬盘


雷克沙 4TB M.2 NVMe SSD


电源


海韵 VERTEX GX1000

1000W 金牌全模组


机箱


QB_TK-03 黑色


风扇


机箱发光风扇 ×7


显示设备：

32寸 4K OLED


系统：

Windows 11（目前）



我的使用场景：


目前主要：



  • 游戏

  • 办公

  • 学习新技术

  • 使用AI辅助工作


没有专业AI生产需求。


想尝试：



  • 本地大语言模型

  • AI绘图

  • ComfyUI

  • RAG知识库

  • Agent类应用


主要目的不是为了替代ChatGPT，而是想了解本地AI生态。



几个问题想请教：


1、RTX 5080 16GB显存适合目前本地AI环境吗？


例如：



  • Ollama

  • LM Studio

  • Stable Diffusion

  • ComfyUI


大概适合跑：


7B？

14B？

32B量化模型？


实际体验如何？



2、这个配置有没有必要专门安装Linux？


目前Windows使用习惯比较好。


不知道：



  • Windows + WSL2是否已经足够？

  • 是否值得安装Linux系统？



3、本地AI相比云端AI，目前最大的优势是什么？


我的理解：


优势：



  • 数据隐私

  • 不受网络影响

  • 可以深度折腾


但是普通用户实际体验是否值得投入时间？



4、如果开始学习，建议从哪个方向入门？


目前比较感兴趣：



  • 本地LLM

  • AI绘图

  • 知识库/RAG

  • Agent


不知道各位大佬有没有推荐路线。



感谢各位大佬指点。


主要是不想让5080只负责打游戏^-^


希望它除了跑游戏，也能真正发挥一点生产力价值。



另外补充：


本人不是专业程序员，目前属于兴趣学习阶段。


如果方向不对，也欢迎各位直接劝退 ^-^

最新回复 (19)
  • MareixHunk 08-03 14:39
    1楼

    16g的显存感觉跑不了多大尺寸的模型

  • seloong 08-03 14:42
    2楼

    感觉你是来晒在最高位买入主机的 ^-^ ^-^然后就是本地ai就算了，跑起来完全不是一个级别的事。真要这么简单的配置，那些大厂就不用疯狂抢硬件了

  • Wkstr 08-03 14:43
    3楼

    聊胜于无，喜欢折腾搞下吧，没有什么本地的AI应用，AI绘图、知识库/RAG、Agent可以整下

  • 大强 08-03 14:44
    4楼

    没必要 内存小了, 没必要 显存小了

  • Bingo 08-03 14:44
    5楼

    显存太小了。但是跑rag是够的。embed，rerank要不了多少

  • FFFFFFFFFir 08-03 14:45
    6楼

    对一般人而言没有意义，你真要学习的话折腾下agent框架啥的吧

  • wzsscxg 08-03 14:45
    7楼

    说实话, 毫无价值…如果是喜欢折腾一下学一学部署那鼓励, 玩一玩呗, 但是如果想本地用的话…这配置大概只能稳定跑个翻译之类的了.


    个人一直觉得普通人的设备哪怕大几万一套的, 在本地模型这个领域, 对于正经的生产力而言可以说是什么用都没有…

  • xiaozhu110 08-03 14:46
    8楼

    只能说 25年初我给客户装的一个服务区 128G内存+2块4090都跟个傻子一样 部署的deepseek

  • harrywu 08-03 14:46
    9楼

    32G 就别折腾了，到最后的方案还是整 100G 的虚拟内存，效果也差，过来人之谈，要不是这两年内存暴涨就换 64G 了


    跑一些开源的 comfyUI 的换脸或者涩涩工作流是能跑的，但是就是慢，瓶颈全在内存


    本地 llm 没试过，跑小模型我感觉不如直接租云端的，价格不贵，效果也是一样的，最后走 api 调用就完事了

  • DemonW 08-03 14:46
    10楼

    折腾着玩玩(纯玩)可以, 想正经拿来用就别想了, 虽然你这一套配置也不便宜, 但是你觉得两万来块的玩意儿就能跑起来个勉强能用的东西的话, 这些做LLM的大厂还需要几百亿几千亿刀往里砸吗?

  • 小新阳 08-03 14:47
    11楼

    就我最近在折腾短剧comfyui来说16g显存无法正常运行一个wan2.2模型，和一个案卷评查项目来看LLM也只能运行一个qwen32b的蒸馏版本，且上下文比较少，思考深度很低。看你什么需求和财力来配置硬件而不是根据硬件觉得需求

  • Ljj 08-03 14:47
    12楼

    可以泡跑跑生图，大语言算了，我 48g 显存反正主要来生成图

  • runs 08-03 14:48
    13楼

    我觉得佬友目前了解的还是很清楚的，不管是自己的需求还是实现的方法。


    想折腾就折腾一下，花不了多少时间，但是实际效果大概确实是毫无生产力 ^-^。

  • 片刻月 08-03 14:51
    14楼

    5080 16G撑死32B

    问点问题就是流口水 每秒也就20-40tokens

    当知识图谱还不如自己写obsidian再丢给云端LLM

    生图更别说了 出来的图除了没有审查能搞点NSFW 没啥大用

    你不从事代码相关的工作 装个WSL也用不上

    本地AI指的是本地服务器部署的AI

    我现在始终认为个人电脑部署的AI都称不上是人工智能…

    一年之前部署的一个模型 问什么都流口水

    而且看你买的这个带三缓的 一看就是为了打游戏来使用的…

  • LingEasy 08-03 14:51
    15楼

    没必要。没意义。能折腾的只有视觉模型。大语言模型不行。

  • ensemble 08-03 14:54
    16楼

    16G显存可以折腾qwen3.5 9B或者qwen3.6 35B A3B玩玩，实用价值不大，不过对于学习大模型部署的角度而言还是有意义的。

  • 黑部奈叶香 08-03 14:54
    17楼

    印象中之前看glm5.2部署推荐是40个5090 ^-^正常人感觉没必要本地部署AI，有这空不如搞个AI水群机器人玩玩

  • kiku998 08-03 14:55
    18楼

    去B站上面搜搜，部署个画图的，自己玩玩画点涩涩图还行。至于想部署到能正常工作使用的模型，还是不太行

  • Ruby 08-03 14:56
    19楼

    我是48gd5+5070ti 16g。

    本地LLM我是从25年初玩到现在，从最早ds那几个llama3蒸馏版本到qwen3.6-27-q3km+turboquant

    qwen3.6-27b的可以跑100K上下文.质量做做本地agent还行，但是太耗电了不如直接接入gpt-5.6-luna。

    我也玩了一下生图，感觉没有gpt网页好用，目前在尝试comfyUI+minimax h3.

    我个人认为本地部署这种东西，就看你自己的想法吧，你喜欢折腾就去折腾就行，设备是你的，时间也是你自己的，能给你带来成就感那就去做。

    “种一棵树最好的时间是十年前，其次是现在”

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐