2. Linux.do
  3. 关于本地部署模型做什么

关于本地部署模型做什么

Allotrope 2026-10-29 15:47 1

公司拿几台工作站部署的本地，模型是Qwen3.8 27b FP8……不是内容创作的部门，本来工作上那点事用WB差不多了，说是为了数据不上云端，现在还是先接了WB在用，速度还在调试，总之求助佬友们有什么使用建议

最新回复 (13)
  • 虽然我不是专业的,但是我感觉你说的不对 10-29 15:48
    1楼

    翻译,ssh中使用,笔记中使用

  • HeriX 10-29 15:49
    2楼

    为了数据保密合规就可以本地部署吧


    但是又接入到workbuddy里用这个是有风险的


    最好使用开源harness

  • Allotrope 楼主 10-29 15:52
    3楼

    最呆的是机器没接近内网……整个一个不可兼得

  • Allotrope 楼主 10-29 15:54
    4楼

    谢谢佬。我们也没那么大的保密性需求，大家图省事直接WB了，但是老板的任务^-^

  • 虽然我不是专业的,但是我感觉你说的不对 10-29 15:55
    5楼

    自部署的没接近内网也可以把,总比第三方云的强点

  • Frodo 10-29 16:01
    6楼

    用處太多了，比如手搓核彈

  • Allotrope 楼主 10-29 16:03
    7楼

    是挺想发射公司大楼的

  • Barry_03 10-29 16:09
    8楼

    本地部署当然是搞色色啊 ^-^

  • Allotrope 楼主 10-29 16:11
    9楼

    对先获得两位正经回答才看到这个答案我是意外的（）

  • aixaigc 10-29 16:28
    10楼

    感觉实际用处不大，如果是生图的话，还行吧

  • 中国人会飞 10-29 16:30
    11楼

    我是自己在家养了一个3.8 flash next iq2_xs

    因为坑爹小米不给老的小爱音箱大模型

    装上以后配合HA舒服多了

  • Allotrope 楼主 10-29 17:32
    12楼

    是，我觉得个人用挺好的但是公司才有卡hhh

  • aidi 10-29 17:34
    13楼

    本地模型可以逆向，没有护栏好像

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐