2. V2EX
  3. deepseek 开源推理框架了

deepseek 开源推理框架了

iorilu 2026-10-21 08:18 1

https://github.com/deepseek-ai/DeepInfer


看有没有大神优化大幅降低本地部署要求

最新回复 (17)
  • Jack66 10-21 08:30
    1楼
    应用场景在哪里呢？
  • askfilm 10-21 08:41
    2楼
    @Jack66 应用场景在：以“技术平权”的方式，把原本属于头部企业的“低成本大规模服务能力”交到了中小国家开发者手中，帮助它们跨越算力与工程经验的鸿沟。
  • iorilu 楼主 10-21 08:48
    3楼
    @Jack66 可能个人弄个十张卡也能部署卖 token 赚钱了啊

    这以后可能是个好生意

    投资几十万上百万, 不比开店强
  • GPLer 10-21 08:54
    4楼
    @iorilu 规模效应，理论上不可能比官方便宜太多，那别人为啥不用官方的，用第三方的还要担心降智、隐私泄露
  • xyzos 10-21 08:57
    5楼
    真 OpenAI
  • iorilu 楼主 10-21 09:05
    6楼
    @GPLer 当然有

    三方可能部署非审查模型, 都懂的, 能干官方干不了的事

    我估计很快就有很多这种服务出来

    以后可能不是中转站的, 就是个人弄几张卡就卖 token
  • iorilu 楼主 10-21 09:05
    7楼
    @xyzos openai 早就是笑话了

    这么多年, 毛都没 open 一个
  • fanxasy 10-21 09:09
    8楼
    OpenAI : DeepSeek
    CloseAI : OpenSI
  • Lekou 10-21 09:29
    9楼
    Supported hardware:

    NVIDIA SM100 GPUs
    Huawei Ascend 950 NPUs

    这不是普通人，甚至小企业能玩得起的呀。。
  • florentino 10-21 09:42
    10楼
    不知道这个框架干嘛用的,看这个: https://mp.weixin.qq.com/s/gA51FfYoAedGGWYnqRNFiw
  • AIgogo 10-21 09:55
    11楼
    vllm sglang 现在的迭代速度，就知道推理框架一堆人才能玩的转。DS 只是为了上市，在 ppt 上闭环自己的生态，仅此而已
  • PrinceofInj 10-21 09:57
    12楼
    @fanxasy 支持 deepseek 注册 OpenSI 商标。
  • zhangli2946 10-21 09:59
    13楼
    @PrinceofInj 为什么不是 OpenDI 或者 OpenDS
  • Jimmyisme 10-21 09:59
    14楼
    @AIgogo 只支持一个模型和支持一堆模型的工程难度是不一样的。
  • c0nstantien 10-21 10:14
    15楼
    @PrinceofInj 天父杀天兄啦，哈哈哈
  • Haku 10-21 14:40
    16楼
    2 月回本。
    DS 是不是资金状态比 OpenAI 和 A/健康多了？
  • Jack66 10-21 15:37
    17楼
    @iorilu 不见得，即使淘宝开源了代码 能怎样，95%的人照样玩不转
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐