2. Linux.do
  3. deepseek v4 flash正式版，官方满血版，在手机本地上跑起来了

deepseek v4 flash正式版，官方满血版，在手机本地上跑起来了

yricky 2026-08-01 19:55 1

如题，设备是一加13 24G+1T版，使用官方的Deepseek V4 Flash正式版模型权重，推理引擎用的colibri自行魔改了一下。暂时是纯CPU推理，FP8和MXFP4好像不受骁龙8 Elite的GPU和NPU官方支持。速度的话，大概是2~10秒一个Token的样子，其实这算是纯整活了，不过还挺有意思的。



顺便发了个视频 https://www.bilibili.com/video/BV1hGGV6RExG

最新回复 (13)
  • blacksein 08-01 19:58
    1楼

    手机SoC: 这是来什么大活了 ^-^

    佬注意好散热 别整虚焊了

  • 荒野的烟雾 08-01 19:59
    2楼

    ^-^ opencode不是免费提供deepseek-v4-flash吗，而且还是走官方api的说明是正式版flash，何必让手机遭这罪。

  • 水很深 08-01 19:59
    3楼

    手机的速度怎么样？

    不会几分钟一个字吧

    大概1min 开始出吧 比人写的慢

  • 伏特加 08-01 19:59
    4楼

    一加：没想到我还能有这能力？会不会20分钟就变成暖宝宝了手机？

  • JerryXu 08-01 20:01
    5楼

    我只想问：烫不烫？不过这说明本地模型写代码又迈出了一步

  • CaQing 08-01 20:01
    6楼

    想制热还用这么麻烦，直接电池接电阻丝不行了吗？

  • wqfc09 08-01 20:02
    7楼

    内存大小和速度都瓶颈了吧

    手机内存就那小水管，不得炸了^-^

  • yricky 楼主 08-01 20:04
    8楼

    在今天之前，我一直觉得我买了24G+1T没买16+512是一种很浪费的行为，今天终于用上这个24G了

  • 還記得你說家是唯一的城堡 隨著稻香河流繼續奔跑 微微笑 小時候的夢我知道 08-01 20:06
    9楼

    有免费提供吗？给多少额度啊每天^-^

  • 荒野的烟雾 08-01 20:08
    10楼

    ^-^佬友你的手机内存比我电脑内存还大。

  • 荒野的烟雾 08-01 20:09
    11楼

    额度不知道啊，但是一些公益站提供的v4-flash走的就是这个渠道批量代理池的。

  • 阿达姆 08-01 20:14
    12楼

    好家伙，不知道一管电池够不够回答一个复杂点的问题 ^-^

  • yricky 楼主 08-01 21:19
    13楼

    让GPT统计了一下，功耗其实不高


* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐