拿QQ聊天记录微调了一个“自己”模型

这两天无聊在玩本地模型，然后想着，要不要试试微调

说干就干，导出了903万条QQ聊天记录，里面大概有3万条和我有关的，洗完之后大概有5600条对话数据，103万的Token

慢慢悠悠折腾了两三天

然后拿我的聊天数据去调了个“我”

模型是 DeepSeek V4 Flash 0731

租了8张RTX 5090

炼了个38.4M的LoRA，炼完推理就是自己电脑本地跑的

实测对话效果







也是非常像我啊，不知道怎么回就回一个^-^(因为我Mac按a2就能打出来)

但是我现在又不知道问什么了，佬们有没有什么想问的？让我去问问？

还有训练时候的nvitop，也是非常的好看，如此性能猛兽在花了钱的这几个小时里面，就是属于我的，想想觉得也挺好的(虽然有点贵)

8*5090(32GB)+110核CPU+480GB内存



这个LoRA是训练集练了两轮的，我感觉效果还是不错的

一共跑了三趟，一趟大概要3个小时

所以好玩归好玩，-235.02 ¥ ^-^

多的时间还试了下直接跑最基础的DeepSeek的推理



不过因为是多卡并联加上我没怎么优化(没时间了)速度还是受限，就差不多2token/s，比官方慢50倍