有懂的兄弟么?这个正常么?小弟第一次自己训练模型[发呆]

2018yuli 2026-10-20 08:49 1

我自己 (gpt6.1 ╰(‵□′)╯) 基于 transformers 架构训练的 五子棋 AI (模型只有 600k ,6w 个参数),和 Jev 对战. 当然,我的这个模型,他只下五子棋。后续在训练,每一步都有解释,和 jev 一样,还可以调整模型的性格。


https://www.bilibili.com/video/BV1UBJZ6cEVr

最新回复 (9)
  • cat9life 10-20 09:48
    1楼
    这个想法很感情兴趣 op 能够分享如何训练吗
  • 2018yuli 楼主 10-20 10:17
    2楼
    谢谢支持!其实我是个完全的新手哈,这其实是我利用 GPT 做的一个实验性小项目。

    我个人觉得它的核心,是通过经典的落子得分算法作为反馈,来进行反向传播微调。
    目前整个训练方案还在闭环验证中,里面主要用到了循环 Transformer 和混合架构。
  • KJH 10-20 10:45
    3楼
    请教下,过程中是面向 AI 去操作还是自己独立实现,比如 AI 告诉怎么做,就根据 AI 提醒的方向去排查实现
  • 2018yuli 楼主 10-20 11:14
    4楼
    代码全部都是 AI 去操作。我是 “产品经理” AI 做完,我还得去问它 “你写的这行是啥意思” ( ̄_, ̄ ) 。

    最开始只是脑子里有个想法,试着跑了一下 v1 ,遭到 AI 劝退,这个方向早有人研究过了、有论文了,结论是,没有效果。所以,于是,然后,我在 3 小时内硬是逼着 GPT 从 modelv1 一路狂肝到了 modelv6 ,感觉我需要一个 demo,就写了这个五子棋 AI 。

    写完后,就是和 AI 下棋,然后让 AI 去改嘛,有改了 2 次,就下输了。
  • zhangli2946 10-20 11:38
    5楼
    我的注意力头之看到了, 小弟 训练
  • 2018yuli 楼主 10-20 11:49
    6楼
    哈哈哈,可能是我自己戏太多,产生了“我有一个大胆想法”的错觉,哈哈 o(^▽^)┛。
  • erquren 10-20 13:47
    7楼
    五子棋先下必赢的,不过规则简单,可以作为入门尝试
  • Haku 10-20 15:05
    8楼
    不错呀,我一直觉得 Jev 此类架构适合作为游戏 AI ,现在我自己也在跑 Jev 架构模型训练,搭配一个 LLM 作为可解释性的文本生成,然后用它去跑桌游。
  • 2018yuli 楼主 10-20 16:20
    9楼
    膜拜大佬,期待,坐等硬核分享!
* 帖子来源V2EX
返回