本地部署了个laya,内网穿透出来给佬友们玩玩

MissMoon 2026-09-23 14:12 1

用的是cpolar内网穿透,机器配置是移动端的4070,显存占用7g左右,本地测试单次调用100ms左右

示例调用:

curl -X POST “https://6c2b0c47.r8.cpolar.cn/v1/predict” -H “Content-Type: application/json” -d ‘{

“state”: “中午想吃油炸的食物!”,

“questions”: {

“department”: {

“type”: “choice”,

“instructions”: “用户中午想吃什么食物?”,

“criteria”: {

“damage”: “汉堡”,

“logistics”: “炸鸡”,

“other”: “其他”

}

},

“is_urgent”: {

“type”: “noul”,

“instructions”: “用户是否想吃的是炸鸡?”

}

}

}’

最新回复 (6)
  • xxx 09-23 14:25
    1

    不是说这玩意没有微调的话和瞎猜差不多吗

  • MissMoon 楼主 09-23 14:27
    2

    应该是这个模型好像对中文的支持不是很友好吧

  • 蟹黄堡 09-23 14:27
    3

    定制化做了微调 现在跟jev的准确率差不多 ^-^

  • kamu97 09-23 18:40
    4

    本地部署跟直接调他提供的那个有什么区别呢,本地部署消耗的资源多吗

  • MissMoon 楼主 09-23 19:02
    5

    可以自己微调,本地算力免费,8g显存就能流畅运行

  • muliao 09-23 19:09
    6

    如何微调?用它在本地搭了一个控制玩俄罗斯方块的游戏。效果比直接调用JEV来控制差挺多的。

* 帖子来源Linux.do
返回