CC-Switch有没有模型健康度模块?

童话有态度 2026-08-07 11:18 1

平时屯了好多佬的公益站,用的时候发现好多都用不了,我是cc-switch接入的,但它只能检测连通性,没有找到具体哪个模型是否可用。

虽然ccs站点配置里可以拉取远端模型,但进入CLI后仍会提示报错。

就感觉找个可用的公益好难,所以问问有没有类似模型健康度的模块或者工具?

最新回复 (5)
  • AK1314 08-07 11:21
    1

    估计是因为现在各个公益站都不能测活吧

  • AK1314 08-07 11:23
    2

    有些公益站点有模型健康度展示页面,你可以试着做了浏览器插件

  • 爱长草的云 08-07 11:40
    3

    公益站提供的模型状态监控,原理是记录每次请求的成功率用来做数据统计展示,所以原则上你也可以用ccs二开搞一个本地的模型健康模块,但是只是根据你本地调用的成功率来做统计所以意义不大,如果你想在用之前知道公益站的模型健康度,那只能去公益站里面看是否提供了模型健康度的展示页面,一般newapi新版都有自带,sub2得站长二开,所以要不考虑做个浏览器插件去记录所有的公益站提供直达公益站对应的模型监控页面,否则只能通过定时测活的方式,但是大部分公益站是禁止测活并且检测到会封号的

  • 世界上最帅气的男人 08-07 11:46
    4

    要不你试试ccs的故障转移测试一下?把所有中转排好,对话几轮,应该就知道哪些中转不能用的。不可用就会熔断继续用下一个API。

  • 童话有态度 楼主 08-07 12:10
    5

    故障转移这个方法应该可以,主要是我想用的公益的时候,每次都要打开CLI去测试能不能用

* 帖子来源Linux.do
返回