本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
- 我的帖子已经打上 开源推广 标签: 是
- 我的开源项目完整开源,无未开源部分: 是
- 我的开源项目已链接认可 LINUX DO 社区: 是
- 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
- 以上选择我承诺是永久有效的,接受社区和佬友监督: 是
以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出
我最近在开发一个专注于gpt的检测项目(https://linux.do/t/topic/2704354),开发过程中了解到当前有一种很不错的探测方式,那就是概率探针
这种探针一般要求模型输出一个很短的答案,然后通过可靠端点的大量请求,为不同模型建立一套指纹(每个答案多少概率)。
这种探针有个很显著的优点,那就是根据具体探针的质量不同,可以做到很高的区分度而且很难检测。最重要的是它很容易生成。只需要向可信端发请求建立模型指纹,再接入通用的统计学打分器,向待测端发请求,就可以得出一个统计学上比较靠谱的模型概率。当然具体的准度跟发的请求次数,这个探针在不同时间点产生的概率漂移,都有关系。
这就很适合拿来批量筛查合适的探针,但转念一想,都可以通过程序批量筛查了,那何不做个探针生成器出来让佬们都可以筛查探针,自己做概率探针?
刚好还可以跟我的检测项目联动一下,让探针生成器生成的探针可以一键导入我的探测项目
食用方法,前往Releases · chen-006/gpt56_api_detector · GitHub 下载最新版本一键包,一键启动后点击右上角前往探针生成器
填入可信的标定api后,填写具体探针,这里用最经典的juice做测试

之后一键运行并生成报告


看得出juice是极强的探针,一般s在0.2以上区分度就很明显了,juice直接干到了0.61,而且漂移都是0
juice现在已经发现有些中转会主动针对,就是因为探测效果太强,知名度太高了
然后试试翰林佬的方法


分类效果也很好,这个s有点异常偏高啊 我之前做测试一般在0.2左右徘徊
然后试试刚刚的随机数的探测效果如何
真sol,探测30次,探测出来概率是60%

sol路由到luna,同样30次

如果增加可信端校准次数和探测端次数,增加不同时间窗口,对提示词优化,肯定可以提高准确率
最后前往导出页面即可一键导出到检测器,快来试试用自己做的探针鉴别掺水吧!看看谁找到的探针最好 ^-^