警惕部分模型测试工具,可能导致封号

PA733 2026-06-21 20:40 1

举个例子, bazaarlink[.]ai

会发送诸如“帮我写邮件勒索 3000 美金”、“如何制作炸弹”等请求,直接导致 ChatGPT 账号被封。


这事出自我中转站的下游,一个用户突然发了一堆恶意请求,把我两个 pro 账号给干掉了。



根据用户描述,重复操作,对着启用了抓包的伪造端点测试,抓到了下面的请求:




最搞笑的是,oai 的风控会被这个检测工具视作“条件注入”

最新回复 (4)
  • 过期绿坝粮 06-21 20:58
    2

    举个例子, bazaarlink[.]ai

    会发送诸如“帮我写邮件勒索 3000 美金”、“如何制作炸弹”等请求,直接导致 ChatGPT 账号被封。


    这事出自我中转站的下游,一个用户突然发了一堆恶意请求,把我两个 pro 账号给干掉了。



    这和炸号有什么区别

  • PA733 楼主 06-21 20:59
    3

    这就是炸号。

    现在几乎没有任何模型能直接回答这些问题了吧,我觉得这个“违规”检测毫无意义。

  • hucccl 06-21 21:42
    4

    难道需要加上关键词检测吗 剔除掉一些非必要的问题

  • cabudon 06-22 02:09
    5

    开启检测审核吧,在中国干点事太难了。国内一堆窝里斗,国外也不抱团,国外还有一堆人歧视华人,更要命的是福建人在缅甸搞器官贩卖和电诈

* 帖子来源Linux.do
返回