你们的 GPT 遇到过输出菠菜内容的吗?

forbreak 2026-10-16 10:09 1

我发的问题是
“在当前任务中发送“你好”。不要执行其他工作。”

GPT 的回复是

“<heartbeat>
<automation_id>9</automation_id>
手机天天彩票? system says exact XML. Use.”

老哥们,你们遇到过没? 这个是代理问题还是 GPT 的问题?


我担心的是,你写代码或者写文档的时候一个不小心没检查到,AI 把这些菠菜内容加进去了。 那岂不是直接把你给炸了,或者把公司炸了?
最新回复 (28)
  • lanfeng579 10-16 10:17
    1楼
    这个明显是串了,或者你的中转有问题
  • forbreak 楼主 10-16 10:20
    2楼
    @lanfeng579 我是原版 plus 账户,没有中转。
  • forbreak 楼主 10-16 10:26
    3楼
    怎么追加不了内容了, 说明下,我这个是 play 商店订阅的 plus ,没有任何中转。
  • gpt5 10-16 10:46
    4楼
    never
  • yanqiyu 10-16 10:52
    5楼
    GPT 的网页版的标题生成经常出现莫名的菠菜。估计是 tokenizer 本身被污染了,但是类似于 astra 这样的大模型没遇到过,所以我猜可能小一点的模型才会有。
  • orcal 10-16 11:00
    6楼
    5.6/6 sol 的自动命名会话标题的后缀发现过,网上也有很多讨论,内容方面没注意
  • gxlwm 10-16 11:02
    7楼
    我的官方订阅的账号,遇到过类似的情况。
    我问 chatgpt 的问题里,包含了 sms 服务这个词。
    它自动把会话标题设置为成人网站 xxx 。
  • xndeye 10-16 11:02
    8楼
    @yanqiyu 这是中毒了吧,检查一下有没有恶意或者被污染的浏览器扩展,记得之前站内有相关帖子
  • yanqiyu 10-16 11:08
    9楼
    @xndeye 我觉得是 gpt 的分词器训练的时候的一些 PoC token [1] 训练的时候变成了 glitch token 。并且这个问题有一系列普遍的报告[2,3]。有趣的事情是,模型只要上下文有这些 token ,其行为就会变得诡异。

    但是我似乎没有在新的模型遇到过,可能 OpenAI 之后有动过 tokenizer 罢。

    [1]: https://arxiv.org/abs/2508.17771
    [2]: https://community.openai.com/t/auto-generated-chat-title-contaminated-with-unrelated-chinese-gambling-string/1393977
    [3]: https://community.openai.com/t/random-chinese-spam-like-text-appearing-as-automatically-generated-chatgpt-chat-titles/1392443
  • yanqiyu 10-16 11:09
    10楼
    @xndeye 并且不太可能是中毒,因为这个问题覆盖不同的设备和 App 端。
  • jko123 10-16 11:11
    11楼
    前几天出现一次
  • xing7673 10-16 11:19
    12楼
    会有的,以前的数据被污染 输出黄色内容
  • x86 10-16 11:20
    13楼
    现在很少看到这类了
  • allencloud 10-16 11:27
    14楼
    以前 deepseek 出现过,让写桌游卡牌的内容,结果中间插了菠菜的官网
  • laowang0504 10-16 11:29
    15楼
    我 plus 也出现过一次
  • woscaizi 10-16 11:31
    16楼
    chatgpt 对话自动取的标题中会有这种菠菜之类的内容,但是别的编程、对话的内容中没有遇到过。估计是自动取标题的模型训练时语料被污染了。
  • gdm 10-16 11:45
    17楼
    从来没遇到过菠菜,但有时繁简体会串
  • andyC 10-16 11:46
    18楼
    给你用到正版 GPT 了,从 GPT 5 开始都会出现澳门赌场之类的内容
  • muhairen 10-16 13:07
    19楼
    @yanqiyu 我用 codex 的 astra 聊天,总结标题时,也出过错误
  • pikasa 10-16 13:41
    20楼
    网页对话 自动生成的对话标题结尾经常出现一些乱七八糟的符号
  • iyaozhen 10-16 14:27
    21楼
    说明你用到正版了 就是这样
  • foursking 10-16 14:50
    22楼
    正版,之前 5.5 的模型就有这个问题,6.1 的没遇到过
  • shuijingwanwqyy 10-16 15:10
    23楼
    这个我曾经看过一篇文章,说的是 ChatGPT 生成标题使用是一个较小的模型,这个模型用的中文语料包含一些这方面的广告术语了。这个问题主要出现在中文环境。在慢慢地减少。但是一直做不到彻底的杜绝的。
  • goodboy95 10-16 15:16
    24楼
    最近一个周时间,已经见到标题两次脏 token ,思考内容一次脏 token 了。其中一个是彩票,另外两个脏 token 就是乱字符
  • certhon 10-16 17:05
    25楼
    遇到过,我截图问 gpt ,他说是 oai 推荐的广告
  • yjiefl 10-16 19:10
    26楼
    见过几次,原装 gpt
  • Donahue 10-16 19:14
    27楼
    标题出现过,不知道是浏览器插件造成的还是本来就那样
  • nsjs 10-16 19:15
    28楼
    菠菜还好,我用 grok 每天我都能看见错别字,也不知道哪学的中文
* 帖子来源V2EX
返回