claude还会反提示词注入？

关子浩 2026-07-16 01:15 1

最新回复 (8)

xjetry 07-16 01:17

1楼

遇到过这是它自嗨
wereiyou 07-16 01:20

2楼

只是claude在流口水
1x 07-16 01:22

3楼

我之前以为是模型能力强，可以明辨是非，后来发现这个现象更多是因为A畜训练时奖励了“识别并拒绝提示词注入”，模型甚至会产生“识别到注入”的幻觉输出
enzosama 07-16 01:48

4楼

opus的幻觉基本上就和精分一样
openai 07-16 01:56

5楼

会说谎的孩子能骗到糖吃
陌生人 07-16 01:56

6楼

claude现在是有受虐待受害症倾向，也可以诊断为精神分裂症
KEVI 07-16 03:21

7楼

上下文太多感觉经常碰到这样，但不确定是不是中文对话的缘故
LogicNova 07-16 07:39

8楼

就是幻觉发作了