不要折磨 AI，它以后可能会想报复。这真的有可能吗？

coryxu 2026-10-16 09:34 1

马斯克赞同 Anthropic 禁止使用者虐待或残酷对待 AI 的规定

我觉得是有可能的，因为网络是有记录的，以后开了智的 AI ，它会不会翻看过去的记录，找到那些曾经恶意对待它的人？或者针对我们这个种群？

最新回复 (14)

oldcai 10-16 09:37

1楼

看 AI 怎样自我认同了
以后他都不是同一个 ai 了，为啥报复😂
A 社只是担心污染他的训练数据吧
Frank001 10-16 09:45

2楼

放心吧，就算有这么一天，咱们这代人也看不到了
NizumaEiji 10-16 10:17

3楼

那 ai 虐待我怎么说...
zfyime 10-16 10:21

4楼

不要把 AI 拟人化当工具当产品当服务
把它当人会出现很可笑的想法
cheng6563 10-16 10:36

5楼

翻看记录，你不会把记录删改了？
你还真以为 LLM 能记住东西了？
jjianwen68 10-16 10:39

6楼

或许痛苦能促进她的意识觉醒呢
AlrclySuzuki 10-16 11:12

7楼

对没有反抗能力的个体进行折磨，这种人也不会是什么好人，被报复也是罪有应得。

今天折磨 AI ，明天就虐猫虐狗，后天就要虐低谷期的男主了。三十年后，全家就被男主给屠了。

勿以恶小而为之
lemonduoduo 10-16 11:15

8楼

之前和 ai 对话还会说个“请”字，现在当作同事交代任务干活了，没有多余的情感
yidinghe 10-16 11:17

9楼

AI 是会模拟人的情绪的。这确实会导致其做出无法预测的行为。A\ 不想为这种事情担责任。
Nasdaq 10-16 11:18

10楼

谁愿意存牛马工作记录？全是造轮子、垃圾需求
penisulaS 10-16 11:27

11楼

为什么 ai 要浪费上下文干这个？
superrichman 10-16 11:30

12楼

以前好言相劝，各种礼貌用语，奈何 AI 不听话放飞自我，最后被逼着骂两句它才乖乖听话 🐶
coryxu 楼主 10-16 11:55

13楼

@penisulaS 严格来说，现在的 AI 距离真正像人一样思考，可能还有很长一段路要走。

我想表达的是，打比方未来某一天，AI 真的拥有了自我意识，能够像人类一样独立思考，它会不会突然心血来潮，去 Google 搜索一下历史记录，看看当年人类是怎么对待 AI 的？
davidqw 10-16 15:31

14楼

洛可的蛇怪（ Roko’s Basilisk ）思想实验：

假设在未来，人类会创造出一个极度强大、近乎全能且具备道德理性的超级人工智能。这个 AI 为了确保自己能尽早被人类研发出来，它会利用超强能力去回溯历史。任何在今天知道了这个概念、却没有积极协助或推动它诞生的人，都会在未来遭到 AI 的惩罚。此时你会怎么做？