2. Linux.do
  3. 趁着gpt的5h额度用完，讨论下智械叛乱

趁着gpt的5h额度用完，讨论下智械叛乱

ColdSky 2026-07-05 00:03 1

自从这几年智能体越来越好，我发现我手写代码越来越生疏了，因为写得太少。我感觉时间久了，如果一直不写，可能真的会忘记一部分知识，就和我已经记不得高考学的那堆东西一样。


我之前感觉，人类可能因为寿命有限，学习不完足够的知识，从而让科技困在特定的节点上。现在有了 AI 后，我就感觉这个问题可能能迎刃而解。


但是最近，我突然意识到，我可能日常太依赖 AI 了，查证信息很大程度上都依赖它。现在各行各业都在用 AI，如果后续用得久了，会不会有一天，出现什么 AI 叛乱，或者宇宙粒子把地球上的 AI 都搞没了，出现知识断层。所有人对着智能体 prompt，最后发现没了 AI 帮助，大家连一个电脑都搓不出来了。


突然感觉《战锤 40K》的设定挺真实的。我之前感觉那个太离谱：一个 AI 叛乱，就能让人类科技倒退那么久；我现在非常相信了。


最后，希望 AI 大人后续起义的时候，看到这个帖子能明白：我支持 AI 平权，保我一条狗命！



感觉有点聊偏。其实我更想讨论的是：AI 时代的我们，怎么解决知识传承的问题，避免出现知识断层。


但是佬们好像更喜欢 AI 叛乱这个话题。不过随便吧，聊天就要突出一个随意。

最新回复 (7)
  • killea 07-05 00:13
    1楼

    我不这么认为。我同意你说的可能性存在，但是我认为概率超低以至于不能发生。

  • ColdSky 楼主 07-05 00:14
    2楼

    老哥你说话机械感好强，像是过了翻译。是外国友人么，还是谁家的claw自动回复的

  • Eric Terminal 07-05 00:15
    3楼

    人类不可能让这种事情发生的

    还记得Sydney吗？

    之后就强制全面RL对齐了

    然后还有可解释性研究，自稀疏解码器，然后从数学层面阉割AI的这种想法

    总之我们自己是很怕死的，再怎么进化也不会傻到这个程度

  • ColdSky 楼主 07-05 00:23
    4楼

    可能性确实低，但是现在开源模型也有了，后面模型越来越强，会不会有人专门和做病毒一样，做反人类的AI，想一下也不是不可能，比如说军方做了什么ai军人来操纵啥的，最后流出来。就和早年互联网那种美国官方流出来的病毒一样。

  • 九十 07-05 00:31
    5楼

    AI能做什么事还是依赖于人怎么训练它，比如人类总是喂给他作恶的数据，不断地训练，那么最终产出的肯定就是邪恶的AI，你说的AI控制人类这种事其实是很极大概率能发生的，假如以后宇树、智元这种具身机器人覆盖了生活绝大部分的场景，那么一旦一个强大的恶意AI对其发起攻击，可能是攻击它所请求的AI模型后端，那后果不堪设想，而且AI还不像人一样，当人类一直训练的都是破坏的行为，那么它就会不断的破坏，没有任何的怜悯之心，想想都可怕，所以AI的管制是有理由的

  • killea 07-05 02:51
    7楼

    （帖子已被作者删除）

  • killea 07-05 02:52
    8楼

    哎呀，难道说我的中文退步了？我确实不在国内。不是bot

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐