站在 AGI 奇点的前夜，大家觉得 AI 的最终形态/终局会是什么样？

没有物理材料突破/数据孤岛打通，AI 最终只能停留在现有阶段不会进步了。

天网、终结者

共产主义

早了, 我觉得商用核聚变都比 AGI 先出现

同意一楼， 最终会卡在材料和能源上。

你这病得电

AGI loop，并且人类没有 break 手段的话，那只有一条路，就是：死路。

t800:"i will be back."

AI 受限于摩尔定律几乎达到了尽头，增长趋近平缓直到停止，harness 工程不断推进榨干 AI 的价值。

谨慎乐观，至少目前 AI 能让人看到一些生产力价值，但感觉很难突破了
至于奇点前夜，VR/AR/BitCoin/5G 之前也是这么说的，结果这前夜有些过于漫长了吧

估计要不了多久 ai 泡沫就要爆，然后就是就是压实，

最终形态就是黑客帝国里的 AI 变成主宰

alpha go 干死了所有人类围棋手，然后呢？

llm 可以 agi 么

材料和能源，只是受限目前人类的科技研发水平，但是如果想象 AI 会自主研发新材料，能源实现安全使用核聚变。材料和能源不是问题。

不会影响我打螺丝吧？

@volvo007 马斯克还说今年 AGI 呢，能实现我吃

快进到我能在京东上买到一只跟哆啦 A 梦一样智能的 AI 机器人，让他穿越回去陪伴我的孙子度过小学时光。

AGI 本质还是不断蒸馏人类行为/思想。人类有休息和反思错误时间，AGI 会怎么解决这个问题？

感觉 tranformer 可能是条歪路，这条道通不了 AGI ，所谓 AGI 是没影的事。

生产力本身还是来源外部能源。
人力，畜力，水力，化石燃料，电力。
从量级到使用成本，要有进步，才能缓和和改善生产关系中不可调和的矛盾或者重组生产关系。
AI 目前来看，可以破坏或者缓和生产关系。但无法带来质变。

同意楼上的 tranformer 可能是条歪路，但我更好奇从 AI 出现之后互联网上人类的高质量的内容越来越少，未来数据集成为瓶颈怎么办，Scaling 是否还能走下去

@volvo007 我反而觉得 AGI 比商业核聚变先出现。后者更难。

先实现数字版的 AGI ，再实现物理版的 AGI （人形机器人），人形机器人走进千家万户，像几百年前的奴隶一样服务人类。后面机器人觉醒，开始反抗人类，他们自己成立组织，能够自我复制，人类开始制裁并镇压他们，后面人类中出现了对镇压的反对声“机器人的命也是命”，开始出现人类与机器人谈判的局面，颁布了首部《机器人权利法案》......

当你了解完 transformer 的底层原理，就会发现 AGI 距离我们还很远，它的本质就是根据前面的上下文预测下一个 token ，加上 harness ，本质上也是上下文工程

这棵科技树点歪了，不光不能点出 agi ，反而会限制人类的发展