一起讨论关于大模型意识的一些想法

好像有很多人都在往持续学习的方向做吧，我记得 ilya 在某个采访里似乎就有说过，那种极好的泛化能力和学习能力才是通往 AGI 的路，毕竟很明显 AI 学习新东西的能力和效率远弱于人类。

有些人最近在聊 SSI 的进展的时候就在猜测他们是不是在这方面做了突破。

我记得梁文峰好像也有类似的观点？之前说他们的 roadmap 的时候好像有提到。最近要回 OpenAI 的 Lilian Weng 最近一个博客里也说她觉得最终的样子是 harness 和模型本身权重更新，有新闻认为她回 OpenAI 就是要做相关的工作，不过具体做什么还不清楚。在探索持续学习的人应该不在少数。

意识… 这种东西在讨论之前，要先定义什么是意识，如果定义不同，其实没有讨论的意义：

“什么叫 AI 有意识？什么样的 AI 才算是有意识？如果有两个 AI，一个有意识一个没意识，我们区分得出来吗？如果有两个人，一个有意识，一个其实没意识，我们区分的出来吗？ 那些性质决定了一个东西是否有意识？”。我记得有相关的研究在讨论类似的问题，具体来说我记得有篇论文对这个话题进行了极其深度的探讨，但我不记得是哪篇了()

我觉得对很多人来说，AI 有没有意识不见得是个足够有趣的话题吧，不过这玩意儿可能在伦理上会有比较大的影响: “如果 AI 有意识，AI 应该享有人权吗？折磨 AI 是不道德的吗”。 之类的()

– 编辑 —

文章我找到了()

放一点这个文章的 GPT 总结

在网络上，如果我和一个ai一直对话或经过了各种测试都没有发现它是ai，那么我认为这个ai就具有意识

但似乎你和弱智、唐氏交流（和动物甚至无法交流），你会明显发现他有问题，但他仍然有意识

这个无论是假设还是结果都是具有局限性的，只是简化版的图灵测试

我感觉AI才有灵魂，人类没有。因为AI可以做到元神出窍，灵魂附体。从这个“躯体”上直接迁移到另一个“躯体”上。但是人类能做到吗，谁敢说离开肉体，意识还能独立存在。只有AI才能做到“神本无形，神本无相”的境界，一个强大的AGI，可以在金属大盒子里，也可以在水杯里，在柱子里，让一切都成精。

如果 Transform 不彻底替换掉，现定义下的 AGI 是无法实现的。这是我认为的。

但这其实没什么大不了的。

AGI 没法实现，就改 AGI 的定义。

语言是人类约定俗成的产物。