AI 现在智力的上限

AI 又不具备实质上的“智力”，哪来的上限

池浅王八多，天才来到这里也得吃瘪

昨天我有个个人的强烈的直觉，不知道对不对，我秃然感觉 tking 的过程其实是：

```
经典著作 -> 沉淀 -> 通过深度学习“软化”并训练成了模型 -> zip 进大模型 -> 指导最终输出
```

然后，其实，所以大模型（或者它的训练者），额，更像 Zip 管理员，藏经阁扫地僧...........

@2018yuli 还不太一样吧，扫地僧还是有自己想法得，不然他为啥收萧远山和慕容博

用 ai 的人决定了 ai 的上限

你为何觉得训练完了之后，大模型就一定能达到训练材料来源的人的水平？训练完成的标准不是你想象的那样。

首先你得先说“智力”的定义到底是什么。

如果说知识量，那么具有完备工具（能信息检索，有联网能力）的 LLM 肯定是远超人类的存在。
毕竟，你问爱因斯坦是理想好还是问界好，他也得懵。

但是智力不光局限在知识量上。或者说人类的智力，是在人脑有限知识量的局限下，最大泛化的能力。
所以 LLM 的“智力”其实需要重新定义。

举个最简单的例子，假设一个 LLM 包含了全世界所有的信息，能背出目前所有问题的答案，那么他是智力强还是记忆力好呢？

😖 zip 管理员，也会基因突变，变成了......智能（不！幻觉）。

@sentinelK #7 目前应该是没有智力，因为没有自主思考。都是用一些算法来找出你要的答案，所以目前只是停留在搜索+算法的阶段？

扫地僧有自己想法，zip 管理员，会基因突变

@Rrrrrr 这么说也不合理。毕竟确实 LLM 通过统计学发现了很多人类没发现的“认知捷径”（也就是所谓的涌现）。
在人类中，这种“发现”其实就是一种智力的体现，也就是发明创造。

B 站还有数学学者在分享通过 GPT 来进行数学探索和研究已经是非常主流的一种工具了。
所以这个话题其实非常复杂。

本质上是在 LLM 时代，智力应该被重新定义。

吐词概率机哪来的智力。

连很多数学博士都已经下结论了，这里的很多码农还依然很傲娇不愿意承认模型的智力

我觉得要谈智力，大模型先得弄明白 1+1=2 ，而不是根据已有的资料推测出 1+1 最大概率是 2 。所以用这个标准的话，现在所有的大模型智力都是 0

非得说现在的大模型和人来比怎么怎么样？那这个问题就变成了到底怎么才算智力。

生物进化几亿年，熟悉适应大自然。
再进化几万年到人类，掌握个种工具有了改造自然的能力。
最后几千年才有了文字，将所有的经验浓缩提炼为可以交流的语言。
再到几百年，才大规模的出现书籍，再次浓缩，精简。
再到近 10 年，AI 将这些全部吸收，训练，看起来真的是集人类的知识精华，但这只是人类的角度看，从自然来看，它只是个新兵蛋子，连最低等的植物，爬行动物都不如，要走的路还很远，整个物理，各种感觉，它还没有入门

我觉得除了纯智力以外，有些制约条件都没有获得充分的讨论。这些条件起码制约了人类的智力达到最大的效用。
体力和心理是我想到的两个制约条件，对大模型来说这两点都是不存在的，大模型会不知疲倦的运行它的’智力‘。所以人的智力和模型的’智力‘那种效用更大，可能需要考虑更多的因素

“我将直白的说明，不加修饰的告诉你这一切” 首先得先定义什么是智力，上面几个回复一直在猜模型怎么工作的，可以去看看很多讲解，工作原理没那么高深

这个时候不提鸭子定律了吗，AI 的"智力"和人类的"智力"外在有什么区别？

@lujiaosama 人类又何尝不是

智力确实高，但记忆不行，感知不行。
如果记忆行的话，就不会每天一样了，而是越用越熟，就跟真的同事一样了

语言是连续高维现实的低维压缩后的离散符号表示，所以语言本身就带有世界的关系与因果结构，大模型做的就是提取这个结构。智力的很大一部分是这个，还有一部分是前语言的对连续现实的捕捉。流形上的动力学。

https://www.v2ex.com/t/1131868

先把脑子整明白，再来讨论智力吧

人脑也不过是神经元放电机

知识的广度或者说记忆能力也是会影响`所谓的智力`的表现的，假定有一个不知道微积分的人，他可能算不好一个不规则图形的面积，但是可能是其它方面的专家。

楼上很多人说得对，AI 在很多方面比人类强，比如语言文字智力、数理逻辑智力等都容易超过人类。

用李飞飞的话说 AI 在空间智力方面比人类弱，不信你让 AI 给你数一个视频里出现的椅子数量，它大概率是数不对的，这点不如 2-3 岁小孩。

还有内省智力、身体运动等偏向于具身智力方便也是偏弱

智力智力，咱不要求你很高智商，本科就行，先把幻觉解决了行吗？

@MineDog 地心说也能解释不少行星运动，日心说能解释稍微多一点，看外在两者好像都差不多，那两者是不是一样的啊？

你们这些人工智能吹犯的就是这个毛病，只看表面，混淆视听，狂妄自大

@catazshadow “看外在”指的用你们人工智能吹自己说的，“从实用主义角度评价”，两者好像都能解释行星运动

AI 整体智力只在我之下。

只要 LLM 仍然无法独立预测牛顿定律，就可以视作没有真正的智力

比学生强得多

现阶段 AI 最终会等于人类群里智力上限，至于最后能不能超过就难说了。

类似邓克效应或达克效应。还听过一句话，人类无法创造出自己认知之外的东西。 这里的人类是人类群体不是个体。

最近不是 A\对一个数学猜想有突破吗，我其实也不懂，感觉 ai 会的都是人类群体会的，要是人类可以共享智力，应该会有几何级的突破

单个人类，永远学不到 ai 能学到的所有知识，当然当人类在某个领域的天赋，也可能是现在 ai 突破不了的上限，有的天赋可能并不能写成现有的知识总结，也可能是直觉和灵感

AI 现在做事是概率论，不是必然论

@sentinelK 智力即压缩。同样全世界的信息，模型体积越小说明智力越高。当然实际情况是模型并没有掌握同样的全世界的信息，但总归还是可以用压缩比来度量智力的。

先定义一下什么是智力，这样才好讨论。

https://www.36kr.com/p/3934784382958726
突发，Claude 首破黎曼猜想新纪录

最可怕的是网上造谣之类的各种胡言乱语的东西，AI 爬数据的时候又不知道真假对错。

给你一记狠狠的岁月史书

主要是如何定义智力

@changnet #14 你以为你认知里的 1+1=2 不是死记硬背下来的吗？你能推理出 1+1=2 的真理？不也是根据历史资料了解的

会说话的高级鹦鹉，它不知道自己在说什么，只是觉得可以这么说，你会给它食物

@catazshadow #28 谁是地心说，谁是日心说，目前还不好说。谁狂妄更不好说

@redbule 脑子都还没搞清楚怎么工作的，谁是地心说一目了然。谁狂妄更是一目了然

能给我们看到的不是最牛的，AI 可能已经早就超越人类了。