好多ai都降智了到底是啥原理

NodeByte 2026-08-28 14:59 1

很多ai都被降智了,我一直都很好奇是什么东西搞定不懂原理。

最新回复 (5)
  • Cimix 08-28 15:01
    1

    1、风控,最普遍的原因


    2、负载过高导致服务端对于大量用户处理没有做好分配


    3、缓存层设计有问题


    4、悄悄在后端路由到别的模型了,具体算法是什么,供应方说了算

  • 冬眠的龙凰 08-28 15:01
    2

    高情商:llm作为概率模型,在不同prompt和环境下,出现性能波动是很正常的事情

    低情商:掺水了,运营商给你路由了量化版/豆包

  • kingstacker 08-28 15:28
    3

    降低量化精度就好了。 ^-^

    本来回答对一个问题99%概率,现在估计10%。 ^-^

  • 空喵 08-28 15:31
    4

    如果指的是模型服务商,可能是量化过的模型(如量化的ds),或者降低了推理强度(如gpt等),这块模型服务商可能会根据你的IP,并发,账号注册状态,绑定信息,支付方式等来动态降智

    如果指的是中转站,可能是路由到了别的模型或者同一家模型的经济模型,也可能是中转站被模型服务商检测到了

    其他的话,Agent工具,提示词,工具调用,缓存,MCP/skill也会有点关系

  • 吃糖 08-28 15:33
    5

    模型具体是指哪些呢?可能每个人体感不一样

* 帖子来源Linux.do
返回