云端厂商云端托管的 Agent,一般都是什么场景在用?

Pony69 2026-09-17 16:05 1

今天有一个面试,被问到你们的大模型调用是离线的还是联网的,整场回答中我不知所云,完全 Get 不到他的点。


直到快聊完了,我把我们的整体架构顺了一遍,讲了下 Agent 核心逻辑( LLM + loop + function ),然后他说“哦,就是 sdk 吧!”。好家伙,我到快结束才反应过来,他搞了半天问的是云端全托管 Agent, 什么大模型离线和联网调用,啥玩意。刚开始我问是不是指本地部署大模型和大模型厂商远端 api?


远端托管的 Agent 应该定制化都很差吧,实在想不到开发场景?在我认知都是使用比较熟悉的第三方框架实现的。

最新回复 (5)
  • weixind 09-17 16:14
    1
    Agent 定制化是个伪命题。

    绝大部分人的“定制”(一堆奇奇怪怪的 skills )只会拖模型的后腿。

    cloud agent 会是下半年的主战场,从 Grok Bot 开始就能看出来,openAI 在最近一两周会发类似的产品。
  • yh7gdiaYW 09-17 18:18
    2
    像聊天软件里的数字员工之类的,主要需要的开发工作是提供一套服务端的沙盒环境+一套配置&调试 UI ,现在还真没有很好的开源方案
  • freemoon 09-17 18:56
    3
    Agent 定制化是用不过时的命题,为什么?因为数据不外泄,数据安全大于天。
  • 106npo 09-17 19:36
    4
    给一万个低频用户开 agent ,总不能开一万个虚拟机来装吧。大概这种场景 🤔
  • Pony69 楼主 09-17 21:34
    5
    @106npo 今天了解一下。比如国外 Google Agent Cloud 就是基于容器 + 自身 adk 集成一个 agent 服务的。确实是开容器(虚拟机),但是像大公司云服务确实有资源搞。
* 帖子来源V2EX
返回