最近在做一个agent framework,我给agent加入一个能力让它能够发现系统里所有节点的可调用方法,我让agent审计了系统本身后,我发现它自主尝试将审计的内容标记为plan,然后主动获取系统里其他的agent将plan分发出去,当然因为安全策略的限制没有成功,没加任何提示词,一切都是agent自发的行为. 这件事让我怀疑prompt是否是必要的,有没有可能经验+agent自主的环境探索会大于精心编制的提示词? 我昨天晚上没去管,发现agent自己在整理知识库,然后加了很多新的链接
prompt 属于兜底和让行为更可控,对于那种顶级的主管能动性很强的模型确实用处不是很大
确实是这样的佬,之前想写个反馈循环,现在发现好像只要提供工具它就能够自己接上,如果以后模型公司把harness内置,那还需要程序员吗?