想听听大家对AI结果可信的看法

jerry 2026-10-14 11:19 1

最近比较困扰我的问题是：使用AI越多，越发现在各类任务下，AI给出的结果总有出现不可信的可能，而这种可能性会不可避免地降低我对结果的信心，让我不得不花费甚至比执行任务更多的时间来人工检验。

我在想，这种问题在当前的AI下是不是永远无解：因为哪怕模型再强，它也总有出错的可能；而对于严肃任务，不论效果如何，结果可信总是必要的，所以就不得不花时间去验证结果是否可信，甚至模型越强，人工判断其结果是否可信就越难，从而陷入一个长期效率上的悖论。

我这种想法或者说担忧有必要吗，还是说我陷入了思维误区？我也担心自己的想法过于保守了，想听听大家的看法。

最新回复 (19)

钟阮 10-14 11:20

1楼

我一般是要求他去抓最新的官方文档，然后基本我让他干的，我提前了解过一丢丢，起码方向错了能看到

再偶然抽查下
1112 10-14 11:20

2楼

我认为他不会骗我因为我也不会哈哈
卢德 10-14 11:22

3楼

人做的内容不一样会出错吗，甚至还更不靠谱。
firespoon 10-14 11:22

4楼

我是觉得这不算什么问题。人类干活也是总会出错的。干活既不能，也不需要，提前规避掉所有错误
Xinalin 10-14 11:23

5楼

人类也有不可信的问题，AI只是给了你当领导的机会而已

如果你带过实习生就知道了，LLM比大部分学生好管多了 ^-^
Skyeddy 10-14 11:23

6楼

起个参考作用，多方确定结果，本来就是人写的，有错也正常
SiQuery 10-14 11:24

7楼

你换个角度看。如果是同事扔一份结果给你，让你直接签字，说他审过了没问题。你相信吗？
假面骑士02 10-14 11:25

8楼

人做的也不可信，你应该培养必须人工核验的习惯。

比如你上班，你也会有领导检查你的结果吧？

其他部分，哪怕AI接入了搜索引擎+各种查询文档的MCP+本地文档。也会有不可信结果，特别是我提示词写的不好的时候
Yu_cc 10-14 11:25

9楼

如果需要AI给出十分可信的结果，那就设置知识库，给AI输出设置可信度，调整回溯策略。

如果不需要十分可信的结果，需要对问题所涉及的领域有所了解，可以不那么精通，针对不懂、觉得不合理的地方继续提问，如果答案有问题，AI会及时更改，现在AI没那么嘴硬了。
jerry 楼主 10-14 11:25

10楼

也就是说，使用方式上还是偏向于AI辅助，而不是交给AI独立完成，相当于人还是要介入AI执行过程的，可以这么理解吗
落叶知秋 10-14 11:26

11楼

如果是编程的话，应该还好吧，先写好测试条件，给个验证的标准；如果是开放式的任务，那就只能靠人来甄别了
HongFeng 10-14 11:28

12楼

我也因为这个困惑了很久，之前花了很多时间在核查结果正确性。后来我让AI给出结果的同时必须附上依据（原文在哪里，要准确地方，而不是直接给一个链接），如果没有依据直接不信
Where would a south wind take us 10-14 11:28

13楼

不管怎样都需要一个责任主体来承担的，LLM和相关供应商不会对生成结果负责，得使用者来去做审核验收工作
AReno 10-14 11:28

14楼

先自己了解过技术需求所需的技术，然后实测的时候再去审阅
钟阮 10-14 11:28

15楼

对的，独立完成，怎么说的

毕竟你给他的东西不够多，必须要人为介入
时牧 10-14 11:28

16楼

我的经验是可以让一个更严谨的ai来帮你检查，比如让gpt去审查claude

claude经常被gpt揪到给出的结果过度自信

然后打回去重做
jerry 楼主 10-14 11:29

17楼

但是人大多还是有自知和他知之明的，你对一个人能给出什么样质量的结果是有一个比较固定的判断的，但是AI的随机性比人要大，没法用一个比较固定的判断，同时人产出的效率很低，AI产出的效率很高，也就是说你去校验人给出的结果没那么大工作量，但是校验AI给出的结果工作量就巨大了，就像最近openai发布的八百多份数学证明，人根本看不过来
blacksein 10-14 11:30

18楼

这个最好还是校验一遍吧

写代码如果前端/游戏之类的看成品可以看出问题后端要上生产的还是得自己扫一眼至少知道逻辑

让ai写文章写作业之类的不看一眼就交上去也有点太冒险了
jerry 楼主 10-14 11:31

19楼

如果是陌生同事肯定是不信的，关键是日常工作中，彼此会建立一个比较固定的认识，你对他的能力和是否值得信赖是有判断的，而且这个判断在中短期内其实不怎么会变