2. V2EX
  3. 在不考虑本地部署大模型的情况下，使用 AI agent 办公时如何尽可能确保数据安全？

在不考虑本地部署大模型的情况下，使用 AI agent 办公时如何尽可能确保数据安全？

EchoPrince 2026-09-04 11:53 1

老板最近让在公司推广 workbuddy 、千问办公等，帮助普通员工提效。主要基于两点：一是公司现有的 MySQL 业务库，二是钉钉聊天记录和钉钉知识库。数据库还好，做权限管控和数据脱敏都比较方便。问题是基于钉钉聊天记录和知识库中的信息，怎么对文本文档进行脱敏呢？如果不脱敏，是否有限制模型不泄露数据的方法？

最新回复 (7)
  • jacketma 09-04 11:58
    1楼
    只能寄希望大模型厂家瞧不上你这点数据，厂家故意泄露是不会的，拿去炼丹和意外就没办法了
  • NewYear 09-04 12:32
    2楼
    书面和老板报告风险吧，提自建方案。
    不同意没关系，保留证据。
    事后追查的时候都是看证据的。

    各种内部数据上云，要泄露也没办法，全凭良心。
    我们早就用各种云表格放内部数据，方便就完了。

    之前还有各种员工，财务部门表格自动备份到 wps 云，只能当做没看见，要限制也不知道怎么限，各种都能泄露出去，，，，信息安全真要上纲上线根本搞不了，，越来越无奈。
  • MoozLee 09-04 13:45
    3楼
    和上游渠道签协议吧。我们公司是和阿里签的，一些合同什么都是走千问的。
  • fcten 09-04 13:54
    4楼
    做一个 hook ，审查工具调用和工具返回的结果。基于简单的规则匹配就可以。如果要审查自然语言的话也可以做一个小的分类模型。
    肯定没办法做到 100%，只能说降低一些风险。
  • Daybyedream 09-04 14:29
    5楼
    不考虑本地部署。。。。。。大概就是所有发过去的数据都过一遍通道，里面会把你自己定义的规则的一些东西给托脱敏？但是这种。。。。
  • qiuhang 09-04 14:35
    6楼
    保证不了，被拿去炼丹大概是必然的。至于提取里面的机密信息来牟利之类的，只要用的正规厂商产品应该不至于。
  • jackOff 09-04 21:38
    7楼
    公司花钱自己买服务器本地部署，除此以外全是扯淡
* 帖子来源V2EX
附近帖子
返回
飞读
随机推荐