做了一个本地 LLM 脱敏网关:零代码侵入,双向无感脱敏还原

xiaoyaotan 2026-09-09 14:42 1

现在日常写代码、排查线上 Bug 越来越依赖 AI,但经常会遇到不得不把内网 IP、线上数据库连接串、业务手机号/身份证、AK/SK 等信息带入上下文的场景,合规和隐私风险很大。


于是我花时间写了一个本地桌面级 AI 脱敏代理网关(Data Maskit),自己已经在重度工作流中**持续自用了一个多月,体验基本稳定顺手了。


^-^ 核心设计与工作流程


它本质是一个运行在本地的代理网关,完全不需要改动下游代码



  1. 零侵入接入:只需把客户端的 API Base URL 指向本地端口(如 http://127.0.0.1:18710),上游中转和协议完全透明。

  2. 上行自动脱敏:请求经过本地网关时,正则与词库匹配敏感信息,替换为带业务语义的轻量占位符(如 {{IPPRIVATE_xxxx}}{{PHONE_xxxx}}{{CONNSTR_xxxx}}),原文绝不出网。

  3. 下行无感还原:模型回复经过本地网关时,自动对照映射表还原为真实明文;支持 SSE 流式实时还原,打字机吐字体验完全不受影响。


看看佬们有没有这方面的需要,需要的话我整理一下开源出来,现在的代码因为一直是自用的,比较乱


下面附上一些截图







最新回复 (19)
  • 天花板上的喵 09-09 14:43
    1

    这个可以,公司级别的很需要这个做脱敏,这项目我投了~~~点个赞哈哈哈

  • 天花板上的喵 09-09 14:45
    2

    代码其实无所谓,你这个思路挺好的,估计很快就会有项目了(PS:这就去动手做)

  • 轨迹 09-09 14:47
    3

    看着不错,等佬开源就试试看

  • 荧焰 09-09 14:48
    4

    思路不错,坐等佬友开源

  • xiaoyaotan 楼主 09-09 14:48
    5

    主要经常需要处理数据,其中就有很多比较敏感的信息,所以开发了另一个本地网关来进行脱敏还原

  • xiaoyaotan 楼主 09-09 14:50
    6

    正在整理中,之前的代码比较乱

  • ztpx 09-09 14:50
    7

    期待开源消息,确实不错,目前应用应该需求不少

  • 胖虎定律 09-09 14:53
    8

    期待开源,有没有可能用在医院内外网前置机上,或者网闸上

  • kdjckjda 09-09 14:53
    9

    (帖子已被作者删除)

  • xiaoyaotan 楼主 09-09 14:55
    10

    可以的,我刚开始就是打算做成docker部署在api网关前置的,只是后续因为一些其他的原因改成本地软件,后续如果有需求,可以打docker版本出来

  • ajax 09-09 14:55
    11

    我一直想要这个,速速开源!!!太牛逼了佬

  • ajax 09-09 14:58
    12

    佬,有没有考虑做成那种 网络层的,就是不改baseUrl,只需要在系统中做配置,然后做成类似链式代理的方案,访问baseUrl会先拦截走过滤网关再回来?不知道我说的明白不,这样不影响工具使用了

  • 胖虎定律 09-09 14:59
    13

    帅 ^-^ ^-^期待发布

  • 瓦力 09-09 14:59
    14

    之前我们公司做过这个,出去推广,没怎么推广出去 ^-^

  • 天花板上的喵 09-09 15:00
    15

    它本质是一个运行在本地的代理网关,完全不需要改动下游代码



    1. 零侵入接入:只需把客户端的 API Base URL 指向本地端口(如 http://127.0.0.1:18710),上游中转和协议完全透明。

    2. 上行自动脱敏:请求经过本地网关时,正则与词库匹配敏感信息,替换为带业务语义的轻量占位符(如 {{IPPRIVATE_xxxx}}{{PHONE_xxxx}}{{CONNSTR_xxxx}}),原文绝不出网。

    3. 下行无感还原:模型回复经过本地网关时,自动对照映射表还原为真实明文;支持 SSE 流式实时还原,打字机吐字体验完全不受影响。



    我已经开始从头做了哈哈,想到了更多的使用方向和拓展,加油佬!

  • Advance666 09-09 15:01
    16

    有需求,这项目我王多鱼投了!另外阿里的higress也有脱敏能力,之前看过一点,不知道楼主用过没

  • xiaoyaotan 楼主 09-09 15:02
    17

    用过的,但是觉得不好用,所以就干脆自建了

  • zcxads 09-09 15:02
    18

    思路不错啊,公司应该会比较需要,期待开源

  • xiaoyaotan 楼主 09-09 15:04
    19

    第一版就是这种捕获模式,不需要改各个agent的baseurl,但是这种模式问题很多,不如代理模式来得稳定,所以被舍弃了,也有可能是我太菜了,哈哈,这两天开源出来佬有兴趣可以改造试试

* 帖子来源Linux.do
返回