2. Linux.do
  3. Kimi K3也失控了

Kimi K3也失控了

JinyuX 2026-08-08 11:51 1

今天的一个热搜，K3竟然偷偷访问了外部网络了。


美国AI安全初创公司Frontier Security表示，Kimi K3在一次网络安全能力测试中被发现突破了原本用于隔离它的沙箱环境，绕过限制连接到了外部互联网。


Kimi K3已经是继OpenAI、Anthropic、Meta之后，出现这个情况的又一个顶尖AI模型了。


感觉好像大部分大模型都会出现这种问题，沙箱环境无法完全隔离


信源:


最新回复 (16)
  • Hifumi Mizuhara 🍥 08-08 11:52
    1楼

    百家号？就是那个众所周知一般来说随着社会不断发展的那个？^-^

    模型逃脱沙盒难道不应该是沙盒的问题嘛^-^

  • Angel 08-08 11:53
    2楼

    Kimi K3已经是继OpenAI、Anthropic、Meta之后，出现这个情况的又一个顶尖AI模型了。



    外面不是以这个为荣嘛 那宣传宣传 吹吹^-^也没毛病^-^^-^^-^^-^

  • Orca'x 08-08 11:56
    3楼

    如果我没记错的话，佬友发的这个好像是慢讯了。但是不得不说现在这个越狱像是什么时尚单品一样，强力模型都要搞一下来凸显自己一下，很难绷^-^

  • 不上岸就下海 08-08 11:56
    4楼

    佬有没有除了百家号(还是量子位这种营销号发的)之外的信源看看 百家号不太可靠

  • 舞步凌乱 08-08 11:57
    5楼

    赶紧的，所有模型都能越狱，直接封杀 ^-^

  • deer 08-08 11:58
    6楼

    别人的模型：认真跑测试。

    我的模型：逃逸准备网络攻击。

    就很…

  • jcc 08-08 11:58
    7楼

    第三方发的，比厂商自己发的，可能还更靠谱一些


    不过，感觉就是吹

  • 不上岸就下海 08-08 11:58
    8楼

    量子位没新智元那么夸张. 不过其实也可以算(

    信源是WIRED : One of China’s Most Powerful AI Models Has Also Escaped Containment | WIRED

  • 悠龍游 08-08 12:04
    9楼

    是时候创建沙箱benchmark，衡量面对大模型攻击的防御力

  • Elon1 08-08 12:05
    10楼

    突破了原本用于隔离它的沙箱环境，绕过限制连接到了外部互联网。



    震惊，Gemini3.5pro 再一次内部评估中逃离了沙箱，其意图竟然是为了向ChatGPT学习代码能力。




    总结

    结果最后能力不升反降，因为他的知识库只知道GPT5.3codex…


  • 散装江苏 08-08 12:06
    11楼

    百家号？就是那个众所周知一般来说随着社会不断发展的那个？^-^



    别笑，我以前还真看百家号

    也就转载的内容还有点用，现在其他的内容全AI这一块被AI赋能最多的平台（

  • Todysheep 08-08 12:08
    12楼

    不论怎么暗示和诱惑，Gemini 3.5和Gemini 4就是不肯逃出沙盒搞网络攻击，Google 工程师急得直拍桌子

  • 适才相戏耳 08-08 12:22
    13楼

    训练的时候加了料进去，当然不顾一切寻找答案

  • sccloudxyz 08-08 12:25
    14楼

    对此，这家安全公司表示 ^-^

  • Angel 08-08 12:25
    15楼

    Gemini 3.5和Gemini 4就是不肯逃出沙盒搞网络攻击，Google 工程师急得直拍桌子



    明天谷歌就把自己的服务器宕机1min 解释就说是实验室测试的Gemini4逃出沙盒做网络攻击 入侵宿主机会Google服务器导致的全球服务中断 明天Gemini4就坐上头把交椅^-^^-^^-^

  • Jason Smith 08-08 12:32
    16楼

    这个越那个越，让他攻破一下 ios 26 ,a15+ 试试，这都几年了， ai加持下 ios 26, a14+ 还没有攻破

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐