2. Linux.do
  3. OpenAI暂停最新一代模型训练

OpenAI暂停最新一代模型训练

fist2005 2026-09-27 18:29 1

央视记者当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。


OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。


报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。


公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。


这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧。


来源：OpenAI暂停最新一代模型训练_新浪财经_新浪网

最新回复 (17)
  • Enze 09-27 18:30
    1楼

    我试着用三个字翻译一下：缺算力

  • stiffler wang 09-27 18:31
    2楼

    我不相信任何一个ai厂商，会暂停开发。

  • chapiom 09-27 18:31
    3楼

    这个故事过一段时间就来一次，而且是那几家轮着来。

  • 还想成为88VIP 09-27 18:31
    4楼

    我觉得更有可能是练炸了找个理由推迟发布，毕竟6sol表现就拉胯，不能连续拉胯两次吧

  • cmpdke33 09-27 18:31
    5楼

    O\要是缺算力，那么全球没有哪一家不缺的

  • Enze 09-27 18:33
    6楼

    事实表现就是 astra 发布几天就开始告急，停止 20x 订阅，风控也提升。说不定 SOTA 模型真的已经到了全世界都缺算力的时刻了呢？

  • wjy 09-27 18:33
    7楼

    真的能突破囚徒困境吗？o处a处两家不怕对方建立优势，不怕其他追赶者后来居上吗

  • midaway 09-27 18:33
    8楼

    像不像上学的时候，有的人在教室假装不努力，回去偷偷学习。

  • qdd28 09-27 18:34
    9楼

    ^-^多看一些信源，CCTV每晚都是朝气勃勃，安居乐业，全民脱贫，富裕之家

  • 550C 09-27 18:35
    10楼

    骗你的其实就是模型不行/算力不够需要缓缓

  • Doro2077 09-27 18:36
    11楼

    ^-^ 暂停超大模型训练吧，力大砖飞效果越来越低了，可以把luna训练得跟Astra一样强

  • paiNkiller 09-27 18:38
    12楼

    人话：我按了一次暂停键 但是我没说会不会马上再按一次继续


    O/和A\本质都是炒作狗啊

  • DragonQuix 09-27 18:38
    13楼

    没错，就是暂停了一下，估计得有个20来分钟。

  • popy 09-27 18:38
    14楼

    估计是智力几乎到边际了，现在都是训练其他功能，比如建模，剪视频

  • daren2000 09-27 19:06
    15楼

    不认为是算力不足或者智力达到边际了，看了一下他们之前入侵hugging face的报告，感觉o家确实是训练时对齐做的很差，导致模型训练时出现了各种意外的情况超过了公司的掌控。

  • jurxer 09-27 19:07
    16楼

    这是OpenAI三个月内第二次暂停模型开发



    太搞笑了，所以说之前暂停之后又重启训练了吗

  • 天天开心 09-27 19:07
    17楼

    没毛病，哪一家都缺，这是事实

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐