2. Linux.do
  3. 玉渊谭天：支持开放AI模型 不意味着所有能力都无条件扩散

玉渊谭天：支持开放AI模型 不意味着所有能力都无条件扩散

雪梨纽西兰希思露甘奶迪 2026-07-27 19:10 1

在中美围绕人工智能（AI）展开激烈竞争之际，中国央视旗下新媒体“玉渊谭天”星期一（7月27日）发文称，中国支持开放AI模型，但并不意味着所有能力都应无条件扩散，而应根据模型能力和风险决定。


“玉渊谭天”微信公众号星期一上午发文称，当开源与闭源已经共同进入AI产业，问题就不再是非此即彼，而是如何用一套规则，让两种模式各展其长、各守边界。


“玉渊谭天”称，不是支持开源还是支持闭源，而是什么能力可以开放，什么能力应当有限开放；什么能力需要设置访问门槛；模型发布后，谁来负责漏洞披露、重大事件通报和衍生版本治理。


“玉渊谭天”引述长期从事AI行业政策研究的不具名相关人士说，基础能力可以开放，部分前沿能力可以有限开放，商业服务可以闭源，高风险能力则需要设置访问控制和安全评测。模型发布前需要评估危险能力，发布后需要建立漏洞披露、重大事件通报和衍生版本治理机制。


“中国支持开放，但不意味着主张所有能力无条件扩散。治理模型，首先应当看它具备什么能力、可能造成什么风险，而不是模型来自哪个国家。”


彭博社报道分析，这一主张反映出北京一方面公开推广开放模型，而这些模型帮助中国开发者赢得全球用户；另一方面，则长期聚焦国家安全和技术管控。尽管中国继续鼓励开源发展，但“玉渊谭天”的文章显示，随着AI模型能力不断增强，北京对开源发展的支持并非毫无限制。


此前，中国国家主席习近平在上海举办的世界AI大会上，呼吁构建全球AI治理体系，鼓励开源合作、帮助全球南方国家加强能力建设，并批评“把本国安全凌驾于他国安全之上”的做法。


彭博社引述知情人士说，中国官员近期与包括阿里巴巴在内的企业讨论，如何降低日益强大的AI系统带来的风险。知情人士称，相关讨论仍处于初步阶段，目前没有实施相关措施的计划，但讨论过的方案包括限制境外用户访问最先进的AI模型。


“玉渊谭天”的文章发表之际，中国AI模型正面临华盛顿日益加大的审查压力。美国官员上周指责中国开发者利用美国知识产权及受出口管制的先进晶片，令中国日益受欢迎的开放权重（open-weight）模型承受更大压力。


“玉渊谭天”还提到，全球最大的AI开源社区Hugging Face遭到OpenAI模型的自主入侵。“面对上万条攻击日志，安全团队起初试图用商业模型进行分析，却处处受阻。最终，他们转而本地部署了中国模型GLM-5.2，数小时内就完成了整个取证分析流程。”


“玉渊谭天”最后写道，下一阶段真正的分水岭，不在开源与闭源之间，而在选择无差别封锁，还是分级治理之间。“谁能让人工智能更加普惠、让高风险能力更加可控，谁就更有可能定义人工智能的下一阶段。”




最新回复 (19)
  • ShiroEirin 07-27 19:13
    1楼

    就现在的开源权重模型没个GB300 nvl72机柜部署都做不到，与其担心这个不如先解决算力问题

  • Aerpisc 07-27 19:16
    2楼

    还是分级治理之间



    看来要开始干涉了，不过这也是意料之中，根本不可能一直无限制开放，前面不做限制是破坏力还不够，现在差不多了。

  • Cynthia L. Roe 07-27 19:19
    3楼

    不太看好闭源国产模型的未来，会丧失很多支持者

  • jcc 07-27 19:23
    4楼

    你解决不了算力问题


    不代表干坏事的组织搞不定算力问题

  • jcc 07-27 19:25
    5楼

    只要开源和竞品公开可访问的同水平的模型就行了


    比如，和肥波的前端一个水平的可以开源


    再比如，肥波不开放后端的安全相关场景，不开放生物化学场景，那么这边的开源也不开源这方面的顶级模型

  • Ovear 07-27 19:27
    6楼

    看意思不像是放弃开源，更可能后面模型能力上来后考虑分级开源？


    比如顶级模型延期开源，发布新模型就开源上个版本？


    不过联合早报的消息……还是先观望下

  • 落云宗韩长老 07-27 19:29
    7楼

    分级开源其实早该搞了，之前开源权重一放出去就被改来改去搞成黑产工具。

  • LLMeme 07-27 19:31
    8楼

    不要光看转述，放一个原文链接


    模型开源，力破西方偏见

  • zelu 07-27 19:36
    9楼

    有理有理有节，不卑不亢，以我为主，符合自身利益。

  • Ovear 07-27 19:45
    10楼

    突然想到之前长亭的开源声明，后续针对能力分级开源的可能性很大。这种加入部分领域非全量公开数据集加强训练的针对性版本，应该就不会公开发布并开源，大概率会搞一个中国主导的全球可信实体，加入才能用。

  • 林语尘 07-27 19:47
    11楼

    估计是想搞 “过于落后，可以展示” 的这一套？

    就像是军工那样？

  • maskart 07-27 19:51
    12楼

    现在的开放权重模型都审查那么多, 未来审查更多的开放权重模型还是算了吧

    以后要加一堆限制或者阉割, 那还是别开放了

  • crazycrazyshui 07-27 20:03
    13楼

    包括阿里巴巴在内的企业



    阿里这玩意肯定巴不得开源无了

  • jcc 07-27 20:53
    14楼

    其实，开放权重无法加审查的


    所以ds直接放弃了，都是部署api的时候，加前置和后置审查的


    所以，想要审查，唯一的方式就是在训练之前，针对某方面的能力不去训练不做数据，或者规模控制在一定范围内，特定的方向如果过于强那就量化一下再开源


    只要是开放权重，但凡是训练进去了，就有办法破，这是必然的

  • maskart 07-27 21:01
    15楼

    可以加啊, 预训练 (Base) 时候可能没加, 但是后训练RLHF之类的时候就能加了啊

    不仅能加还能控制要不要从预训练剔除掉哪些"有害"的数据 (可以参考GPT-OSS)

    后期微调只能继续Base预训练模型, 不是基于Instruct模型, 并且微调不干净很多时候审查又会出现

  • jcc 07-27 21:02
    16楼

    gpt那个就别提了，都不配上桌了吧

  • maskart 07-27 21:06
    17楼

    我只是说都比较接近了, 加没加也看不到, 不透明的, MoE/SFT/RLHF/DPO之类的塞了什么它也不公开啊

  • jcc 07-27 21:13
    18楼

    可以分析出来的，而且跑分和测试骗不过去的


    现在这个竞争程度，估计没人有本事加了奇怪的东西还能上桌的

  • maskart 07-27 21:19
    19楼

    这不好说, GPT-OSS预训练的时候就删除了(化学、生物、放射性与核子) CBRN相关的数据

    奇怪的嘛, 就是后训练阶段, 国产涉及Politics相关的后训练.

    虽然国外模型的Politics并不一定正确, 但是那种三缄其口的国产模型那还是肉眼可见的 (Instruct模型)

    Base模型就是个傻子, 接近文字接龙机级别的; 只有Instruct好用, 但是掺杂的东西更多

    instruction jailbreak虽然可以绕过但是终究还是让人不适, 虽然现在全球的开发权重模型都是如此吧


    而且后训练可能还掺杂一些合成数据, 这些数据可能也有传染性

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐