OpenAI CEO奥特曼表示：全球网络防御、生物安全出现重大改善后，最强模型才可能会开源

近日，OpenAI联合创始人兼CEO山姆·奥特曼（Sam Altman）受邀参加斯坦福商学院View from the Top访谈节目，就人工智能的发展历程、安全挑战、组织变革及个人成长等话题进行了深入对谈。

奥特曼回忆道，自己早年曾因"同辈压力"申请过投资银行实习，但在获得录用后却产生强烈的抵触情绪。与此同时，他和朋友们正在进行的一个创业项目获得了Y Combinator的资助机会，这成为他人生的转折点。"这是宇宙给我的信号，"他说。此后，他不仅成为YC首批入孵企业创始人，更在日后出任YC总裁。

谈及创业与管理机构的区别，奥特曼表示，创业是他经历过学习速度最快的阶段，“一个月做创业相当于读完一个MBA”，而执掌YC则更像是一份"类政府工作"，需要专注于构建健康的社区生态。

2015年创立OpenAI时，业界普遍认为通用人工智能（AGI）遥不可及。奥特曼透露，早在2005年，斯坦福一位计算机科学教授就断言"深度学习绝对行不通"。但2012年AlexNet的突破性结果，以及此后观察到的规模化效应，让他坚信规模带来惊人效果，并最终促使OpenAI坚持投入。

奥特曼坦言，OpenAI最初的设想是建成一个纯粹的研究机构，团队甚至天真地认为，一旦研发出超级智能，后续的产品化、商业化问题会"自然解决"。但技术发展路径与预期大相径庭，使得公司不得不在2020年前后转型，并最终因ChatGPT的爆发式增长，被迫在一夜之间成长为一家超大型企业。

在回答关于2020年预判失误的问题时，奥特曼坦承，他此前低估了AI对齐（Alignment）问题的难度——虽然目前模型的对齐表现好于预期，但他警告称，不能因此盲目乐观，认为未来的对齐工作会继续轻松下去。

他特别提到，过去六个月AI能力的飞速进步，已经动摇了他此前的一些核心信念。"在数学推理等狭窄领域，我们事实上已经拥有了超级智能，这比我预想的要快得多。“他坦言，如果不对现有的全球治理格局做出调整，继续维持当前的发展节奏将"难以为继”，呼吁业界重新思考关于AI发展"限速"的问题。

面对开源模型与安全性之间的张力，奥特曼表示，开源权重模型对社会具有重要价值，但以目前OpenAI最先进的内部模型水平，尚不能负责任地将其开源，直到全球网络防御体系、生物安全防护层等基础设施得到相应提升。

谈及AI塑造的未来图景，奥特曼表达了一种愿景上的担忧：他希望AI能够推动一场新文艺复兴，赋予人类更多创造力、探索自由与知识发现空间，而非演变成新工业革命，把人异化为追求极致效率机器中的齿轮。他承认，当前业界的许多努力方向，更偏向后者。