OpenAI 考虑放缓前沿 AI 开发

OpenAI 考虑放缓前沿 AI 开发

据多名知情人士透露，OpenAI 正考虑放缓前沿人工智能开发。首席执行官萨姆·奥尔特曼本周在全员会议上表示，公司可能与其他 AI 实验室协调放慢进度，但部分公司或不愿配合。

OpenAI 近期已因安全担忧放缓部分模型开发并暂停某些内部 AI 训练。公司拒绝置评，其首席科学家呼吁在建立共同安全标准前，自愿放缓未来开发。

来源: https://t.me/zaihuapd/43753

前有Anthropic 呼吁全球放缓前沿 AI 开发

🤖 Anthropic 呼吁全球放缓前沿 AI 开发

Anthropic 呼吁全球主要 AI 实验室考虑放缓前沿模型开发节奏。该公司在博客中表示，AI 进步速度极快，可能很快出现无需人类干预即可自我改进的“递归自我改进”能力，这会带来重大社会风险。公司警告，若没有全球协调机制，单方暂停只会让对手抢跑，因此提议多国主要 AI 企业同步停止并遵守可验证规则，避免单一暂停让对手趁机赶超。

该提议在华盛顿和硅谷遇冷，批评者认为其夸大风险，实为借安全之名打压对手，且放缓研发恐让中国获得战略优势。Anthropic 近日刚完成近万亿美元估值的融资，并已提交 IPO 保密文件。

来源: https://t.me/zaihuapd/41779