Google DeepMind – 27 Oct 26
Genie 4: A new generation of world simulation
Genie 4 introduces real-time interactive world simulation with native audio, advanced physics, natural human motion, and steering powered by Gemini models.
[!quote]+
今天,我们宣布Genie 4,我们的新世界模型,它解锁了前所未有的真实感,并提升了实时互动模拟。Genie 4 原生多模态,能够与世界同步生成类似音频的音乐、环境音效和互动对话。
Genie 4模型融合并构建了Gemini家族的能力:Gemini Omni将模拟锚定在现实世界的外观和行为中,而其他Gemini模型则提供复杂的推理,以帮助维持模拟的连贯性和连续性。
有了这个基础,你可以让事件启动,Genie 4模拟接下来发生的事情:世界的反应、声音,以及人物的动作、反应和说话。
理解和模拟世界是构建通用人工智能的关键环节。Genie 4 提升了我们创建安全、无限变量模拟的能力,这些模拟有助于从为机器人和代理开发训练环境,到解锁新的交互体验。
[!quote]+
我们已开始将Genie 4作为可信测试者的研究预览发布——在向消费者和开发者发布前收集反馈,首先是Project Genie的Google AI Ultra订阅者以及Gemini API和Google AI Studio的抢先体验合作伙伴。点击这里加入Project Genie的Genie 4候补名单。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/e2tW3OdRkPELhHH3/wm_genie4_demo_backstage_genie3-v-genie_4_compare_with-disclaimer_16x9_final.webm
[!quote]+Genie 4 推进了四项关键能力
以下是Genie 4的实时互动录像,用户使用标准键盘控制导航和摄像机,并通过文本提示引导场景发展。
[!quote]+实时塑造世界模拟
在Genie 4中,你可以用自然语言实时修改模拟——比如改变天气、移动摄像机,或引入新的人物或物体——Gemini会根据上下文调整你的提示,以匹配周围场景。在你的操作之间,Gemini还会监控并引导场景,确保世界整体推进。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/6EmGCHuk3yxF-wGH/wm_genie4_demo_island_piano_duet_UI_with_disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/Hx57sxbj0Ia3OXDq/genie4_demo_silk-scarf_UI_with-disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/EAIt62AyeO_ZlSZD/genie4_demo_hot-air-balloon_UI_with-disclaimer_16x9_final.webm
[!quote]+
推动物理学和人类行动的现实主义前沿
Genie 4为实时互动模拟引入了新的真实标准。Genie 4基于对世界的高级物理理解,模拟现实世界的物理场景,如空气动力学、碰撞等。
最显著的飞跃是Genie 4如何模拟人类,创造出自然移动、有机响应环境并可实时互动操控的角色。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/WYS0b0zRNiNoUPSD/genie4_demo_watermelon_UI_with-disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/iAu-BtCxO97Ng8MH/genie4_demo_maple-seed_UI_with-disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/6M5UjZJz39r6PWJE/wm_genie4_demo_japanese_train_station_UI_with_disclaimer_16x9_final.webm
[!quote]+模拟世界的声音
Genie 4 是我们首个原生生成音频的实时世界模型。每个世界都带有其设定的环境音效,从树间的风声到海滩上的海浪拍打。
然而,真正的边界是人类的语言。Genie 4引入了可随时调整的互动对话。角色会实时对话并对你的输入或事件做出反应。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/ImzUsu3YUnkjGByt/wm_genie4_demo_stained_glass_world_UI_with_disclaimer_16x9_final_Stitched_Clip.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/U2fgq2F4J18EL3hC/wm_genie4_demo_dragon_flight_UI_with_disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/MiidpBWn_XH7Tf66/wm_genie4_demo_motorcycle_hero_UI_with_disclaimer_16x9_final.webm
[!quote]+ 用 Gemini 模型模拟复杂事件
将 Gemini 和 Genie 4 结合,为世界模拟增加了新的推理层面,使我们能够模拟复杂、多步骤的事件,并测试人工智能系统如何在将不同环境带入现实世界前导航。
为了实现实时实现这一点,Gemini 3.8 Flash 作为循环中的引导者:当 Genie 4 实时生成世界时,Gemini 持续观察场景,将目标拆解为一系列步骤,并审查新帧以跟踪进展并验证每一步是否成功。随着世界变化或用户介入,双子座会在当下调整计划,解锁具有可靠因果关系、程序行为和多步推理的世界。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/lh6-ABDF7flJ3HcQ/wm_genie4_demo_robotics_UI_with_disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/FLbHGJDuL6wvFcdv/wm_genie4_demo_1p_magician_UI_with_disclaimer_16x9_final.webm
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/ivd7jo-kiif9gXGt/wm_genie4_demo_crane_UI_with_disclaimer_16x9_final.webm
[!quote]+
作为探索这一能力的一部分,我们还在尝试使用双子座4号氩气和精灵4号,将我们的前沿研究与Gemini Robotics结合起来。
在下面的示例中,Argon 将用户指令的任务拆解成 Genie 渲染的步骤。这些步骤在模拟渲染时交错生成文本字幕,传递给Genie 4。由于Genie 4可以通过Gemini实时通过文字字幕进行操控,这现在为模拟在完成该任务的过程中调整的路径打开了道路。这一能力成为利用双子座4号氩和精灵4号模拟想象世界中各种场景的途径。
https://storage.googleapis.com/gdm-deepmind-com-prod-public/media/jsLTAn-laUIpto1B/Genie-4_Robotics-demo_light.webm
[!quote]+ 来自可信测试者的经验
虽然Genie 4是一个重要的研究里程碑,但它仍是一个早期的实验模型。为了了解互动世界模型如何支持现实世界的工作流程——以及它们还有哪些需要改进的地方——我们一直在与来自创意产业、新闻、教育、游戏和工程等领域的可信测试人员团队合作。
测试者强调,照片写实、原生音频和实时转向的飞跃如何将想法和概念转化为逼真的模拟,解锁跨学科的新能力:
创意指导 :创意和技术人员正在测试Genie 4作为快速“草稿模式”,用于预设可视化和构思。例如,电影制作人可以进入场景的实时模拟,实时进行多次“拍摄”,实时调整摄像机角度、灯光、对话和动作。
历史场景与沉浸式照片 :新闻摄影师正在探索一张单张二维档案照片如何在几秒钟内成为该环境的扎实模拟。团队正在测试人口密集、动态的世界如何帮助体验历史空间,或可视化短期环境事件(如洪水突发或野火)的展开。
互动体验概念设计 :游戏开发者和创意技术人员正在测试Genie 4,让它能在几秒钟内从最初的想法发展成可探索的原型,通过自然语言提示测试视觉风格、材质美学和互动机制,然后再编写一行引擎代码。
仿真 :除了我们的机器人研究外,各行业的企业合作伙伴也在评估Genie 4作为快速“零到一”场景生成的工具,并识别不足以进一步改进Genie,以最好地满足这一模拟需求。
[!quote]+
未来工作:迈向混合世界模型
未来进步的前景是混合世界模型,它结合了代码和语言模型的逻辑结构化推理与像素级模拟的丰富感官表征。
让Genie和Gemini车型更接近,是朝这个方向迈出的早期一步。Gemini在幕后绘制结构图和叙事时间线规划,而Genie则生成即时的物理现实——逐像素渲染世界的外观、声音和反应。这些互补的优势结合起来,可以解锁一种比单靠任何一种方法都更连贯、更可控、更扎根的新世界模型。
负责任地构建世界模型
Genie 4标志着融合实时生成与照片写实的新前沿研究领域,引入了一系列新的功能和维度,我们希望以负责任的方式推广和探索这些内容。Genie 4 包含严格的安全护栏,这些措施与我们其他车型的安全政策保持一致。在发布本次预览之前,我们通过内部严格的安全评估评估了Genie 4,以防止有害或恶意内容的生成。此外,我们有意先将模型部署给可信赖的测试合作伙伴,以便获得早期反馈,然后再广泛发布模型。
为了保持透明度,Genie 4生成的所有视频和音频都将包含SynthID,这是我们无形的数字水印技术,帮助识别跨视觉和音频模式的AI生成内容。
理解当前限制
Genie 4仍是一个早期且不断发展的研究领域。
虽然它能在短时间内维持环境的连贯性,但视觉细节和物体的持久性仍可能随时间变化或漂移——尤其是在模拟运行时间变长、多次复杂提示编辑后,或在场景中导航时。复杂的物理互动、实时音频准确性、可读文本的呈现、空间准确性和长期一致性是持续研究的活跃领域。我们分享《Genie 4》作为预览,与社区一起学习,安全地推进互动模拟的前沿。
Genie 4的下一步
Genie 4 已作为研究预览发布给值得信赖的测试者,并即将向 Project Genie 的 Google AI Ultra 订阅者以及 Gemini API 和 Google AI Studio 的抢先体验合作伙伴推出。点击这里加入Project Genie的Genie 4候补名单。
我们很期待用户很快走进去,尝试并构建属于自己的互动世界。