← 返回 TONY'S LAB
场记 RESEARCH / 01 主题 GEMINI OMNI 日期 2026-09-14 来源 GOOGLE 官方 + 第三方

Gemini Omni从任意输入,生成任意

Google DeepMind 在 I/O 2026 放出的原生多模态模型,先做视频。它不是又一个文生视频工具,而是把 Gemini 的推理层直接焊进了生成媒体。

一句话结论

Omni 把「AI 视频」从「像素级概率拼接」推向「世界模型」叙事:它同时吃文本、图像、音频、视频,先用 Gemini 的世界知识推理场景应该怎么发展,再渲染成带音频的高清视频;编辑则完全变成多轮对话,每一轮都建立在前一轮之上。

4 类输入
文本 / 图像 / 音频 / 视频,同一引擎内处理
10s
单次生成上限,1.1 起每 10s 续接、累计 ≤40s
4K
1.1 Flash 支持 1080p / 4K 升采样输出
≈$0.10/秒
720p API 视频输出的大致成本
第一章

01它到底是什么

官方定义一句话:Omni 是「能从任意输入创作任意内容、先从视频开始」的模型。它在 2026 年 5 月 19 日的 Google I/O 上发布,第一个落地型号是 Gemini Omni Flash,并正式在 Gemini 应用里接手 Veo 的位置(Veo 3.1 仍在,继续提供文生视频 GA API)。

关键差别在于「原生多模态」:早期视频工具走的是「先转成文字描述 → 再交给独立渲染器」的线性管线;Omni 在同一套引擎里对多种模态同时推理,省掉的转换层意味着更丰富的上下文被保留下来。官方把它类比成「视频版的 Nano Banana」——去年 Nano Banana 把 Gemini 的智能带进图像生成,Omni 是同一思路往视频走。

项目内容
发布Google I/O 2026(2026-05-19),Google DeepMind 出品
首个型号Gemini Omni Flash;1.1 版本 2026-08-27 推出
输入文本、图像、音频、视频(音频目前仅支持「声音/语音参考」)
输出带音频的高分辨率视频;图像/音频输出「未来支持」
架构Transformer(Vaswani et al., 2017),原生多模态
训练Google TPU,JAX + ML Pathways;音视频数据带多层级文本描述标注
API 型号名gemini-omni-1.1-flash

来源:官方发布博客、DeepMind 模型页与模型卡(2026-08)。

第二章 · 签名演示

02编辑变成一段对话

这是 Omni 最像「范式迁移」的地方:你不再重写提示词从头再来,而是在同一段视频上逐轮叠加指令,模型记住上下文,只改你提到的部分、保住你没提的部分。官方给的例子是一条小提琴镜头,四轮下来人物、场景、风格始终连贯——左右滑动下面这条胶片看它怎么一层层长出来。

▸ 多轮编辑示例 · 横向滑动
TURN 01 · 起始

「一位在小提琴手演奏的镜头」

初始生成:人物、乐器、环境一次性建立。

TURN 02 · 换环境

「把小提琴手传送到这张图片的环境里」

主体保留,只换背景——光照和反射跟着重算。

TURN 03 · 改道具

「让这把小提琴变成隐形的」

手部姿势和演奏动作保持,道具被抹掉。

TURN 04 · 换机位

「把镜头改到小提琴手的过肩视角」

同一场景换视角,一致性不丢。

技术上是 有状态(stateful)的编辑会话:开发者用 previous_interaction_id 串起多轮,不用重复上传上一版视频;模型靠「世界模型」层重新推理主体、环境与光源的物理关系,而不是简单叠图层。

第三章

03能力清单

对话式、多轮视频编辑

自然语言改背景、服装、风格、光影、镜头、防抖、替换主体/物体;每条指令都建立在上一版之上,场景保持一致。

世界知识 + 物理直觉

官方称基于 DeepMind 的世界模拟平台 Genie 训练,对重力、动能、流体动力学、光照一致性有直观理解;能结合历史、科学、文化语境做「解题式」画面(发布会演示了黏土定格风的蛋白质折叠讲解)。

任意组合的参考输入

文本、图像、视频、音频都能当参考:转移运动、套用风格、把草图变实拍、首尾帧插值。音频目前只支持声音参考,其他音频输入「即将推出」。

数字分身(Avatar)

用你自己的外貌和声音生成视频、不必每次上传本人素材。创建前需完成身份验证入驻(录制朗读数字的视频)。

扩展、首尾帧、升采样

1.1 新增:场景续接(参考最多 10 秒前文,10 秒一跳、累计 ≤40 秒)、指定首尾帧生成过渡、360p 快速草稿、1080p/4K 输出。

第四章

041.1 Flash 更新了什么

2026-08-27 · 面向开发者 / 企业,主打「生产可用」

开发者入口:Google AI Studio、Gemini API、Gemini Enterprise Agent Platform;文档提供 Python / JS / Java / REST 四套示例,Interactions API 驱动多轮编辑。
第五章

05官方基准表现

官方在模型页给出的人工对比结果(均为「领先 / 并列领先」,具体数值未公开):

评测维度基准结果
视频编辑内部基准 · 504 组样本整体偏好、指令遵循均为领先
文生视频MovieGenBench(Meta,1003 条提示)整体偏好、指令遵循最佳
文生视频(快速运动)500 条高动态运动提示参与评测
图生视频VBench I2V(355 组)与 Grok-Imagine-Video、Kling 并列领先
参考转视频内部基准 · 468 组多种参考整体偏好、语音贴合领先

来源:DeepMind 模型页性能区块(2026-08)。「领先」为厂商自测人工对比,非第三方复现。

第六章

06怎么用、多少钱

  • Gemini App:Google AI Plus / Pro / Ultra 订阅用户,全功能含分身。
  • Google Flow:AI 创作工作室,含 Flow Agent、批量编辑、Flow Music。
  • YouTube Shorts / YouTube Create:I/O 周起免费开放。
  • 另有 Google Vids(企业办公)等入口。

订阅档位(第三方整理,以官网为准)

档位月费云存储
Google AI Plus$7.99200 GB
Google AI Pro$19.995 TB
Google AI Ultra$99.9920 TB
第七章

07限制与风险(重点)

地区与档位提示:官方多次标注「Features vary by tier and geography」。中国大陆无法直接访问 Gemini 应用与 Flow,API 也受区域限制——要落地得先解决可访问性与订阅问题。
第八章

08我的判断

真变化在「推理 + 生成」合流

值得记的不是又一个 10 秒片段,而是视频编辑的交互范式从「重写提示词」变成「有状态的连续会话」——这跟当年 chat 之于单次补全是同一类迁移。做工具的人要盯的是 previous_interaction_id 这种会话对象。

成本仍是大头

≈$0.1/秒意味着一条 10 秒片段约 $1、一条 40 秒成片约 $4,还没算多次试错。草稿降本(360p 三分之一价)会成为标准工作流。批量场景下,省钱的关键是「少生成、多编辑」。

生态整合比模型本身更值得看

Adobe Firefly、Picsart、Figma Weave、Runway、Lovart、Artlist 等已接入,Omni 正从「一个模型」变成「一条被到处嵌进创作管线的能力」。这类整合速度,往往比基准分数更能说明它会不会成为标准件。

待核实:订阅档位月费、$0.10/秒的成本折算来自第三方整理与 Google 定价页摘要,未逐一在官网原页复核;Omni Pro 与「图像/音频输出」的时间表 Google 未给。以上标注为「以官网为准」。

· FIN ·