从噪声中“雕刻”世界——生成式计算机视觉的魔法与裂缝
如果说识别是让机器“读懂”图像,那么生成式计算机视觉做的是一件听起来更反直觉的事:让机器从一片虚无中造出图像。
今天 Midjourney、Stable Diffusion 乃至 Sora 背后的核心技术,叫做扩散模型。它的原理有一种近乎禅意的简洁:先破坏,再重建。训练时,模型反复观看“一张清晰图像被逐步添加随机噪点、最终变成一片纯噪声”的过程,学会辨认每一个破坏步骤。生成时,模型从一团纯粹的随机噪声出发,根据文本提示,一步步“预测并去除”噪点,像雕塑家从大理石中凿出形象一样,从混沌中“雕刻”出画面。
扩散模型在二维图像上的成功已经足够惊人,但视频生成把它推向了另一个量级的难度。视频不是“很多张图片”,一秒钟包含 24 到 30 帧,一段 10 秒的视频就有数百帧。真正的挑战不在于每一帧是否清晰,而在于帧与帧之间是否连贯:人走路时手臂和腿的摆动要符合运动规律,人物在画面中移动时背景的透视要随之变化,物体不能无缘无故地变形或消失。早期的视频生成走的是“先生成关键帧、再插值过渡”的串行路线,结果往往闪烁、断裂、短得可怜。目前的主流路线是时空扩散模型:把视频视为“空间 × 时间”的三维数据,让模型在去噪的同时,同时学习画面内容和运动规律,端到端地生成连贯的视频。
Sora 之所以引发震动,不仅因为它生成的画面逼真,更因为它似乎“学会”了一些物理直觉。OpenAI 的研究者用“世界模型”来描述这种能力:模型在训练中接触海量视频,逐渐内化了“抬起左脚时重心会偏移”“车驶过水坑时水花会飞溅”“玻璃破碎不会自动复原”之类的规律。它没有被告知任何物理公式,却在神经网络中构建了一种直觉性的世界模型。
支撑这一切的,还有架构层面的迁移。2020 年提出的 Vision Transformer 将图像切分成固定大小的图块,像处理句子中的单词一样,用自注意力机制捕捉图块之间的关系。这种原本为语言设计的架构,在视觉任务中展现出与卷积网络不同的优势,也为视频这种长序列、强关联的数据提供了更自然的建模工具。
然而,裂缝同样明显。扩散模型生成的“真实”,是统计意义上的真实,而非因果意义上的真实。它可以让一个人凭空多出一只手,也可以让一个物理上不可能的场景看起来天衣无缝。当生成的图像和视频越来越难以与真实区分,计算机视觉就不再只是一个技术问题:它开始动摇“眼见为实”这个人类社会运转了数千年的默认前提。