Sora是什么

Sora 是 OpenAI 在 2024 年 2 月发布的文本到视频生成的 AI 模型。 其具有以下特点和相关情况： 足够惊艳，但关键问题仍需探讨。Sora 团队未明确表示已实现基于成熟的世界因果关系模型，而是用了世界模拟器的描述。顶尖学术圈对此较为严谨，Lecun 在世界政府峰会上不看好 Sora，指出其并非真正的世界模型，且仍会面临 GPT4 的巨大瓶颈。 自 ChatGPT 发布以来，人工智能技术标志着重大转变。Sora 能根据文本提示生成长达 1 分钟的高质量视频，具有准确解释和执行复杂人类指令的能力，能生成包含多个角色及复杂背景的详细场景，保持高视觉质量和视觉连贯性，克服了早期视频生成模型的一些限制，展示了作为世界模拟器的潜力。 基于公开的技术报告和逆向工程，有对其背景、技术、应用、挑战和未来方向的全面综述。涵盖了追溯发展、探究底层技术、描述在多行业中的应用和潜在影响、讨论主要挑战和局限性，以及对未来发展的探讨。

Sora 是由 OpenAI 开发的文生视频模型，能够根据文字指令创造出逼真且充满想象力的场景，并生成长达 1 分钟的高质量视频，且具有一镜到底的特点，视频中的人物和背景能保持惊人的一致性和稳定性。与之前的视频生成模型相比，Sora 在生成时长和视频质量上有显著进步。同时，还有其他一些文字生成视频的 AI 产品，如 Pika 擅长动画制作且支持视频编辑，SVD 是基于 Stable Diffusion 的插件，Runway 是老牌的收费 AI 视频生成工具且提供实时涂抹修改视频功能，Kaiber 是视频转视频 AI，能将原视频转换成各种风格的视频。更多相关网站可查看：https://www.waytoagi.com/category/38 。

使用 Sora 生成一段视频的步骤如下： 1. 文本提示优化：类似于 DALLE3，Sora 在处理用户提供的文本提示时，可以利用 GPT 模型来扩展或优化提示。GPT 模型能将简短的用户提示转化为更详细、更富有描述性的文本，有助于 Sora 更准确地理解并生成符合用户意图的视频。 2. 生成视频：用户提供文本提示，Sora 根据提示在潜在空间中初始化视频的生成过程。利用训练好的扩散模型，Sora 从这些初始化的时空潜伏斑块开始，逐步生成清晰的视频内容。 3. 视频解码和后处理：使用与视频压缩相对应的解码器将潜在空间中的视频转换回原始像素视频。对生成的视频进行可能的后处理，如调整分辨率、裁剪等，以满足发布或展示的需求。 此外，Sora 采用了一些相关技术和原理： 1. 视频压缩网络：训练一个降低视觉数据维度的网络，接受原始视频作为输入，并输出在时间和空间上都被压缩的潜在表示。Sora 在这个压缩的潜在空间上进行训练，并随后生成视频。同时还训练了一个相应的解码器模型，将生成的潜在表示映射回像素空间。 2. 时空潜空间块：给定一个压缩的输入视频，提取一序列的时空分块作为 Transformer 变换器的 Token。这个方案也适用于图像，基于分块的表示使 Sora 能够训练具有不同分辨率、持续时间和纵横比的视频和图像。在推理时，可以通过在适当大小的网格中随机初始化分块来控制生成视频的大小。 3. 调整图像模型来生成视频：通过插入时间层来“扩增”预训练的文生图扩散模型，然后选择仅在视频上对新的层进行微调或完全避免进行额外的训练。新模型会继承文本 图像对的先验知识，有助于缓解对文本 视频对数据的需求。 4. 扩散视频建模：如 Singer et al. 在 2022 年提出的 MakeAVideo，在一个预训练扩散图像模型的基础上扩展一个时间维度，包含三个关键组件：一个在文本 图像对数据上训练的基础文生图模型；时空卷积和注意力层，使网络覆盖时间维度；一个帧插值网络，用于高帧率生成。

LoRA（LowRank Adaptation）是一种低阶自适应模型，您可以将其理解为基础模型（Checkpoint）的小插件。在生图时，LoRA可有可无，但它具有明显的价值，常见于对一些精细的控制，如面部、材质、物品等细节的控制。其权重在相关界面会有显示。 Sora 并非常见的 AI 领域特定术语，上述知识库中未提及相关内容。

Sora 是 OpenAI 于 2024 年 2 月发布的文本到视频的生成式 AI 模型。 生成视频的提示词与一般问答提示词的区别和注意事项如下： 1. 对于视频生成，神经网络是单射函数，拟合的是文本到视频的映射。由于视频的动态性高，值域大，因此需要丰富且复杂的提示词来扩大定义域，以学好这个函数。 2. 详细的文本提示能迫使神经网络学习文本到视频内容的映射，加强对提示词的理解和服从。 3. 和 DALL·E 3 一样，OpenAI 用内部工具（很可能基于 GPT4v）给视频详尽的描述，提升了模型服从提示词的能力以及视频的质量（包括视频中正确显示文本的能力）。但这会导致在使用时的偏差，即用户的描述相对较短。OpenAI 用 GPT 来扩充用户的描述以改善这个问题，并提高使用体验和视频生成的多样性。 4. 除了文本，Sora 也支持图像或者视频作为提示词，支持 SDEdit，并且可以向前或者向后生成视频，因此可以进行多样的视频编辑和继续创作，比如生成首尾相连重复循环的视频，甚至连接两个截然不同的视频。 以下是一些 Sora 的案例提示词，如：“小土豆国王戴着雄伟的王冠，坐在王座上，监督着他们广阔的土豆王国，里面充满了土豆臣民和土豆城堡。”“咖啡馆的小地图立体模型，装饰着室内植物。木梁在上方纵横交错，冷萃咖啡站里摆满了小瓶子和玻璃杯。”“一张写有‘SORA’的写实云朵图像。”“一群萨摩耶小狗学习成为厨师的电影预告片‘cinematic trailer for a group of samoyed puppies learning to become chefs’”

以下是关于 Sora 及相关的教程信息： AI 视频方面： 软件教程： 工具教程： 应用教程： Python + AI 方面： 对于不会代码的人，有 20 分钟上手的教程，包括通过 OpenAI 的 API 生成文章缩略信息的代码重写及相关操作步骤。同时提醒妥善保管 API Key，OpenAI 的综合文档、API 使用、API Playground、API 案例与答疑的相关网址为：https://platform.openai.com/docs/overview 、https://platform.openai.com/docs/apireference 、https://platform.openai.com/playground 、https://cookbook.openai.com/ 。 工具教程： 开放公测，群友有实测案例。可参考卡兹克的教程介绍：https://mp.weixin.qq.com/s/YGEnIzfYA3xGpT9_qh56RA 以及 zho 总结的官方网站的案例。目前除每日 150 个赠送积分外，还新增积分购买选项，可操作固定种子、步数、运动幅度，交互也很有意思，在生成过程中会有案例标注。 此外，还有几个视频 AIGC 工具：Opusclip 可将长视频剪成短视频，Raskai 能将短视频素材直接翻译至多语种，invideoAI 输入想法后可自动生成脚本和分镜描述进而生成视频再人工二编合成长视频，descript 可对屏幕/播客录制并以 PPT 方式做视频，veed.io 能自动翻译自动字幕，clipchamp 是微软的 AI 版剪映，typeframes 类似 invideoAI 但内容呈现文本主体比重更多，google vids 是一款相关工具。Sora 是 OpenAI 发布的超强视频生成 AI，能通过处理各种视觉数据生成视频，使用视频压缩网络和空间时间补丁统一不同来源数据，并借助文本条件化的 Diffusion 模型生成与文本提示匹配的视觉作品。