“O”:视频输出。2023年，我们看到了文字到视频合成的浪潮:WALT（谷歌）、EmuVideo(Meta)、Align Your Latents(英伟达)、Pika等等，数不胜数。然而，大多数生成的片段仍然很短。我将它们视为AI视频的“系统1”——“无意识”的局部像素运动。
DeWave使用了事件标记来将脑电波分割成单词级别的特征，这可能导致在没有标记的情况下无法准确地对脑电波进行分割和翻译。
但仅仅七年后，很多事情都发生了变化。
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。
部分规范打标案例：