据介绍，这是语言模型第一次在标志性的ImageNet基准上击败扩散模型。
而背后的关键组件在于视觉分词器（video tokenizer） ，它能将像素空间输入映射为适合LLM学习的token。
谷歌CMU研究团队提出了MAGVIT-v2，在另外两项任务中超越了之前最优视觉分词器。
大语言模型击败扩散模型
已经形成共识的是，大语言模型在各个生成领域都有出色的表现。比如文本、音频、代码生成等。
但一直以来在视觉生成方面，语言模型却落后于扩散模型。
团队认为，其主要原因在于缺乏一个好的视觉表示，类似于自研语言系统，能有效地对视觉世界进行建模。与自然语言不同，人类会对视觉世界尚未演化出最佳的词汇。而这也限制了大语言模型的视觉生成能力。
基于这样的判断，这篇研究主要完成了三项工作：
提出一种新的视觉tokenizer，在视觉生成、视频压缩以及动作识别都优于此前最优表现。
一种全新无查找（lookup-free）的量化方法，可通过学习大量词汇来提高语言模型的视觉生成质量；
首次有证据表明，在相同训练数据、等效模型大小和类似训练预算的条件下，语言模型在ImageNet上击败扩散模型。
据作者介绍，这也是视觉分词器首次成功地实现了与标准编解码器相媲美的效果。
在原有SOTA视觉tokenizerMAGVIT （Masked Generative Video Transformer）基础上，该方法主要完成了两种设计：无查找量化（Lookup-Free Quantization ，LFQ）以及图像-视频联合tokenizer。
