Visual Autoregressive Modeling (VAR) redefines the autoregressive learning on images as coarse-to-fine "next-scale prediction" or "next-resolution prediction", diverging from the standard raster-scan "next-token prediction".

2024年4月3日 · We present Visual AutoRegressive modeling (VAR), a new generation paradigm that redefines the autoregressive learning on images as coarse-to-fine "next-scale prediction" or "next-resolution prediction", diverging from the standard raster-scan "next-token prediction".

2024年4月4日 · 视觉自回归建模(VAR)：一种新视觉生成方法，大幅提升了自回归 (AR) 的效果（FID降低10倍、推理速度提升20倍），首次使GPT风格的自回归视觉生成模型超越Diffusion， 并在生成式任务中展现出卓越的零样本任务泛化能…

2024年4月15日 · 一些研究人员将通用人工智能称为强AI（strong AI）或者完全AI（full AI），或称机器具有执行通用智能行为（general intelligent action）的能力。 与弱AI（weak AI）相比，强AI可以尝试执行全方位的人类认知能力。

2024年12月4日 · 一是由北京大学、字节跳动研究者共同完成的《Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction》（视觉自回归建模：通过 Next-Scale 预测生成可扩展图像），论文一作为田柯宇（此前因涉攻击内部大模型，被字节起诉）。 参见机器之心报道《GPT 超越扩散、视觉生成 Scaling Law 时刻！ 北大 & 字节提出 VAR 范式》。 机器之心获悉，从 2023 年开始，字节商业化技术团队就在研究图像生成的自回归模型，一直将 VAR 作 …

2024年12月5日 · var模型的成功不仅是技术上的突破，更是一种范式转变。 它让我们看到，大语言模型的成功经验可以移植到视觉领域，从而激发出更强大的多模态 ...

2024年8月2日 · In this paper, we introduce VAR-CLIP, a novel text-to-image model that integrates Visual Auto-Regressive techniques with the capabilities of CLIP. The VAR-CLIP framework encodes captions into text embeddings, which are then utilized as …

前言 来自北京大学和字节跳动的研究团队，提出了一种名为"Visual AutoRegressive (VAR) Modeling"的全新视觉生成范式。 VAR 重新定义了图像的自回归学习过程，从而使得GPT风格的自回归模型首次超越扩散模型…

2024年4月18日 · 本文提出了一种名为视觉自回归（VAR）建模的新范式，它通过将图像的自回归学习重新定义为“下一尺度预测”。VAR模型采用多尺度VQ-VAE来编码图像，并利用自回归Transformer来学习图像的分布。

2024年12月12日 · VAR模型缩放定律和零样本泛化潜力的经验验证，它最初模拟了大型语言模型 (LLM) 的吸引人的特性。 视觉自回归模型性能的突破， 首次使GPT风格的自回归方法在图像合成方面超过了强扩散模型。 一个全面的开源代码套件， 包括VQ标记器和自回归模型训练管道，以帮助推动视觉自回归学习的发展。 缩放定律和零样本泛化是人工智能的两个重要发现：标度律揭示了模型性能可以随着规模持续提升，而零样本泛化则意味着模型可以处理未被明确训练的任务。 …