一句话总结本工作提出 AR-Omni一个基于纯自回归Autoregressive的统一多模态大模型仅用 单一 Transformer 解码器 单一 token 流 单一 next-token 目标即可同时实现文本、图像与语音的任意模态输入输出Any-to-Any生成无需 diffusion 或专家解码器实现真正端到端统一建模 。 背景问题当前多模态大模型Omni-MLLM虽逐步支持“看、听、说、画”但大多仍依赖 外接扩散模型 / 语音解码器 / 专家模块1️⃣ 训练与推理流程割裂难以统一优化2️⃣ 多模型拼接带来高延迟与高复杂度3️⃣ 难以实现实时 streaming 语音或轻量部署。而自回归范式在 NLP 中已被验证单 decoder 单 token 流 本身就是最优雅、最可扩展的统一接口。那么问题来了 能不能把这种 “纯 AR” 思路扩展到 文本 图像 语音 方法简介AR-Omni 的核心思想非常干脆把一切都 token 化。• 文本 → SentencePiece tokens• 图像 → VQ 离散视觉 tokens• 语音 → 单码本 acoustic tokens支持低延迟流式生成• 全部拼接成 一个共享词表 一个统一序列• 用 同一个 Transformer decoder 做 next-token prediction从而把所有任务统一成p(xₜ | x₍₍t₎₎)为了解决统一建模带来的新挑战作者提出三点关键设计① 模态不均衡问题Modality imbalance语音 token 数远大于文本容易主导训练→ 提出 Weighted NTP 加权损失对关键输出 token 提升权重② 视觉质量下降问题AR 图像生成易模糊→ 引入 Perceptual Alignment Loss在 token embedding 空间做感知对齐提升结构一致性③ 稳定性 vs 创造力冲突解码策略不统一→ 设计 Finite-State DecodingASR / TTS → greedy开放生成 → sampling实现不同任务的自适应解码策略 。 实验结果在真正统一三模态的前提下AR-Omni 依然取得非常强的性能• Image CaptionCIDEr 56.53纯 AR setting 下显著优于同类• ASRWER 9.4单码本语音 tokenizer• TTSWER 6.5• 首 token 延迟仅 146ms• Real-Time Factor 0.88首次实现实时语音生成• 唯一同时满足Unified I/O Diffusion-free Real-time 的模型更重要的是 一个 7B 模型 同时搞定 T / I / S 三模态生成无需 diffusion、无需专家网络、无需多阶段 pipeline。✨ 一句话点评AR-Omni 用最“朴素”的自回归范式证明真正的多模态统一不是叠加更多模块而是把一切变成 token让一个模型学会所有生成。当 diffusion 和专家解码器逐渐被移除也许 “One Decoder to rule them all” 才是 Omni 模型的终极形态。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
中科大提出 AR-Omni：一个真正的 Any-to-Any 多模态自回归智能体
发布时间：2026/7/25 9:01:28
一句话总结本工作提出 AR-Omni一个基于纯自回归Autoregressive的统一多模态大模型仅用 单一 Transformer 解码器 单一 token 流 单一 next-token 目标即可同时实现文本、图像与语音的任意模态输入输出Any-to-Any生成无需 diffusion 或专家解码器实现真正端到端统一建模 。 背景问题当前多模态大模型Omni-MLLM虽逐步支持“看、听、说、画”但大多仍依赖 外接扩散模型 / 语音解码器 / 专家模块1️⃣ 训练与推理流程割裂难以统一优化2️⃣ 多模型拼接带来高延迟与高复杂度3️⃣ 难以实现实时 streaming 语音或轻量部署。而自回归范式在 NLP 中已被验证单 decoder 单 token 流 本身就是最优雅、最可扩展的统一接口。那么问题来了 能不能把这种 “纯 AR” 思路扩展到 文本 图像 语音 方法简介AR-Omni 的核心思想非常干脆把一切都 token 化。• 文本 → SentencePiece tokens• 图像 → VQ 离散视觉 tokens• 语音 → 单码本 acoustic tokens支持低延迟流式生成• 全部拼接成 一个共享词表 一个统一序列• 用 同一个 Transformer decoder 做 next-token prediction从而把所有任务统一成p(xₜ | x₍₍t₎₎)为了解决统一建模带来的新挑战作者提出三点关键设计① 模态不均衡问题Modality imbalance语音 token 数远大于文本容易主导训练→ 提出 Weighted NTP 加权损失对关键输出 token 提升权重② 视觉质量下降问题AR 图像生成易模糊→ 引入 Perceptual Alignment Loss在 token embedding 空间做感知对齐提升结构一致性③ 稳定性 vs 创造力冲突解码策略不统一→ 设计 Finite-State DecodingASR / TTS → greedy开放生成 → sampling实现不同任务的自适应解码策略 。 实验结果在真正统一三模态的前提下AR-Omni 依然取得非常强的性能• Image CaptionCIDEr 56.53纯 AR setting 下显著优于同类• ASRWER 9.4单码本语音 tokenizer• TTSWER 6.5• 首 token 延迟仅 146ms• Real-Time Factor 0.88首次实现实时语音生成• 唯一同时满足Unified I/O Diffusion-free Real-time 的模型更重要的是 一个 7B 模型 同时搞定 T / I / S 三模态生成无需 diffusion、无需专家网络、无需多阶段 pipeline。✨ 一句话点评AR-Omni 用最“朴素”的自回归范式证明真正的多模态统一不是叠加更多模块而是把一切变成 token让一个模型学会所有生成。当 diffusion 和专家解码器逐渐被移除也许 “One Decoder to rule them all” 才是 Omni 模型的终极形态。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
