想象一下:你有一张朋友的照片和一段他录的语音,想让这张照片"活过来"——嘴巴跟着语音动,表情自然,像真人说话一样。以前需要专业动画师花好几天,现在 LongCat-Video-Avatar 1.5 只要约 1 分钟。
一、这是什么?
一句话说明:美团开源的数字人视频生成模型,上传照片 + 音频,自动生成对口型说话视频。
开发团队:美团 LongCat 团队 | 协议:MIT License(商用友好)
参数量:13.6B(基础模型) | 发布:2026年5月21日
❌ 它不是什么:不是实时视频通话工具(生成视频文件,不是直播);不是纯换脸工具(重点是口型同步和身体动作);不是一键 SaaS 产品(需要本地部署)。
二、为什么需要它?
| 传统方式 | 用 LongCat 1.5 |
|---|---|
| 动画师逐帧调整口型 → 3-5天 | 上传照片+音频 → 约1分钟 |
| 专业录音棚+绿幕 → 数万元 | 一张照片+一段音频 → 几乎零成本 |
| 每换一人就要重新拍摄 | 换张照片就行,10秒搞定 |
| 长视频抖动、跳帧、身份漂移 | 8步蒸馏推理,长视频稳定性 SOTA |
核心价值:把数字人视频制作从"专业工作室级别"降到了"一台GPU就能跑"的门槛。
三、核心能力详解
3.1 唇形同步——口型跟着语音动
是什么:模型听懂音频的每个音素,让人物嘴巴精准匹配发音节奏。
为什么重要:唇形同步是数字人最核心的能力——嘴巴对不上声音,观众立刻觉得假。
怎么做到的:音频编码器从 Wav2Vec2 升级为 Whisper-large-v3,能捕捉音素变化、发音节奏和韵律。
效果:唇形同步问题率仅 29.8%,低于所有对比模型(HeyGen、Kling、OmniHuman)。
3.2 全身协调——不止嘴动,整个人都在动
是什么:面部表情、头部姿态、肩颈和肢体动作跟着语音自然协同。
为什么重要:真人说话不是只有嘴动——眉毛微抬、点头、手势都跟着来。只有嘴动的数字人一眼就假。
效果:面部-身体同步问题率仅 5.1%,行业最优。
3.3 多人互动——自动区分说话者和聆听者
是什么:多人场景中,说话者嘴巴跟着音频动,聆听者保持安静微表情。
效果:多人场景得分 2.730,大幅领先 InfiniteTalk(2.339)。
3.4 长视频稳定性——几分钟视频不跳帧、不变色
效果:跳帧问题率仅 0.8%,所有对比模型中最低。
3.5 8步蒸馏推理——1分钟出片
是什么:用 DMD 蒸馏,把 50 步推理压缩到 8 步。效率提升约 15 倍。
3.6 多类主体——真人、动漫、动物都能做
不局限于真人数字人,动漫角色、虚拟偶像、动物都能生成说话视频。
四、安装与部署
方式一:HuggingFace Spaces(最简单)
访问 在线 Demo,上传照片+音频,在线生成并下载视频。
方式二:本地部署(推荐开发者)
- GPU:多卡高显存(建议 A100 80G 或多张GPU)
- CUDA:12.4+ | Python:3.10
克隆仓库:git clone --single-branch --branch main https://github.com/meituan-longcat/LongCat-Video
创建环境:conda create -n longcat-video python=3.10 && conda activate longcat-video
安装 PyTorch 2.6.0+cu124
安装 FlashAttention-2:pip install flash_attn==2.7.4.post1
安装依赖:pip install -r requirements.txt
下载模型权重(约 27GB)
五、使用全流程
5.1 最简单的用法
5.2 多人对话场景
用 run_demo_avatar_multi_audio_to_video.py,自动区分说话者/聆听者。
5.3 长视频生成(视频续写)
加参数 --num_segments=5 即可生成数分钟长视频。
六、竞品对比
| 指标 | LongCat 1.5 | HeyGen | Kling 2.0 |
|---|---|---|---|
| 单人得分 | 3.336 ⭐ | 较低 | 较低 |
| 唇同步问题率 | 29.8% ⭐ | 更高 | 更高 |
| 跳帧问题率 | 0.8% ⭐ | 更高 | 更高 |
| 开源 | ✅ MIT | ❌ | ❌ |
结论:开源模型里最强,v1.5 胜率 vs Kling 65.9%,vs OmniHuman 61.1%,vs HeyGen 54.3%。
七、适用 vs 不适用场景
| ✅ 适用 | ❌ 不适用 |
|---|---|
| 电商直播数字人(真人/动漫主播) | 实时视频通话/直播(延迟太高) |
| 教学演示视频(虚拟讲师) | 高精度面部微表情捕捉(如电影级) |
| 产品介绍视频(虚拟导购) | 需要精确手势操控(手部仍有23%变形率) |
| 新闻播报数字人 | 超高分辨率(4K+)输出 |
八、注意事项 + FAQ
⚠️ 合规边界:数字人技术可用于影视特效、虚拟主播、教学演示等合法用途。禁止用于冒充真人、虚假信息传播、欺诈等违法行为。
Q:没有高显存GPU怎么办?
A:用 HuggingFace Spaces 在线Demo,不需要本地GPU。
Q:能生成实时直播吗?
A:不能,目前是离线生成视频文件。
Q:MIT协议能商用吗?
A:可以,商用友好,但需注意合规边界。
九、版本演进
| 版本 | 时间 | 核心变化 |
|---|---|---|
| LongCat-Video | 2025.10 | 基础模型(T2V/I2V/续写),13.6B参数 |
| LongCat-Video-Avatar | 2025.12 | 数字人专用(Wav2Vec2音频编码器) |
| LongCat-Video-Avatar 1.5 | 2026.05 | Whisper-large-v3 + DMD蒸馏8步 + 多人互动 |
十、关键链接
| GitHub | github.com/meituan-longcat/LongCat-Video |
| HuggingFace 模型 | 模型地址 |
| 在线 Demo | HuggingFace Spaces |
| 技术报告 | arxiv.org/abs/2605.26486 |
一句话总结:LongCat-Video-Avatar 1.5 是美团开源的商业级数字人模型——一张照片+一段音频,1分钟生成对口型说话视频,MIT协议可商用。