想象一下:你有一张朋友的照片和一段他录的语音,想让这张照片"活过来"——嘴巴跟着语音动,表情自然,像真人说话一样。以前需要专业动画师花好几天,现在 LongCat-Video-Avatar 1.5 只要约 1 分钟。

一、这是什么?

一句话说明:美团开源的数字人视频生成模型,上传照片 + 音频,自动生成对口型说话视频。

项目信息

开发团队:美团 LongCat 团队 | 协议:MIT License(商用友好)

参数量:13.6B(基础模型) | 发布:2026年5月21日

GitHub:github.com/meituan-longcat/LongCat-Video

它不是什么:不是实时视频通话工具(生成视频文件,不是直播);不是纯换脸工具(重点是口型同步和身体动作);不是一键 SaaS 产品(需要本地部署)。

二、为什么需要它?

传统方式用 LongCat 1.5
动画师逐帧调整口型 → 3-5天上传照片+音频 → 约1分钟
专业录音棚+绿幕 → 数万元一张照片+一段音频 → 几乎零成本
每换一人就要重新拍摄换张照片就行,10秒搞定
长视频抖动、跳帧、身份漂移8步蒸馏推理,长视频稳定性 SOTA

核心价值:把数字人视频制作从"专业工作室级别"降到了"一台GPU就能跑"的门槛。

三、核心能力详解

3.1 唇形同步——口型跟着语音动

是什么:模型听懂音频的每个音素,让人物嘴巴精准匹配发音节奏。

为什么重要:唇形同步是数字人最核心的能力——嘴巴对不上声音,观众立刻觉得假。

怎么做到的:音频编码器从 Wav2Vec2 升级为 Whisper-large-v3,能捕捉音素变化、发音节奏和韵律。

效果:唇形同步问题率仅 29.8%,低于所有对比模型(HeyGen、Kling、OmniHuman)。

3.2 全身协调——不止嘴动,整个人都在动

是什么:面部表情、头部姿态、肩颈和肢体动作跟着语音自然协同。

为什么重要:真人说话不是只有嘴动——眉毛微抬、点头、手势都跟着来。只有嘴动的数字人一眼就假。

效果:面部-身体同步问题率仅 5.1%,行业最优。

3.3 多人互动——自动区分说话者和聆听者

是什么:多人场景中,说话者嘴巴跟着音频动,聆听者保持安静微表情。

效果:多人场景得分 2.730,大幅领先 InfiniteTalk(2.339)。

3.4 长视频稳定性——几分钟视频不跳帧、不变色

效果:跳帧问题率仅 0.8%,所有对比模型中最低。

3.5 8步蒸馏推理——1分钟出片

是什么:用 DMD 蒸馏,把 50 步推理压缩到 8 步。效率提升约 15 倍。

3.6 多类主体——真人、动漫、动物都能做

不局限于真人数字人,动漫角色、虚拟偶像、动物都能生成说话视频。

四、安装与部署

方式一:HuggingFace Spaces(最简单)

访问 在线 Demo,上传照片+音频,在线生成并下载视频。

方式二:本地部署(推荐开发者)

前提条件
  • GPU:多卡高显存(建议 A100 80G 或多张GPU)
  • CUDA:12.4+ | Python:3.10
  • 第 1 步

    克隆仓库:git clone --single-branch --branch main https://github.com/meituan-longcat/LongCat-Video

  • 第 2 步

    创建环境:conda create -n longcat-video python=3.10 && conda activate longcat-video

  • 第 3 步

    安装 PyTorch 2.6.0+cu124

  • 第 4 步

    安装 FlashAttention-2:pip install flash_attn==2.7.4.post1

  • 第 5 步

    安装依赖:pip install -r requirements.txt

  • 第 6 步

    下载模型权重(约 27GB)

  • 五、使用全流程

    5.1 最简单的用法

    torchrun --nproc_per_node=2 \ run_demo_avatar_single_audio_to_video.py \ --checkpoint_dir=./weights/LongCat-Video-Avatar-1.5 \ --stage_1=ai2v --use_distill --model_type avatar-v1.5

    5.2 多人对话场景

    run_demo_avatar_multi_audio_to_video.py,自动区分说话者/聆听者。

    5.3 长视频生成(视频续写)

    加参数 --num_segments=5 即可生成数分钟长视频。

    六、竞品对比

    指标LongCat 1.5HeyGenKling 2.0
    单人得分3.336 ⭐较低较低
    唇同步问题率29.8% ⭐更高更高
    跳帧问题率0.8% ⭐更高更高
    开源✅ MIT

    结论:开源模型里最强,v1.5 胜率 vs Kling 65.9%,vs OmniHuman 61.1%,vs HeyGen 54.3%。

    七、适用 vs 不适用场景

    ✅ 适用❌ 不适用
    电商直播数字人(真人/动漫主播)实时视频通话/直播(延迟太高)
    教学演示视频(虚拟讲师)高精度面部微表情捕捉(如电影级)
    产品介绍视频(虚拟导购)需要精确手势操控(手部仍有23%变形率)
    新闻播报数字人超高分辨率(4K+)输出

    八、注意事项 + FAQ

    ⚠️ 合规边界:数字人技术可用于影视特效、虚拟主播、教学演示等合法用途。禁止用于冒充真人、虚假信息传播、欺诈等违法行为。

    FAQ

    Q:没有高显存GPU怎么办?
    A:用 HuggingFace Spaces 在线Demo,不需要本地GPU。

    Q:能生成实时直播吗?
    A:不能,目前是离线生成视频文件。

    Q:MIT协议能商用吗?
    A:可以,商用友好,但需注意合规边界。

    九、版本演进

    版本时间核心变化
    LongCat-Video2025.10基础模型(T2V/I2V/续写),13.6B参数
    LongCat-Video-Avatar2025.12数字人专用(Wav2Vec2音频编码器)
    LongCat-Video-Avatar 1.52026.05Whisper-large-v3 + DMD蒸馏8步 + 多人互动

    十、关键链接

    一句话总结:LongCat-Video-Avatar 1.5 是美团开源的商业级数字人模型——一张照片+一段音频,1分钟生成对口型说话视频,MIT协议可商用。

    返回技艺录