苹果联手人大打造AI新突破:无声视频秒变逼真音画同步
创始人
2026-02-10 08:02:56
0

2月9日,科技媒体9to5Mac报道了苹果公司与中国人民大学合作推出的VSSFlow新型AI模型。该模型突破了传统音频生成技术的局限,能够从无声视频中同时生成逼真的环境音效与人类语音,仅需单一系统即可完成。VSSFlow的核心优势在于其“化静为动”的能力,直接处理无声视频数据,并在单一框架下同步生成与画面高度匹配的音效和语音对话。

VSSFlow采用了10层架构设计,并引入“流匹配”技术,使模型能够自主学习从随机噪声中重构出目标声音信号。在训练过程中,研究团队发现联合训练不仅没有导致任务干扰,反而产生了“互助效应”,即语音数据的训练提升了音效生成的质量,而音效数据的加入也优化了语音的表现。为了实现这一效果,团队向模型投喂了混合数据,包括配有环境音的视频、配有字幕的说话视频以及纯文本转语音数据,并利用合成样本微调模型,让其学会同时输出背景音与人声。

VSSFlow在实际运行中,以每秒10帧的频率从视频中提取视觉线索来塑造环境音效,同时依据文本脚本精确引导语音生成。测试数据显示,该模型在多项关键指标上均优于专门针对单一任务设计的竞品模型。目前,研究团队已在GitHub上开源了VSSFlow的代码,并正在推进模型权重公开及在线推理演示的开发工作。

相关内容

热门资讯

北汽极狐阿尔法T7即将预售,华... 8月7日,北汽极狐宣布其新车型阿尔法T7将于8月26日开始预售。这款新车型在6月已经出现在工信部的申...
奇瑞风云A9L新能源车上市,1... 今日,奇瑞风云新能源官方宣布2027款奇瑞风云A9L正式上市,新车限时红包价13.99万元起。奇瑞风...
张朝阳:AI无法取代真人交流,... 8月7日,搜狐创始人张朝阳在接受界面新闻采访时强调,真人互动和真实内容是AI无法替代的。他认为,尽管...
小鹏MONAL03产能翻倍!9... 今日,小鹏汽车MONA系列研发负责人姜文对外透露,MONAL03的锁单用户对交付进度表达了关注。姜文...
零跑A10创纪录:135天量产... 今日,零跑汽车宣布,零跑A10自上市135天以来,第10万台量产车正式下线,创下了零跑品牌十万台下线...
挪威7月汽车销量:小鹏汽车首进... 近日,易车根据挪威官方机构和本土汽车协会的数据,发布了2026年7月挪威汽车市场的销量盘点。在这次的...
千问App升级:智能助理新功能... 今日,千问App宣布推出一系列新功能,包括思考研究、定时任务、办公助理、语音通话和智能体广场等,同时...
中国动力电池巨头宁德时代全球市... 8月7日,据SNE Research最新数据显示,2026年1至6月全球动力电池装车总量达608.5...
鸿蒙智行享界G9预售开启,43... 8月5日,鸿蒙智行首款科技豪华硬派SUV享界G9正式开启预售,预售价区间43.98万至55.98万元...
AI设计新病毒成功!斯坦福团队... 8月7日,美国斯坦福大学研究人员利用人工智能技术在实验室设计出16种新型病毒,这些病毒能够感染细菌,...