体验完阿里的EMO模型,我emo了
00 分钟
2024-4-27
2024-5-1
type
status
title
summary
slug
Created
Apr 27, 2024 01:56 PM
category
tags
Date
icon
password

一、唠嗑

近日,阿里宣布通义千问研发的AI模型—EMO模型正式上线通义千问App,并开放给所有用户免费使用。
 
简单来说,EMO(Emote Portrait Alive)是一个AI肖像视频生成系统,能够通过输入单一的参考图像,生成具有一定表现力的面部标签和各种头部姿态。
 
(话说,是不是开发人员搞AI模型太痛苦了,所以才取了这个名字,哈哈😄)
 

二、如何体验

首先是需要先下载通义千问App,但这个功能并没有在界面展示出来,需要手动输入 “EMO” 关键词出发
notion image
 
进入主页面后,可以发现目前主要有两个功能,一是全民舞王,二是全民唱演
notion image
 

三、全民舞王体验

全民舞王利用的是一种AI生成3D骨骼的技术。这种技术能够自动学习3D模型的形状和动作,并根据学习到的模型参数实现动画骨骼控制。
 
简单来说,比如你有这样一个模型
notion image
 
通过这种技术,能够自动给它画上骨架,这样AI就能控制它做一些动作了
notion image
 
目前看得话,全民舞王生成的效果还是比较逼真的,比如看这个真人女孩:
注:本视频来源于通义千问EMO首页视频,侵权删
 
我体验的时候,为了避免侵权,使用的是AI生成的一个全身机器人,最终的效果如下,感觉还是不错的,这是照片:
notion image
 
这是视频:
 

四、全民唱演体验

全民舞王利用的是一种口唇同步的技术,这是一种让画面人物的口型与所配的语音或文字信息精确匹配的技术。这项技术能够使画面人物在说话时,其嘴唇的动作与发出的声音同步,从而在视觉和听觉上为观众提供一种更加自然和逼真的体验。
 
目前在开源界,比较出名的口唇同步框架是 wav2lip,如果是自己部署的话,会比较麻烦,搭环境估计都得折腾个几个小时,很容易在 opencv 的版本上踩坑。
 
wav2lip 支持两种模式,第一种是根据 视频+音频 的方式生成口唇同步的视频,第二种就是根据 图片+音频 的方式生成口唇同步的视频,也就是全民唱演这种方式。
 
从理论上来说,视频+音频 的方式肯定是比图片+音频 的效果要更好,因为他相当于是每一帧画面都进行了口唇调整,所以整体效果肯定更好(需要注意的是,使用wav2lip 需要保证视频里面的每一帧都是人脸)
 
下面看看全民唱演的效果:
 
可以看到,全民唱演的效果目前还不是很理想,还是很容易就看出是AI生成的,因为你可以看到只有嘴巴周围的部位在动,其他地方是几乎没动的。
 

五、潜在的风险

虽然科技能带来进步,但它带来的风险同样不可忽视!
 
第一就是散布虚假信息,因为通过这些技术,可以创建看似真实的视频,但其中的人物或角色说出他们实际上并未说过的话,这可能被用于误导公众、诽谤个人或散布虚假新闻,即所谓的“深度伪造”。
 
第二就是普通人被诈骗的可能性提高,之前在B站看过一个视频,讲述就是一对母女通过微信视频通话,但是与之通话的女儿其实不是真实的,大家感兴趣可以看看
 
第三就是侵犯他人的隐私,比如之前沸沸扬扬的数字人复活”已逝亲人”,特别是有些人在未经允许的情况下“复活”了一些明星,给他们的家人又带来了痛苦。
 
总之,技术是一把双刃剑,希望我们每个人都能利用它好的部分!
 
 
我是AI技术巫,欢迎关注我,掌握第一手AI资讯与技巧!
notion image