首页 >>  正文

ai旋转工具怎么找出来

来源:baiyundou.net   日期:2024-09-01

羿阁 发自 凹非寺

量子位 | 公众号 QbitAI

你有没有看过油管很火的外国小姐姐模仿游戏NPC视频?

△来自YouTube@Loczniki official

这僵硬的姿势、空洞的眼神、面瘫的表情,让游戏玩家们直呼DNA动了!

如果你也苦于此很久了,现在,网易的一项新技术将轻松改变这一局面:

只需一段语音,AI就能自动生成3D对话动作,效果甚至超越真人

不仅能按角色的性别、说话的习惯和姿态,合成不同风格的动作,还可自由替换或指定待定动作。

△左图为男性,右图是女性

目前,该技术已在语音合成手势动作领域的权威赛事GENEA 2022上斩获第一,并被ICMI 2022收录。

效果超越真人的新技术

在此之前,业界最常用的语音合成对话动作技术是StyleGestures。

该技术由美国艺电(Electronic Arts)推出,曾在2年前的第一届GENEA 2020中取得第一。

但与真实动捕数据相比,StyleGestures合成的动作仍有明显的机械感,且缺少可控性,不同的语音合成效果很随机,有种碰运气的感觉。

为了解决这两个问题,网易的新技术分为离线的数据库构建和在线的语音驱动动作合成两个模块进行。

数据库构建

GENEA 2022主办方发布的18小时数据集中,包括不同说话人的语音、文本和对应的全身动作。

由于没有经过人工的清洗和处理,导致动作数据中有很大一部分的动作质量较差。

因此,研究人员需要先对此进行预处理:舍弃动作质量较差的数据、完善不带手指旋转信息的动作、再通过左右对称的方式生成更多的数据集。

其次,根据说话文本单词之间的时间间隔,将连续的文本切分为短片段

并且针对时长小于1s的连续动作进行合并,对左右半身的动作进行镜像扩充,最终得到约6000个全身动作片段,以及时长范围从1s的短句到超过10s的长句。

接下来是对动作节奏和语音节奏进行自动标注

动作方面,说话人每做出一个变化的手势,就对应于一个节奏变化的时间点,简单来说就是特定单词重音时需要手势进行一次变化,即手势有一个明显的速度变化的过程。

因此通过计算双手速度的极小值,把每个极小值的时间点作为节奏的时间点,最后每个动作片段的节奏可以表示为长度为32位的0-1向量,1表示手势动作变化的时间点。

语音方面,根据语音对应文本中的每个单词时间点信息,同样可以得到语音对应的节奏。

如下图所示, 每个语音片段的节奏可以表示为长度为32位的0-1向量,1表示单词出现的时间点。

最后,在对每个动作片段建立动作节奏后, 还需要建立动作图

动作图是一个有向图,图中的每个节点表示一个动作片段,两个节点之间的连边则表示这两个动作之间过渡的代价。

过渡代价越小,也就意味着两个动作之间的过渡越自然,这一步可以帮助将离散的动作片段合并为长的平滑过渡的全身动作序列。

语音驱动动作合成

在离线建立动作库之后, 就可以输入任意一段语音和对应的文本进行在线合成。

在对语音和文本进行算法自动切分后,利用训练后的StyleGestures这一概率生成式的神经网络模型,生成期望的动作。

其中,上半身的动作最为重要,研究人员利用动态规划算法,从构建的动作图中搜索动作节奏和动作风格嵌入匹配误差最小的动作序列,同时保证前后动作的过渡代价小、过渡自然,最后输出一个节奏匹配的上半身动作序列。

下半身动作的合成则不用考虑节奏,只考虑下半身动作之间过渡的自然性即可,同样经过图优化得到一个下半身动作序列。

最后,采用混合的方式融合上下半身动作,就得到了和语音文本匹配的全身动作序列。

与其他参赛系统相比,网易的新方法在在人类相似性评估中取得了最高的中位数分数,甚至超越了真实人类水平。

在适当性评价中,该方法在上半身表现中排名第一,在全身表现中排名第二。

研究团队

研究团队来自网易互娱AI Lab,作者共三人。

研究人员指出,这项新技术不仅可用于游戏中,虚拟角色线上演讲、数字人动作动画合成、元宇宙形象等等场景也都能使用。

论文链接附在文末,感兴趣的小伙伴可以自取~

论文链接:

https://dl.acm.org/doi/pdf/10.1145/3536221.3558063

— 完 —

量子位 QbitAI · 头条号签约

","force_purephv":"0","gnid":"976198fae0d0b4f6d","img_data":[{"flag":2,"img":[{"desc":"","height":"499","s_url":"https://p0.ssl.img.360kuai.com/t01b5aa012e1c6a2464_1.gif","title":"","url":"https://p0.ssl.img.360kuai.com/t01b5aa012e1c6a2464.gif","width":"300"},{"desc":"","height":"370","s_url":"https://p0.ssl.img.360kuai.com/t01416113ceb095bd12_1.gif","title":"","url":"https://p0.ssl.img.360kuai.com/t01416113ceb095bd12.gif","width":"1079"},{"desc":"","height":"555","title":"","url":"https://p0.ssl.img.360kuai.com/t01890a85665c62179f.jpg","width":"1080"},{"desc":"","height":"470","title":"","url":"https://p0.ssl.img.360kuai.com/t01af8e154e9c2a4ca0.jpg","width":"948"},{"desc":"","height":"406","title":"","url":"https://p0.ssl.img.360kuai.com/t01c1e229f8cee7c576.jpg","width":"934"},{"desc":"","height":"843","title":"","url":"https://p0.ssl.img.360kuai.com/t01f912724a08cd8391.jpg","width":"1080"},{"desc":"","height":"224","title":"","url":"https://p0.ssl.img.360kuai.com/t01e7a9dd96f16e1a52.jpg","width":"1080"},{"desc":"","height":"878","title":"","url":"https://p0.ssl.img.360kuai.com/t01fdd73e9107aeb3f2.jpg","width":"972"},{"desc":"","height":"178","title":"","url":"https://p0.ssl.img.360kuai.com/t016c5a7b42636764a1.jpg","width":"1080"}]}],"original":0,"pat":"art_src_3,sexamb,fts0,sts0","powerby":"hbase","pub_time":1668752700000,"pure":"","rawurl":"http://zm.news.so.com/e3c40ebb5e32354063ebc1caa6746bbc","redirect":0,"rptid":"1acbdf3b6ea73d9b","s":"t","src":"量子位","tag":[{"clk":"ktechnology_1:小姐姐","k":"小姐姐","u":""},{"clk":"ktechnology_1:网易","k":"网易","u":""}],"title":"游戏NPC不再是站桩工具人,AI凭对话内容生成3D动作,比真人更像

穆振齐1512AI中如何打开一个工具的对话框 -
汪庾残18463946145 ______ 工具箱里的的对话框基本上除了缩放工具、旋转工具和渐变工具以外其他工具的基本上不支援物件修改的功能.如果您只是想要修改物件的大小的话,只需用黑色指标点选该物件,这物件的四周就...

穆振齐1512求在AI里面怎么把三角形绕其顶点旋转 -
汪庾残18463946145 ______ 点击选择旋转工具,按住alt选择中心点(可任意)点下后弹出对话框,输入旋转角度即可,可旋转复制或旋转;重复旋转就按ctrl+D.

穆振齐1512AI里怎样能镜像翻转,像CDR用起来就很方便,但是AI里我是新手还没找到,请指教. -
汪庾残18463946145 ______ 选要镜像的东东,右击变换——对称就可以了

穆振齐1512ai右侧工具栏没有了怎么显示出来、画红圈那些 -
汪庾残18463946145 ______ 菜单--窗口--点击下“图层”、“外观”、“色板”等选项卡,可右击将其折叠.

穆振齐1512AI 使用旋转工具 中心点移动问题 -
汪庾残18463946145 ______ 1、电脑打开AI,然后画一个矩形并选中. 2、选中矩形后,点击左侧工具栏中的旋转工具. 3、点击旋转工具后,就可以把矩形的中心点移动到别的地方了. 4、按住Alt键,然后点击中心点,就可以出现旋转窗口,输入角度点击确定. 5、确定旋转角度后,矩形就旋转好了.

穆振齐1512Ai快捷键 -
汪庾残18463946145 ______ 其实这个去网上搜索下就很多,按自己的习惯也可以自己设定快捷键,下面是AI 快捷键 AI 快捷键大全 工具箱(多种工具共用一个快捷键的可同时按【Shift】加此快捷键选取,当按下【CapsLock】键时,可直接用此快捷键切换) 移动工具 【V...

穆振齐1512AI中的旋转工具问题 -
汪庾残18463946145 ______ 你没填充图案,所以不能选.画个矩形,填充一种图案.从色板面板中选择一种图案,如没有图案,载入自带的图案库.这时,【对象】【图案】就可以用了.选择图案,就是图案旋转.

穆振齐1512AI里怎么旋转画布?并把辅助线也旋转过来? -
汪庾残18463946145 ______ 旋转画布?AI中没有“旋转”画布这种说法,只有调整画布方向. 如果是CS5之前的版本,可以在打开文件后,菜单“文件/文档设置”里直接选择画布位“横向”和“竖向”;如果是CS5版本,在菜单“文件/文档设置/编辑画板”或者直接使用工具箱“画板”工具,就可以调整画布的方向. 至于参考线的旋转,如果是从标尺里拖出的参考线,选中那根参考线,那么可以用工具箱“旋转工具”来旋转.如果是自己转换的参考线,也可以先释放回路径,一般旋转后再转为参考线. 参考线没办法随同画布一起旋转方向.

穆振齐1512我想要旋转怎样移动AI中的路径心点 -
汪庾残18463946145 ______ 先要把中心点定位,选中路径,点击旋转工具时就能看到路径上有个小星形,把它移动到中心点的位置上,回车,输入旋转角度

穆振齐1512AI里面想要旋转,但是旋转的中心不是我想要的,如何调整旋转中心? -
汪庾残18463946145 ______ 在点击旋转工具R后,直接点击你要做为中心点的地方,再进行旋转

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024