站桩视频完整版
羿阁 发自 凹非寺
量子位 | 公众号 QbitAI
你有没有看过油管很火的外国小姐姐模仿游戏NPC视频？
△来自YouTube@Loczniki official
这僵硬的姿势、空洞的眼神、面瘫的表情，让游戏玩家们直呼DNA动了！
如果你也苦于此很久了，现在，网易的一项新技术将轻松改变这一局面：
只需一段语音，AI就能自动生成3D对话动作，效果甚至超越真人！
不仅能按角色的性别、说话的习惯和姿态，合成不同风格的动作，还可自由替换或指定待定动作。
△左图为男性，右图是女性
目前，该技术已在语音合成手势动作领域的权威赛事GENEA 2022上斩获第一，并被ICMI 2022收录。
效果超越真人的新技术
在此之前，业界最常用的语音合成对话动作技术是StyleGestures。
该技术由美国艺电（Electronic Arts）推出，曾在2年前的第一届GENEA 2020中取得第一。
但与真实动捕数据相比，StyleGestures合成的动作仍有明显的机械感，且缺少可控性，不同的语音合成效果很随机，有种碰运气的感觉。
为了解决这两个问题，网易的新技术分为离线的数据库构建和在线的语音驱动动作合成两个模块进行。
数据库构建
GENEA 2022主办方发布的18小时数据集中，包括不同说话人的语音、文本和对应的全身动作。
由于没有经过人工的清洗和处理，导致动作数据中有很大一部分的动作质量较差。
因此，研究人员需要先对此进行预处理：舍弃动作质量较差的数据、完善不带手指旋转信息的动作、再通过左右对称的方式生成更多的数据集。
其次，根据说话文本单词之间的时间间隔，将连续的文本切分为短片段。
并且针对时长小于1s的连续动作进行合并，对左右半身的动作进行镜像扩充，最终得到约6000个全身动作片段，以及时长范围从1s的短句到超过10s的长句。
接下来是对动作节奏和语音节奏进行自动标注。
动作方面，说话人每做出一个变化的手势，就对应于一个节奏变化的时间点，简单来说就是特定单词重音时需要手势进行一次变化，即手势有一个明显的速度变化的过程。
因此通过计算双手速度的极小值，把每个极小值的时间点作为节奏的时间点，最后每个动作片段的节奏可以表示为长度为32位的0-1向量，1表示手势动作变化的时间点。
语音方面，根据语音对应文本中的每个单词时间点信息，同样可以得到语音对应的节奏。
如下图所示， 每个语音片段的节奏可以表示为长度为32位的0-1向量，1表示单词出现的时间点。
最后，在对每个动作片段建立动作节奏后， 还需要建立动作图。
动作图是一个有向图，图中的每个节点表示一个动作片段，两个节点之间的连边则表示这两个动作之间过渡的代价。
过渡代价越小，也就意味着两个动作之间的过渡越自然，这一步可以帮助将离散的动作片段合并为长的平滑过渡的全身动作序列。
语音驱动动作合成
在离线建立动作库之后， 就可以输入任意一段语音和对应的文本进行在线合成。
在对语音和文本进行算法自动切分后，利用训练后的StyleGestures这一概率生成式的神经网络模型，生成期望的动作。
其中，上半身的动作最为重要，研究人员利用动态规划算法，从构建的动作图中搜索动作节奏和动作风格嵌入匹配误差最小的动作序列，同时保证前后动作的过渡代价小、过渡自然，最后输出一个节奏匹配的上半身动作序列。
下半身动作的合成则不用考虑节奏，只考虑下半身动作之间过渡的自然性即可，同样经过图优化得到一个下半身动作序列。
最后，采用混合的方式融合上下半身动作，就得到了和语音文本匹配的全身动作序列。
与其他参赛系统相比，网易的新方法在在人类相似性评估中取得了最高的中位数分数，甚至超越了真实人类水平。
在适当性评价中，该方法在上半身表现中排名第一，在全身表现中排名第二。
研究团队
研究团队来自网易互娱AI Lab，作者共三人。
研究人员指出，这项新技术不仅可用于游戏中，虚拟角色线上演讲、数字人动作动画合成、元宇宙形象等等场景也都能使用。
论文链接附在文末，感兴趣的小伙伴可以自取～
论文链接：https://dl.acm.org/doi/pdf/10.1145/3536221.3558063
— 完 —
量子位 QbitAI · 头条号签约
","force_purephv":"0","gnid":"976198fae0d0b4f6d","img_data":[{"flag":2,"img":[{"desc":"","height":"499","s_url":"https://p0.ssl.img.360kuai.com/t01b5aa012e1c6a2464_1.gif","title":"","url":"https://p0.ssl.img.360kuai.com/t01b5aa012e1c6a2464.gif","width":"300"},{"desc":"","height":"370","s_url":"https://p0.ssl.img.360kuai.com/t01416113ceb095bd12_1.gif","title":"","url":"https://p0.ssl.img.360kuai.com/t01416113ceb095bd12.gif","width":"1079"},{"desc":"","height":"555","title":"","url":"https://p0.ssl.img.360kuai.com/t01890a85665c62179f.jpg","width":"1080"},{"desc":"","height":"470","title":"","url":"https://p0.ssl.img.360kuai.com/t01af8e154e9c2a4ca0.jpg","width":"948"},{"desc":"","height":"406","title":"","url":"https://p0.ssl.img.360kuai.com/t01c1e229f8cee7c576.jpg","width":"934"},{"desc":"","height":"843","title":"","url":"https://p0.ssl.img.360kuai.com/t01f912724a08cd8391.jpg","width":"1080"},{"desc":"","height":"224","title":"","url":"https://p0.ssl.img.360kuai.com/t01e7a9dd96f16e1a52.jpg","width":"1080"},{"desc":"","height":"878","title":"","url":"https://p0.ssl.img.360kuai.com/t01fdd73e9107aeb3f2.jpg","width":"972"},{"desc":"","height":"178","title":"","url":"https://p0.ssl.img.360kuai.com/t016c5a7b42636764a1.jpg","width":"1080"}]}],"original":0,"pat":"art_src_3,sexamb,fts0,sts0","powerby":"cache","pub_time":1668752700000,"pure":"","rawurl":"http://zm.news.so.com/e3c40ebb5e32354063ebc1caa6746bbc","redirect":0,"rptid":"1acbdf3b6ea73d9b","s":"t","src":"量子位","tag":[{"clk":"ktechnology_1:小姐姐","k":"小姐姐","u":""},{"clk":"ktechnology_1:网易","k":"网易","u":""}],"title":"游戏NPC不再是站桩工具人，AI凭对话内容生成3D动作，比真人更像
常韦路835花园宝宝在线观看完整版! -
干南昏19866435950 ______ 花园宝宝在线观看集合: http://www.movie551.info/movie7/091231175.html 在花园宝宝在线观看缓冲的时间里,让我们了解一下【花园宝宝】 花园宝宝内容简介: 《花园宝宝》是一部史上投资最大的学龄前儿童电视节目:高清晰电影胶片实景...
常韦路835《皆月》电影完整版在哪看?
干南昏19866435950 ______ 打开浏览器,搜索关键词“皆月”,在搜索结果中找到皆月电影点击进入,选择BD... 《皆月》电影完整版在哪看?打开浏览器,搜索关键词“皆月”,在搜索结果中找到皆...
常韦路835求夏目友人帐1、2、3季下载(全集) -
干南昏19866435950 ______ http://dmm.hk/cartoon/view_216.htmlhttp://dmm.hk/cartoon/view_230.html 1,2在线观看及下载. 夏目友人帐3 是七月新番,敬请期待.
常韦路835自学太极,自学站桩,都说不可能,到底为什么?!!自学腹式呼吸法还不行么? -
干南昏19866435950 ______ 楼主的心情十分理解.传统武术,如果喜欢,但又找不到老师,当然通过自学来逐步掌握其中一些基本技巧.说自学不可能.是一个很绝对的说法.但自学确实会面临重重难以克服的困难,而导致许多的弯路.这里最大的问题还是学者自身的心...
常韦路835请桩功气功师傅帮忙看看我的站桩现象
干南昏19866435950 ______ 额,不错,呵呵,耳朵堵是精气入脑,耳朵后面有高骨,叫重楼,用意和力提起就好,如果还难受就起来休息一下.头顶和会阴相合,头有轻轻的顶劲.
常韦路835站桩是一直不懂还是要不停的打的啊 -
干南昏19866435950 ______ 汗……这个……桩功分很多很多种啊,有动桩也有静桩,动不动,怎么动,要看你站的什么桩,而且门派不同,站桩的方式也会很所不同的,如果你是一开始练的话,站站养生桩就可以,这个就是不动的,手和脚都不动,手在胸前平举,如环抱...
常韦路835站桩对身体有害处吗? -
干南昏19866435950 ______ 站桩对身体有没害处,关键在于是否站对了. 为什么这么说? 因为很多人一开始练习站桩,都是靠模仿网上照片或视频都练的,基本都是错误的,并没有完全理解站桩的动作要领要求. 如果站错的话,确实是有害处的. 比如说:膝盖疼痛,这是站桩自学者最常见的问题,如果按照错误的方法去练,时间长了,会造成膝关节受损.还有的会造成气上头下不来,胸闷,这些都是很常见的害处. 如果解决自学站桩对身体带来的害处? 建议真的想通过练习站桩来改善体质的,要去找一位自己信得过的站桩老师去学习,因为你正在走的弯路,别人已经走过了,向别人学习可以少走一些弯路,更快实现站桩养生的目的. 如果还有什么问题,欢迎继续提问,祝你身体健康.
常韦路835蓝精灵在线观看电影完整版全集高清蓝精灵 -
干南昏19866435950 ______ 《蓝精灵》在线观看; http://www.tv-51.com/html/1926.html -------------------------------------------------------------------------------- 《蓝精灵》下载地址; http://www.tv-51.com/html/1926.html -------------------------------------------------------------------------------