well是什么意思翻译中文
![](https://p0.ssl.img.360kuai.com/t01bc8e3f5c74322bc3.jpg)
智东西(公众号:zhidxcom)
作者 | ZeR0
编辑 | 漠影
大规模中文语言模型,又迎来了新玩家。
近日,微信AI推出百亿级参数规模的自研NLP大规模语言模型WeLM,能在零样本及少样本的情境下完成对话-采访、阅读理解、翻译、改写、续写、多语言阅读理解等NLP(自然语言处理)任务,具备记忆能力、自我纠正和检查能力。
目前,WeLM已部署应用于微信视频号的部分场景中,未来在进一步优化后还将应用于更多微信应用场景。
一、极强知识储备,在14项中文NLP任务中表现超同类WeLM可在零样本及少样本的情境下,完成多类NLP任务。以文本风格转换(改写)为例,尽管用户给出的5个例子和最后需要生成的例子并没有重合的风格转换类型,但WeLM拥有出色的举一反三能力,通过学习少量的文本转换例子,即可达到对任意类型的文本转换。
![](https://p0.ssl.img.360kuai.com/t012e823e47c5cd3647.jpg)
该模型还具有尺寸合理的优势,在与业界同级别的CPM、华为Pangu和百度Ernie3.0的对比测试中,WeLM表现出极强的知识储备。
在14项中文NLP任务上,WeLM的整体表现超出了所有同大小的模型,甚至能够匹配比它大25倍的模型。同时,在强大的中文理解和生成能力外,WeLM还有出色的多语言理解能力,用户的输入可以在跨多语言(中日英)丝滑切换。
![](https://p0.ssl.img.360kuai.com/t01fe978046c13a4125.jpg)
从“微信AI推出のWeLM是一个language model thatいろいろなtaskをperformができる”这句混合中日英三国语言文本的翻译结果来看,WeLM的翻译相较Google翻译更为精准。
在进一步微调后,WeLM可以拥有更好的零样本学习能力,根据场景拥有更好的表现。
二、自回归模型路线,全量数据10TBWeLM的相关技术论文《WeLM: A Well-Read Pre-trained Language Model for Chinese》已发布于论文预印本网站arXiv。
![](https://p0.ssl.img.360kuai.com/t0186880a7e13b96a22.jpg)
论文链接:https://arxiv.org/abs/2209.10372
据介绍,在纯Encoder(Bert)、纯Decoder(GPT) 以及Encoder-Decode(T5) 结构等主流NLP模型路径的选择上,WeLM和GPT3、Google PaLM一样,选择了自回归模型的路线。
同时,考虑到不同的用户对于模型效果和推理延迟会有考量或者取舍(trade-off),微信AI的WeLM训练了1.3B、2.7B以及10B三个版本的模型,满足不同用户的调用需求。
同时,在训练数据上,微信AI团队希望构建一个足够丰富、足够干净、足够公平的数据集,为此研究团队从Common Crawl下载了近两年的中文网页数据,和大量的书籍、新闻。
![](https://p0.ssl.img.360kuai.com/t0106ca4f3ceade19fc.jpg)
为了增强专业能力,微信AI团队还在数据集补充了知识密集的论坛数据和一些学术论文,搜集完成后的全量数据10TB,其中包含了750G的英文数据,并保留了部分日韩文。
随后,通过规则过滤和额外训练的二分类fasttext模型,以及对测评相关数据的去除,数据集最终处理完的数据量为262B tokens。
为了更好的平衡各个数据源的比重,微信AI团队也对数据进行不同比重的采样,最终,整体数据集的Topic分布相比Common Crawl更加平滑。
![](https://p0.ssl.img.360kuai.com/t013549b0e1bc041432.jpg)
为了推动WeLM落地应用,微信AI团队还发布了一个供用户体验的交互式网页PlayGround,并开放了用于访问WeLM的API接口。用户可通过调整配置以实现更贴近的文本生成效果。
![](https://p0.ssl.img.360kuai.com/t01eab6aac70dc2a42a.jpg)
体验申请API接口:https://welm.weixin.qq.com/docs/
除了通过交互式网页PlayGround进行体验外,想开发者也可以通过https://welm.weixin.qq.com/docs/api/填写问卷获得WeLM的API Token并调用相应接口,将WeLM部署在自己的应用上。
未来,微信AI还将针对WeLM进行进一步的微调优化,进一步提升其在新任务上的泛化效果,并吸取更多开发者、用户的意见和建议,将该模型早日打磨成为真正能落地且实用的工具。
","force_purephv":"0","gnid":"93c8d9f04c0d95955","img_data":[{"flag":2,"img":[{"desc":"","height":"340","title":"","url":"https://p0.ssl.img.360kuai.com/t01bc8e3f5c74322bc3.jpg","width":"800"},{"desc":"","height":"1043","title":"","url":"https://p0.ssl.img.360kuai.com/t012e823e47c5cd3647.jpg","width":"800"},{"desc":"","height":"232","title":"","url":"https://p0.ssl.img.360kuai.com/t01fe978046c13a4125.jpg","width":"800"},{"desc":"","height":"505","title":"","url":"https://p0.ssl.img.360kuai.com/t0186880a7e13b96a22.jpg","width":"800"},{"desc":"","height":"230","title":"","url":"https://p0.ssl.img.360kuai.com/t0106ca4f3ceade19fc.jpg","width":"800"},{"desc":"","height":"641","title":"","url":"https://p0.ssl.img.360kuai.com/t013549b0e1bc041432.jpg","width":"800"},{"desc":"","height":"392","title":"","url":"https://p0.ssl.img.360kuai.com/t01eab6aac70dc2a42a.jpg","width":"800"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1665715920000,"pure":"","rawurl":"http://zm.news.so.com/a386439bbcf702f4cacdddf85ba81daa","redirect":0,"rptid":"b982c3e5c93b9e13","s":"t","src":"智东西","tag":[{"clk":"ktechnology_1:nlp","k":"nlp","u":""}],"title":"AI大模型落地微信视频号!少样本搞定高质量翻译,擅长多语言理解
屈枫诚2069外国电影里经常有人说well well是什么意思? -
钟汪项15841096582 ______ 电影中“well well”多是感叹词“哟”“好吧”“哇”等,没有其他意思,单纯感叹词. “well”各种用法 1、well用作副词,意为“很好地、恰当地、充分地、很可能”等.注意:well用作副词时,它一般修饰行为动词. 2、well用作形容词,其...
屈枫诚2069英语翻译怎么办去才能知well的中文意思?还有Well,in canada Iike fall best中的well是什么意思? -
钟汪项15841096582 ______[答案] Well,in Canada like fall best.中的well是“(用以继续原来的话题或引入新的话题)这个;喔;唔”.
屈枫诚2069单词well 在该句中的意思是?
钟汪项15841096582 ______ 液体,比如水,会在将近达到沸点的时候开始变成气体. well 再句子里是很接近的意思
屈枫诚2069well的中文意思是什么
钟汪项15841096582 ______ 源泉
屈枫诚2069别人问你well是什么意思? -
钟汪项15841096582 ______ adv.好; 很; 好意地; 高高兴兴地; adj.健康的; 井的; 良好的; 恰当的
屈枫诚2069well是什么意思
钟汪项15841096582 ______ ,[1]英音:[wel]、美音:[wɛl] ,形容词:健康的[2]、良好的、适当的,副词:好、满意地、充分地、彻底地、有理地、适当地、夸奖地
屈枫诚2069well什么意思? -
钟汪项15841096582 ______ 是个语气词,好,噢的意思 ————————————————原创回答团成员专用标识——————————————— ©原创回答团成员:四面ぇ楚歌为您解答,希望对您有所帮助,谢谢.
屈枫诚2069well是什么意思?
钟汪项15841096582 ______ 好 的意思
屈枫诚2069Well是什么意思 -
钟汪项15841096582 ______ well1 副词 ad. 1.很好地;满意地;成功地 Do the boys eat well at school? 孩子们在学校吃得好吗? 2.充分地,彻底地 Think well before you act. 请三思而后行. 3.相当地,颇,很 Her son is well past forty. 她儿子已四十好几岁了. 4.适当地,妥善...
屈枫诚2069well是什么意思 -
钟汪项15841096582 ______ well: [ wel ] n. 井,源泉 a. 健康的,良好的,适宜的 ad. 很好地,适当地 词形变化: 形容词比较级:better 最高级:best 副词比较级:better 最高级:best 动词过去式:welled 过去分词:welled 现在分词:welling 第三人称单数:wells 例句与用法...