首页 >>  正文

向量的基本定义

来源:baiyundou.net   日期:2024-09-24

智东西

作者 | ZeR0

编辑 | 漠影

智东西7月4日报道,今日下午,腾讯云发布AI原生(AI Native)向量数据库Tencent Cloud VectorDB。该数据库能够被广泛应用于大模型的训练、推理和知识库补充等场景,是国内首个从接入层、计算层、到存储层提供全生命周期AI化的向量数据库,将于8月正式登陆腾讯云。

向量数据库专门用于存储和查询向量数据。如果把大模型比作人的大脑,那么向量数据库就如同海马体,能够为大模型提供长期记忆。向量数据库可以突破时间和空间上的限制,助力企业广泛挖掘数据价值。据悉,腾讯云向量数据库最高支持10亿级向量检索规模,延迟控制在毫秒级,相比传统单机插件式数据库检索规模提升10倍,同时具备百万级每秒查询(QPS)的峰值能力。

一、腾讯云定义AI原生向量数据库,加速企业在大模型时代的AI化进程

腾讯云数据库副总经理罗云谈道,向量数据库是企业数据和大模型之间的桥梁,能够弥补大模型在时间和空间上的限制。

向量数据库能够解决大模型预训练成本高、没有“长期记忆”、知识更新不足、提示词工程复杂等问题,加速大模型落地行业场景。

企业拿到非结构化数据后,通过神经网络进行向量化,进而存储到向量数据库中,进行存储和查询,这样可以极大地提升效率和降低成本。

罗云认为,AI原生时代已经到来,“向量数据库+大模型+数据”,三者将产生“飞轮效应”,共同助力企业步入AI原生时代。

在AI原生时代,数据的使用范式如下图所示,比如处理大段PDF文件,会先经过文本分割,把文字分解成小段文字,然后计算层会将这些文字通过向量化(embedding)算法变成浮点数数组,再调用向量数据接口,将数据存放到存储层数据库。

用自然语言提出问题后,应用开发者后台会计算“问题”向量,进行基于向量的知识检索,找到最相关的20个片段,整理后推给一个大模型,让大模型帮它得出最终的答案。可以看到,客户的数据加工流程非常复杂,要解决分段、embedding、二次embedding等问题。

对此,腾讯云重新定义了AI原生的开发范式,提供了接入层、计算层、存储层的全面AI化解决方案,让用户在使用向量数据库的全生命周期都能应用到AI能力。

在接入层,腾讯云向量数据库支持自然语言文本的输入,同时采用“标量+向量”的查询方式,支持全内存索引,最高支持每秒百万的查询量(QPS)。

计算层在数据库内部提供分割、embedding、精排、聚合等AI计算的算子,简化客户使用数据的成本。AI原生开发范式可实现全量数据AI计算,一站式解决企业在搭建私域知识库时的文本切分、embedding等难题。

在存储层,腾讯云向量数据库支持数据智能存储分布,助力企业存储成本降低50%。腾讯云内部按照AI方式进行预训练,产生一些数据和算法,能够更好帮助客户动态构建索引。

腾讯云向量数据库有助于加速企业在大模型时代的AI化进程。

统计显示,将腾讯云向量数据库用于大模型预训练数据的分类、去重和清洗相比传统方式,可以实现10倍效率的提升。如果将向量数据库作为外部知识库用于模型推理,则可以将成本降低2-4个数量级。企业原先接入一个大模型需要花1个月左右时间,使用腾讯云向量数据库后,3天时间即可完成,极大降低了企业的接入成本。

二、多年存储引擎和AI算法积淀,助力数据接入效率提升10倍

上述成绩源自腾讯云多年积累的存储引擎和AI算法。此前腾讯云向量数据库的向量化能力曾多次获得权威机构认可,2021年曾登顶MS MARCO榜单第一、相关成果已发表于NLP顶会ACL。

腾讯云向量数据库基于腾讯集团每日处理千亿次检索的分布式向量数据库引擎Olama。该引擎已经广泛应用于大语言模型、推荐搜索广告系统、音视频和图片审核以及去重等领域。

Olama从2019年开始在PCG业务团队技术孵化,如今已面向腾讯全部业务,覆盖腾讯6个BG、接入腾讯视频、QQ浏览器、QQ音乐等30多款国民级产品,日均搜索请求超千亿,调用成功率达100%,搜索成功率达99.995%。

当前Olama能够支持的单索引行数达到10亿行,单实例QPS达100万,全网P99响应时延小于20ms。经过腾讯内部海量场景的实践,使用腾讯云向量数据库,数据接入AI的效率比传统方案提升10倍,运行稳定性高达99.99%。

腾讯云向量数据库能有效助力产品提升运营效率。使用腾讯云向量数据库后,QQ音乐人均听歌时长提升3.2%、腾讯视频有效曝光人均时长提升1.74%、QQ浏览器成本降低37.9%。

腾讯PCG大数据平台部搜索推荐Senior Tech Lead郑伟分享了腾讯内部应用腾讯云向量数据库的三个案例。

游戏知几是腾讯自研的游戏智能AI产品机玩家互动运营解决方案,应用在超过200款游戏上。它相当于是一个游戏智能客服应用,能够对玩家的个性化问题给出答案。

在游戏领域,可以先把所有游戏问题和答案建成标准问答库,然后通过深度学习技术把问答库变成一个个向量,存储到Olama引擎,当用户输入问题,也把这个问题变成向量,再将该向量存储到Olama引擎的数据库里做检索,检索后就可以得到标准的问题和答案,然后把标准问题做一层排序,将分数最高的问题推荐给用户。

第二个案例是QQ浏览器信息流推荐。这些推荐业务大量使用腾讯云数据库Olama引擎。用户在推荐系统里看到的新闻、视频,以及带推荐的物品推荐池,都输入到大模型层,大模型有三大类(DSSM模型、图数据库、序列模型),通过一个个序列大模型,将带推荐的物品推荐词变成一个个向量,放到Olama引擎里。当用户来到推荐系统,就可以根据用户过去看过哪些新闻和视频,将用户相关行为变成向量,到数据库进行检索,把检索结果合并,推荐出最终感兴趣的新闻和视频。

另一个案例是腾讯视频视频关系中台。Olama引擎能用在视频判重和音频判重。具体做法是把一个个视频库里的视频变成图片帧、音频抽出成音频帧,或者把音频通过转化成文本的方式,通过深度学习技术,变成音频向量和文本向量。当用户输入视频时,就能将视频向量、音频向量、文本向量进行召回聚合,然后输出结果,告诉用户视频的相似关系。

结语:助攻大模型普及,AI原生向量数据库将成企业数据处理标配

在大模型热潮的催化下,向量数据库进入飞速发展期。据东北证券预测,到2030年,全球向量数据库市场规模有望达到500亿美元,国内向量数据库市场规模有望超过600亿人民币。

向量数据库能够帮助企业更高效、便捷地使用大模型,将数据的价值释放到最大。随着大模型的不断发展和普及,AI原生向量数据库将成为企业数据处理的标配。而腾讯云向量数据库希望走在AI原生时代的前排。

","gnid":"96a2ac846a876c383","img_data":[{"flag":2,"img":[{"desc":"","height":"340","title":"","url":"https://p0.ssl.img.360kuai.com/t01e20f8feac78a8f4b.jpg","width":"800"},{"desc":"","height":"450","title":"","url":"https://p0.ssl.img.360kuai.com/t014b1411a4561a6964.jpg","width":"800"},{"desc":"","height":"447","title":"","url":"https://p0.ssl.img.360kuai.com/t01029f732a7bb07366.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t011a16e3272bfc4cbc.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t010c35206617d4cf49.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t0156f76eaa88fbd664.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t01397f8b5c167a2f84.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t011fee29f831eafaf5.jpg","width":"800"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1688461320000,"pure":"","rawurl":"http://zm.news.so.com/401953cdada26e4b4c54f71dc8be1371","redirect":0,"rptid":"8d990def2edd4ae7","rss_ext":[],"s":"t","src":"智东西","tag":[{"clk":"ktechnology_1:腾讯云","k":"腾讯云","u":""}],"title":"腾讯云发布AI原生向量数据库,提供10亿级向量检索能力,已支撑腾讯视频等业务

尉科乔4145向量的概念是什么?
怀罗物15592425290 ______ 既有大小又有方向的量叫向量

尉科乔4145向量的基本概念 -
怀罗物15592425290 ______ 不矛盾,,向量就是有方向的量,他们要相等除了大小相等还要方向相等.大小只是一个数值,没有方向,所以向量不能比较大小.

尉科乔4145向量的是什么意思 -
怀罗物15592425290 ______ 向量 一、定义1、数学中,既有大小又有方向且遵循平行四边形法则的量叫做向量.向量有方向与大小,分为自由向量与固定向量.2、数学中,把只有大小但没有方向的量叫做数量,物理中称为标量.例如距离、质量、密度、温度等.二、向...

尉科乔4145有关向量的基本概念——单位向量(高一) -
怀罗物15592425290 ______ 1.模为1的向量2. a/|a| 3.向量除以它的模

尉科乔4145高中数学必备的重要知识点归纳
怀罗物15592425290 ______ 高中数学学习的知识点比较的多,学生们要学会将知识点归纳并且掌握.下面是小编... 向量的基本概念(1)向量既有大小又有方向的量叫做向量.物理学中又叫做矢量....

尉科乔4145学高中的数学中的向量
怀罗物15592425290 ______ 要有空间想象能力, 再有动手去画图,不要光想,手脑结合, 将三维的向量,转化成一维的去思考, 还有多做题,去归结和总结,一些通法.就可以了.

尉科乔4145如何理解向量的概念与几何表示? -
怀罗物15592425290 ______ 向量的概念...向量由两部分组成,一部分是它的大小,也就是所说的向量的模.一个是它的方向,也就是所说的幅角.如果你善于思考的话,那么我给你出个问题,我现在要用数学符号来表示力这个概念你如果表示.几何表示上,以二维向...

尉科乔4145矢量和向量的定义分别是什么? -
怀罗物15592425290 ______ 矢量的定义:矢量是数学、物理学和工程科学等多个自然科学中的基本概念,指一个同时具有大小和方向的几何对象,因常以箭头符号标示以区别于其它量而得名.直观上,矢量通常被标示为一个带箭头的线段.线段的长度可以表示矢量的大小...

尉科乔4145向量这个概念是怎么来的 -
怀罗物15592425290 ______ 在数学中,向量(也称为欧几里得向量、几何向量、矢量),指具有大小(magnitude)和方向的量.它可以形象化地表示为带箭头的线段.箭头所指:代表向量的方向;线段长度:代表向量的大小.与向量对应的只有大小,没有方向的量叫做...

尉科乔4145平面向量的相关概念 -
怀罗物15592425290 ______ 有向线段:具有方向的线段叫做有向线段,以A为起点,B为终点的有向线段记作或AB;向量的模:有向线段AB的长度叫做向量的模,记作|AB|;零向量:长度等于0的向量叫做零向量,记作或0.(注意粗体格式,实数“0”和向量“0”是有区...

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024