腾讯云在线客服
智东西
作者 | ZeR0
编辑 | 漠影
智东西7月4日报道，今日下午，腾讯云发布AI原生（AI Native）向量数据库Tencent Cloud VectorDB。该数据库能够被广泛应用于大模型的训练、推理和知识库补充等场景，是国内首个从接入层、计算层、到存储层提供全生命周期AI化的向量数据库，将于8月正式登陆腾讯云。
向量数据库专门用于存储和查询向量数据。如果把大模型比作人的大脑，那么向量数据库就如同海马体，能够为大模型提供长期记忆。向量数据库可以突破时间和空间上的限制，助力企业广泛挖掘数据价值。据悉，腾讯云向量数据库最高支持10亿级向量检索规模，延迟控制在毫秒级，相比传统单机插件式数据库检索规模提升10倍，同时具备百万级每秒查询（QPS）的峰值能力。
一、腾讯云定义AI原生向量数据库，加速企业在大模型时代的AI化进程腾讯云数据库副总经理罗云谈道，向量数据库是企业数据和大模型之间的桥梁，能够弥补大模型在时间和空间上的限制。
向量数据库能够解决大模型预训练成本高、没有“长期记忆”、知识更新不足、提示词工程复杂等问题，加速大模型落地行业场景。
企业拿到非结构化数据后，通过神经网络进行向量化，进而存储到向量数据库中，进行存储和查询，这样可以极大地提升效率和降低成本。
罗云认为，AI原生时代已经到来，“向量数据库+大模型+数据”，三者将产生“飞轮效应”，共同助力企业步入AI原生时代。
在AI原生时代，数据的使用范式如下图所示，比如处理大段PDF文件，会先经过文本分割，把文字分解成小段文字，然后计算层会将这些文字通过向量化（embedding）算法变成浮点数数组，再调用向量数据接口，将数据存放到存储层数据库。
用自然语言提出问题后，应用开发者后台会计算“问题”向量，进行基于向量的知识检索，找到最相关的20个片段，整理后推给一个大模型，让大模型帮它得出最终的答案。可以看到，客户的数据加工流程非常复杂，要解决分段、embedding、二次embedding等问题。
对此，腾讯云重新定义了AI原生的开发范式，提供了接入层、计算层、存储层的全面AI化解决方案，让用户在使用向量数据库的全生命周期都能应用到AI能力。
在接入层，腾讯云向量数据库支持自然语言文本的输入，同时采用“标量+向量”的查询方式，支持全内存索引，最高支持每秒百万的查询量（QPS）。
计算层在数据库内部提供分割、embedding、精排、聚合等AI计算的算子，简化客户使用数据的成本。AI原生开发范式可实现全量数据AI计算，一站式解决企业在搭建私域知识库时的文本切分、embedding等难题。
在存储层，腾讯云向量数据库支持数据智能存储分布，助力企业存储成本降低50%。腾讯云内部按照AI方式进行预训练，产生一些数据和算法，能够更好帮助客户动态构建索引。
腾讯云向量数据库有助于加速企业在大模型时代的AI化进程。
统计显示，将腾讯云向量数据库用于大模型预训练数据的分类、去重和清洗相比传统方式，可以实现10倍效率的提升。如果将向量数据库作为外部知识库用于模型推理，则可以将成本降低2-4个数量级。企业原先接入一个大模型需要花1个月左右时间，使用腾讯云向量数据库后，3天时间即可完成，极大降低了企业的接入成本。
二、多年存储引擎和AI算法积淀，助力数据接入效率提升10倍上述成绩源自腾讯云多年积累的存储引擎和AI算法。此前腾讯云向量数据库的向量化能力曾多次获得权威机构认可，2021年曾登顶MS MARCO榜单第一、相关成果已发表于NLP顶会ACL。
腾讯云向量数据库基于腾讯集团每日处理千亿次检索的分布式向量数据库引擎Olama。该引擎已经广泛应用于大语言模型、推荐搜索广告系统、音视频和图片审核以及去重等领域。
Olama从2019年开始在PCG业务团队技术孵化，如今已面向腾讯全部业务，覆盖腾讯6个BG、接入腾讯视频、QQ浏览器、QQ音乐等30多款国民级产品，日均搜索请求超千亿，调用成功率达100%，搜索成功率达99.995%。
当前Olama能够支持的单索引行数达到10亿行，单实例QPS达100万，全网P99响应时延小于20ms。经过腾讯内部海量场景的实践，使用腾讯云向量数据库，数据接入AI的效率比传统方案提升10倍，运行稳定性高达99.99%。
腾讯云向量数据库能有效助力产品提升运营效率。使用腾讯云向量数据库后，QQ音乐人均听歌时长提升3.2%、腾讯视频有效曝光人均时长提升1.74%、QQ浏览器成本降低37.9%。
腾讯PCG大数据平台部搜索推荐Senior Tech Lead郑伟分享了腾讯内部应用腾讯云向量数据库的三个案例。
游戏知几是腾讯自研的游戏智能AI产品机玩家互动运营解决方案，应用在超过200款游戏上。它相当于是一个游戏智能客服应用，能够对玩家的个性化问题给出答案。
在游戏领域，可以先把所有游戏问题和答案建成标准问答库，然后通过深度学习技术把问答库变成一个个向量，存储到Olama引擎，当用户输入问题，也把这个问题变成向量，再将该向量存储到Olama引擎的数据库里做检索，检索后就可以得到标准的问题和答案，然后把标准问题做一层排序，将分数最高的问题推荐给用户。
第二个案例是QQ浏览器信息流推荐。这些推荐业务大量使用腾讯云数据库Olama引擎。用户在推荐系统里看到的新闻、视频，以及带推荐的物品推荐池，都输入到大模型层，大模型有三大类（DSSM模型、图数据库、序列模型），通过一个个序列大模型，将带推荐的物品推荐词变成一个个向量，放到Olama引擎里。当用户来到推荐系统，就可以根据用户过去看过哪些新闻和视频，将用户相关行为变成向量，到数据库进行检索，把检索结果合并，推荐出最终感兴趣的新闻和视频。
另一个案例是腾讯视频视频关系中台。Olama引擎能用在视频判重和音频判重。具体做法是把一个个视频库里的视频变成图片帧、音频抽出成音频帧，或者把音频通过转化成文本的方式，通过深度学习技术，变成音频向量和文本向量。当用户输入视频时，就能将视频向量、音频向量、文本向量进行召回聚合，然后输出结果，告诉用户视频的相似关系。
结语：助攻大模型普及，AI原生向量数据库将成企业数据处理标配在大模型热潮的催化下，向量数据库进入飞速发展期。据东北证券预测，到2030年，全球向量数据库市场规模有望达到500亿美元，国内向量数据库市场规模有望超过600亿人民币。
向量数据库能够帮助企业更高效、便捷地使用大模型，将数据的价值释放到最大。随着大模型的不断发展和普及，AI原生向量数据库将成为企业数据处理的标配。而腾讯云向量数据库希望走在AI原生时代的前排。
","gnid":"96a2ac846a876c383","img_data":[{"flag":2,"img":[{"desc":"","height":"340","title":"","url":"https://p0.ssl.img.360kuai.com/t01e20f8feac78a8f4b.jpg","width":"800"},{"desc":"","height":"450","title":"","url":"https://p0.ssl.img.360kuai.com/t014b1411a4561a6964.jpg","width":"800"},{"desc":"","height":"447","title":"","url":"https://p0.ssl.img.360kuai.com/t01029f732a7bb07366.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t011a16e3272bfc4cbc.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t010c35206617d4cf49.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t0156f76eaa88fbd664.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t01397f8b5c167a2f84.jpg","width":"800"},{"desc":"","height":"449","title":"","url":"https://p0.ssl.img.360kuai.com/t011fee29f831eafaf5.jpg","width":"800"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1688461320000,"pure":"","rawurl":"http://zm.news.so.com/401953cdada26e4b4c54f71dc8be1371","redirect":0,"rptid":"8d990def2edd4ae7","rss_ext":[],"s":"t","src":"智东西","tag":[{"clk":"ktechnology_1:腾讯云","k":"腾讯云","u":""}],"title":"腾讯云发布AI原生向量数据库，提供10亿级向量检索能力，已支撑腾讯视频等业务
官勤峡2220腾讯人工在线服务在哪 -
茅怪备18219332418 ______ 建议你打开腾讯客服首页,然后直接点右边在线客服便可. 打开就可以直接点击“人工客服”服务了.
官勤峡2220腾讯客服电话多少啊?怎样才能打通腾讯客服人工服务电话? -
茅怪备18219332418 ______ 腾讯客服电话是零柒伍伍-捌叁柒陆伍伍陆陆,拨打后按提示操作. 分享一次打通腾讯客服人工服务电话的经验: 1、尽量错开高峰时段,也避开非工作时间;高峰时段是在上午9点-11点和下午3-5点. 2、要有足够的耐心.转接人工后,等待3-5分钟是很正常的. 3、如果客服转人工菜单有很多,多尝试几个线路. 以上的分享仅仅是在你实在是要找人工才能解决问题的情况下才建议你试试,毕竟找人工处理问题需要花很多时间.一般情况下,可以考虑在腾讯客服公众号里找答案,会快捷很多.
官勤峡2220怎么联系腾讯客服? -
茅怪备18219332418 ______ 如下可以联系客服的 腾讯在线免费客服:(腾讯官方网,放心打开) http://service.qq.com/cgi-bin/communion 这个是腾讯官方网的在线客服,里面有腾讯的专业工作人员给你解答疑问.一般提交问题后几个小时就有官方的答复~~
官勤峡2220腾讯人工客服热线
茅怪备18219332418 ______ 客服专线: 【0755—365I55II】 (颁奖)【0755—365I55II】总部人工专线 腾讯目前经由其产品服务组合, 向用户提供丰富的网上及线下资源及诸多产品与服务, 包括但不限于各种信息通讯工具、即时通信软件服务、电子邮件、网上论坛、聊天室、线上游戏、 电信增值服务等(以下简称“服务”或“本服务”).本服务条款适用于腾讯提供的各种服务, 但当您使用腾讯某一特定服务时, 如该服务另有单独的服务条款、指引或规则,您应遵守本服务
官勤峡2220腾讯会员官网人工电话是多少? -
茅怪备18219332418 ______ 腾讯会员客服人工电话号码是:0755-83765566.以下是关于腾讯会员客服的详细1. 腾讯会员客服的电话号码是专门为腾讯会员提供的服务热线,用户可以通过拨打该电话号码来咨询和解决与腾讯会员相关的问题.客服人员会提供全天候的服务...
官勤峡2220腾讯人工在线客服
茅怪备18219332418 ______ 没有人工客服的
官勤峡2220腾讯官方客服怎么联系?
茅怪备18219332418 ______ 电话: 86-755-83765566 传真: 86-755-83765566-9 在线帮助: http://service.qq.com/help.html 腾讯客服中心是公司所有业务的主要服务窗口,负责向客户解答相关的业务咨询及受理各种投诉.客服中心致力于不断完善服务运维体系,向广大用...
官勤峡2220腾讯客服电话 -
茅怪备18219332418 ______ 很高兴为您解答!腾讯客服是075583765566和4008812345希望您满意!采纳我的吧!跪求中…
官勤峡2220腾讯官方客服电话是多少
茅怪备18219332418 ______ 0571-8209-7338(疑难解决.活动咨询) 客服专线:0571-8209-7338李经理接听 综合业务客服专线:0571-8209-7338李经理接听 综合业务客服:0571-8209-7338(语音服务) 0571-8209-7338 活动咨询;办理领奖业务 ;疑难解决 综合业务...