协调 · 交流 · 资讯 · 服务

Coordination, Communication, Information and Service
文章
当前位置 :首页 > 会员报道 > 【副理事长单位动态】阿里云推出企业级大模型RAG系统,几次点击即可连接PB级知识库

【副理事长单位动态】阿里云推出企业级大模型RAG系统,几次点击即可连接PB级知识库

来源:阿里云 发布时间:2024-02-02浏览:101
阿里云推出企业级大模型RAG系统,几次点击即可连接PB级知识库

近日,在国际 AI 大数据峰会上,阿里云推出了备受业界关注的企业级大模型检索增强生成(RAG)解决方案,可以给大模型装上“专属知识外挂”,企业仅需几次点击即可连接PB级规模数据,让大模型成为洞悉行业和企业知识的专家,大幅提升回答表现。

“检索增强生成”

简称RAG(Retrieval-augmented Generation),是当下最热门的大模型前沿技术之一。如果将“微调(finetune)”理解成大模型内化吸收知识的过程,那么RAG就相当于给大模型装上了“知识外挂”,基础大模型不用再训练即可随时调用特定领域知识。

阿里云副总裁、计算平台事业部负责人汪军华介绍,通过RAG技术,大语言模型在回答问题时,可以从企业知识库中检索最新的相关信息来生成内容,从而提高回答的准确性、关联性和新鲜度,并解决幻觉问题。同时,RAG技术外挂的私有数据不参与大模型训练,保证了企业的数据安全。


阿里云副总裁、计算平台事业部负责人汪军华

RAG技术显著提升了大模型表现,并减少了企业开发时间,但因涉及数据检索、信息增强、AI生成等过程,工程复杂度很高。阿里云本次推出的一站式企业级大模型检索增强生成RAG解决方案,将极大降低用户自主搭建专属企业RAG的门槛和成本。

阿里云魔搭社区提供近3000个高性能模型,用户可在魔搭上下载基础大模型进行快速开发。同时,阿里云RAG解决方案可调用阿里云上的云产品和向量引擎,用户可快速将基础模型与PB级数据源连接,打造专属的智能问答系统。 

在检索环节,阿里云大数据引擎可提供超低时延、超高并发的海量检索计算,并按需匹配集群资源,节省10%-30%计算成本。

在模型服务环节,PAI-EAS推理平台一站式提供模型部署及推理加速的全链路服务,新发布的serverless计价模式更可将用户使用成本降低50%。 同时,可将非结构化的文本及多模态数据转化为精准矢量数据的向量技术,也是RAG解决方案的关键能力,阿里云通过多项技术提升了RAG检索精度和效率。

汪军华介绍,阿里云RAG解决方案配备了丰富的向量化工具,可自动进行矢量转换和检索。同时,除向量检索外,阿里云还提供全文检索和外部搜索api等多种检索增强方式。 

据了解,RAG技术在开放域回答、对话系统、文本生成、搜索增强、LLM交互式应用等领域应用前景广阔。海外知名消费健康公司赫力昂(Haleon)已与阿里云达成合作,利用阿里云研发的通义千问大模型及RAG技术为中国消费者打造了一款“AI营养师”产品。结合赫力昂内部沉淀的营养知识库,该产品可以准确理解用户提问,并给出个性化的营养建议。 

近一年多来,在“AI驱动”新战略下,阿里云计算产品正面向AI需求升级,让企业和开发者“做AI、用AI,就上阿里云”。阿里云目前已在IaaS+PaaS层形成完善的AI基础设施,通义、百川智能、智谱AI、零一万物、昆仑万维等国内一半大模型公司跑在阿里云上。同时,阿里云作为MaaS理念提出者,打造了丰富的模型服务,魔搭是国内规模最大的AI模型社区,通义千问实现全尺寸、全模态开源。

会员报道

编辑精选