RAGFlow调用DeepSeek,基石智算让用户轻松突破智能检索、知识管理难题
创始人
2025-04-02 11:02:09

  检索增强生成(RAG)技术正逐渐成为解决数据处理和答案生成难题的关键力量。基石智算CoresHub通过高度标准化的平台与应用集成,持续降低AI创新的技术门槛,支持包括RAGFlow在内的多方平台,灵活调用模型,将大模型与RAG技术相结合,帮助用户实现更智能、更高效的应用开发与部署。

  本文将以智算平台上大模型服务中的DeepSeek-R1为例,向用户介绍如何在RAGFlow中添加并使用平台提供的模型服务。

  RAGFlow是一款基于深度文档理解的开源检索增强生成(Retrieval-Augmented Generation,RAG)引擎。旨在通过深度文档理解技术,解决现有RAG技术在数据处理和生成答案方面的挑战。

  RAGFlow具有如下功能特点:

  深度文档理解。

  可控可解释的文本切片。

  可视化文本处理过程。

  兼容多种异构数据。

  自动化边界的RAG工作流。

  支持多种LLMs和向量模型。

  步骤一:获取API密钥和域名

  1.注册并登录基石智算(coreshub.cn)。

  2.在顶部导航栏,选择产品与服务>大模型服务>大模型服务平台。

  3.进入大模型服务管理页面,在左侧导航栏中选择API密钥管理,创建并获取API密钥。

  说明:

  若平台内无可用的API密钥,用户可参考

  http://docs.coreshub.cn/console/big_model_server/api_key/create_api_key创建和获取新的API密钥。

  若平台内已有可用的API密钥,用户可直接将鼠标悬停在指定密钥上,点击API密钥右侧的复制按钮,即可获取完整的API密钥。

  4.用户可在左侧导航栏选择在线推理服务,点击目标模型卡片页中的API文档,查看预置模型API服务接口路径,即为模型的API域名。

  说明:当前平台上的预置模型的API域名为https://openapi.coreshub.cn/v1,用户可直接 使用无需修改。

  步骤二:配置模型服务

  1.访问RAGFlow系统地址,输入账号密码后登录。

  前提:请确保已经安装RAGFlow。

  2.点击右上角用户头像,在左侧导航栏选择模型供应商,并点击OpenAI-API-Compatible。

  3.在弹出的添加LLM窗口中,配置各项参数,点击确定即可。

  模型类型:根据待添加的模型,选择相应的类型。若添加DeepSeek-R1模型则选择chat,若添加基石智算平台上的bce-embedding-base_v1模型则选择embedding。

  模型名称:填写待添加模型的名称即可,若需使用平台内其他模型,用户仅需在智算平台的在线推理服务页面,复制得到相应模型名称即可。

  基础url:直接填写https://openapi.coreshub.cn/v1即可。

  API-Key:用户在获取API密钥中复制得到的完整API密钥,需根据实际情况进行修改。

  最大token数:根据所选择模型支持的最大数量填写。

  其他参数,根据实际情况设置或保持默认即可。

  步骤三:创建知识库

  1.在顶部导航栏中,选择知识库页签,点击创建知识库,在弹出提示窗口中,输入名称,点击确定即可。

  2.进入知识库配置页面,设置各项参数,点击确定。

  知识库名称:用户自定义。

  文档语言:本实践中选择中文。

  嵌入模型:选择前文也成功添加的embedding类型的模型。

  解析方法:根据实际需要选择相应的解析方法即可。

  其他参数,根据实际情况进行设置或保持默认即可。

  3.在新建的知识库页面,点击左侧导航栏中的数据集,点击右侧新增文件,在弹出的上传文件窗口中,选择本地文件,点击确定。

  4.等待文档上传完成,点击目标文件所在行的开始按钮,进行解析。

  5.待解析成功后,用户即可查看分片情况。

  步骤四:构建应用

  1.在顶部导航栏选择聊天页签,并点击新建助理。

  2.在聊天配置页签中,完成助理设置各项参数的配置,点击确定。

  助理姓名:用户自定义。

  设置开场白:用于设置聊天助理回复问题时的首句话,用户自定义。

  知识库:选择前文新建的知识库即可。

  其他参数,用户根据实际情况进行修改或保持默认即可。

  3.进入提示引擎设置页签,配置更多信息,此配置为可选项,用户可根据实际情况进行修改或保持默认,配置完成后,点击确定。

  4.进入模型设置页签,模型参数选择前文中添加的大语言模型,其他参数根据实际情况修改或保持默认,点击确定。

  5.返回聊天页面,选择新建的聊天助理,点击+ ,发起新的聊天窗口,即可进行对话。

相关内容

热门资讯

游客大年初四云南大理订酒店订到... 2月21日,有游客发帖称,自己在云南大理预订到了“特殊住处”——云南省滇西中心医院住宿中心。该网帖迅...
年俗丨正月初六 · 送穷 今天是大年初六传统习俗里家中要把节日积存的垃圾扔出去谓之送穷为什么要送穷?民间相传,穷鬼本是上古帝王...
24日将迎年度最大上弦月   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! (来源:网易科技)2...
曹操为什么死都没有称帝 没有称... 历史上出现了很多的名人轶事,也有很多的汉奸走狗,今天小编要和你了解一下三国时期的一位重要人物,三国里...
港珠澳大桥春节假期车流量连创新... 中新网广州2月22日电 (记者 蔡敏婕)广东省交通运输厅22日发布消息称,港珠澳大桥21日双向车流量...