基于 DeepSeek R1 开发私有化 RAG 系统
运行环境与前提条件
- 依赖组件版本说明
| 组件 | 说明 | 版本 |
|---|---|---|
| Java | Spring AI 基于 Spring Boot 3.x 开发，因此JDK版本要求为17及以上 | 17+ |
| Spring Boot | Spring AI 支持 Spring Boot 版本为 3.4.x | 3.4.x |
| Spring AI | Spring AI | 1.0.0-M7 |
| Maven | Maven | 3.9+ |
构建 RAG 系统
一、安装 Ollama
根据自己的操作系统，在Ollama官网 【下载】 对应的安装包进行安装。
安装完成后,在命令行中输入ollama -v验证是否安装成功。
模型下载
- 下载 DeepSeek R1
在 Ollama 官网，选择对应版本的模型：https://ollama.com/library/deepseek-r1。我们示例中使用的是: deepseek-r1:7b。执行下面命令下载模型：
shell
ollama run deepseek-r1:7b- 下载嵌入式模型(Embedding Model)
在 Ollama 官网，选择自己要用的向量模型：https://ollama.com/search?c=embedding。我们示例中使用的是： nomic-embed-text:latest。执行下面命令下载模型：
shell
ollama pull nomic-embed-text二、安装 Milvus 向量数据库
安装 Milvus 向量数据库
参考官方安装方式进行安装: https://milvus.io/docs/zh/install-overview.md
安装向量数据库管理工具（可选）
三、创建 Spring Boot 项目
创建 spring-ai-m7-ollama-rag-001 Spring Boot 项目。
- 引入依赖
xml
<!-- 集成Ollama -->
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-ollama</artifactId>
</dependency>
<!-- 集成milvus 向量数据库-->
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-vector-store-milvus</artifactId>
</dependency>四、集成 DeepSeek 对话模型（Chat Model）
- 参数配置
properties
spring.ai.ollama.base-url=http://localhost:11434- 集成测试
五、集成嵌入模型 (Embedding Model)
- 参数配置
properties
# 配置向量模型
spring.ai.ollama.embedding.options.model=nomic-embed-text:latest- 集成测试
六、集成 Milvus 向量数据库
- 参数配置
properties
spring.ai.vectorstore.milvus.client.host=localhost
spring.ai.vectorstore.milvus.initialize-schema=true
spring.ai.vectorstore.milvus.embedding-dimension=768- 集成测试