少年攻城狮 - 博客园

LLaMA-Factory系列---【微调模型并使用ollama启动微调后的模型】

摘要： 1.下载模型 1.1打开魔搭社区官网，找到你要微调的模型按上面的图，复制模型clone命令，也可以直接下载所有文件到一个文件夹下。 # 打开LLaMa-Factory的下载根目录，执行下面的命令 git clone https://www.modelscope.cn/deepseek-ai/Dee 阅读全文

posted @ 2025-09-11 00:55 少年攻城狮阅读(528) 评论(0) 推荐(0)

LLaMA-Factory系列---【如何安装LLaMA-Factory？】

摘要： 1.环境准备 1.1安装Python 3.10.11 可以在微软商店里安装。 1.2如果是英伟达的显卡推荐大家安装cuda11.8 官网下载地址：CUDA Toolkit Archive | NVIDIA Developer 1.3安装torch pip3 install torch torchvi 阅读全文

posted @ 2025-09-11 00:36 少年攻城狮阅读(144) 评论(0) 推荐(0)

Ollama系列---【珍藏版模型】

摘要：链接：https://ollama.com/huihui_ai 链接：https://ollama.com/jaahas/qwen3-abliterated 阅读全文

posted @ 2025-09-07 03:36 少年攻城狮阅读(76) 评论(0) 推荐(0)

Ollama系列---【ollama如何安装魔搭社区的gguf的模型？】

摘要：一、在线直接从魔搭安装魔搭社区官网：https://modelscope.cn/models?libraries=GGUF&name=qwen3&page=1&tabKey=libraries #这里的模型下载地址就是魔搭社区的git clone的地址，去掉“.git”后缀，等待下载完成即可。 o 阅读全文

posted @ 2025-09-07 01:40 少年攻城狮阅读(2426) 评论(0) 推荐(0)

SpringAI系列---【如何把ChatClient集成向量数据库SimpleVectorStore并实现RAG?】

摘要： 1.如何把ChatClient集成向量数据库SimpleVectorStore并实现RAG? 1.引入向量数据库和向量库拦截器依赖 <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-starter 阅读全文

posted @ 2025-09-05 23:30 少年攻城狮阅读(248) 评论(0) 推荐(0)

SpringAI系列---【多租户记忆和淘汰策略】

摘要： 1.多租户工作原理 2.引入jdbc的pom spring官网链接：https://docs.spring.io/spring-ai/reference/api/chat-memory.html，推荐使用官网的jdbc。阿里巴巴ai链接：https://github.com/alibaba/spr 阅读全文

posted @ 2025-09-02 01:58 少年攻城狮阅读(94) 评论(0) 推荐(0)

SpringAI系列---【MCP和Tools的联系】

摘要： SpringAI的tool和mcp的关系其实mcp就是把spring应用里的通用tool功能，抽取出来，单独部署，这样当新服务需要通用的tool时，就只用集成mcp-client调用mcp-server功能就行了，不用再重复开发。阅读全文

posted @ 2025-09-01 20:45 少年攻城狮阅读(90) 评论(0) 推荐(0)

SpringBoot3系列---【SpringBoot3集成sqlite】

摘要： SpringBoot3集成sqlite 1.引入pom.xml <dependencies> <dependency> <groupId>org.xerial</groupId> <artifactId>sqlite-jdbc</artifactId> <version>3.34.0</versio 阅读全文

posted @ 2025-08-23 01:13 少年攻城狮阅读(177) 评论(0) 推荐(0)

SpringAI系列---【WebClient调用sse接口(返回多行data: {...})的】

摘要： WebClient调用sse接口我在fast-ai服务里写好了sse接口，能正常访问，返回sse流，由于fast-ai服务没有认证服务，所以我就用fast-server服务通过feign调用fast-ai的相关接口，但是发现fegin只能请求http的restful接口，sse接口无法请求。所以这阅读全文

posted @ 2025-08-20 17:28 少年攻城狮阅读(311) 评论(0) 推荐(0)

SpringAI系列---【SpringA集成阿里百炼后I如何先调用向量库，再把查到的结果一起传给大模型？】

摘要： SpringAI如何先调用向量库，再把查到的结果一起传给大模型？ 1.引入pom <dependencies> <dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-starter-das 阅读全文

posted @ 2025-08-20 01:41 少年攻城狮阅读(171) 评论(0) 推荐(0)