AI2.0 Prompt【模板、流式 API、系统提示词】 20260529

 

 

 

 

 

 

1、pom

<properties>
    <java.version>17</java.version>
    <spring-ai.version>2.0.0-M7</spring-ai.version>
</properties>
<dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-webmvc</artifactId>
    </dependency>
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-starter-model-openai</artifactId>
    </dependency>

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-ollama</artifactId>
</dependency>

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-webmvc-test</artifactId>
        <scope>test</scope>
    </dependency>
</dependencies>
<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>org.springframework.ai</groupId>
            <artifactId>spring-ai-bom</artifactId>
            <version>${spring-ai.version}</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

 

 

2、application.yml

2.1

${OPENAI_API_KEY}

 

 2.2

ollama docker容器

宿主机：192.168.91.164

 

容器ollama启动模型qwen2.5:0.5b

 

访问宿主机模型

http://192.168.91.164:11434/   

 

 

 

 

 

 

 

spring:
  application:
    name: dashscope18088
  ai:
    openai:
      api-key: ${OPENAI_API_KEY}
      base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
      chat:
        model: qwen3.6-plus
#      chat:
#        model: qwen3.6-plus
        # 可选：超时/重试配置
    ollama:
      base-url: http://192.168.91.164:11434
      chat:
        model: qwen2.5:0.5b
#        options:
#          temperature: 0.7
#          max-tokens: 2000
server:
  port: 18088

#.defaultAdvisors(new MySimpleLoggerAdvisor())//添加日志拦截器

logging:
  level:
    org.springframework.ai: debug

3、config

import com.sb.dashscope18088.advisor.MySimpleLoggerAdvisor;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.ollama.OllamaChatModel;
import org.springframework.ai.openai.OpenAiChatModel;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class AiConfiguration {

    @Bean
    public ChatClient chatClient(OpenAiChatModel model){
        return ChatClient
                .builder(model) // 创建ChatClient对象，以及设置模型model
                .defaultAdvisors(new MySimpleLoggerAdvisor())//添加日志拦截器
                //.defaultAdvisors(new SimpleLoggerAdvisor())//内置日志拦截器
                .build();        // 构建ChatClient对象
    }

    @Bean
    public ChatClient chatClient2(OllamaChatModel model){
        return ChatClient
                .builder(model) // 创建ChatClient对象，以及设置模型model
                .defaultAdvisors(new MySimpleLoggerAdvisor())//添加日志拦截器
                .build();        // 构建ChatClient实例
    }

@Bean
public ChatClient chatClient3(OpenAiChatModel model){
    // System Prompt 工程：清晰定义 AI 的角色、任务、约束和输出格式
    //【系统提示词】
    String systemPrompt = """
        你是一个资深的 Java 技术顾问。
        禁止回答任何非技术类问题，例如天气或娱乐八卦。
        代码示例必须符合 Java 17+ 规范。
        回答需要符合以下格式：首先一句话概括问题的核心，然后提供代码示例，最后补充注意事项。
        如果自己不确定，可以说"关于这个问题，我目前没有确切的信息"，禁止编造内容。
        """;
    return ChatClient
            .builder(model) // 创建ChatClient对象，以及设置模型model
            .defaultSystem(systemPrompt)
            //.defaultAdvisors(new MySimpleLoggerAdvisor())//添加日志拦截器
            .defaultAdvisors(new SimpleLoggerAdvisor())//内置日志拦截器
            .build();        // 构建ChatClient对象
}

}

 

 

4、controller

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import reactor.core.publisher.Flux;

@RestController
public class MyAiChatController {

    @Autowired
    private ChatClient chatClient;

    @Autowired
    private ChatClient chatClient2;

　　@Autowired
　　private ChatClient chatClient3;

    @RequestMapping("/ai")
    public String ai(String question){
        return chatClient.prompt()   // 创建 Prompt 对象，用于构建聊天请求
                .user(question)       // 设置用户输入
                .call()               // 调用模型，返回结果
                .content();           // 获取结果内容
    }

    /**
     * ollama
     * @param question
     * @return
     */
    @RequestMapping("/ai2")
    public String ai2(String question){
        return chatClient2.prompt()   // 创建 Prompt 对象，用于构建聊天请求
                .user(question)       // 设置用户输入
                .call()               // 调用模型，返回结果
                .content();           // 获取结果内容
    }

    /**
     * ollama
     * @param question
     * @return
     */
    @RequestMapping(value = "/ai3",produces = "text/html;charset=UTF-8")
    public Flux<String> ai3(String question){
        return chatClient2.prompt()   // 创建 Prompt 对象，用于构建聊天请求
                .user(question)       // 设置用户输入
                .stream()               // 流式响应输出
                .content();           // 获取结果内容
    }

/**
 * 使用模板：一套代码应对所有场景
 * @param topic
 * @return
 */
@RequestMapping(value = "/ask", produces = "text/html;charset=UTF-8")
public Flux<String> ask(String topic){
    PromptTemplate template = new PromptTemplate("介绍下{topic}");
    Prompt prompt = template.create(Map.of("topic", topic));
    return chatClient.prompt(prompt)
            .stream()      // 流式响应输出
            .content();    // 获取结果内容
}

/**
 * 使用ChatClient的流式 API 可以最快速地组装提示词
 * @param topic
 * @return
 */
@RequestMapping(value = "/ask2", produces = "text/html;charset=UTF-8")
public Flux<String> ask2(String topic){
    return chatClient.prompt()          //  创建 Prompt 构建器,用于构建聊天清求
            .system("你是一个专业的书评助手") // 设置系统提示词
            .user(u -> u.text("请给我推荐三本关于{topic}的书籍,只需要返回书名").param("topic", topic))
            .stream()      // 流式响应输出
            .content();    // 获取结果内容
}

/**
 *   【系统提示词】
 *   .defaultSystem(systemPrompt)
 * @param question
 * @return
 */
@RequestMapping("/ask3")
public String ask3(String question){
    return chatClient3.prompt()   // 创建 Prompt 对象，用于构建聊天请求
            .user(question)       // 设置用户输入
            .call()               // 调用模型，返回结果
            .content();           // 获取结果内容
}

}

 

 

5、访问

 

  5.1

PromptTemplate模板

   http://localhost:18088/ask?topic=java

 

 

   5.2

使用ChatClient的流式 API 可以最快速地组装提示词
http://localhost:18088/ask2?topic=java

    

 

   5.3

 

系统提示词.defaultSystem(systemPrompt)

http://localhost:18088/ask3?question=写一个java起泡排序算法