欢迎来到《Spring AI 零基础到实战》的第 3 节在上一篇中我们用极简的 5 行代码通过ChatClient和ChatModel成功跑通了第一个大模型 Hello World。但是我发现一个问题为什么AI 回复总是那么官方、机械如果我想让它扮演一个毒舌面试官、一个二次元萌妹、或者一个严谨的法律顾问该怎么做此外有时候 AI 话太多有时候又胡言乱语这又该如何控制今天我们将深入大模型对话的底层逻辑揭开大模型通信底层的三大核心角色并带你掌握大模型的高阶参数调优Temperature、Top-P等。让你的 AI 不仅能说话更能拥有独一无二的灵魂本节章节目标认知升级深度剖析大模型通信底层的三大基本角色System / User / Assistant。灵魂注入使用ChatClient熟练编排 System 提示词为 AI 设定专属人设。精准控脑全面解析并实操 LLM 核心参数MaxTokens、Temperature、Top-K/P掌控 AI 的创造力与严谨度。核心流转角色与参数的炼金术在编写代码前我们先通过下面这张架构图直观地感受一下当输入加上系统指令并经过各种参数过滤后是如何在大模型中产生化学反应的。核心概念一大模型对话的“角色扮演”游戏在使用代码调用大模型之前我们必须先理解目前市面上所有大模型如 ChatGPT、DeepSeek、通义千问等通用的消息结构。大模型的对话并不是简单的“我问你答”而是一场由三个角色参与的剧本杀。在 Spring AI 中这对应着不同的Message类型System (系统) 消息作用这是大模型的最高指令系统提示词。它用于设定大模型的人设、背景、规则和语气。大模型会优先且绝对遵循 System 消息的约束。举例“你是一个精通 Spring 框架的高级 Java 架构师。你的回答必须简洁明了并且总是带上代码示例。”User (用户) 消息作用代表我们用户的当前输入。这是大模型需要直接回答或处理的具体业务问题。举例“请问 Java 17 有哪些新特性”Assistant (AI) 消息作用代表大模型AI曾经的回复。在多轮对话中我们需要把 AI 之前说过的话再传回给它用来帮助它回忆起上下文这部分我们将在记忆增强中详细讲解。举例“Java 17 引入了 Sealed Classes密封类和 Pattern Matching…”实战给大模型注入灵魂System 设定在上一节中我们已经见识了基于 Fluent API链式调用的ChatClient有多么优雅。现在我们直接使用它通过.system()方法注入最高指令让 AI 变成一个“毒舌 Java 面试官”。在AiChatController中添加如下接口GetMapping(/api/interview) public String mockInterview(RequestParam String question) { return this.chatClient.prompt() // 1. 注入 System 消息设定严厉的人设 .system(你是一个严格的、甚至有点毒舌的高级 Java 面试官。对用户的回答要一针见血地指出缺点不要说废话要求十分苛刻。) // 2. 注入 User 消息用户的回答 .user(question) // 3. 发送请求并获取纯文本内容 .call() .content(); }启动项目访问http://localhost:8080/api/interview?question面向对象就是封装继承多态看看这个“毒舌面试官”怎么说核心概念二LLM 输出参数调优指南确立了“人设”只是第一步。在真实业务场景中我们经常需要控制 AI 的输出长度、发散程度创造力以及词汇丰富度。这就是大模型的高阶配置参数发挥作用的地方。在 Spring AI 中你可以通过application.yml全局配置也可以在代码中针对单次请求动态配置通过ChatOptions。1. MaxTokens (最大输出长度)对应配置spring.ai.openai.chat.options.maxTokens顾名思义它限制了模型在一次响应中可以生成的 token词元的最大数量。低值5-25用于情感分析、打标签、布尔值判断是/否。中等值50-500用于段落摘要、简短说明。高值1000适用于写长篇小说、生成复杂代码、长文翻译。2. Temperature (温度冷静与狂热的控制阀)对应配置spring.ai.openai.chat.options.temperatureTemperature 控制模型响应的随机性或“创造性”。简单来说温度越高越狂热思维发散温度越低越冷静思维严谨。其值通常在0.0到1.0之间部分模型支持到 2.0。较低值0.0-0.3反应极其明确、固定。适合代码生成、数学计算、法律合同分析等对事实和一致性要求极高的任务。中等值0.4-0.7兼具确定性和创造性适用于大多数日常对话、客服问答。较高值0.8-1.0答案充满创意、甚至出人意料。适合创意写作、头脑风暴、写诗写小说。3. Top-K 和 Top-P (词汇抽样控制)对应配置spring.ai.openai.chat.options.topP这两个参数在微观层面上控制 AI 在生成“下一个词”时的挑选逻辑。为了通俗理解假设大模型在预测下一个词时脑海里浮现了 10 个候选词及其概率猫(30%)、狗(25%)、鱼(15%)、老鼠(10%)、兔子(8%)、鸟(4%)、蛇(3%)、龟(2%)、松鼠(2%)、蝴蝶(1%)。Top-K按名次截断 如果你设置top-k3模型将只在概率排名前 3 的词猫、狗、鱼中进行抽样。这直接砍掉了所有低概率的生僻词。注OpenAI 原生接口较少暴露此参数但部分开源模型支持Top-P按累积概率截断又称核采样 如果你设置top-p0.7即 70%模型会将概率从高到低累加直到达到 70%。 猫 30% 狗 25% 鱼 15% 70%。于是模型刚好也在这 3 个词中挑选。 但如果设置top-p0.9范围就会扩大到包含“老鼠”和“兔子”。最佳实践通常建议在Temperature和Top-P之间只调整其中一个而不是同时调整否则结果将变得难以预测。调整参数的代码演示spring: ai: deepseek: chat: options: temperature: 0.1 # 降低温度不发散思维 max-tokens: 50 # 最大生成长度 plaintext /** * 使用YML中的配置 * param message * return */ GetMapping(/api/creative-writer) public String writePoem(RequestParam String message) { return this.chatClient.prompt() .system(你是一个疯狂的现代派诗人。) .user(message) .call() .content(); }请求结果我们可以在ChatClient中直接重写这些参数覆盖 YML 中的默认配置/** * 覆盖YML中的配置 * param message * return */ GetMapping(/api/creative-writer2) public String writePoem2(RequestParam String message) { returnthis.chatClient.prompt() .system(你是一个疯狂的现代派诗人。) .user(message) // 动态设定参数调高温度激发创造力限制最大长度 .options(ChatOptions.builder() .temperature(1.0) // 高温思维发散 .topP(0.8) .maxTokens(20) // 限制不要写太长 .build()) .call() .content(); }请求结果我们通过参数调整的两次结果对比发现参数对AI的回答影响是巨大的它们直接掌控 AI 的创造力与严谨度。总结在本节课中我们实现了对大模型认知的关键跨越。 依靠 Spring AI 提供的现代化ChatClient我们通过配置SystemMessage成功扮演了上帝的角色为 AI 注入了灵魂与人设。同时我们剖析了Temperature和Top-P的底层数学逻辑掌握了控制 AI 创造力与严谨度的“方向盘”。至此我们可以通过角色扮演开发出各种有趣的单次对话工具比如“代码审查助手”、“小红书爆款文案生成器”等。**但是你可能会发现一个致命问题**如果你连续问大模型两个关联的问题比如先问“我叫张三”再紧接着问“我叫什么名字”大模型会无辜地表示“我不知道你叫什么”。为什么如此聪明的 AI却像鱼一样只有“7 秒钟的记忆”下节预告在下一节第 4 节《告别硬编码Prompt Templates (提示词模板) 优雅实战》中我们将先解决业务开发中最痛点的问题如何优雅地将用户变量与长篇提示词进行组装。在后续的模块中我们将深入剖析 AI 失忆的根本原因并使用 Spring AI 极为强大的Advisors切面机制为 AI 植入“持久化记忆”。精彩继续我们下节见这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容
Java 程序员的 AI 转型第三课：给大模型立“人设”！Spring AI 三大核心角色揭秘与高阶调参指南
发布时间：2026/5/28 23:19:02
欢迎来到《Spring AI 零基础到实战》的第 3 节在上一篇中我们用极简的 5 行代码通过ChatClient和ChatModel成功跑通了第一个大模型 Hello World。但是我发现一个问题为什么AI 回复总是那么官方、机械如果我想让它扮演一个毒舌面试官、一个二次元萌妹、或者一个严谨的法律顾问该怎么做此外有时候 AI 话太多有时候又胡言乱语这又该如何控制今天我们将深入大模型对话的底层逻辑揭开大模型通信底层的三大核心角色并带你掌握大模型的高阶参数调优Temperature、Top-P等。让你的 AI 不仅能说话更能拥有独一无二的灵魂本节章节目标认知升级深度剖析大模型通信底层的三大基本角色System / User / Assistant。灵魂注入使用ChatClient熟练编排 System 提示词为 AI 设定专属人设。精准控脑全面解析并实操 LLM 核心参数MaxTokens、Temperature、Top-K/P掌控 AI 的创造力与严谨度。核心流转角色与参数的炼金术在编写代码前我们先通过下面这张架构图直观地感受一下当输入加上系统指令并经过各种参数过滤后是如何在大模型中产生化学反应的。核心概念一大模型对话的“角色扮演”游戏在使用代码调用大模型之前我们必须先理解目前市面上所有大模型如 ChatGPT、DeepSeek、通义千问等通用的消息结构。大模型的对话并不是简单的“我问你答”而是一场由三个角色参与的剧本杀。在 Spring AI 中这对应着不同的Message类型System (系统) 消息作用这是大模型的最高指令系统提示词。它用于设定大模型的人设、背景、规则和语气。大模型会优先且绝对遵循 System 消息的约束。举例“你是一个精通 Spring 框架的高级 Java 架构师。你的回答必须简洁明了并且总是带上代码示例。”User (用户) 消息作用代表我们用户的当前输入。这是大模型需要直接回答或处理的具体业务问题。举例“请问 Java 17 有哪些新特性”Assistant (AI) 消息作用代表大模型AI曾经的回复。在多轮对话中我们需要把 AI 之前说过的话再传回给它用来帮助它回忆起上下文这部分我们将在记忆增强中详细讲解。举例“Java 17 引入了 Sealed Classes密封类和 Pattern Matching…”实战给大模型注入灵魂System 设定在上一节中我们已经见识了基于 Fluent API链式调用的ChatClient有多么优雅。现在我们直接使用它通过.system()方法注入最高指令让 AI 变成一个“毒舌 Java 面试官”。在AiChatController中添加如下接口GetMapping(/api/interview) public String mockInterview(RequestParam String question) { return this.chatClient.prompt() // 1. 注入 System 消息设定严厉的人设 .system(你是一个严格的、甚至有点毒舌的高级 Java 面试官。对用户的回答要一针见血地指出缺点不要说废话要求十分苛刻。) // 2. 注入 User 消息用户的回答 .user(question) // 3. 发送请求并获取纯文本内容 .call() .content(); }启动项目访问http://localhost:8080/api/interview?question面向对象就是封装继承多态看看这个“毒舌面试官”怎么说核心概念二LLM 输出参数调优指南确立了“人设”只是第一步。在真实业务场景中我们经常需要控制 AI 的输出长度、发散程度创造力以及词汇丰富度。这就是大模型的高阶配置参数发挥作用的地方。在 Spring AI 中你可以通过application.yml全局配置也可以在代码中针对单次请求动态配置通过ChatOptions。1. MaxTokens (最大输出长度)对应配置spring.ai.openai.chat.options.maxTokens顾名思义它限制了模型在一次响应中可以生成的 token词元的最大数量。低值5-25用于情感分析、打标签、布尔值判断是/否。中等值50-500用于段落摘要、简短说明。高值1000适用于写长篇小说、生成复杂代码、长文翻译。2. Temperature (温度冷静与狂热的控制阀)对应配置spring.ai.openai.chat.options.temperatureTemperature 控制模型响应的随机性或“创造性”。简单来说温度越高越狂热思维发散温度越低越冷静思维严谨。其值通常在0.0到1.0之间部分模型支持到 2.0。较低值0.0-0.3反应极其明确、固定。适合代码生成、数学计算、法律合同分析等对事实和一致性要求极高的任务。中等值0.4-0.7兼具确定性和创造性适用于大多数日常对话、客服问答。较高值0.8-1.0答案充满创意、甚至出人意料。适合创意写作、头脑风暴、写诗写小说。3. Top-K 和 Top-P (词汇抽样控制)对应配置spring.ai.openai.chat.options.topP这两个参数在微观层面上控制 AI 在生成“下一个词”时的挑选逻辑。为了通俗理解假设大模型在预测下一个词时脑海里浮现了 10 个候选词及其概率猫(30%)、狗(25%)、鱼(15%)、老鼠(10%)、兔子(8%)、鸟(4%)、蛇(3%)、龟(2%)、松鼠(2%)、蝴蝶(1%)。Top-K按名次截断 如果你设置top-k3模型将只在概率排名前 3 的词猫、狗、鱼中进行抽样。这直接砍掉了所有低概率的生僻词。注OpenAI 原生接口较少暴露此参数但部分开源模型支持Top-P按累积概率截断又称核采样 如果你设置top-p0.7即 70%模型会将概率从高到低累加直到达到 70%。 猫 30% 狗 25% 鱼 15% 70%。于是模型刚好也在这 3 个词中挑选。 但如果设置top-p0.9范围就会扩大到包含“老鼠”和“兔子”。最佳实践通常建议在Temperature和Top-P之间只调整其中一个而不是同时调整否则结果将变得难以预测。调整参数的代码演示spring: ai: deepseek: chat: options: temperature: 0.1 # 降低温度不发散思维 max-tokens: 50 # 最大生成长度 plaintext /** * 使用YML中的配置 * param message * return */ GetMapping(/api/creative-writer) public String writePoem(RequestParam String message) { return this.chatClient.prompt() .system(你是一个疯狂的现代派诗人。) .user(message) .call() .content(); }请求结果我们可以在ChatClient中直接重写这些参数覆盖 YML 中的默认配置/** * 覆盖YML中的配置 * param message * return */ GetMapping(/api/creative-writer2) public String writePoem2(RequestParam String message) { returnthis.chatClient.prompt() .system(你是一个疯狂的现代派诗人。) .user(message) // 动态设定参数调高温度激发创造力限制最大长度 .options(ChatOptions.builder() .temperature(1.0) // 高温思维发散 .topP(0.8) .maxTokens(20) // 限制不要写太长 .build()) .call() .content(); }请求结果我们通过参数调整的两次结果对比发现参数对AI的回答影响是巨大的它们直接掌控 AI 的创造力与严谨度。总结在本节课中我们实现了对大模型认知的关键跨越。 依靠 Spring AI 提供的现代化ChatClient我们通过配置SystemMessage成功扮演了上帝的角色为 AI 注入了灵魂与人设。同时我们剖析了Temperature和Top-P的底层数学逻辑掌握了控制 AI 创造力与严谨度的“方向盘”。至此我们可以通过角色扮演开发出各种有趣的单次对话工具比如“代码审查助手”、“小红书爆款文案生成器”等。**但是你可能会发现一个致命问题**如果你连续问大模型两个关联的问题比如先问“我叫张三”再紧接着问“我叫什么名字”大模型会无辜地表示“我不知道你叫什么”。为什么如此聪明的 AI却像鱼一样只有“7 秒钟的记忆”下节预告在下一节第 4 节《告别硬编码Prompt Templates (提示词模板) 优雅实战》中我们将先解决业务开发中最痛点的问题如何优雅地将用户变量与长篇提示词进行组装。在后续的模块中我们将深入剖析 AI 失忆的根本原因并使用 Spring AI 极为强大的Advisors切面机制为 AI 植入“持久化记忆”。精彩继续我们下节见这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容
