Phi-3-mini-128k-instruct集成Dify零代码构建AI工作流应用最近在折腾AI应用开发发现一个挺有意思的组合把轻量级但能力不俗的Phi-3-mini-128k-instruct模型和主打可视化工作流的Dify平台搭在一起。不用写一行代码就能搞出一些挺实用的AI小应用比如智能客服路由、内容自动分类审核这些。今天就来聊聊具体怎么玩希望能给你一些搭建自己AI工具的思路。1. 为什么选这个组合先说模型Phi-3-mini-128k-instruct是个挺讨巧的选择。它参数不大部署起来对资源要求不高在很多云平台的GPU实例上都能跑得挺顺畅。关键是它的指令跟随能力不错128k的上下文长度应对大多数工作流场景也够用了。对于快速验证想法、搭建原型来说成本和技术门槛都相对友好。再说平台Dify的核心卖点就是可视化。它把AI应用开发里那些繁琐的步骤比如调用模型API、处理输入输出、设计逻辑分支都做成了拖拖拽拽的节点。你不需要关心底层代码怎么调接口、怎么处理异常只需要关注业务逻辑本身数据从哪里来经过什么处理最后到哪里去。把这两者结合相当于有了一个既聪明又听话的“大脑”Phi-3模型和一个直观易用的“操作台”Dify平台。你可以在操作台上随意编排这个大脑的工作流程让它按照你的想法来处理信息。接下来我们就从准备模型开始。2. 第一步准备好你的模型推理服务要让Dify能调用Phi-3首先得让模型在一个地方“跑起来”并提供标准的API接口。这里假设你已经参照相关文档在星图GPU平台上成功部署了Phi-3-mini-128k-instruct模型并且获得了一个可访问的API端点Endpoint比如https://your-model-endpoint/v1。这个端点需要兼容OpenAI的API格式这是Dify原生支持的一种方式对接起来最省事。你需要确认几个关键信息API Base URL就是你的模型服务地址。API Key如果你的服务设置了鉴权这里就需要填入对应的密钥。如果部署时没设置这里可能留空或填一个占位符。模型名称在Dify里标识这个模型的名称你可以自己起一个比如phi-3-mini-128k-instruct。把这些信息记下来我们马上就会在Dify里用到它们。模型服务就位后舞台就交给Dify了。3. 在Dify中配置你的模型登录到你的Dify工作空间我们首先要做的就是告诉Dify“嘿我有个模型在这儿你可以用它了。”找到“模型供应商”或“模型配置”相关的设置区域。选择添加一个新的模型供应商类型通常选“OpenAI”或“兼容OpenAI的接口”。因为我们的Phi-3部署服务兼容OpenAI API格式所以选这个就行。在弹出的配置页面里填入上一步准备好的信息名称给你这个模型连接起个名字比如“我的Phi-3服务”。API Base URL填入你的模型端点地址。API Key根据你的服务情况填写。模型名称填入你自定义的名称如phi-3-mini-128k-instruct。保存之后Dify就认识你这个模型了。你可以在后续创建应用时直接选择这个模型作为推理引擎。配置好模型就像给工厂接上了电源接下来可以设计生产线了。4. 设计你的第一个工作流智能客服路由我们来设计一个相对简单但很实用的场景智能客服路由。想象一下用户发来一段咨询系统需要自动判断该问题属于“技术问题”、“账单咨询”还是“产品建议”然后将其路由到不同的处理队列或给出不同的初始回复。在Dify中创建一个新的“工作流”应用。工作流界面通常是一个画布左侧是各种可用的“节点”你可以把它们拖到画布上并连接起来。第一步设置输入节点。拖入一个“对话开场白”或“用户问题”节点。这里可以预设一个提示比如“请输入您的问题”也可以直接接收外部传入的用户消息。第二步调用模型进行意图分类。这是核心步骤。拖入一个“LLM”或“对话”节点选择我们刚才配置好的Phi-3模型。关键在于设计给模型的“提示词”Prompt。我们需要明确地指示模型进行分析和分类。提示词可以这样写你是一个智能客服路由助手。请分析用户提出的问题并判断其最可能属于以下哪个类别 1. 技术问题涉及产品使用故障、错误代码、安装问题、功能异常等。 2. 账单咨询涉及费用查询、扣费疑问、发票申请、套餐升级/降级等。 3. 产品建议涉及功能改进建议、新功能需求、使用体验反馈等。 请只输出类别编号1, 2, 或 3不要输出任何其他解释或文字。 用户问题{{query}}这里的{{query}}是一个变量它会自动绑定到上一步用户输入的内容上。第三步根据分类结果进行分支处理。拖入一个“条件判断”节点。我们需要根据模型输出的数字1,2,3来走不同的分支。 在条件节点里设置判断逻辑例如如果{{模型输出的变量}}等于 “1”则走“技术问题”分支。如果等于 “2”则走“账单咨询”分支。如果等于 “3”则走“产品建议”分支。第四步定义各分支的响应。在每个分支后面分别接入一个“文本回复”节点。在每个节点里可以设置该类别对应的标准回复语。技术问题分支回复“您的问题属于技术问题已为您转接技术专员请稍候。”账单咨询分支回复“您的问题与账单相关正在为您连接财务客服。”产品建议分支回复“感谢您的宝贵建议我们已经记录并会反馈给产品团队。”你还可以在分支里接入更复杂的操作比如调用一个外部API来创建工单或者发送邮件通知对应的团队。最后把各分支的终点连接到一个“结束”节点。点击运行测试输入不同的问题看看工作流是否能正确分类并给出相应回复。这个流程虽然简单但已经体现了用Dify编排AI逻辑的核心思想定义输入、模型处理、条件分支、执行动作。5. 构建更复杂的流程内容审核与分类我们再来试一个稍微复杂点的例子内容审核与分类。假设你有一个内容平台需要自动对用户提交的文本进行审核判断其是否合规并对合规内容进行主题分类。这个工作流会串联多个模型调用和逻辑判断。第一步接收内容输入。同样以一个用户输入节点开始接收待审核的文本内容。第二步第一层判断合规性审核。拖入第一个LLM节点使用Phi-3模型。这次提示词要让它扮演内容审核员请判断以下用户生成的内容是否包含违规信息如暴力、色情、仇恨言论、极端政治观点等。只回答“是”或“否”。 内容{{content}}我们假设模型输出变量为is_safe。第三步条件分支合规 vs 违规。拖入条件判断节点。如果{{is_safe}}等于 “否”则进入“违规处理”分支。这里可以连接一个回复节点告知用户内容违规并结束流程。如果等于 “是”则进入下一步的“主题分类”流程。第四步第二层处理主题分类。对于合规内容我们再拖入第二个LLM节点可以复用同一个Phi-3模型连接。提示词设计为请为以下合规内容选择一个最贴切的主题分类 - 科技 - 娱乐 - 体育 - 财经 - 生活 - 教育 请只输出分类名称不要输出其他文字。 内容{{content}}假设模型输出变量为category。第五步执行分类后动作。根据category的值我们可以再次使用条件分支将内容分发到不同的处理流程。例如接入不同的“HTTP请求”节点调用不同的后端API将内容存储到对应的数据库表或推送给不同的编辑团队。通过这个例子你可以看到在Dify中我们可以轻松地将多个AI推理步骤和业务逻辑判断串联起来形成一个多步骤的自动化处理管道。整个过程都是可视化的逻辑关系一目了然。6. 一些实践中的技巧与思考玩了一段时间后我总结了几点心得可能对你有帮助提示词设计是关键。Phi-3这类模型对提示词比较敏感。在工作流中为了让后续的条件判断节点能稳定工作最好在提示词里严格要求输出格式比如“只输出编号”或“只输出是/否”。这能大大提高工作流运行的可靠性。善用变量。Dify允许你在节点之间传递和转换数据。把上一个节点的输出作为变量填入下一个节点的输入或提示词中这是构建动态工作流的基础。花点时间理解一下它的变量引用语法通常是{{variable_name}}。从简单开始逐步迭代。别一开始就设计一个巨复杂、有十几个分支的工作流。先从像客服路由那样的单次判断开始跑通整个流程。然后慢慢增加节点比如加入对模型输出的“后处理”用代码节点清洗一下数据或者接入外部工具用HTTP请求节点调用一个翻译API。测试测试再测试。工作流搭建好后多用一些边界案例和奇怪的问题去测试它。看看模型会不会被“带偏”条件判断逻辑是否严密。Dify通常提供工作流的调试和测试功能好好利用它。关于外部工具调用。Dify的“HTTP请求”节点非常强大可以让你在工作流中调用任何开放的API。这意味着你的AI工作流不仅可以思考还能“动手”操作外部系统比如发送邮件、更新数据库、触发另一个服务等等。这大大扩展了工作流的应用边界。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
Phi-3-mini-128k-instruct集成Dify：零代码构建AI工作流应用
发布时间：2026/6/14 20:30:41
Phi-3-mini-128k-instruct集成Dify零代码构建AI工作流应用最近在折腾AI应用开发发现一个挺有意思的组合把轻量级但能力不俗的Phi-3-mini-128k-instruct模型和主打可视化工作流的Dify平台搭在一起。不用写一行代码就能搞出一些挺实用的AI小应用比如智能客服路由、内容自动分类审核这些。今天就来聊聊具体怎么玩希望能给你一些搭建自己AI工具的思路。1. 为什么选这个组合先说模型Phi-3-mini-128k-instruct是个挺讨巧的选择。它参数不大部署起来对资源要求不高在很多云平台的GPU实例上都能跑得挺顺畅。关键是它的指令跟随能力不错128k的上下文长度应对大多数工作流场景也够用了。对于快速验证想法、搭建原型来说成本和技术门槛都相对友好。再说平台Dify的核心卖点就是可视化。它把AI应用开发里那些繁琐的步骤比如调用模型API、处理输入输出、设计逻辑分支都做成了拖拖拽拽的节点。你不需要关心底层代码怎么调接口、怎么处理异常只需要关注业务逻辑本身数据从哪里来经过什么处理最后到哪里去。把这两者结合相当于有了一个既聪明又听话的“大脑”Phi-3模型和一个直观易用的“操作台”Dify平台。你可以在操作台上随意编排这个大脑的工作流程让它按照你的想法来处理信息。接下来我们就从准备模型开始。2. 第一步准备好你的模型推理服务要让Dify能调用Phi-3首先得让模型在一个地方“跑起来”并提供标准的API接口。这里假设你已经参照相关文档在星图GPU平台上成功部署了Phi-3-mini-128k-instruct模型并且获得了一个可访问的API端点Endpoint比如https://your-model-endpoint/v1。这个端点需要兼容OpenAI的API格式这是Dify原生支持的一种方式对接起来最省事。你需要确认几个关键信息API Base URL就是你的模型服务地址。API Key如果你的服务设置了鉴权这里就需要填入对应的密钥。如果部署时没设置这里可能留空或填一个占位符。模型名称在Dify里标识这个模型的名称你可以自己起一个比如phi-3-mini-128k-instruct。把这些信息记下来我们马上就会在Dify里用到它们。模型服务就位后舞台就交给Dify了。3. 在Dify中配置你的模型登录到你的Dify工作空间我们首先要做的就是告诉Dify“嘿我有个模型在这儿你可以用它了。”找到“模型供应商”或“模型配置”相关的设置区域。选择添加一个新的模型供应商类型通常选“OpenAI”或“兼容OpenAI的接口”。因为我们的Phi-3部署服务兼容OpenAI API格式所以选这个就行。在弹出的配置页面里填入上一步准备好的信息名称给你这个模型连接起个名字比如“我的Phi-3服务”。API Base URL填入你的模型端点地址。API Key根据你的服务情况填写。模型名称填入你自定义的名称如phi-3-mini-128k-instruct。保存之后Dify就认识你这个模型了。你可以在后续创建应用时直接选择这个模型作为推理引擎。配置好模型就像给工厂接上了电源接下来可以设计生产线了。4. 设计你的第一个工作流智能客服路由我们来设计一个相对简单但很实用的场景智能客服路由。想象一下用户发来一段咨询系统需要自动判断该问题属于“技术问题”、“账单咨询”还是“产品建议”然后将其路由到不同的处理队列或给出不同的初始回复。在Dify中创建一个新的“工作流”应用。工作流界面通常是一个画布左侧是各种可用的“节点”你可以把它们拖到画布上并连接起来。第一步设置输入节点。拖入一个“对话开场白”或“用户问题”节点。这里可以预设一个提示比如“请输入您的问题”也可以直接接收外部传入的用户消息。第二步调用模型进行意图分类。这是核心步骤。拖入一个“LLM”或“对话”节点选择我们刚才配置好的Phi-3模型。关键在于设计给模型的“提示词”Prompt。我们需要明确地指示模型进行分析和分类。提示词可以这样写你是一个智能客服路由助手。请分析用户提出的问题并判断其最可能属于以下哪个类别 1. 技术问题涉及产品使用故障、错误代码、安装问题、功能异常等。 2. 账单咨询涉及费用查询、扣费疑问、发票申请、套餐升级/降级等。 3. 产品建议涉及功能改进建议、新功能需求、使用体验反馈等。 请只输出类别编号1, 2, 或 3不要输出任何其他解释或文字。 用户问题{{query}}这里的{{query}}是一个变量它会自动绑定到上一步用户输入的内容上。第三步根据分类结果进行分支处理。拖入一个“条件判断”节点。我们需要根据模型输出的数字1,2,3来走不同的分支。 在条件节点里设置判断逻辑例如如果{{模型输出的变量}}等于 “1”则走“技术问题”分支。如果等于 “2”则走“账单咨询”分支。如果等于 “3”则走“产品建议”分支。第四步定义各分支的响应。在每个分支后面分别接入一个“文本回复”节点。在每个节点里可以设置该类别对应的标准回复语。技术问题分支回复“您的问题属于技术问题已为您转接技术专员请稍候。”账单咨询分支回复“您的问题与账单相关正在为您连接财务客服。”产品建议分支回复“感谢您的宝贵建议我们已经记录并会反馈给产品团队。”你还可以在分支里接入更复杂的操作比如调用一个外部API来创建工单或者发送邮件通知对应的团队。最后把各分支的终点连接到一个“结束”节点。点击运行测试输入不同的问题看看工作流是否能正确分类并给出相应回复。这个流程虽然简单但已经体现了用Dify编排AI逻辑的核心思想定义输入、模型处理、条件分支、执行动作。5. 构建更复杂的流程内容审核与分类我们再来试一个稍微复杂点的例子内容审核与分类。假设你有一个内容平台需要自动对用户提交的文本进行审核判断其是否合规并对合规内容进行主题分类。这个工作流会串联多个模型调用和逻辑判断。第一步接收内容输入。同样以一个用户输入节点开始接收待审核的文本内容。第二步第一层判断合规性审核。拖入第一个LLM节点使用Phi-3模型。这次提示词要让它扮演内容审核员请判断以下用户生成的内容是否包含违规信息如暴力、色情、仇恨言论、极端政治观点等。只回答“是”或“否”。 内容{{content}}我们假设模型输出变量为is_safe。第三步条件分支合规 vs 违规。拖入条件判断节点。如果{{is_safe}}等于 “否”则进入“违规处理”分支。这里可以连接一个回复节点告知用户内容违规并结束流程。如果等于 “是”则进入下一步的“主题分类”流程。第四步第二层处理主题分类。对于合规内容我们再拖入第二个LLM节点可以复用同一个Phi-3模型连接。提示词设计为请为以下合规内容选择一个最贴切的主题分类 - 科技 - 娱乐 - 体育 - 财经 - 生活 - 教育 请只输出分类名称不要输出其他文字。 内容{{content}}假设模型输出变量为category。第五步执行分类后动作。根据category的值我们可以再次使用条件分支将内容分发到不同的处理流程。例如接入不同的“HTTP请求”节点调用不同的后端API将内容存储到对应的数据库表或推送给不同的编辑团队。通过这个例子你可以看到在Dify中我们可以轻松地将多个AI推理步骤和业务逻辑判断串联起来形成一个多步骤的自动化处理管道。整个过程都是可视化的逻辑关系一目了然。6. 一些实践中的技巧与思考玩了一段时间后我总结了几点心得可能对你有帮助提示词设计是关键。Phi-3这类模型对提示词比较敏感。在工作流中为了让后续的条件判断节点能稳定工作最好在提示词里严格要求输出格式比如“只输出编号”或“只输出是/否”。这能大大提高工作流运行的可靠性。善用变量。Dify允许你在节点之间传递和转换数据。把上一个节点的输出作为变量填入下一个节点的输入或提示词中这是构建动态工作流的基础。花点时间理解一下它的变量引用语法通常是{{variable_name}}。从简单开始逐步迭代。别一开始就设计一个巨复杂、有十几个分支的工作流。先从像客服路由那样的单次判断开始跑通整个流程。然后慢慢增加节点比如加入对模型输出的“后处理”用代码节点清洗一下数据或者接入外部工具用HTTP请求节点调用一个翻译API。测试测试再测试。工作流搭建好后多用一些边界案例和奇怪的问题去测试它。看看模型会不会被“带偏”条件判断逻辑是否严密。Dify通常提供工作流的调试和测试功能好好利用它。关于外部工具调用。Dify的“HTTP请求”节点非常强大可以让你在工作流中调用任何开放的API。这意味着你的AI工作流不仅可以思考还能“动手”操作外部系统比如发送邮件、更新数据库、触发另一个服务等等。这大大扩展了工作流的应用边界。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
