AI Dev Kit 模型服务技能一步部署 ML 模型与 AI Agent 到端点【免费下载链接】ai-dev-kitDatabricks Toolkit for Coding Agents provided by Field Engineering项目地址: https://gitcode.com/GitHub_Trending/ai/ai-dev-kitAI Dev Kit是 Databricks 官方工程团队推出的 AI 开发工具包其中Model Serving模型服务技能可帮你把机器学习模型、自定义 Python 模型或 GenAI Agent 一键部署为REST API 端点并直接进行查询与测试大幅降低 AI 工程落地门槛。本指南面向新手用尽量少代码、多流程的方式讲清「如何部署模型到端点」与「如何调用端点」这两条主线。核心技能入口databricks-model-serving/SKILL.md先判断你要部署哪种模型Model Serving 技能把部署方式归纳为三类选对模式是省时的关键 模型类型推荐方式参考文件经典 MLsklearn、xgboost、pytorchmlflow.sklearn.autolog()自动记录1-classical-ml.md自定义 Python 模型mlflow.pyfunc.PythonModel2-custom-pyfunc.mdGenAI Agent工具调用、LangGraphResponsesAgent3-genai-agents.md部署前准备建议 DBR 16.1预装 GenAI 包、已启用 Unity Catalog 的工作区、开启 Model Serving。快速开始部署一个 GenAI Agent7 步走这是最常见也最实用的场景——把一个带工具的 AI 智能体变成一个可对话的端点。步骤做什么说明1️⃣ 装包安装mlflow、databricks-langchain、langgraph、databricks-agents可在 Notebook 或 MCP 中执行2️⃣ 写 Agent用ResponsesAgent模式创建agent.py见 3-genai-agents.md3️⃣ 上传把 Agent 文件上传到 Workspace用manage_workspace_files4️⃣ 测试本地验证 Agent 可正常对话用execute_code5️⃣ 记录模型通过mlflow.pyfunc.log_model登记到 Unity Catalog见 6-logging-registration.md6️⃣ 部署用 Job 异步部署避免工具超时见 7-deployment.md7️⃣ 查询向端点发送消息验证用manage_serving_endpoint为什么用 Job 异步部署Agent 部署约需15 分钟同步调用容易超时。技能文档推荐用一次性 Job 触发部署先拿到run_id再轮询状态稳且不阻塞。⚠️关键陷阱ResponsesAgent的输出必须用辅助方法self.create_text_output_item(text, id)生成不能直接返回原始 dict否则端点会报「Invalid output format」。经典 ML 模型最快部署方法传统 ML 模型部署更快约 2–5 分钟推荐用autolog 自动记录——训练即自动登记mlflow.sklearn.autolog( log_input_examplesTrue, registered_model_namemain.models.my_classifier ) model LogisticRegression().fit(X_train, y_train) # 训练后自动进入 UC训练完成即自动进入 Unity Catalog之后通过UI / MLflow SDK / Databricks SDK任一方式创建端点即可。最佳实践✅ 始终开启log_input_examplesTrue便于调试与 schema 推断✅ 使用 Unity Catalogregistered_model_namecatalog.schema.model✅ 开启scale-to-zero空闲时自动缩容省钱详见 1-classical-ml.md。自定义 PyFunc灵活处理复杂逻辑当你的推理流程包含自定义预处理、多模型组合、外部 API 调用时用mlflow.pyfunc.PythonModel更合适。你可以在load_context加载模型文件、在predict写任意推理逻辑并通过pip_requirements、code_paths声明依赖。详见 2-custom-pyfunc.md。为 Agent 加装「工具」UC 函数 向量检索想让 AI Agent 不只是聊天还能查数据、做 RAG技能支持把 Unity Catalog 函数与 Vector Search 作为工具挂载工具类型用途关键点UCFunctionToolkit调用 UC 注册的 SQL/Python 函数支持通配符catalog.schema.*VectorSearchRetrieverTool向量检索实现 RAG可加过滤、指定返回列tool自定义函数任意 Python 逻辑写清 docstring 供 LLM 理解⚠️ 记录模型时务必把工具对应资源写入resources如DatabricksFunction、DatabricksVectorSearchIndex端点才能自动完成鉴权透传。建议工具数量控制在 5–10 个。详见 4-tools-integration.md。查询端点三种调用方式部署完成后端点状态变为READY即可调用。技能封装了MCP 工具 / Python SDK / REST API三种方式方式适用输入格式Chat / Agent 端点对话式模型messagesOpenAI 兼容格式ML 模型端点传统机器学习dataframe_records自定义 PyFunc自定义模型inputs匹配模型签名MCP 侧统一由manage_serving_endpoint工具承接支持get查状态、list列全部、query发请求三种动作。核心实现在工具层serving.py底层能力endpoints.py端点还兼容 OpenAI SDK可直接用base_url指向端点复用现有代码。错误处理、流式输出、Agent 链式调用等完整示例见 8-querying-endpoints.md。常见问题速查表问题解决方案端点NOT_READY部署需约 15 分钟用get轮询状态Invalid output format用create_text_output_item勿返回裸 dictPackage not found记录模型时写精确的pip_requirements版本工具调用超时改用 Job 异步部署而非同步调用端点鉴权失败log_model时指定resources以自动透传Model not found核对 Unity Catalog 路径catalog.schema.model_name延伸阅读开发调试与 MCP 工作流5-development-testing.md模型记录与注册6-logging-registration.md部署Job 异步7-deployment.md包与版本要求9-package-requirements.md向量检索 / Agent Bricks 等关联技能见 databricks-skills/ 目录掌握这套Model Serving 技能从「训练模型」到「可调用端点」只需几步让 AI Dev Kit 帮你把 ML 与 Agent 快速推向生产。✨【免费下载链接】ai-dev-kitDatabricks Toolkit for Coding Agents provided by Field Engineering项目地址: https://gitcode.com/GitHub_Trending/ai/ai-dev-kit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 AI Dev Kit 模型服务技能：一步部署 ML 模型与 AI Agent 到端点
AI Dev Kit 模型服务技能一步部署 ML 模型与 AI Agent 到端点【免费下载链接】ai-dev-kitDatabricks Toolkit for Coding Agents provided by Field Engineering项目地址: https://gitcode.com/GitHub_Trending/ai/ai-dev-kitAI Dev Kit是 Databricks 官方工程团队推出的 AI 开发工具包其中Model Serving模型服务技能可帮你把机器学习模型、自定义 Python 模型或 GenAI Agent 一键部署为REST API 端点并直接进行查询与测试大幅降低 AI 工程落地门槛。本指南面向新手用尽量少代码、多流程的方式讲清「如何部署模型到端点」与「如何调用端点」这两条主线。核心技能入口databricks-model-serving/SKILL.md先判断你要部署哪种模型Model Serving 技能把部署方式归纳为三类选对模式是省时的关键 模型类型推荐方式参考文件经典 MLsklearn、xgboost、pytorchmlflow.sklearn.autolog()自动记录1-classical-ml.md自定义 Python 模型mlflow.pyfunc.PythonModel2-custom-pyfunc.mdGenAI Agent工具调用、LangGraphResponsesAgent3-genai-agents.md部署前准备建议 DBR 16.1预装 GenAI 包、已启用 Unity Catalog 的工作区、开启 Model Serving。快速开始部署一个 GenAI Agent7 步走这是最常见也最实用的场景——把一个带工具的 AI 智能体变成一个可对话的端点。步骤做什么说明1️⃣ 装包安装mlflow、databricks-langchain、langgraph、databricks-agents可在 Notebook 或 MCP 中执行2️⃣ 写 Agent用ResponsesAgent模式创建agent.py见 3-genai-agents.md3️⃣ 上传把 Agent 文件上传到 Workspace用manage_workspace_files4️⃣ 测试本地验证 Agent 可正常对话用execute_code5️⃣ 记录模型通过mlflow.pyfunc.log_model登记到 Unity Catalog见 6-logging-registration.md6️⃣ 部署用 Job 异步部署避免工具超时见 7-deployment.md7️⃣ 查询向端点发送消息验证用manage_serving_endpoint为什么用 Job 异步部署Agent 部署约需15 分钟同步调用容易超时。技能文档推荐用一次性 Job 触发部署先拿到run_id再轮询状态稳且不阻塞。⚠️关键陷阱ResponsesAgent的输出必须用辅助方法self.create_text_output_item(text, id)生成不能直接返回原始 dict否则端点会报「Invalid output format」。经典 ML 模型最快部署方法传统 ML 模型部署更快约 2–5 分钟推荐用autolog 自动记录——训练即自动登记mlflow.sklearn.autolog( log_input_examplesTrue, registered_model_namemain.models.my_classifier ) model LogisticRegression().fit(X_train, y_train) # 训练后自动进入 UC训练完成即自动进入 Unity Catalog之后通过UI / MLflow SDK / Databricks SDK任一方式创建端点即可。最佳实践✅ 始终开启log_input_examplesTrue便于调试与 schema 推断✅ 使用 Unity Catalogregistered_model_namecatalog.schema.model✅ 开启scale-to-zero空闲时自动缩容省钱详见 1-classical-ml.md。自定义 PyFunc灵活处理复杂逻辑当你的推理流程包含自定义预处理、多模型组合、外部 API 调用时用mlflow.pyfunc.PythonModel更合适。你可以在load_context加载模型文件、在predict写任意推理逻辑并通过pip_requirements、code_paths声明依赖。详见 2-custom-pyfunc.md。为 Agent 加装「工具」UC 函数 向量检索想让 AI Agent 不只是聊天还能查数据、做 RAG技能支持把 Unity Catalog 函数与 Vector Search 作为工具挂载工具类型用途关键点UCFunctionToolkit调用 UC 注册的 SQL/Python 函数支持通配符catalog.schema.*VectorSearchRetrieverTool向量检索实现 RAG可加过滤、指定返回列tool自定义函数任意 Python 逻辑写清 docstring 供 LLM 理解⚠️ 记录模型时务必把工具对应资源写入resources如DatabricksFunction、DatabricksVectorSearchIndex端点才能自动完成鉴权透传。建议工具数量控制在 5–10 个。详见 4-tools-integration.md。查询端点三种调用方式部署完成后端点状态变为READY即可调用。技能封装了MCP 工具 / Python SDK / REST API三种方式方式适用输入格式Chat / Agent 端点对话式模型messagesOpenAI 兼容格式ML 模型端点传统机器学习dataframe_records自定义 PyFunc自定义模型inputs匹配模型签名MCP 侧统一由manage_serving_endpoint工具承接支持get查状态、list列全部、query发请求三种动作。核心实现在工具层serving.py底层能力endpoints.py端点还兼容 OpenAI SDK可直接用base_url指向端点复用现有代码。错误处理、流式输出、Agent 链式调用等完整示例见 8-querying-endpoints.md。常见问题速查表问题解决方案端点NOT_READY部署需约 15 分钟用get轮询状态Invalid output format用create_text_output_item勿返回裸 dictPackage not found记录模型时写精确的pip_requirements版本工具调用超时改用 Job 异步部署而非同步调用端点鉴权失败log_model时指定resources以自动透传Model not found核对 Unity Catalog 路径catalog.schema.model_name延伸阅读开发调试与 MCP 工作流5-development-testing.md模型记录与注册6-logging-registration.md部署Job 异步7-deployment.md包与版本要求9-package-requirements.md向量检索 / Agent Bricks 等关联技能见 databricks-skills/ 目录掌握这套Model Serving 技能从「训练模型」到「可调用端点」只需几步让 AI Dev Kit 帮你把 ML 与 Agent 快速推向生产。✨【免费下载链接】ai-dev-kitDatabricks Toolkit for Coding Agents provided by Field Engineering项目地址: https://gitcode.com/GitHub_Trending/ai/ai-dev-kit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考