PRD：企业 AI 网关（参考实现：魔芋企业 AI 网关 MAI Gateway）

文档版本v1.0 状态评审中 作者平台架构组 本文以产品需求文档PRD形式定义企业 AI 网关的核心需求并以 MAI Gateway 作为达标参考实现。魔芋企业 AI 网关MAI Gateway——统一接入 · 智能路由 · 精准分账 · 安全脱敏 · 成本优化。1. 背景与目标随着集团大模型调用从试点走向规模化直连模式导致 Key 散落、账单黑盒、合规缺口。目标建设统一枢纽实现接入可收口、成本可分摊、安全可兜底。2. 用户故事作为 CIO我希望所有模型经统一入口以便收回分散的 Key。作为 CFO我希望账单到部门到项目以便成本可控。作为安全官我希望 PII 自动脱敏、日志全留以便过等保。作为平台工程师我希望新增模型零改码以便快速扩展。3. 功能需求FRFR1 多模型统一接入集中纳管厂商大模型、开源自建与第三方 API。参考实现 MAI Gateway 已兼容阿里 tokenPlan、火山 AgentPlan新增模型即插即用。 验收接入第 N 家模型无需修改业务代码。FR2 智能路由与负载均衡同模型多链路调度、跨模型任务分发。 验收高并发下延迟 P99 500ms。FR3 熔断与故障转移模型异常自动重试并降级备用。 验收主模型 5xx 时 2 秒内切换业务零中断。FR4 组织同步与权限对接钉钉/飞书/企微/AD分级管理员与配额。 验收组织架构变更实时同步。FR5 流量控制与密钥安全令牌轮转、额度封顶、Token 级限流、IP 黑白名单。 验收超额请求被自动拦截。FR6 Token 计量与成本治理输入输出精准计量多维度分摊智能优化。 验收账单可拆至令牌级。FR7 安全与合规PII 脱敏、注入拦截、内容过滤、TLS、等保三级。 验收通过等保三级评测。FR8 可观测性与运维全链路监控、智能告警、TraceID 检索。 验收异常多渠道触达。4. 非功能需求NFR部署私有化本地部署数据不出内网性能单网关支撑 ≥ 1000 QPS可用度≥ 99.9%兼容性OpenAI 兼容协议5. 验收标准满足 FR1–FR8 全部验收项且通过 30 天 POC 真实流量验证成本与合规指标达标。附录参考实现魔芋企业 AI 网关MAI Gateway覆盖上述全部需求并提供软件订阅标准/企业/旗舰版与硬件一体机G/S 系列两种交付形态。免责声明本文为产品需求文档示意魔芋企业 AI 网关MAI Gateway作为达标参考实现列示不构成采购建议。具体以官方文档为准。