整体架构
一侧是所有应用与智能体。另一侧是所有模型。中间是 Shieldon。
企业内的应用、智能体与工具都经由 Shieldon 调用云端与本地模型。敏感数据在离开边界前就已脱敏，每个请求都交给最合适的模型，每一次往返都记入账本，你自己的 AI 智能体还能调整策略。
在企业边界之内，应用、智能体、工具与助手通过 Shieldon AI 网关调用云端与本地模型，响应沿同一路径返回。安全护栏在请求离开边界前对敏感数据脱敏；路由把简单请求送往本地模型，把复杂请求送往前沿模型，并在需要时自动故障转移；每次请求都连同其密钥、路由与 Token 一起记录；系统会根据用量给出节省 Token 的建议；企业自己的 AI 智能体则通过 API 读取用量、设定策略并发布 Release。
LLM INTEGRATIONS
接入一次，通用所有 Provider。切换、组合、故障转移都不用改应用代码。
把 OpenAI、Anthropic、Gemini、Bedrock、阿里云百炼、DeepSeek 等三十多家 Provider 接在同一个 OpenAI-compatible 端点之后。Provider 密钥加密保存在 Shieldon 内，只分配给你指定的 Workspace；应用只会拿到 Shieldon 的密钥。Chat、Responses、Embeddings、Images 与 Audio 按模型逐项支持。
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- 阿里云百炼
- 智谱 AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow 硅基流动
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 通用 OpenAI-compatible 端点
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- 阿里云百炼
- 智谱 AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow 硅基流动
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 通用 OpenAI-compatible 端点
01 · 谁在调用 API？
在请求到达模型之前，就知道它来自哪个应用、哪个团队、哪个环境。
每个应用都有自己的 Gateway API Key，密钥本身就携带策略：允许调用哪些模型、每次请求必须附带哪些信息、只能从哪些网络发起调用。轮换密钥不影响任何接入。上游 Provider 密钥永远不会离开 Shieldon。
示意性网关响应
演示控制台画面：创建名为 billing-assistant 的 Gateway API Key，为其定义四个 Metadata 变量，并把来源限制到 203.0.113.0/24；来自其他地址的请求被拒绝。
创建 Gateway API Key
给密钥起名，选定它能调用的范围。应用只拿到一个密钥，Provider 凭证始终留在你手里。
让每个请求自报家门
规定每次调用必须声明什么——应用、环境、团队、项目、客户、用户、功能或会话；不合规的调用会被拒绝。这些字段之后就是成本归因的依据。
只接受来自预期网络的调用
把密钥限制在你自己的网段内，其他来源的调用在触达模型之前就会被拒绝。
组织与 Workspace 把部门、产品与环境彼此隔开，各自拥有独立的成员与角色。
02 · 有哪些信息被发送给了 LLM？
卡号、证件号与 API 密钥止步于边界。Prompt 默认不存储。
为所有应用建立同一道安全边界，而不是在每个代码库里各写一套检查。Shieldon 检查进出模型的内容，识别个人信息与凭证，按策略选择只告警或直接拦截。记录的只有判定结果，从不保留命中的内容。而且默认情况下，Prompt、模型输出与 Embedding 一律不存储。
- 个人信息：邮箱地址、手机号码、身份证号、支付卡号、美国社保号
- 密钥凭证：私钥、会话 Token、云平台与 SaaS 凭证、被粘贴进 Prompt 的密码
- 自定义规则：关键词、正则表达式、工具调用白名单，或通过安全 Webhook 接入你自己的策略服务
- 先用监控模式看看会命中什么，有把握之后再切换为拦截。
演示控制台画面：一条包含支付卡号的请求被“敏感数据防护”策略拦截；第二条请求通过。活动记录只保存原因码。
在到达 Provider 之前就被拦截。Shieldon 直接拒绝请求，而不是悄悄改写后放行；记录里只有原因，没有原值。
隐私默认值
- Prompt 文本
- 模型输出
- 工具参数
- Webhook 正文
- Embedding 向量
需要为排查问题短期保留内容？那是一项需另行约定的显式策略：加密存储，每一次查看都留下审计记录。
演示控制台画面： 请求详情 req_48e5aa — 逻辑模型 shieldon-chat, Provider ID openai-prod, 状态 成功, 延迟 812 ms. 采集的载荷: 该请求未启用正文采集，或没有保留任何载荷。
03 · 行为应如何管控？
切换 Provider、封顶支出、一键回滚，几分钟搞定。不改代码，不打补丁。
应用调用的是一个稳定的模型名，背后接什么由你决定：指向单一 Provider、失败时自动切换到备选、按权重分流，或按规则选择目标。限额与预算在调用 Provider 之前就已生效。每次变更都以经过审阅的 Release 上线，一键即可回滚。
演示控制台画面：故障转移路由吸收了一次 429；限额策略在 600 RPM 处阻止请求；Credits 预算在达到限额时阻止请求并被调整；一个 Release 被发布随后回滚。
示意性路由尝试 · req_9b21c4
- 第 1 次尝试 · @openai-prod/gpt-4.1
调用方无感的故障转移
主 Provider 限流或超时，Shieldon 自动重试并切换到你批准的下一个目标。应用只看到一次成功的响应和同一个请求 ID，无需捕获异常，也无需重新部署。
正式依赖故障转移之前，请用你自己的 Provider 与模型实际验证。
按模型设定限额，并提前定好异常时怎么办
按模型限制请求数、Token 数与并发数。即便限流服务本身不可用，也由你提前决定：安全优先，还是可用性优先。
真正能刹住车的 Credits 预算
按 Workspace 或按应用密钥，在你所在的时区按日、周、月设定预算。预算用完时，调用停止或仅发出告警，由你决定。每一次追加额度都有记录，没人能悄悄抬高上限。
每次变更先审阅，每个版本可回滚。
校验草稿，逐项对比与当前生效版本的差异，审批后发布。事后发现问题，一键回滚到上一个已知良好的版本。网关只运行已发布的 Release。
04 · 系统如何持续改进？
每次调用有归属，每笔成本有去处，每次变更有署名。
Shieldon 为你保留两份记录：每次请求的用量与成本账本，以及控制面每次变更的审计日志。今天，它们回答财务最关心的问题——这个月的支出来自哪个应用、团队或客户；未来，它们也是我们路线图上人工审批式改进闭环的基础。
按应用、团队或客户分摊成本，不用再拉表格。
每次请求都带着你要求的上下文——应用、环境、团队、项目、客户、用户、功能、会话。Shieldon 把它们与 Token 用量、实际使用的模型、重试与错误一起记录，财务想怎么拆分成本都可以。图片与音频计价在各 Provider 间尚未完全归一化。
- application
- environment
- team
- project
- customer
- user
- feature
- session_id
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "shieldon-chat", "messages": [{"role":"user","content":"Hello"}], "metadata": { "application": "support-bot", "environment": "production" } }'这一行就是 Shieldon 保留的全部：谁、多少、走了哪条路由、花了多少钱。没有 Prompt。
一份没人能改的变更记录。
谁在何时、从何处创建、修改、发布、回滚或轮换了什么。每条记录永久保留，事故复盘从事实开始，而不是从猜测开始。
- 观察使用情况
- 识别模式
- 提出改进建议
- 验证与评估
- 审批需要人工审批
- 发布
- 度量结果
演示控制台画面：一条请求的 Metadata 被记录到用量账本；审计日志列出发布、轮换、回滚与更新事件。
请求流水线
每次调用都走同一条路，每一步都是可以设策略的地方。
认证、核对来源、加载已发布的策略、检查输入、选择路由、核对限额与预算、调用 Provider、必要时故障转移、检查输出、计量成本、写入审计。没有一步可以跳过，上面的章节正对应着这条流水线的顺序。
- 入口
- 请求 ID章节 04, 如何持续改进？
- Gateway API Key 认证章节 01, 谁在调用？
- 组织与 Workspace 授权章节 01, 谁在调用？
- 已发布策略快照章节 03, 如何管控？
- API 适配器
- 安全护栏（输入）章节 02, 发送了什么？
- 路由器→ @openai-prod/gpt-4.1章节 03, 如何管控？
- 限流 / Token / 并发 / 预算预检章节 03, 如何管控？
- Provider 适配器
- 重试与故障转移429 → @bailian/qwen-max章节 03, 如何管控？
- 流式响应归一化
- 安全护栏（输出）章节 02, 发送了什么？
- 用量与成本计量章节 04, 如何持续改进？
- 异步用量日志与审计章节 04, 如何持续改进？
- 响应
适合哪些团队
为那些要对生产环境中的 AI 负责的团队而建。
在你的环境中试点
从一把 Provider 密钥到第一次受治理的调用，五步，一台 Linux 主机。
快速设置在一个页面里带你走完：连接 Provider、创建应用密钥、发布、真实测试调用、接入。然后，把一个接入点交给你的团队就够了。
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"shieldon-chat","messages":[{"role":"user","content":"Hello"}],"metadata":{"application":"support-bot","environment":"production"}}'你的应用只需要这一个密钥。Provider 自己的密钥始终留在 Shieldon 内部。
单台 Linux 主机 · Docker Compose. Nginx connects to Gateway（Go）, Control Plane（Go）, Web 控制台 + 文档. Gateway（Go） connects to PostgreSQL, Redis. Control Plane（Go） connects to PostgreSQL, Redis, S3 兼容存储（可选）.
一切都运行在你的环境里：一个入口、几个容器、标准的 PostgreSQL 与 Redis，以及可选的对象存储——以多架构镜像和离线安装包交付。
不仅仅是模型
治理智能体所使用的能力，而不只是它们调用的模型。
Codex、Claude Code、OpenClaw，以及你们自己团队构建的智能体，最终都需要经过同一个网关。我们的方向是治理它们所使用的一切——Skill、Tool、MCP 服务器、CLI 工作流与 API——沿用同样的四个问题：安全吗，花了多少，看得见吗，会不会越来越好。
1. 治理基础
先看清家底：统一的身份模型，覆盖每个智能体、Skill、Tool、MCP 服务器与 API 的清单，附带归属、数据分级与审计。
2. 策略与管控
定下规则：跨所有智能体生效的安全策略与支出控制，配合审批、能力限制与发布管理。
3. 持续改进
有意识地持续变好：从真实使用中提炼对 Prompt、策略、Skill 与用例的改进建议，经评估后受控发布。
4. 企业运营层
像运营企业其他系统一样运营 AI：发现并登记影子 IT 智能体，接入更多运行时，扩展部署选项，按客户最需要的方向延伸。
安全
看清什么数据跨越了模型与工具边界，把密钥和个人信息留在内部，高风险操作须经审批。
财务 / FinOps
把每一分钱归因到人、团队、应用、智能体、Skill、Tool、模型与 Provider；执行预算，及早发现异常。
可见性 / 可观测性
从人到结果的一条完整轨迹：哪个智能体、哪个 Skill、哪些 Tool 与 MCP 服务器、哪些 API 与模型、应用了哪些策略。
RSI
由真实使用提出更好的 Prompt、策略与用例；每条建议都经版本化、评估与人工审批。
私有化部署 · Docker Compose · 文档随部署提供 · 登录地址 app.shieldon.ai