整體架構
一邊是所有應用與智能體。另一邊是所有模型。中間是 Shieldon。
企業內的應用、智能體與工具，都經過 Shieldon 調用雲端與本地模型。敏感數據在離開邊界前就已脫敏，每個請求都路由到最合適的模型，每一次往返都記入賬本，而你自己的 AI 智能體也能調整策略。
在企業邊界之內，應用、智能體、工具與 AI 助手通過 Shieldon AI 網關調用雲端與本地模型，響應沿同一條路徑返回。安全護欄在請求離開邊界之前對敏感數據脫敏；路由把簡單請求送往本地模型，把複雜請求送往前沿模型，必要時自動故障轉移；每個請求都連同其密鑰、路由與 Token 一起記錄；系統會根據用量給出節省 Token 的建議；企業自己的 AI 智能體則通過 API 讀取用量、設定策略並發佈 Release。
LLM INTEGRATIONS
接入一次，通用所有 Provider。切換、組合、故障轉移都不用改應用代碼。
把 OpenAI、Anthropic、Gemini、Bedrock、阿里雲百鍊、DeepSeek 等三十多家 Provider 接在同一個 OpenAI-compatible 端點之後。Provider 密鑰加密保存在 Shieldon 內，只分配給你指定的 Workspace；應用只會拿到 Shieldon 的密鑰。Chat、Responses、Embeddings、Images 與 Audio 按模型逐項支持。
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- 阿里雲百鍊
- 智譜 AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow 硅基流動
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 通用 OpenAI-compatible 端點
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- 阿里雲百鍊
- 智譜 AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow 硅基流動
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 通用 OpenAI-compatible 端點
01 · 誰在調用 API？
在請求到達模型之前，就知道它來自哪個應用、哪個團隊、哪個環境。
每個應用都有自己的 Gateway API Key，密鑰本身就攜帶策略：允許調用哪些模型、每次請求必須附帶哪些信息、只能從哪些網絡發起調用。輪換密鑰不影響任何接入。上游 Provider 密鑰永遠不會離開 Shieldon。
示意性網關響應
演示控制台畫面：創建名為 billing-assistant 的 Gateway API Key，為其定義四個 Metadata 變量，並把來源限制到 203.0.113.0/24；來自其他地址的請求被拒絕。
創建 Gateway API Key
給密鑰起名，選定它能調用的範圍。應用只拿到一個密鑰，Provider 憑證始終留在你手裡。
讓每個請求自報家門
規定每次調用必須聲明什麼——應用、環境、團隊、項目、客戶、用戶、功能或會話；不合規的調用會被拒絕。這些字段之後就是成本歸因的依據。
只接受來自預期網絡的調用
把密鑰限制在你自己的網段內，其他來源的調用在觸達模型之前就會被拒絕。
組織與 Workspace 把部門、產品與環境彼此隔開，各自擁有獨立的成員與角色。
02 · 有哪些信息被發送給了 LLM？
卡號、證件號與 API 密鑰止步於邊界。Prompt 默認不存儲。
為所有應用建立同一道安全邊界，而不是在每個代碼庫里各寫一套檢查。Shieldon 檢查進出模型的內容，識別個人信息與憑證，按策略選擇只告警或直接攔截。記錄的只有判定結果，從不保留命中的內容。而且默認情況下，Prompt、模型輸出與 Embedding 一律不存儲。
- 個人信息：郵箱地址、手機號碼、身份證號、支付卡號、美國社保號
- 密鑰憑證：私鑰、會話 Token、雲平台與 SaaS 憑證、被粘貼進 Prompt 的密碼
- 自定義規則：關鍵詞、正則表達式、工具調用白名單，或通過安全 Webhook 接入你自己的策略服務
- 先用監控模式看看會命中什麼，有把握之後再切換為攔截。
演示控制台畫面：一條包含支付卡號的請求被“敏感數據防護”策略攔截；第二條請求通過。活動記錄只保存原因碼。
在到達 Provider 之前就被攔截。Shieldon 直接拒絕請求，而不是悄悄改寫後放行；記錄里只有原因，沒有原值。
隱私默認值
- Prompt 文本
- 模型輸出
- 工具參數
- Webhook 正文
- Embedding 向量
需要為排查問題短期保留內容？那是一項需另行約定的顯式策略：加密存儲，每一次查看都留下審計記錄。
演示控制台畫面： 請求詳情 req_48e5aa — 邏輯模型 shieldon-chat, Provider ID openai-prod, 狀態 成功, 延遲 812 ms. 採集的載荷: 該請求未啓用正文採集，或沒有保留任何載荷。
03 · 行為應如何管控？
切換 Provider、封頂支出、一鍵回滾，幾分鐘搞定。不改代碼，不打補丁。
應用調用的是一個穩定的模型名，背後接什麼由你決定：指向單一 Provider、失敗時自動切換到備選、按權重分流，或按規則選擇目標。限額與預算在調用 Provider 之前就已生效。每次變更都以經過審閱的 Release 上線，一鍵即可回滾。
演示控制台畫面：故障轉移路由吸收了一次 429；限額策略在 600 RPM 處阻止請求；Credits 預算在達到限額時阻止請求並被調整；一個 Release 被發佈隨後回滾。
示意性路由嘗試 · req_9b21c4
- 第 1 次嘗試 · @openai-prod/gpt-4.1
調用方無感的故障轉移
主 Provider 限流或超時，Shieldon 自動重試並切換到你批准的下一個目標。應用只看到一次成功的響應和同一個請求 ID，無需捕獲異常，也無需重新部署。
正式依賴故障轉移之前，請用你自己的 Provider 與模型實際驗證。
按模型設定限額，並提前定好異常時怎麼辦
按模型限制請求數、Token 數與併發數。即便限流服務本身不可用，也由你提前決定：安全優先，還是可用性優先。
真正能剎住車的 Credits 預算
按 Workspace 或按應用密鑰，在你所在的時區按日、周、月設定預算。預算用完時，調用停止或僅發出告警，由你決定。每一次追加額度都有記錄，沒人能悄悄抬高上限。
每次變更先審閱，每個版本可回滾。
校驗草稿，逐項對比與當前生效版本的差異，審批後發佈。事後發現問題，一鍵回滾到上一個已知良好的版本。網關只運行已發佈的 Release。
04 · 系統如何持續改進？
每次調用有歸屬，每筆成本有去處，每次變更有署名。
Shieldon 為你保留兩份記錄：每次請求的用量與成本賬本，以及控制面每次變更的審計日誌。今天，它們回答財務最關心的問題——這個月的支出來自哪個應用、團隊或客戶；未來，它們也是我們路線圖上人工審批式改進閉環的基礎。
按應用、團隊或客戶分攤成本，不用再拉表格。
每次請求都帶著你要求的上下文——應用、環境、團隊、項目、客戶、用戶、功能、會話。Shieldon 把它們與 Token 用量、實際使用的模型、重試與錯誤一起記錄，財務想怎麼拆分成本都可以。圖片與音頻計價在各 Provider 間尚未完全歸一化。
- application
- environment
- team
- project
- customer
- user
- feature
- session_id
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "shieldon-chat", "messages": [{"role":"user","content":"Hello"}], "metadata": { "application": "support-bot", "environment": "production" } }'這一行就是 Shieldon 保留的全部：誰、多少、走了哪條路由、花了多少錢。沒有 Prompt。
一份沒人能改的變更記錄。
誰在何時、從何處創建、修改、發佈、回滾或輪換了什麼。每條記錄永久保留，事故復盤從事實開始，而不是從猜測開始。
- 觀察使用情況
- 識別模式
- 提出改進建議
- 驗證與評估
- 審批需要人工審批
- 發佈
- 度量結果
演示控制台畫面：一條請求的 Metadata 被記錄到用量賬本；審計日誌列出發佈、輪換、回滾與更新事件。
請求流水線
每次調用都走同一條路，每一步都是可以設策略的地方。
認證、核對來源、加載已發佈的策略、檢查輸入、選擇路由、核對限額與預算、調用 Provider、必要時故障轉移、檢查輸出、計量成本、寫入審計。沒有一步可以跳過，上面的章節正對應著這條流水線的順序。
- 入口
- 請求 ID章節 04, 如何持續改進？
- Gateway API Key 認證章節 01, 誰在調用？
- 組織與 Workspace 授權章節 01, 誰在調用？
- 已發佈策略快照章節 03, 如何管控？
- API 適配器
- 安全護欄（輸入）章節 02, 發送了什麼？
- 路由器→ @openai-prod/gpt-4.1章節 03, 如何管控？
- 限流 / Token / 併發 / 預算預檢章節 03, 如何管控？
- Provider 適配器
- 重試與故障轉移429 → @bailian/qwen-max章節 03, 如何管控？
- 流式響應歸一化
- 安全護欄（輸出）章節 02, 發送了什麼？
- 用量與成本計量章節 04, 如何持續改進？
- 異步用量日誌與審計章節 04, 如何持續改進？
- 響應
適合哪些團隊
為那些要對生產環境中的 AI 負責的團隊而建。
在你的環境中試點
從一把 Provider 密鑰到第一次受治理的調用，五步，一台 Linux 主機。
快速設置在一個頁面里帶你走完：連接 Provider、創建應用密鑰、發佈、真實測試調用、接入。然後，把一個接入點交給你的團隊就夠了。
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"shieldon-chat","messages":[{"role":"user","content":"Hello"}],"metadata":{"application":"support-bot","environment":"production"}}'你的應用只需要這一個密鑰。Provider 自己的密鑰始終留在 Shieldon 內部。
單台 Linux 主機 · Docker Compose. Nginx connects to Gateway（Go）, Control Plane（Go）, Web 控制台 + 文檔. Gateway（Go） connects to PostgreSQL, Redis. Control Plane（Go） connects to PostgreSQL, Redis, S3 兼容存儲（可選）.
一切都運行在你的環境里：一個入口、幾個容器、標準的 PostgreSQL 與 Redis，以及可選的對象存儲——以多架構鏡像和離線安裝包交付。
不僅僅是模型
治理智能體所使用的能力，而不只是它們調用的模型。
Codex、Claude Code、OpenClaw，以及你們自己團隊構建的智能體，最終都需要經過同一個網關。我們的方向是治理它們所使用的一切——Skill、Tool、MCP 服務器、CLI 工作流與 API——沿用同樣的四個問題：安全嗎，花了多少，看得見嗎，會不會越來越好。
1. 治理基礎
先看清家底：統一的身份模型，覆蓋每個智能體、Skill、Tool、MCP 服務器與 API 的清單，附帶歸屬、數據分級與審計。
2. 策略與管控
定下規則：跨所有智能體生效的安全策略與支出控制，配合審批、能力限制與發佈管理。
3. 持續改進
有意識地持續變好：從真實使用中提煉對 Prompt、策略、Skill 與用例的改進建議，經評估後受控發佈。
4. 企業運營層
像運營企業其他系統一樣運營 AI：發現並登記影子 IT 智能體，接入更多運行時，擴展部署選項，按客戶最需要的方向延伸。
安全
看清什麼數據跨越了模型與工具邊界，把密鑰和個人信息留在內部，高風險操作須經審批。
財務 / FinOps
把每一分錢歸因到人、團隊、應用、智能體、Skill、Tool、模型與 Provider；執行預算，及早發現異常。
可見性 / 可觀測性
從人到結果的一條完整軌跡：哪個智能體、哪個 Skill、哪些 Tool 與 MCP 服務器、哪些 API 與模型、應用了哪些策略。
RSI
由真實使用提出更好的 Prompt、策略與用例；每條建議都經版本化、評估與人工審批。
私有化部署 · Docker Compose · 文檔隨部署提供 · 登錄地址 app.shieldon.ai