企業向け AI ゲートウェイ · ガバナンスの一元管理 · セルフホスト
企業には AI が必要です。AI には ShieldON が必要です。
モデルが増え、エージェントが行動し始め、AI がより多くの業務システムにつながる今、ガバナンスは欠かせません。ShieldON は徹底した透明性を提供し、AI の活用が拡大してもリスク、コスト、アクセスを管理できるようにします。
デモ画面：リクエスト指標と最新リクエスト一覧を表示する概要ページ。説明用の固定サンプルデータです。
アーキテクチャ
一方にすべてのアプリとエージェント。もう一方にすべてのモデル。その間に ShieldON。
企業内のアプリ、エージェント、ツールは、ShieldON を経由してクラウドとローカルのモデルにアクセスします。機密データは境界を出る前に伏せられ、各リクエストは最適なモデルへ届き、すべての往復が台帳に記録され、自社の AI エージェントがポリシーを変更できます。
企業の境界の内側では、アプリ、エージェント、ツール、アシスタントが ShieldON の AI ゲートウェイを経由してクラウドとローカルのモデルを呼び出し、レスポンスも同じ経路で戻ります。ガードレールはリクエストが境界を出る前に機密データを伏せ、ルーティングは単純なリクエストをローカルモデルへ、複雑なリクエストを最先端モデルへ送り、必要に応じてフォールバックします。すべてのリクエストはキー、ルート、トークン数とともに記録され、使用量からトークン削減の提案が生成されます。さらに、企業自身の AI エージェントが API 経由で使用量を確認し、ポリシーを設定し、リリースを公開します。
LLM 連携
一度接続すれば、アプリのコードを変えずにプロバイダーを切り替え、組み合わせ、障害時に代替できます。
OpenAI、Anthropic、Gemini、Bedrock、Alibaba Cloud Bailian、DeepSeek など約30以上の追加プロバイダーを、共通の OpenAI 互換エンドポイントに集約。プロバイダーのキーは ShieldON 内で暗号化し、指定したワークスペースだけに共有します。アプリが扱うのは ShieldON のキーのみ。Chat、Responses、Embeddings、Images、Audio の対応はモデルごとに異なります。
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- Alibaba Cloud Bailian
- Zhipu AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 汎用 OpenAI 互換
- OpenAI
- Azure OpenAI
- Microsoft Foundry
- GitHub Models
- Anthropic
- Google Gemini / Vertex AI
- AWS Bedrock
- Alibaba Cloud Bailian
- Zhipu AI
- DeepSeek
- Moonshot AI
- MiniMax
- Groq
- Together AI
- Fireworks AI
- OpenRouter
- xAI
- Perplexity
- Cerebras
- DeepInfra
- Nebius
- SambaNova
- SiliconFlow
- Novita AI
- Jina AI
- Voyage AI
- Cloudflare Workers AI
- Hugging Face
- Ollama
- vLLM
- LocalAI
- Databricks
- 汎用 OpenAI 互換
01 · 誰が API を呼び出しているか？
モデルに届く前に、呼び出し元のアプリ、チーム、環境を把握できます。
各アプリに専用のゲートウェイ API キーを発行し、利用できるモデル、必須のコンテキスト、許可するネットワークを定義。停止せずにキーをローテーションできます。上流プロバイダーのキーが ShieldON の外に出ることはありません。
ゲートウェイの応答例
デモ画面：billing-assistant キーを作成し、4つのメタデータ変数と 203.0.113.0/24 の制限を設定。別のアドレスからのリクエストを拒否します。
ゲートウェイ API キーを作成
キーに名前を付け、呼び出せる対象を決めます。アプリには専用のシークレットを渡し、プロバイダーの認証情報は管理側で保持します。
すべてのリクエストに識別情報を求める
アプリ、環境、チーム、プロジェクト、顧客、ユーザー、機能、セッションなど、各呼び出しに必要な項目を指定。情報が不足した呼び出しは ShieldON が拒否します。同じ項目を後からコスト配賦にも使えます。
想定したネットワークからのみ許可
キーを自社のネットワーク範囲に限定。それ以外からの呼び出しは、モデルに到達する前に拒否されます。
組織とワークスペースで部署、製品、環境を分離し、それぞれのメンバーとロールを管理できます。
02 · どのような情報が LLM に送られているか？
カード番号、身分証番号、API キーは境界で止める。プロンプトは既定で保存しません。
すべてのアプリに共通のセキュリティ境界を設けます。ShieldON が入力と出力を調べ、個人情報や認証情報を検出し、ポリシーに応じて呼び出しを記録対象にするかブロックします。記録するのは判定のみで、検出した内容は保存しません。既定ではプロンプト、出力、埋め込みも一切保存しません。
- 個人情報：メールアドレス、電話番号、身分証番号、決済カード番号、米国社会保障番号
- シークレット：秘密鍵、セッショントークン、クラウドや SaaS の認証情報、プロンプトに貼り付けたパスワード
- 独自ルール：キーワード、正規表現、ツール呼び出しの許可リスト、保護された Webhook 経由の独自ポリシーサービス
- まず Monitor モードで検出内容を確認し、問題がなければ Block モードに切り替えます。
デモ画面：機密データ保護プロファイルがカード番号を含むリクエストをブロックし、次のリクエストは通過します。アクティビティ記録には理由コードのみ保存されます。
プロバイダーに届く前にブロック。ShieldON は内容を黙って書き換えず、リクエストを拒否します。記録するのは理由のみで、検出した値は保存しません。
プライバシーを初期設定から保護
- プロンプト本文
- モデルの出力
- ツールの引数
- Webhook 本文
- 埋め込みベクトル
不具合調査のため一時的に内容を保持する場合は、明示的に別途合意したポリシーが必要です。保存時に暗号化し、閲覧のたびに監査記録を残します。
デモ画面： リクエストの詳細 req_48e5aa — 論理モデル shieldon-chat, プロバイダー ID openai-prod, ステータス Succeeded, レイテンシー 812 ms. 取得されたペイロード: コンテンツ取得が無効だったか、このリクエストのペイロードは保持されていません。
03 · 動作をどのように制御するべきか？
数分でプロバイダー変更、支出制限、ロールバック。コード修正や緊急パッチは不要です。
アプリは安定したモデル名を呼び出し、その接続先は管理側で決めます。単一プロバイダー、障害時の代替、重み付き分散、ルール選択に対応。レート制限と予算はプロバイダーの呼び出し前に適用します。変更は確認済みリリースとして有効化し、ワンクリックで戻せます。
デモ画面：フォールバックで 429 を処理。600 RPM で制限が作動し、予算上限で呼び出しを止めた後にクレジットを調整。リリースの公開とロールバックを行います。
ルート試行の例 · req_9b21c4
- 試行 1 · @openai-prod/gpt-4.1
呼び出し元に意識させないフォールバック
主プロバイダーがレート制限やタイムアウトになった場合、ShieldON が再試行し、承認済みの次の接続先に切り替えます。アプリには成功した応答と1つのリクエスト ID が返り、追加の例外処理や再デプロイは必要ありません。
実運用で頼る前に、お客様のプロバイダーとモデルでフェイルオーバーを検証してください。
モデルごとの制限と、障害時の方針
モデルごとにリクエスト数、トークン数、同時呼び出し数を制限。制限機能が使えない場合も、安全性と可用性のどちらを優先するか事前に決められます。
超過時に本当に止めるクレジット予算
ワークスペースまたはアプリのキーごとに、指定タイムゾーンの日・週・月単位で予算を設定。使い切ったときに呼び出しを止めるか警告するかを選べます。追加はすべて記録され、上限を黙って引き上げることはできません。
すべての変更を確認。すべてのリリースを元に戻せる。
ドラフトを検証し、稼働中の設定との差分を確認して承認・公開。問題があれば、最後に正常だったリリースへワンクリックで戻します。ゲートウェイは公開済みリリースだけを使います。
04 · システムを継続的に改善するには？
すべての呼び出しに責任者を。すべてのコストに帰属先を。すべての変更に実行者を。
ShieldON は、各リクエストの使用量・コスト台帳と、制御プレーンの変更監査ログを保持します。今月の支出を生んだアプリ、チーム、顧客を把握でき、将来は人の承認を伴う改善サイクルの基盤になります。
表計算なしで、アプリ・チーム・顧客ごとにコストを配賦。
各リクエストには、アプリ、環境、チーム、プロジェクト、顧客、ユーザー、機能、セッションなど必要なコンテキストが含まれます。ShieldON はトークン数、実際に使ったモデル、再試行、エラーも記録し、財務の要望に応じた費用分析を可能にします。画像・音声の料金は、プロバイダー間でまだ完全には統一されていません。
- application
- environment
- team
- project
- customer
- user
- feature
- session_id
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "shieldon-chat", "messages": [{"role":"user","content":"Hello"}], "metadata": { "application": "support-bot", "environment": "production" } }'この行が ShieldON の保存した情報のすべてです。誰が、どれだけ、どのルートで、いくら使ったか。プロンプトは含みません。
誰も書き換えられない変更ログ。
誰が何を作成・変更・公開・ロールバック・ローテーションしたか、いつ、どこから行ったかを記録。すべての記録が残るため、障害調査を事実から始められます。
- 利用状況を観測
- 傾向を特定
- 改善を提案
- 検証・評価
- 承認人による承認が必要
- リリース
- 結果を測定
デモ画面：リクエストのメタデータを使用量台帳に記録。監査ログには公開、ローテーション、ロールバック、更新のイベントが並びます。
リクエストの処理フロー
すべての呼び出しが同じ経路を通り、各段階でポリシーを設定できます。
認証、送信元確認、公開済みポリシーの読込、入力検査、ルート選択、制限・予算の確認、プロバイダー呼び出し、必要時の代替、出力検査、コスト計測、監査記録。どの段階も省略せず、上の各章がこの順序に対応します。
- 受信
- リクエスト ID章 04, システムをどう改善するか？
- ゲートウェイ API キー認証章 01, 誰が API を呼び出しているか？
- 組織・ワークスペースの認可章 01, 誰が API を呼び出しているか？
- 公開済みポリシーのスナップショット章 03, 動作をどう制御するか？
- API アダプター
- ガードレール（入力）章 02, 何が送信されているか？
- ルーター→ @openai-prod/gpt-4.1章 03, 動作をどう制御するか？
- レート・トークン・同時実行数・予算の事前確認章 03, 動作をどう制御するか？
- プロバイダーアダプター
- 再試行・フォールバック429 → @bailian/qwen-max章 03, 動作をどう制御するか？
- ストリームの正規化
- ガードレール（出力）章 02, 何が送信されているか？
- 使用量とコストの計測章 04, システムをどう改善するか？
- 使用量ログ・監査の非同期記録章 04, システムをどう改善するか？
- レスポンス
対象となるチーム
本番環境の AI に責任を持つチームのために。
お客様の環境で試験導入
Linux ホスト1台で、プロバイダーのキーから最初の管理された呼び出しまで5ステップ。
クイック設定の1ページで、プロバイダー接続、アプリ用キー作成、公開、実際のテスト呼び出し、連携を案内します。完了後、チームに共通のエンドポイントを渡せます。
curl "https://gateway.example.com/v1/chat/completions" \ -H "Authorization: Bearer $SHIELDON_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{"model":"shieldon-chat","messages":[{"role":"user","content":"Hello"}],"metadata":{"application":"support-bot","environment":"production"}}'アプリが使うのはこのキーだけです。プロバイダー自身のキーは ShieldON 内に残ります。
Linux ホスト1台 · Docker Compose. Nginx connects to ゲートウェイ（Go）, 制御プレーン（Go）, Web コンソール + ドキュメント. ゲートウェイ（Go） connects to PostgreSQL, Redis. 制御プレーン（Go） connects to PostgreSQL, Redis, S3 互換ストレージ（任意）.
すべてお客様の環境で動作します。1つの入口、少数のコンテナー、標準の PostgreSQL と Redis、任意のオブジェクトストレージ。複数アーキテクチャのイメージとオフライン導入パッケージで提供します。
モデルの先へ
モデル呼び出しに加え、エージェントが使う能力も管理する。
Codex、Claude Code、OpenClaw、自社開発のエージェントも、やがて共通のゲートウェイが必要になります。私たちの方向性は、Skills、Tools、MCP サーバー、CLI ワークフロー、API まで統合管理すること。安全か、いくらかかるか、把握できるか、継続的に改善できるかという4つの問いで捉えます。
1. ガバナンスの基盤
保有資産を把握する：共通の ID モデルと、エージェント、Skill、ツール、MCP サーバー、API の一覧に、責任者、データ分類、監査を紐付けます。
2. ポリシーと制御
ルールを定める：すべてのエージェントに適用する安全ポリシーと支出制御を、承認、能力の制限、リリース管理と組み合わせます。
3. 継続的な改善
意図的に改善する：実際の利用に基づくプロンプト、ポリシー、Skill、用途の提案を評価し、管理下で導入します。
4. 企業向けの運用基盤
AI を企業システムとして運用する：管理外のエージェントを発見・登録し、実行環境を拡充、導入方法を増やし、お客様が最も必要とする領域を広げます。
安全性
モデルとツールの境界を越える情報を把握し、シークレットと個人情報を内部に留め、高リスクの操作には承認を求めます。
財務 / FinOps
費用を人、チーム、アプリ、エージェント、Skill、ツール、モデル、プロバイダーに帰属させ、予算を適用して異常を早期に検出します。
可視性 / オブザーバビリティ
人から結果まで一続きの記録。エージェント、Skill、ツール、MCP サーバー、API、モデル、適用ポリシーを追跡できます。
RSI
実際の利用から、より良いプロンプト、ポリシー、用途を提案。すべての提案をバージョン管理し、評価し、人が承認します。
セルフホスト · Docker Compose · ドキュメント同梱 · app.shieldon.ai でログイン