チャネル管理
1. なぜ「チャネル管理」という設計が必要なのか?
まずは抽象的な話は置いておいて、核心となる認識を一つ共有しましょう。
安定性の真実について
下層のチャネルリソースは、本質的に安定していない
皆さんの負担を減らすために、私たちは技術的な手法を用いて、公式の「大きなパッケージ」を分割し、「小さなパッケージ」として皆さんに提供できるようにしました。
これは相当して、プランの利用率が100%になったということです
しかしこれは公式側にとっては赤字の商売なので、必ず「リスク管理(風控)」が発動します。
リスク管理 = 不安定
これは、究極のコストパフォーマンスを追求するためにどうしても支払わなければならない代償であって、私たちがわざと安いチャネルを台無しにしているわけではありません。
この問題を解決するためには、卵を一つのかごに盛るわけにはいかないので、「マルチチャネル・ミックス」という仕組みを設計しました
2. 私たちはどのようにしてお客様のコスト削減を実現しているのでしょうか?
ご利用中に突然接続が切れてしまうことがないよう、公式サブスクリプション、AWS、特価ルートなど、複数のバックエンドリソースを組み合わせて接続しています。
システムの自動実行ロジック
私たちは戦略を8文字に要約しました:「価格を最優先し、自動で下支えする」。
💰 節約を最優先: 特価チャネルを有効にしておけば、システムは常に最も安いチャネルを優先的に利用します。
🛡️ 自動フェイルオーバー: 安いチャネルがレートリミットやリスクコントロールなどで停止した場合、システムはミリ秒単位で少し高価なバックアップチャネルへ自動的に切り替え、コード生成タスクがエラーにならないようにします。
🔄 自動リバート: 安いチャネルの復旧(リスクコントロール解除)が検知されると、システムは自動的に元のチャネルへ戻し、最大限のコスト削減を支援します。
まとめると:あなたはただスイッチを入れて使っていればよくて、システムが一番安いものを自動的に選んでくれる。安いほうがダメになったら、システムが自動的に高いほうに切り替えて支えておき、安いほうが復旧したらまたそちらに戻してくれる。
3. 完全自動なのに、なぜ「手動でオフ」にすることも許されているのですか?
安いルートはコスパが高いものの、ときどき「頭が悪くなった気がする」と感じてしまうこともあるかもしれません。
(たとえば公式チャネル版ほど賢くないと感じる、あるいは特定の複雑なタスクで期待どおりの性能を発揮しないと感じる、など)
この時点で、選択権はあなたの手の中にあります。
どう選べばいいですか?
もし最高のコストパフォーマンスを重視される場合(デフォルトのおすすめ):
「特価チャネル」とその他のチャネルをすべて有効にしておくことをおすすめします。あとはシステムに任せて自動的に振り分けさせ、節約できるところは節約しましょう。
もし品質に対して非常に高い要求があり(予算にあまり制約がない場合):
多少お金が余分にかかっても、リスクコントロールによる変動を一切体験したくないのであれば、一覧の中で 「特価チャネル」をオフにして、公式チャネルまたは AWS チャネルだけを残すようにしてください
4. 操作方法
操作は非常に簡単で、たった3ステップです。
1. 左側のナビゲーションバーで、設定したいモデルプロバイダー(例:Anthropic、OpenAI)を選択します。
2. 右側のリストで、スイッチをクリックして特定のチャネルを有効/無効にします。
3. 右上の保存ボタンをクリックします。
保存をクリックするのを忘れないでください!
スイッチ設定を変更した後は、必ず右上の「保存」ボタンをクリックしてください。保存をクリックしない場合、すべての設定は反映されません!
