LiteLLM TypeSafe pass-through
すでに LiteLLM をプロキシとして動かしているなら、判定エンドポイントをそのまま通せる。クライアントは仮想キーだけを持ち、本物のキーはプロキシ側に残り、使用量は他のモデルと同じように集計される。同じページに、LiteLLM の自動ルーターの選択役として Jev を使う方法も載っている。出力がもともと選択肢であるモデルとは相性が良い。
- litellm
- proxy
- cost-tracking
- routing
- 提供元
- BerriAI (LiteLLM) (US)
- 公開
- 2026-09
- 掲載日
- 2026-09-26
確認したソース
同じカテゴリの他のもの
ゲートウェイ・経由先- ゲートウェイ・経由先
Jev on Vercel AI Gateway
自分で TypeSafe のアカウントを取らなくても到達できる経路。ゲートウェイ側のモデル ID で Jev が公開されていて、AI SDK からはチャット補完ではなく専用の評価関数で呼ぶ。ゲートウェイ側ではモデル ID が typesafe-ai/jev で、入力価格は TypeSafe の公表値と同じ。このサイトに載せている独立評価のうち、分布外の校正テストは実際にこの経路で測っている。
Vercel2026-09-16
