OpenJev
同じ通信形式をオープンモデルで実装した判定サーバー。公式 SDK の接続先を差し替えれば使える。特徴は、生成された文字列を解析するのではなく、モデル自身のトークン確率から答えを読み出すこと。ホストされているモデルの動きに近い。その代わり、手を入れた推論バックエンドと、GPU か Apple シリコンの機材が要る。
- self-hosted
- vllm
- mlx
- diffusiongemma
- logprobs
- 提供元
- razorback16
- ライセンス
- Apache-2.0
- 言語
- Python
- GitHub スター
- 427 (2026-09-26)
- 公開
- 2026-09
- 掲載日
- 2026-09-26
確認したソース
同じカテゴリの他のもの
互換オープン実装- 互換オープン実装
LocalJev
作り直しではなく橋渡し。リクエストとレスポンスの形は保ったまま、確率は普通のローカルチャットモデルに JSON の数値を出させ、検証して正規化することで得る。おかげで、手を入れていない OpenAI 互換サーバーでそのまま動く。README は「モデルの自己申告の確率はロジットの読み出しとは別物だ」とはっきり書いている。しきい値を置く前に校正を確かめること。
GitHub Next776 スター2026-09-18