LocalJev
作り直しではなく橋渡し。リクエストとレスポンスの形は保ったまま、確率は普通のローカルチャットモデルに JSON の数値を出させ、検証して正規化することで得る。おかげで、手を入れていない OpenAI 互換サーバーでそのまま動く。README は「モデルの自己申告の確率はロジットの読み出しとは別物だ」とはっきり書いている。しきい値を置く前に校正を確かめること。
- bun
- typescript
- local
- bridge
- 提供元
- GitHub Next (US)
- ライセンス
- MIT
- 言語
- TypeScript
- GitHub スター
- 776 (2026-09-26)
- 公開
- 2026-09-18
- 掲載日
- 2026-09-26
確認したソース
同じカテゴリの他のもの
互換オープン実装- 互換オープン実装
OpenJev
同じ通信形式をオープンモデルで実装した判定サーバー。公式 SDK の接続先を差し替えれば使える。特徴は、生成された文字列を解析するのではなく、モデル自身のトークン確率から答えを読み出すこと。ホストされているモデルの動きに近い。その代わり、手を入れた推論バックエンドと、GPU か Apple シリコンの機材が要る。
razorback16427 スター2026-09