英語ルートモデルは ModernBERT-large（4.21億パラメーター、512トークンコンテキスト）。
Apache 2.0 · 100以上の言語
Laya AI：1回のフォワードパスで校準された判断を出力
テキスト、メール、チケット、JSONなどの入力に構造化された質問を送ると、校準された確率付きの回答を返します。自由文は生成しません。
テキストメールチケットJSON
文章生成ではなく、判断の出力に特化
入力状態と回答候補を分離します。質問と選択肢はリクエスト時に定義でき、Laya AIは1回のフォワードパスで採点し、記録・再現・監査できる校準済み確率を返します。
多言語モデルは mmBERT-base（3.22億パラメーター、100以上の言語）。
RLCDと適切なスコアリングルールにより、校準された確率の出力を促進します。
英語・多言語・typed decisionsの重みは Apache 2.0 で公開されています。
公開評価：メールトリアージ 0.732、事実確認 0.883、意図ルーティング 0.991。
説明可能な判断のための設計
流暢な生成文よりも、説明・比較・検証できる確率分布が重要な用途で Laya AI を使用できます。
構造化された回答
選択、スコア、はい/いいえの質問を送ると、自由文ではなく構造化された回答を返します。回答候補はリクエスト時に定義できます。
1パスでのバッチ処理
緊急度、担当部門、返金意図、解約リスクなどの並列チェックを同じフォワードパスで処理します。
自動ルーティング
Router が言語と文字種を判定し、英語または多言語モデルを選択します。言語の明示指定にも対応します。
校準された確率
確率分布しきい値判定、サンプリング、エスカレーションに利用できます。まず自分のデータで temperature を調整してください。
自由文を生成しない
自由形式の返信解析を減らし、典型的なハルシネーションを抑えます。出力は指定された選択肢に対応します。
入力から判断まで
導入ステップは短く、パッケージ導入、入力と回答候補の定義、Router の呼び出し、確率に基づく処理で構成されます。
Laya AIを導入
PyPI から laya パッケージを導入し、サービスに必要なモデルだけを読み込みます。
入力を定義
メール、チケット、ドキュメント、JSON などを入力し、判断規則を質問と選択肢の説明に置きます。
構造化された質問を送る
部門、緊急度、返金意図の質問を同じ呼び出しにまとめられます。
ルーティングして処理
選択された選択肢と確率を読み取り、ルーティング metadata を記録し、しきい値を適用します。
公開前に評価
実サンプルにラベルを付け、現行ポリシーと比較し、temperature を調整してエスカレーションしきい値を設定します。
測定結果と既知の制限
数値は Laya プロジェクトのドキュメントに基づきます。各結果には測定に使ったモデル、ワークロード、ハードウェアを示します。
ファインチューニング済みモデルで2,000件の判断を評価。
24,314件の評価質問に基づきます。
公開評価での校準後の結果。
プロジェクトのローカル評価による記録。
測定条件
結果には測定に使用したモデル、ワークロード、ハードウェアを示します。
既知のトレードオフ
ベースモデルは zero-shot の typed decisions でほぼランダム水準、ordinal scoring は最も弱く、77選択肢の Banking77 は既定トークン予算で 0.425 まで低下します。
Laya AI と TypeSafe Jev の比較
公開されている TypeSafe Jev の数値とコンパクトに比較します。
| 指標 | TypeSafe Jev 1.13.0 | Laya AI（ルーティング） |
|---|---|---|
| Typed decisions、2,000件 | 0.727 | 0.766 |
| AG News、4クラス | 0.910 | 0.950 |
| DAIR Emotion、6クラス | 0.480 | 0.595 |
| Banking77、72対77クラス | 0.870 | 0.425 |
| ECE（低いほど良い） | 0.246 | 0.081 |
| 1質問の p50 レイテンシー | 236–276 ms | 32.8 ms |
| 対応言語 | 公開ベンチマークなし | 51中45 |
| 重み | クローズド API | Apache 2.0 |
TypeSafe Jev の数値は公開ドキュメントに基づき、サンプル数やプロンプトは Laya AI のルーティング評価と異なります。
多選択肢とソフト分布の結果
- Banking77：TypeSafe Jev 0.870、Laya AI 0.425。
- Typed decisions のソフト正解率：TypeSafe Jev 0.580、Laya AI 0.471。
- 未調整 ECE：TypeSafe Jev 0.144。Laya AI は temperature 調整前 0.213、ドメイン調整後 0.081。
オープンウェイトをセルフホスト
Laya AI は Apache 2.0 で提供され、文書化されたサーバー起動方法を含みます。重み、リクエスト、ログ、しきい値ポリシーを自社環境に置けます。
導入と起動
serve extra 付きの laya パッケージを導入し、laya-serve を実行します。環境変数でデバイスとプリロード動作を制御します。
Jev互換エンドポイント
POST /v1/systemone は TypeSafe Jev と同じ形式のため、既存クライアントは base URL の変更だけで移行できます。
アクセス制御
既定では 0.0.0.0 バインドで認証なしです。プライベートネットワーク外に公開する場合は LAYA_API_KEY を設定してください。
制限を踏まえた運用
英語は英語ルートモデル、その他は多言語モデルにルーティングし、選択肢長を監視し、校準された判断に Laya AI を使用します。
言語ルーティングと対応範囲
モデル能力とルーティング根拠は分けて記録します。多言語モデルは100以上の言語に対応し、共有ベンチマークでは51言語中45言語を測定しました。
- 英語は ModernBERT-large のルートモデルを使用します。
- 非ラテン文字は Laya AI の多言語モデルにルーティングされます。
- 文字種判定は0.5ミリ秒未満です。
- 共有ベンチマークでは51言語中45言語が利用可能と評価されました。
- 0.3.7 では plain ASCII のロマンス諸語とブラジルポルトガル語を改善しました。
- lang_guess で判定を上書きするか、最大2モデルをプリロードできます。
Laya AI FAQ
Laya AIとは何ですか？
非自己回帰型の判断モデルファミリーです。入力状態と構造化された質問を受け取り、自由文ではなく確率分布付きの構造化回答を返します。
利用できるモデルは？
4.21億パラメーターの英語ルートモデル、3.22億パラメーターの多言語モデル、4.21億パラメーターの typed decisions モデルを提供します。
返信を生成する言語モデルの代わりになりますか？
いいえ。System 1 の判断モデルであり、選択、スコア、ルーティング、ガードレール、モデレーション、信頼度信号に適しています。
確率を安全に使うには？
自分のデータで temperature を調整し、キャリブレーション曲線を確認して、保守的なしきい値を設定します。公開評価では in-task 正解率 0.753、50%カバレッジ 0.947 です。
zero-shot の制限は？
ベースモデルは zero-shot でほぼ偶然 Water準です。選択肢が多い質問はトークン予算も圧迫するため、公開前に自社ワークロードで評価してください。
商用セルフホストは可能ですか？
モデルは Apache 2.0 です。ライセンスをコンプライアンス手順で確認し、プライベートネットワーク外では認証を有効にしてください。
公開評価の内容は？
in-task および held-out zero-shot のタスク族、キャリブレーション、レイテンシーをカバーします。zero-shot 全体正解率は 0.651、大きな in-task 集合は 0.753 です。