Английская корневая модель: ModernBERT-large, 421 млн параметров, контекст 512 токенов.
Apache 2.0 · 100+ языков
Laya AI: калиброванные решения за один проход
Для текста, писем, заявок и JSON. Задавайте типизированные вопросы и получайте калиброванные вероятности без свободного текста.
ТекстEmailЗаявкиJSON
Решения, а не длинные тексты
Входное состояние и пространство ответов разделены. Вы определяете вопросы и варианты в запросе, а Laya AI оценивает их за один проход и возвращает калиброванные вероятности.
Мультиязычная модель: mmBERT-base, 322 млн параметров, 100+ языков.
RLCD и строго правильные оценочные правила поощряют калиброванные вероятности.
Английская, мультиязычная и typed-decisions модели опубликованы под Apache 2.0.
В опубликованной оценке: email-триаж 0.732, проверка фактов 0.883, маршрутизация намерений 0.991.
Для решений с проверяемой основой
Используйте Laya AI там, где важнее объяснимое распределение вероятностей, чем свободная генерация.
Типизированные ответы
Задавайте вопросы с выбором, оценкой или ответом да/нет. Пространство ответов определяется в запросе.
Оценка за один проход
Параллельные проверки срочности, отдела, намерения вернуть деньги и риска оттока выполняются вместе.
Автоматическая маршрутизация
Router определяет язык и письменность, выбирает модель и поддерживает явное переопределение языка.
Калиброванные вероятности
Распределения вероятностей подходят для фильтрации, выборки и эскалации. Сначала подберите temperature на своих данных.
Без свободной генерации
Меньше свободных ответов для разбора и меньше галлюцинаций. Каждый вывод связан с заданными вариантами.
От входа к решению
Задокументированный путь короткий: установите пакет, определите состояние и пространство ответов, вызовите Router и используйте вероятности.
Установите Laya AI
Установите пакет laya из PyPI и загрузите только нужную модель.
Определите состояние
Передайте письмо, заявку, документ или JSON. Правила решения опишите в вопросах и вариантах.
Задайте типизированные вопросы
Объедините вопрос по отделу, оценку срочности и вопрос о возврате в одном вызове.
Маршрутизируйте и действуйте
Прочитайте выбранный вариант и вероятность, сохраните metadata маршрутизации и примените порог.
Оцените до запуска
Разметьте реальные примеры, сравните с текущей политикой, подберите temperature и пороги эскалации.
Измеренные результаты и известные ограничения
Эти показатели взяты из документации проекта Laya. Для каждого результата указаны модель, задача и оборудование.
Дообученная модель, 2 000 решений.
По 24 314 оцененных вопросов.
После калибровки в опубликованной оценке.
По локальной оценке проекта.
Условия измерения
Результаты указывают модель, задачу и оборудование, использованные при измерении.
Известные ограничения
Базовые модели близки к случайному уровню в zero-shot typed decisions; ordinal scoring — самая слабая примитивная задача; Banking77 с 77 вариантами даёт 0.425 при базовом бюджете токенов.
Laya AI и TypeSafe Jev
Компактное сравнение с опубликованными показателями TypeSafe Jev.
| Метрика | TypeSafe Jev 1.13.0 | Laya AI, routed |
|---|---|---|
| Typed decisions, 2 000 | 0.727 | 0.766 |
| AG News, 4 класса | 0.910 | 0.950 |
| DAIR Emotion, 6 классов | 0.480 | 0.595 |
| Banking77, 72 и 77 классов | 0.870 | 0.425 |
| ECE, ниже лучше | 0.246 | 0.081 |
| p50, один вопрос | 236–276 мс | 32.8 мс |
| Языки | Нет опубликованного бенчмарка | 45 из 51 |
| Веса | Закрытый API | Apache 2.0 |
Показатели TypeSafe Jev взяты из его опубликованной документации; размеры выборок и промпты отличаются от routed-оценки Laya AI.
Результаты с большим числом вариантов и soft-распределений
- Banking77: TypeSafe Jev 0.870; Laya AI 0.425 на 77 вариантах.
- Soft-точность typed decisions: TypeSafe Jev 0.580; Laya AI 0.471.
- Сырой ECE: TypeSafe Jev 0.144; у Laya AI 0.213 до подбора temperature и 0.081 после доменной калибровки.
Self-hosting открытых весов
Laya AI распространяется под Apache 2.0 и включает документированный путь запуска сервера. Веса, запросы, журналы и пороговая политика остаются в вашей среде.
Установка и запуск
Установите laya с дополнительным модулем serve и запустите laya-serve. Переменные окружения управляют устройством и preload-поведением.
Совместимый с Jev endpoint
POST /v1/systemone следует структуре TypeSafe Jev, поэтому существующему клиенту достаточно изменить base URL.
Контроль доступа
Сервер по умолчанию слушает 0.0.0.0 без аутентификации. Установите LAYA_API_KEY перед публикацией за пределами приватной сети.
Эксплуатация с учетом ограничений
Оставьте английскую модель для английского, направляйте другой ввод в мультиязычную модель и используйте Laya AI для калиброванных решений.
Языковая маршрутизация и покрытие
Возможности модели и данные маршрутизации описаны отдельно. Мультиязычная модель поддерживает 100+ языков; общий бенчмарк измерил 45 из 51 языков.
- Для английского используется корневая модель ModernBERT-large.
- Не-латинские письменности направляются в мультиязычную модель.
- Определение письменности занимает менее 0,5 мс.
- В общем бенчмарке 45 из 51 языков оказались пригодными.
- Версия 0.3.7 улучшила романские языки в plain ASCII и бразильский португальский.
- Определение языка можно переопределить через lang_guess или preload до двух моделей.
Laya AI: вопросы и ответы
Что такое Laya AI?
Это семейство неавторегрессионных моделей решений. Она принимает входное состояние и типизированные вопросы, а возвращает структурированные ответы с распределениями вероятностей.
Какие модели доступны?
В хабе есть английская корневая модель на 421 млн параметров, мультиязычная на 322 млн и typed-decisions на 421 млн.
Может ли Laya AI заменить генеративную языковую модель?
Нет. Это System 1 модель для выбора, оценок, маршрутизации, guardrails, модерации и сигналов уверенности.
Как безопасно использовать вероятности?
Подберите temperature на своих данных, проверьте калибровку и установите консервативные пороги. Опубликованная оценка: 0.753 in-task accuracy и 0.947 при 50% покрытия.
Каковы zero-shot ограничения?
Базовые модели близки к случайному уровню, а большое число вариантов увеличивает нагрузку на токенный бюджет.
Можно ли коммерчески использовать self-hosting?
Да, веса опубликованы под Apache 2.0. Проверьте лицензию по своему процессу и включите аутентификацию вне приватной сети.
Что измеряет опубликованная оценка?
In-task и held-out zero-shot группы, калибровку и задержку. Общая zero-shot точность — 0.651, большая in-task выборка — 0.753.