El modelo raíz en inglés usa ModernBERT-large con 421 millones de parámetros y contexto de 512 tokens.
Apache 2.0 · más de 100 idiomas
Laya AI: decisiones calibradas en una pasada
Para texto, correos, tickets y JSON. Formula preguntas tipificadas y obtén probabilidades calibradas sin generar texto libre.
TextoCorreoTicketsJSON
Resultados de decisión, no ensayos
El estado de entrada y el espacio de respuesta están separados. Defines preguntas y opciones en la solicitud; Laya AI las evalúa en una pasada y devuelve probabilidades calibradas que puedes usar con umbrales, registro, reproducción y auditoría.
El modelo multilingüe usa mmBERT-base con 322 millones de parámetros y más de 100 idiomas.
RLCD y reglas de puntuación estrictamente apropiadas premian probabilidades calibradas.
Los pesos en inglés, multilingües y de typed decisions están bajo Apache 2.0.
Evaluación publicada: triaje de correo 0.732, verificación de hechos 0.883 y enrutamiento de intención 0.991.
Diseñado para decisiones verificables
Usa Laya AI cuando una distribución de probabilidad defendible importa más que una generación fluida.
Respuestas tipificadas
Formula preguntas de selección, puntuación o sí/no. El espacio de respuesta se define en la solicitud sin reentrenar el encoder.
Procesamiento en una pasada
Comprobaciones paralelas de urgencia, departamento, intención de reembolso y riesgo de cancelación se resuelven en el mismo forward pass.
Enrutamiento automático
Router detecta idioma y escritura, selecciona el modelo y admite una indicación explícita de idioma.
Probabilidades calibradas
Las distribuciones de probabilidad admiten umbrales, muestreo y escalamiento. Ajusta temperature con tus propios datos.
Sin texto libre generado
Menos respuestas libres significan menos parsing y menos alucinaciones. Cada salida corresponde a las opciones suministradas.
Del input a la decisión
El camino documentado es breve: instala el paquete, define el estado y el espacio de respuesta, llama a Router y actúa con las probabilidades devueltas.
Instalar Laya AI
Instala el paquete laya desde PyPI y carga solo el modelo que necesite tu servicio.
Definir el estado
Proporciona un correo, ticket, documento o payload JSON. Coloca las reglas en las instrucciones y descripciones de opciones.
Formular preguntas tipificadas
Combina preguntas de departamento, urgencia e intención de reembolso en la misma llamada.
Enrutar y actuar
Lee la opción y la probabilidad, registra los metadatos de enrutamiento y aplica tu umbral.
Evaluar antes del lanzamiento
Etiqueta muestras reales, compara con tu política actual, ajusta temperature y define umbrales de escalamiento.
Resultados medidos y límites conocidos
Estas cifras provienen de la documentación de Laya. Cada resultado identifica el modelo, la carga de trabajo y el hardware usados en la medición.
Modelo afinado sobre 2,000 decisiones.
Sobre 24,314 preguntas evaluadas.
Tras calibración en la evaluación publicada.
Registrado en la evaluación local del proyecto.
Condiciones de medición
Las cifras identifican el modelo, la carga de trabajo y el hardware utilizados.
Compensaciones conocidas
Los modelos base se acercan al azar en typed decisions zero-shot; ordinal scoring es la capacidad más débil, y Banking77 con 77 opciones baja a 0.425 con el presupuesto de tokens predeterminado.
Laya AI frente a TypeSafe Jev
Una comparación compacta con las cifras publicadas de TypeSafe Jev.
| Métrica | TypeSafe Jev 1.13.0 | Laya AI, enrutado |
|---|---|---|
| Typed decisions, 2,000 | 0.727 | 0.766 |
| AG News, 4 etiquetas | 0.910 | 0.950 |
| DAIR Emotion, 6 etiquetas | 0.480 | 0.595 |
| Banking77, 72 frente a 77 etiquetas | 0.870 | 0.425 |
| ECE, menor es mejor | 0.246 | 0.081 |
| p50 de una pregunta | 236–276 ms | 32.8 ms |
| Idiomas utilizables | Sin benchmark publicado | 45 de 51 |
| Pesos | API cerrada | Apache 2.0 |
Las cifras de TypeSafe Jev provienen de su documentación publicada; los tamaños de muestra y prompts difieren de las ejecuciones enrutadas de Laya AI.
Resultados con muchas opciones y distribuciones suaves
- Banking77: TypeSafe Jev 0.870; Laya AI 0.425 con 77 opciones.
- Precisión suave en typed decisions: TypeSafe Jev 0.580; Laya AI 0.471.
- ECE sin ajustar: TypeSafe Jev 0.144; Laya AI 0.213 antes de temperature y 0.081 tras ajuste de dominio.
Autoaloja los pesos abiertos
Laya AI se distribuye bajo Apache 2.0 e incluye una ruta de servidor documentada. Los pesos, solicitudes, registros y política de umbrales pueden permanecer en tu entorno.
Instalar y servir
Instala laya con su extra serve y ejecuta laya-serve. Las variables de entorno controlan dispositivo y comportamiento de precarga.
Endpoint compatible con Jev
POST /v1/systemone sigue la forma de TypeSafe Jev, por lo que un cliente existente solo debe cambiar su base URL.
Controlar acceso
El servidor escucha en 0.0.0.0 sin autenticación. Configura LAYA_API_KEY antes de exponerlo fuera de una red privada.
Operar con límites claros
Mantén el modelo raíz para inglés, enruta otros idiomas al modelo multilingüe y reserva Laya AI para decisiones calibradas.
Enrutamiento y cobertura de idiomas
La capacidad del modelo y la evidencia de enrutamiento están documentadas por separado. El modelo multilingüe admite más de 100 idiomas; el benchmark compartido midió 45 de 51.
- El inglés usa el modelo raíz ModernBERT-large.
- Las escrituras no latinas se enrutan al modelo multilingüe de Laya AI.
- La detección de escritura toma menos de 0.5 milisegundos.
- El benchmark compartido encontró 45 de 51 idiomas utilizables.
- La versión 0.3.7 mejoró lenguas romances en ASCII puro y portugués de Brasil.
- Puedes usar lang_guess para omitir la detección o precargar hasta dos modelos.
FAQ de Laya AI
¿Qué es Laya AI?
Es una familia de modelos de decisión no autorregresivos. Lee un estado y preguntas tipificadas, y devuelve respuestas estructuradas con distribuciones de probabilidad.
¿Qué checkpoints están disponibles?
El hub incluye un modelo raíz en inglés de 421M parámetros, uno multilingüe de 322M y uno de typed decisions de 421M.
¿Puede Laya AI sustituir a un modelo que escribe respuestas?
No. Es un modelo System 1 para selección, puntuación, enrutamiento, guardrails, moderación y señales de confianza.
¿Cómo se usan las probabilidades de forma segura?
Ajusta temperature con tus datos, revisa la calibración y define umbrales conservadores. La evaluación publicada reporta 0.753 in-task y 0.947 al 50% de cobertura.
¿Cuáles son sus límites en zero-shot?
Los modelos base están cerca del azar en zero-shot, y muchas opciones presionan el presupuesto de tokens. Evalúa tu propio workload antes del despliegue.
¿Puedo autoalojarlo comercialmente?
Los pesos están bajo Apache 2.0. Revisa la licencia con tu proceso de cumplimiento y activa autenticación fuera de una red privada.
¿Qué midió la evaluación publicada?
Cubre familias in-task y zero-shot retenidas, calibración y latencia. La precisión zero-shot general es 0.651; el conjunto in-task más amplio reporta 0.753.