glossary
inference latency
The time taken per inference, measured in the study alongside macro F1 and monetary cost to compare models.
As used in: Non-Autoregressive Typed Decisions: How Does Laya Compare to BERT for On-Device Classification?
The time taken per inference, measured in the study alongside macro F1 and monetary cost to compare models.
الوقت المُستغرق لكل استدلال، ويُقاس في الدراسة إلى جانب macro F1 والتكلفة المالية لمقارنة النماذج.
El tiempo que toma por inferencia, medido en el estudio junto con macro F1 y costo monetario para comparar modelos.
Le temps pris par inférence, mesuré dans l'étude parallèlement au macro F1 et au coût monétaire pour comparer les modèles.