glossary
encoder-only architectures
Models like BERT, RoBERTa, and DistilBERT that use only the encoder part of a Transformer and are traditionally used for text classification with a fixed set of labels.
As used in: Non-Autoregressive Typed Decisions: How Does Laya Compare to BERT for On-Device Classification?
Models like BERT, RoBERTa, and DistilBERT that use only the encoder part of a Transformer and are traditionally used for text classification with a fixed set of labels.
نماذج مثل BERT وRoBERTa وDistilBERT تستخدم جزء الترميز فقط من المُحوّل (Transformer) وتُستخدم تقليديًا لتصنيف النصوص بمجموعة ثابتة من التصنيفات.
Modelos como BERT, RoBERTa y DistilBERT que usan solo la parte de codificador de un Transformer y se usan tradicionalmente para clasificación de texto con un conjunto fijo de etiquetas.
Modèles comme BERT, RoBERTa et DistilBERT qui utilisent uniquement la partie encodeur d'un Transformer et sont traditionnellement utilisés pour la classification de texte avec un ensemble fixe d'étiquettes.