The most important features of Transformers are self-attention mechanism and positional encoding.
Les caractéristiques les plus importantes des Transformers sont le mécanisme d’auto-attention et le codage positionnel.