encoder
Beispiele
Transformers can be found in encoder only models, like BERT, and decoder only architecture, like generative pretrained transformer (GPT).
Трансформеры встречаются в моделях только с кодировщиком, например BERT, и в архитектуре только с декодировщиком, например генеративном предобученном трансформере GPT.
It is also worth noting that BERT is only an encoder that maps the input tokens to a vector representation.
Стоит также отметить, что BERT — лишь кодировщик, который отображает входные токены в векторное представление.
Transformer Encoder-Decoders have the task to translate an input sequence to another sequence, e.g. for language translation.
Задача трансформеров с кодировщиком и декодировщиком — преобразовывать входную последовательность в другую, например при переводе с одного языка на другой.