Тег: GPT

Тег GPT имеют 15 терминов
#ABCDEFGHIJKLMNOPQRSTUVWXYZАБВГДЕЁЖЗИЙКЛМНОПРСТУФХЦЧШЩЪЫЬЭЮЯ0123456789

A

Adam Optimizer

Attention Mask

C

Contextual Embedding

E

Effective Batch Size

L

Learning Rate Warmup

LoRA

Low-Rank Adaptation

M

Masked Self-Attention

Multi-Head Attention

R

Representation Learning

S

Subword Tokenization

T

Token Embedding

Tokenizer Vocabulary

Transformer Decoder

Transformers Block

W

Weight Decay

Б

Блок трансформера

З

Затухание весов

К

Контекстное встраивание

М

Маска внимания

Маскированное самовнимание

Многоголовое внимание

О

Обучение представлений

Оптимизатор Adam

Р

Разогрев скорости обучения

С

Словарь токенизатора

Т

Токенизация на подслова

Трансформер-декодер

Э

Эмбеддинг токена

Эффективный размер батча