AI / Machine Learningobiekt

kodowanie pozycyjne

positional encoding

Mechanizm dodający informację o położeniu tokena w sekwencji, ponieważ uwaga sama w sobie jest niezależna od kolejności.

Typ
obiekt
Pojęcie nadrzędne
reprezentacja wektorowa
Źródło
Vaswani et al., Attention Is All You Need, 2017

Zobacz też

osadzenietransformer

Chcesz wykorzystać AI w swojej firmie?

Wdrażamy chatboty, agentów głosowych i automatyzacje dla MŚP. Pierwsza konsultacja jest bezpłatna.

Bezpłatna konsultacja