Token

Jednostka tekstu przetwarzana przez model. Może być całym słowem, częścią słowa albo znakiem. Jej długość zależy między innymi od języka.

NA PRZYKŁADDługi PDF zajmuje wiele tokenów, więc pozostawia mniej miejsca na dalszą rozmowę w oknie kontekstu.