tokenize input

Translations
разбить входные данные на токены
The script will tokenize input to ensure each word is processed individually.
Скрипт разобьет входные данные на токены, чтобы каждый слово обрабатывалось отдельно.