tokenizegerund / present participle Used attributively: "tokenizing filter", "tokenizing step".
tokenisantAdjectif au sens de « qui procède à la tokenisation ». The tokenizing module runs first in the text-processing pipeline.
Le module tokenisant s’exécute en premier dans la chaîne de traitement du texte.