Разочарования от детектора спама на базе ИИ

,

Спасибо, но я знаю, что такое токенизатор. Я не понимаю, для чего его использует Discourse и что произойдет, если я выберу неправильный токенизатор? В любом случае, для вызова LLM мне токенизатор не нужен.