Разочарования от детектора спама на базе ИИ

,

Я проверил исходный код. Если я не ошибся, токенизатор используется для двух вещей: подсчёта токенов для статистики и оценки стоимости, а также для усечения постов до установленного лимита. Так что использование неправильного токенизатора не сильно повлияет на меня.