Я проверил исходный код. Если я не ошибся, токенизатор используется для двух вещей: подсчёта токенов для статистики и оценки стоимости, а также для усечения постов до установленного лимита. Так что использование неправильного токенизатора не сильно повлияет на меня.
lilydjwg
9
Связанные темы
| Тема | Ответов | Просм. | Активность | |
|---|---|---|---|---|
| Discourse AI - Large Language Model (LLM) settings page | 21 | 3460 | 09.05.2026 | |
| AI powered Spam detection | 11 | 1089 | 11.01.2025 | |
| Discourse AI - Spam detection | 32 | 4000 | 10.03.2026 | |
| Introducing Discourse AI | 26 | 3958 | 04.05.2023 | |
| What's the cheapest/best AI to use for AI Spam? | 6 | 327 | 18.03.2025 |