Всем привет!
Хотел бы предложить несколько полезных функций для плагина Discourse AI:
- Отслеживание использования токенов по пользователям
Это позволило бы администраторам контролировать, сколько токенов потребляет каждый пользователь при взаимодействии с ИИ. Это могло бы помочь предотвратить злоупотребления и позволить устанавливать лимиты токенов для отдельных пользователей или групп. Детализированная статистика использования токенов по пользователям дала бы лучшее понимание паттернов использования и затрат.
Мы используем русский язык в нашем сообществе для общения с ИИ, но токенизатор OpenAI плохо работает с русским языком. Один токен может соответствовать одному символу, и для нас это невероятно дорого!
-
Возможность создания пользователями собственных AI-персонажей
Дать пользователям возможность определять персонажа своего ИИ-ассистента (создавать собственные промпты) для более увлекательного и персонализированного взаимодействия. Такая гибкость вдохновила бы на более творческое использование ИИ на форуме. -
Установка по умолчанию максимального количества постов для включения в контекст
Добавление опции по умолчанию для всех персонажей, ограничивающей контекст определённым количеством последних постов, поможет контролировать использование токенов, одновременно предоставляя ИИ достаточно контекста для адекватных ответов. -
Возможность использования текста из пользовательских источников данных
Интеграция загрузчиков документов для источников, таких как PDF-файлы, веб-страницы, файлы Google Drive и т. д., упростила бы пользователям взаимодействие с информацией, и это не кажется сложным в реализации. Представьте возможность, чтобы ИИ ссылался на информацию из белого документа, загруженного в формате PDF, или на факты с конкретных веб-страниц при обсуждении темы. Это особенно полезно для академических сообществ, подобных моему, которые часто работают со статьями в разных форматах. Это могло бы значительно расширить возможности ИИ в специализированных обсуждениях. Инструменты загрузки документов, такие как LangChain, можно было бы использовать для этой цели: Document Loaders —
LangChain 0.0.146 -
Поддержка пользовательских базовых URL-адресов API для всех ИИ-моделей
В настоящее время пользовательские URL-адреса API поддерживаются только для OpenAI. Расширение этой возможности на всех поддерживаемых провайдеров ИИ было бы очень полезным для тех, кому нужно использовать обратный прокси или другие нестандартные конечные точки API. Многие из нас полагаются на обратные прокси по соображениям безопасности, соответствия требованиям или управления затратами, поэтому гибкость маршрутизации запросов к ИИ через нашу собственную инфраструктуру значительно упростит интеграцию этого плагина в наши среды. -
Генерация локализованных заголовков чата на основе языка пользователя
В настоящее время ИИ генерирует заголовки чата только на английском языке. Возможность создавать заголовки на предпочитаемом пользователем языке улучшила бы пользовательский опыт, особенно для сообществ, не говорящих по-английски.
Пожалуйста, дайте знать, что вы думаете!
