Мы очень хотели бы иметь бота с искусственным интеллектом в функции чата. Наши пользователи активно используют чат.
Можете ли вы подробнее рассказать, как вы хотели бы, чтобы это работало?
2 лайка
Мои пользователи будут использовать это так:
- Мой ветеринар сказал, что собаки могут получать витамин D от солнечного света
- Не думаю… все говорят, что нужно использовать нутрицевтики
- Серьёзно? Привет
@helpful-bot, могут ли собаки получать витамин D от солнца?
Примерно так. Это значит, что мне не нужны разные персоны. Но для меня это не критично. У меня уже есть другой чат-бот, который используется на каналах 
4 лайка
Приносим извинения за неоднозначность. Мы имели в виду, что хотим, чтобы пользователи могли вызывать бота в общем чат-канале, используя @botname. Кроме того, пользователи из подходящей группы должны иметь возможность напрямую отправлять сообщения боту, как показано на скриншотах ниже:
3 лайка
Понятно, значит, если сосредоточиться здесь, то есть… с чуть более техническими деталями.
- Упоминание
@gpt3.5-botвыберет первую приоритетную персону… обычно это помощник форума, но вы можете изменить это. - Мы также будем предоставлять контекст (допустим, 1000 токенов предыдущих сообщений чата), чтобы всё было согласовано. (Это настраивается или нет? Настраивается ли это для каждой персоны?)
- Нам явно нужно ограничить круг людей, которые могут использовать
@упоминаниев чате, поэтому нам понадобится настройка сайта для этого. - Нам нужно подумать об аудируемости; минимально достаточным решением здесь будет предоставление запроса для Data Explorer.
- Учитывая недавние рефакторинги чата, мы можем открывать «неограниченное» количество новых обсуждений с ботом, так что мы определённо можем что-то там спроектировать.
- Если мы разрешаем упоминания в чате… почему бы не разрешить их и в сообщениях форума для той же группы? Или для другой группы?
Учитывая всё это… моё предложение для версии V0:
- Добавить настройку сайта
ai_bot_chat_enabled_groups. - Зафиксировать контекст в 1000 токенов на данный момент — выбирать первую приоритетную персону.
- Для V0 реализовать только поддержку
@упоминания.
V1
- Поддержка потоковой передачи и отмены.
V2
- Добавить опциональную поддержку «Групповых личных сообщений с AI-ботами».
- Убедиться, что у нас также есть удобный интерфейс для поиска всего этого и минимизации накладных расходов на выполнение таких действий.
V3
-
Опционально разрешить персонам также создавать выделенного пользователя с уникальным аватаром. Тогда вы сможете взаимодействовать с несколькими ботами в чате. В этом режиме у персоны также будет выбран пользователь/модель.
-
Также перенести часть конфигурации в интерфейс персоны… какая персона включена для чата?
V4
- Продумать ограничения — максимальное использование токенов в день на пользователя и тому подобное.
V5
- Продумать также добавление части этого функционала в стандартные темы — (требуется настройка сайта и т. д.), например:
@summary_bot обобщи эту тему до текущего момента.
В целом мне многое из этого нравится, нужно только понять, как вписать это в наш дорожную карту.
8 лайков
Тем временем, если вы используете собственный хостинг, вы всегда можете рассмотреть Discourse Chatbot, который поддерживает функцию чата с самого начала (и, по сути, был первым ИИ-чатботом для Discourse).
4 лайка
Звучит как очень надёжный план.
Может, начнём с настройки по умолчанию для персоны чата, а со временем перейдём к настройкам для каждого канала?
100%
Я думаю, что чат — хорошее место для старта, а затем мы постепенно перенесём это поведение и на темы.
2 лайка
Я в целом согласен с вашими и мыслями @Falco, единственное, что стоит добавить — убедиться, что это работает и с потоками чата (Chat Threads), если не в V0, то в V1/V2.
(Опционально) Ещё одна вещь, которую, возможно, стоит добавить в будущем, — это возможность инициации чата с ботом. Я думаю, что некоторые пользователи могут даже не знать, что это возможно!
4 лайка
Кажется, нормально для V0. Думаю, в среднесрочной и долгосрочной перспективе гораздо лучше иметь удобный интерфейс для создания ботов и возможность определять разрешённые группы прямо в нём, а не через настройки сайта.
1 лайк
Редактор персон — это, безусловно, тот инструмент, который позволит нам достичь этой цели.
У нас уже есть вся необходимая основа для привязки нового пользователя к персоне.
2 лайка
AI-бот в чате будет намного лучше текущей личной переписки с ИИ…
Надеюсь, это улучшение добавят в ближайшее время…
Кстати, похоже, что использование API Gemini скоро перестанет быть бесплатным… хм…
1 лайк
Я экспериментировал с этим, и у такого подхода есть довольно много ограничений: сложно отслеживать историю, поддержка Markdown не полная и так далее. Это не гарантированный успех. Тем не менее, начать разговоры легко, но это не полная замена.
Можете ли вы подробнее объяснить, почему вы считаете, что это намного лучше?
Gemini 1.0 Pro не так уж хорош, в любом случае я бы его избегал. Если вы ищете недорогую LLM, то лучше выбрать Claude 3 Haiku.
4 лайка
Эта тема была автоматически закрыта через 2 дня. Новые ответы больше не принимаются.