Включение AI-бота в чате

Внести вклад Функция
, , ,
5

Понятно, значит, если сосредоточиться здесь, то есть… с чуть более техническими деталями.

  1. Упоминание @gpt3.5-bot выберет первую приоритетную персону… обычно это помощник форума, но вы можете изменить это.
  2. Мы также будем предоставлять контекст (допустим, 1000 токенов предыдущих сообщений чата), чтобы всё было согласовано. (Это настраивается или нет? Настраивается ли это для каждой персоны?)
  3. Нам явно нужно ограничить круг людей, которые могут использовать @упоминание в чате, поэтому нам понадобится настройка сайта для этого.
  4. Нам нужно подумать об аудируемости; минимально достаточным решением здесь будет предоставление запроса для Data Explorer.
  5. Учитывая недавние рефакторинги чата, мы можем открывать «неограниченное» количество новых обсуждений с ботом, так что мы определённо можем что-то там спроектировать.
  6. Если мы разрешаем упоминания в чате… почему бы не разрешить их и в сообщениях форума для той же группы? Или для другой группы?

Учитывая всё это… моё предложение для версии V0:

  1. Добавить настройку сайта ai_bot_chat_enabled_groups.
  2. Зафиксировать контекст в 1000 токенов на данный момент — выбирать первую приоритетную персону.
  3. Для V0 реализовать только поддержку @упоминания.

V1

  1. Поддержка потоковой передачи и отмены.

V2

  1. Добавить опциональную поддержку «Групповых личных сообщений с AI-ботами».
  2. Убедиться, что у нас также есть удобный интерфейс для поиска всего этого и минимизации накладных расходов на выполнение таких действий.

V3

  1. Опционально разрешить персонам также создавать выделенного пользователя с уникальным аватаром. Тогда вы сможете взаимодействовать с несколькими ботами в чате. В этом режиме у персоны также будет выбран пользователь/модель.

  2. Также перенести часть конфигурации в интерфейс персоны… какая персона включена для чата?

V4

  1. Продумать ограничения — максимальное использование токенов в день на пользователя и тому подобное.

V5

  1. Продумать также добавление части этого функционала в стандартные темы — (требуется настройка сайта и т. д.), например: @summary_bot обобщи эту тему до текущего момента.

В целом мне многое из этого нравится, нужно только понять, как вписать это в наш дорожную карту.

8 лайков