Новый редактор AI-персон для Discourse

[sam (Sam Saffron)]

Мы с радостью объявляем о выпуске совершенно новой функции в Discourse: редактора AI-персонажей. Эта функция, являющаяся частью наших предложений в области искусственного интеллекта, позволяет настраивать и улучшать взаимодействие пользователей с вашей платформой Discourse, регулируя способ взаимодействия с языковыми моделями (LLM), такими как Claude или модели OpenAI GPT, через функцию AI Bot.

Что такое редактор AI-персонажей?

Редактор персонажей — это административный интерфейс, позволяющий управлять и настраивать AI-персонажей.

Вы можете получить доступ к этому новому административному интерфейсу по адресу /admin/plugins/discourse-ai/ai_personas. Обратите внимание, что в настоящее время доступ к интерфейсу редактирования имеют только администраторы.

Ключевые функции

Каждый персонаж имеет следующие атрибуты:

• Имя: Уникальное имя для каждого персонажа.
• Описание: Подробное объяснение того, что делает персонаж, отображается в выпадающем списке персонажей.
• Команды: Список задач, которые может выполнять персонаж (например, поиск, чтение тем и т. д.).
• Системный промпт: Промпт по умолчанию для взаимодействия персонажа. Он определяет тон его работы.
• Разрешенные ID групп: Группы, которые могут взаимодействовать с персонажем.
• Включено: Активен ли персонаж или нет.
• Системный: Является ли персонаж системной сущностью.
• Приоритет: Определяет порядок отображения персонажей в списке.

Для системных персонажей можно изменять только атрибуты «включено», «приоритет» и «разрешенные ID групп». Системный промпт, команды, имя и описание системного персонажа изменить нельзя. Персонажи с приоритетом отображаются в верхней части списка, остальные сортируются в алфавитном порядке.

Имейте в виду, что в этом интерфейсе вы можете просмотреть все стандартные системные промпты, которые можно использовать как шаблоны для собственных настроек.

Настройка персонажей

С помощью редактора персонажей вы можете настроить список персонажей, доступных конечным пользователям. Например, вы можете настроить систему так, чтобы доступ к персонажам «Помощник по SQL» и «Исследователь настроек» имели только сотрудники. Это позволяет адаптировать персонажей под конкретные потребности и роли внутри вашего сообщества.

Готовые персонажи

У нас уже есть широкий набор предварительно настроенных персонажей. Полный список персонажей можно посмотреть здесь.

Расширенные сценарии использования

Вот несколько способов использования персонажей:

1. Поиск в Google на японском языке: Создайте персонажа, который переводит запросы пользователей на японский язык и ищет информацию в японском сегменте интернета, предоставляя уникальный способ доступа и изучения контента с другой перспективы.

2. Модерация контента: Вставьте свой кодекс поведения в системный промпт и попросите ИИ проверить, соответствует ли контент установленным стандартам. Это может стать мощным инструментом для поддержания уважительной и инклюзивной среды в сообществе.

3. Помощник по документации: Создайте персонажа, который в первую очередь ищет информацию в категориях docs, обеспечивая быстрый и легкий доступ к важным сведениям.

4. Пользовательский помощник по SQL: Вставьте схему вашей базы данных, укажите используемый диалект SQL, и вы получите помощника по SQL, настроенного специально для вашей уникальной базы данных.

Идеи на будущее

Мы постоянно стремимся улучшить и расширить возможности редактора персонажей. Вот несколько идей, которые мы рассматриваем для будущих обновлений:

• Удаленный доступ к API: Предоставить персонажу доступ к выбранным вами удаленным API. Это может открыть широкий спектр возможностей для интеграции внешних сервисов и источников данных.
• Пользовательский контент: Предоставить персонажу доступ к специальному контенту, который вы загружаете и мы внедряем. Это может стать отличным способом предоставить пользователям уникальный и персонализированный контент.

Для получения дополнительной информации о Discourse AI и новом редакторе AI-персонажей ознакомьтесь со следующими ресурсами:

• AI bot - Agents
• Объявление о Discourse AI
• Как включить AI Bot

Мы надеемся, что вам понравится эта новая функция и вы найдете ей применение. Ждем с нетерпением, чтобы увидеть креативные способы использования редактора персонажей на вашей платформе Discourse!

[Leo_Wong]

Hello,

Regarding the" Enabled Commands" features, our staff quite like it. Is there any documentation that explains what these commands do exactly? We’re a bit confused, for example, as it seems AI can search both the forum and the internet. We can only guess that for example: Dall-E is calling Dall-E , Summarize is ask ai to work, but Tags? Time ? Anyone can point out the right direction for me ? thanks

[Leo_Wong]

In addition, can we change the bot username and icon to make it more customized? At moment is is called GPTx_bot etc. I know we can change the user name and profile pic from the Admin panel , If I change the default name from gptx_bot to different names, will it cause any issues?
thanks

[sam (Sam Saffron)]

Will work on adding documentation over the next week or two. I want to add support for command params, so this will be a good opportunity to add a description string there.

Tags, just allows the bot to look up the list of tags
Time allows the bot to look up current time at any time zone

Attaching a persona to a user is certainly something I want us to get to, for sure.

You can safely change the username of the bot and upload a custom avatar, we use the user_id as a key there, so those changes will be stable.

[Crashley (Ashley Webster)]

Custom persona is an exciting development! I jumped right in to make one but I don’t seem to have anything under the “Enabled Commands” menu, so my bot can’t really do anything other than chitchat. This is on a self-hosted instance - everything up to date as of a few minutes ago. Just want to make sure I’m not missing something obvious.

[sam (Sam Saffron)]

thanks so much for raising, we temporarily regressed here, I just added a test so we will not regress again, fix will be merged probably on monday, weekend here

FIX: command selector behavior stopped working

[kiefferr (Ryan Kieffer)]

@sam

Future Ideas

We’re always looking to improve and expand the capabilities of the Persona Editor. Here are a few ideas we’re considering for future enhancements:

• Remote API Access: Allow a persona to have access to remote APIs of your choosing. This could open up a wide range of possibilities for integrating external services and data sources.
• Custom Content: Allow a persona to have access to custom content that you upload and we embed. This could be a great way to provide unique, personalized content for your users.

Any updates here by chance? Our use case would be integrating a bunch of manuals and operating tips documents and allowing those be referenced alongside all the forum-generated content from our members.

[sam (Sam Saffron)]

Still thinking about the exact implementation, there are many moving parts

Nothing concrete yet.

[MarcP]

@Sam Saffron

• Помощник по документации: Создайте персонажа, который в первую очередь ищет по категориям с тегом docs, обеспечивая быстрый и простой доступ к важной информации.

Это делается через промптинг или это будет будущая настройка?

[sam (Sam Saffron)]

Уже поддерживается: создайте новую персону, добавьте инструмент поиска и укажите применяемый фильтр.

[MarcP]

Ой, упустил! Могут ли эти персоны использовать несколько инструментов в одном ответе? Я пытаюсь заставить их искать и как минимум читать первый результат, но независимо от того, как я формулирую запрос, они склонны просто искать и строить ответ на основе поиска, вместо того чтобы читать посты из результатов. Из-за этого ответы получаются довольно нелогичными в контексте (ассистент документации).

[sam (Sam Saffron)]

Оно, безусловно, может запускать несколько инструментов, но некоторые модели, такие как gpt 3.5, очень трудно убедить.

Попробуйте, возможно, haiku.

[MarcP]

Я использовал Haiku с самого начала, и теперь после дополнительных уточнений результаты стали лучше. Например, фраза «если вы использовали инструмент SEARCH, вы должны как минимум выполнить одно действие READ» сработала.

[Arkshine]

Изображение в первом сообщении, похоже, не отображается.

[MarcP]

Я заметил, что персонажи всегда ищут order:latest, что не даёт ожидаемых результатов поиска. Изменение этого через промптинг тоже не помогло. Есть ли другой способ настроить это?

[sam (Sam Saffron)]

Вы должны суметь решить эту проблему с помощью промпт-инжиниринга:

lib/ai_bot/tools/search.rb

параметр order — это один из параметров, которые получает инструмент поиска… он даже не имеет значения по умолчанию latest.

Вы можете принудительно установить порядок, добавив базовый запрос в свой инструмент и дав промпт с инструкцией никогда не указывать параметр order: discourse-ai/lib/ai_bot/tools/search.rb at e8d110b444df8ab540232d050ed8c3744a5f38e6 · discourse/discourse-ai · GitHub

[MarcP]

Я как раз ссылался на ту часть кода и экспериментирую с промптингом.

По моему опыту, при работе с длинными контекстами или цепочками на «дешёвых» моделях в сочетании с негативными формулировками в промпте результат может оказаться обратным. Однако, похоже, Haiku справляется с этим довольно хорошо уже с первых попыток (кстати, помогает избегать использования «не» и использовать такие слова, как «никогда» или «избегать»).

Спасибо за ваши наблюдения.

Кстати, небольшая ошибка (или нет?): когда вы используете персонажа с настройкой пользователя, участники диалога: ai-model-bot, я и new-bot-user. Странно, но это привело к тому, что new-bot-user ответил «Привет, ai-model-bot», а не «Привет, Марк» . Есть ли у ai-model-bot какое-то особое назначение?

[sam (Sam Saffron)]

@MarcP

Кстати, небольшая ошибка (или нет?): когда вы используете персонажа с настройкой пользователя, участники ЛС: ai-model-bot, я и new-bot-user. Странно, что это привело к тому, что new-bot-user ответил: «Привет, ai-model-bot», вместо «Привет, Марк» . Есть ли у ai-model-bot какая-то причина?

Хм, это действительно странно, и это определённо можно исправить. Мне интересно, не путается ли модель, потому что мы передаём имя пользователя в промпте вместе с исходным вопросом.

Opus, похоже, справляется с этим правильно…

[Untitled AI bot PM]

[MarcP]

@Sam Saffron

Интересно, не запуталась ли модель просто потому, что мы передаём имя пользователя?

Я провёл достаточно разговоров, чтобы сказать, что это действительно была путаница, и, думаю, это влияет только на модели нижнего уровня. Но некоторые мои персонажи выглядят «по-человечески», так что было действительно забавно увидеть третьего участника в личном сообщении.

Кстати, есть ли простой способ стилизовать страницу обмена разговором? Я заметил, что она игнорирует стилизацию темы и компонентов.