Discourse AI - AI-триаж с использованием Agent

[Saif (Saif Murtaza)]

AI-триаж использует возможности ИИ агентов для интеллектуального реагирования на темы.

Обратите внимание, что для работы этой функции требуются плагины discourse-automation и discourse-ai.

Варианты использования

1. Автоматическая поддержка: Генерация интеллектуальных ответов на вопросы пользователей о поддержке. Например, в категории Support агент может использовать контент сообщества в качестве контекста. Дополнительным преимуществом является генерация ответов через шепот, чтобы ответчик мог сначала ознакомиться с предложенными вариантами перед публикацией ответа.

2. Эксперт категории: Назначение отдельного эксперта-агента для каждой категории вашего сообщества. Агент отвечает на первый пост темы, при необходимости с последующим участием человека.

3. Тонкая модерация: Направление пользователей к публикации подходящего для сообщества контента в правильных местах. Например, если тема кажется несовместимой с категорией, вместо автоматического перемещения, агент отвечает в теме, предлагая другие категории, чтобы предупредить автора.

4. Отслеживание застрявших тем: Автоматическое реагирование на темы, оставшиеся без ответа в течение определенного времени, с использованием триггера stalled_topic для продвижения обсуждений.

Поскольку агенты полностью настраиваемы, сообщество может использовать эту функцию множеством других способов.

Как это работает

Использование агента для AI-триажа может позволять безоговорочное реагирование на темы и посты, используя агентов для понимания контекста и генерации интеллектуальных ответов.

Чтобы настроить эту функцию, перейдите в Администрирование → Плагины → Автоматизация → Новая автоматизация и выберите скрипт LLM Agent Triage. Перед использованием этой функции необходимо создать агента.

Ниже приведен пример правила автоматизации и связанного с ним агента.

Триггеры

Эта автоматизация поддерживает два триггера:

• Создание/редактирование поста: Срабатывает при создании нового поста или редактировании существующего.
• Застрявшая тема: Срабатывает, когда тема не имеет активности в течение заданного периода времени.

Настройка

Для настройки этой функции необходимо указать определенные параметры:

• Агент: ИИ-агент, используемый для триажа. Должны быть установлены значения по умолчанию для LLM и пользователя.

• Ответ как шепот: Определяет, должен ли ответ агента появляться в виде шепота.

• Тихий режим: Если выбрано, агент получит контент, но ничего не опубликует на форуме. Перед использованием этой опции администратор должен создать пользовательские инструменты. Это используется в сочетании с полем Инструменты в настройках агента. Это может быть полезно для:

  • Отправки HTTP-запроса во внутреннее API компании с уведомлением о произошедшем событии.
  • Выполнения побочных эффектов в Discourse, таких как создание сообщения в чате или пометка поста.

Тихий режим и Ответ как шепот взаимоисключающие — одновременно может быть активен только один.

Ограничения

• Вызовы LLM могут быть дорогостоящими. Будьте внимательны при мониторинге расходов и всегда рассмотрите возможность работы на небольших подмножествах данных.
• Помните, что LLM могут галлюцинировать, поэтому обязательно тщательно проверяйте любой вывод.
• Посты, сделанные ботами, автоматически пропускаются и не вызывают срабатывание агента.
• Применяется ограничение скорости: по умолчанию максимум 60 вызовов триажа в минуту глобально и 2 вызова на отдельный пост в минуту. Эти значения можно изменить через скрытые настройки сайта ai_automation_max_triage_per_minute и ai_automation_max_triage_per_post_per_minute.

[thoka (Thomas Kalka)]

Awesome.

Could this also be used to write summaries for incoming mails, responding with a new topic in a different category?

[sam (Sam Saffron)]

@thoka

Could this also be used to write summaries for incoming mails, responding with a new topic in a different category?

Not this feature, but we have a tool based automation that could do that with custom js , it is not quite ready yet

[sam (Sam Saffron)]

Also worth noting, llm triage can also respond using a persona now, this means you can support custom replies based on triage

This automation unconditionally respond. Triage will conditionally respond

[sam (Sam Saffron)]

Note @Saif we need to update the OP to explain “silent” option.

If you select “silent” no post is created, and no information is left behind.

This can sound extremely odd, but if you have a forced tool, it can perform side effects like

• Make an HTTP request to a company internal API informing that something just happened.
• Perform side effects on Discourse such as create a chat message, or flag a post

Using silent requires you also create a custom tool to perform the special action you want to perform.

Can you incorporate this into the OP (needs new screenshots etc)? Feel free to ask for clarifications.

[Saif (Saif Murtaza)]

@sam

Using silent requires you also create a custom tool to perform the special action you want to perform.

Can you incorporate this into the OP (needs new screenshots etc)? Feel free to ask for clarifications.

A few questions

• Do you have to exclusively use silent mode? Can I have reply as whisper selected? Im assuming it doesn’t matter as there is no reply (from a UI perspective we should probably disable certain options if it doesn’t depend on it)

• Does it need to be only Forced tools? What about just regular tool calls from the persona? What if the persona has no Forced tools?

• I think we should put a disclaimer for this option given the dependency on Custom tools and having forced tools selected via the Persona

• Going back to the use cases I think this changes the name of this feature from AI auto responder back to AI triage via Persona since this option doesn’t have “auto-responses” that are visible or invisible (whispers)

[sam (Sam Saffron)]

@Saif

Do you have to exclusively use silent mode? Can I have reply as whisper selected? Im assuming it doesn’t matter as there is no reply (from a UI perspective we should probably disable certain options if it doesn’t depend on it)

Yes it is exclusive at the moment. Which is a good point, I will see if I can make this a choice selector so it is less confusing.

@Saif

Does it need to be only Forced tools? What about just regular tool calls from the persona? What if the persona has no Forced tools?

Forced tools give you guarantees that tool will be called, but it can be used fine without forced tools.

@Saif

I think we should put a disclaimer for this option given the dependency on Custom tools and having forced tools selected via the Persona

Yeah it is a very difficult to explain and very powerful setting.

@Saif

Going back to the use cases I think this changes the name of this feature from AI auto responder back to AI triage via Persona since this option doesn’t have “auto-responses” that are visible or invisible (whispers)

That is a good point.

[ozkn (Mathx)]

Can something like “Writes” or “Replies” be added to the post page when the persona responds? Can something like that appear when normal users reply to the post be added?

[sam (Sam Saffron)]

Technically it is a change we could make but it is quite complicated

[ozkn (Mathx)]

Hello, is there any time limitation for ai persona triggering? For example, it is triggered every 10 seconds, etc. If so, how can I edit this value.

[RBoy]

Great feature, suggestion. In the first post maybe reference that the starting point is Discourse admin panel -> Plugins -> Automations -> Add automation and that the Automation feature is disabled by default and needs to be enabled.

Spent about 30 minutes looking through all the AI features to see how to enable this before noticing that this is under Automations (and I had to enable the Automation feature which was disabled by default).

[sam (Sam Saffron)]

We discussed this with @roman today, we are thinking of adding it into the feature page so it is more discoverable.