Резюме темы Discourse AI 🤖

Я пытался внедрить функцию «Сводка» в рабочий процесс и заметил несколько моментов:

  • Нет никаких причин не добавлять сводку к первому сообщению, так как она будет просто обновляться по мере развития темы. Конечно, частота обновлений ограничена настройками.
  • Когда вы работаете над темой, сводка отображается в верхней части страницы, но пользователь всегда попадает в самый низ (к последнему сообщению или последнему прочитанному). Следовательно, такие пользователи никогда не увидят сводку. Это действительно крутая функция, но, боюсь, её никто не заметит, так как у пользователей не будет причины прокручивать страницу до самого верха, чтобы прочитать сводку, даже если она полезна. Можно ли разместить сводку в правой колонке под оглавлением или строкой с датой? Тогда она всегда будет на виду.
2 лайка

Разве не проблема в затратах и в том, что слишком много дублирующейся информации одновременно занимает место?

Разве краткое содержание приносит наибольшую пользу, когда тема уже активно развивается и есть хотя бы несколько постов?

В любом случае, я подозреваю, что вы можете просто настроить пороги по своему усмотрению здесь, и мне не нужно предпринимать никаких действий?

Вы уверены, что существующие читатели будут bother читать краткое содержание? Я заметил, что оно, вероятно, более ценно для новых читателей, которые увидят его первым и смогут использовать как ориентир для дальнейшего чтения?

Это хорошая идея, однако при условии, что ширина отображения будет достаточной для комфортного чтения. Это может стать проблемой?

Мое экспериментальное решение — использовать плагин Layouts и создать совместимый виджет, который может появляться справа или слева от темы (и даже, если мы добавим поддержку Top, его можно будет разместить там же, в исходном месте!).

Обратите внимание, что есть и другие способы решить эту задачу:

  • добавить кнопку «Перейти к началу» (существует компонент темы). Вы даже можете изменить её, добавив метку «Перейти к краткому содержанию»?

В любом случае я добавлю это в дорожную карту, но дайте знать, что вы думаете по поводу предложенного выше.

3 лайка

Согласен с аспектом стоимости, но если это когда-либо будет использоваться как «альтернативный отрывок», то краткое содержание должно генерироваться. Не уверен, что мне удалось настроить это через обновление параметров. Возможно, я что-то упустил — вернусь и проверю.

Очень верное замечание… Думаю, время покажет. Но если пользователи начнут привыкать к краткому содержанию, то со временем они будут бегло просматривать его. На самом деле, если кто-то работает одновременно над несколькими темами, это может стать хорошим напоминанием о том, что произошло. Возможно, в будущем пользователь сможет нажать кнопку, чтобы сгенерировать краткое содержание событий с момента его последнего посещения конкретной темы? (Опять же, при условии, что вызов API будет экономически целесообразным)

Мне нравится эта идея. Это лучше, чем кнопка перехода к началу, потому что тогда нужно возвращаться туда, где вы остановились (а это может быть не последнее сообщение).

2 лайка

Готово: версия 0.1 этого решения:

Для работы необходимо установить плагин Layouts и настроить правую боковую панель.

В плагине теперь есть дополнительная настройка для отключения стандартной сводки в верхней части.

В качестве практически бесплатного побочного эффекта это позволяет вызывать сводку на мобильных устройствах в виде удобной выдвигающейся панели.

@JamesPick

5 лайков

Это великолепно! :tada:

Разве что я только что получил сводку, содержащую детали внутреннего поста «Whisper». Есть ли шанс, что такие посты будут исключены из того, что отправляется в OpenAI?

3 лайка

Хорошо подмечено. Я займусь этим.

2 лайка
  • Сводить в краткое содержание только обычные сообщения пользователей (игнорируя «действия сотрудников» (например, «Тема открыта») и скрытые сообщения)
  • Возможность настройки промптов через локальные настройки ai_topic_summary.prompt.* в разделе Администрирование → Настройка → Текст
    • Удалить теперь избыточную настройку сайта
  • Сделать ссылки на OpenAI в настройках кликабельными (спасибо @MarcP)
  • Сделать выбор модели более удобным выпадающим списком

@JamesPick

5 лайков

Спасибо за это.
У меня, правда, есть вопрос: вы исключаете все сообщения администраторов? Это значит, что администратору, который публикует сообщения, лучше иметь два отдельных аккаунта — один для администрирования, а другой для публикаций и взаимодействия с сообществом? На моём сайте я часто отвечаю в темах и хотел бы, чтобы эти сообщения включались в сводку (я администратор сайта).

2 лайка

Позвольте уточнить:

Посты от «Администратора», такие как «Тема закрыта», «Тема открыта» и т. д. — это на самом деле обычные посты в ленте обсуждений, как бы странно это ни звучало.

Это не обычные посты, опубликованные пользователями, которые случайно являются модераторами или администраторами.

2 лайка

Большое спасибо за это разъяснение

2 лайка

Без проблем. Спасибо за помощь в улучшении этого.

2 лайка

Спасибо. Я попытался установить и запустить этот плагин, но при попытке оставить комментарий в некоторых постах возвращается ошибка HTTP 500. В production.log я вижу сообщение:
StandardError (Максимальная длина контекста этой модели составляет 4097 токенов, однако вы запросили 15682 токена (15482 в вашем промпте; 200 для завершения). Пожалуйста, уменьшите длину промпта или завершения.)

1 лайк

Согласен, значит… вам нужно уменьшить объем сводки, используя настройки.

Я не считаю это ошибкой, вы просто слишком жадны :hamburger: :hamburger: :wink:

Вам нужно настроить параметры под вашу конфигурацию. Есть ограничения на количество сообщений и символов, которые вы можете контролировать. Один токен обычно равен 4 символам.

Возможно, значения по умолчанию немного слишком щедры… но они установлены для приблизительного соответствия лимиту токенов, так что это немного странно.

Не могли бы вы поделиться этими настройками?:

Следуйте информации об ошибке, чтобы внести необходимые изменения.

GPT-4 (когда я получу доступ) увеличит лимиты токенов до 8 раз, так что ждите этого.

1 лайк

Объединено:

  • теперь мы удаляем цитаты из постов, чтобы избежать дублирования и оптимизировать использование лимита токенов
  • Если вы предпочитаете предыдущее поведение, вы можете отключить новый параметр.
3 лайка

@merefield, быстрый вопрос по языковой модели, которую вы используете для этого. Почему вы не решили включить gpt-3.5-turbo?

Мы сами тестируем использование gpt-3.5 для создания сводок транскрипций электронной почты и телефонных звонков, и оно работает очень хорошо. Само сообщение электронной почты или транскрипцию мы помещаем в контент пользователя.

Например, для транскрипции телефонного звонка мы добавляем следующее в контент «system»:

Определите, является ли эта транскрипция телефонным разговором или звонящий оставляет голосовое сообщение.
Если это телефонный разговор, предоставьте его краткое содержание, а затем создайте следующие разделы с маркированными пунктами:

  • Достигнутые соглашения
  • Поднятые вопросы
  • Возможные несоответствия / опасения
  • Оценка тональности: (для каждого участника)
  • Обзор руководителем команды: (пожалуйста, отметьте, если этот звонок должен быть проверен руководителем команды)

Если это голосовое сообщение, создайте заголовок «Голосовое сообщение оставлено [для]», а на новой строке одним предложением подведите итог голосового сообщения.

1 лайк

Потому что он был оптимизирован для чата, и на тот момент Open AI всё ещё рекомендовали Davinci 003 для суммаризации. С радостью пересмотрим это, когда материалы GPT-4 станут доступны шире.

Обратите внимание, что ChatGPT и Davinci-003 относятся к одному поколению, поэтому с точки зрения результатов я не уверен, что между ними есть существенная разница?

1 лайк

Вы рассматривали возможность суммирования контента по ссылке и предложения поста до его отправки?

Я пытался обсудить такие задачи с чат-ботом ChatGPT, но он начинал вести себя неадекватно, и мне пришлось прекратить попытки.

Рабочий процесс можно было бы завершить чем-то вроде:

Контент сгенерирован ChatGPT

Я вижу много форумов, где возникают проблемы из-за людей, использующих ChatGPT для создания буквальных ответов (из-за этого многие пользователи кажутся почти роботами).

Удаленный контент в настоящее время не входит в область применения. Возможно, что-то для будущего.

1 лайк

Вот что случилось — за последнюю неделю я дважды прочитал какой-то материал, а в конце обнаружил раскрытие, что он создан языковой моделью. Оба раза я почувствовал себя плохо: я вложил усилия в понимание смысла, думая, что за словами стоит реальный человек.

Поэтому я настоятельно рекомендую, чтобы такое раскрытие предшествовало тексту.

1 лайк

Спасибо за ответ. Я понимаю, что эта функциональность может быть реализована в будущем.

Но я просто спросил ChatGPT о содержании по ссылке, и он ответил (значит, это работает!), и каждый может использовать этот метод, упоминая, а затем редактируя или удаляя сообщения.

Так действительно удобно.

2 лайка