Еженедельная сводка по ИИ на meta.discourse.org
Обзор
На этой неделе на форуме meta.discourse.org обсуждения вращались вокруг различных тем, связанных с искусственным интеллектом, включая предложение инструмента модерации для форматирования кода с помощью ИИ, текущую разработку функций Discourse AI, проблемы с повторной генерацией (backfill) сводок ИИ, а также возможность загрузки и обсуждения PDF-файлов прямо в редакторе сообщений. Кроме того, велись разговоры об установлении лимитов использования для ИИ, оценке затрат между различными провайдерами ИИ, борьбе со спамом, сгенерированным ИИ, и исследовании возможностей ИИ-ботов и пользовательских инструментов.
Интересные темы
-
@merefield выдвинул идею инструмента модерации, который позволил бы доверенным пользователям форматировать блоки кода с помощью ИИ, что потенциально улучшило бы читаемость и помогло бы новым пользователям, испытывающим трудности с правильным форматированием кода.
-
Обсуждения продолжались вокруг плагина Discourse AI, причем @sam выразил заинтересованность в возможности для пользователей загружать большие файлы и задавать вопросы об их содержимом, используя подход на основе персон.
-
@markschmucker столкнулся с проблемой, при которой процесс повторной генерации сводок ИИ продолжал создавать сводки для одной и той же темы, даже если уже существовала валидная сводка. Это привело к исправлению от @Roman, сделавшему задачу более устойчивой.
-
@BrianC предложил запрос на новую функцию, позволяющий пользователям загружать PDF-файлы или текстовые документы непосредственно в редакторе сообщений, чтобы ИИ мог обрабатывать их и отвечать на вопросы по содержанию.
-
Прошла дискуссия об установлении лимитов токенов и использования для отдельных групп для функций ИИ. @sam уточнил, что квоты определяются для каждой группы и применяются к каждому пользователю отдельно, а не распределяются между пользователями.
-
@oppman попросил совета по оценке затрат на использование HuggingFace TGI по сравнению с конечными точками API OpenAI для сервисов ИИ. @Falco поделился своими соображениями о том, когда имеет смысл запускать собственную языковую модель.
-
Был подан отчет об ошибке о том, что сообщения и учетные записи не восстанавливаются, когда флаги от обнаружения спама Discourse AI отклоняются. @sam решил эту проблему с помощью исправления.
-
Обсуждались вопросы самостоятельного хостинга эмбеддингов для DiscourseAI. @sam упомянул о текущей работе по реструктуризации конфигурации эмбеддингов и планах поддержки мультимодельных эмбеддингов.
-
@David_Ghost поинтересовался способностью AI Triage выполнять поиск и избегать тем с похожими заголовками на основе дат создания.
-
@smithmarkl спросил о возможности внедрения пользовательских промптов или манипулирования эмбеддингами в функции поиска ИИ для повышения приоритета или разделения ответов сотрудников и сообщества.
Активность
-
@merefield предложил идею инструмента модерации для форматирования блоков кода с помощью ИИ. @Jagster и @sam дали предложения и обратную связь.
-
@sam выразил заинтересованность в разрешении пользователям загружать большие файлы и задавать вопросы об их содержимом с использованием подхода на основе персон в плагине Discourse AI.
-
@markschmucker сообщил о проблеме с повторной генерацией сводок ИИ, когда сводки создавались заново для одной и той же темы, даже если уже существовала валидная сводка. @Roman предоставил исправление, сделавшее задачу более устойчивой.
-
@BrianC направил запрос на новую функцию, позволяющий пользователям загружать PDF-файлы или текстовые документы, чтобы ИИ мог обрабатывать их и отвечать на вопросы по содержанию.
-
@sam уточнил, что лимиты токенов и использования ИИ определяются для каждой группы и применяются к каждому пользователю отдельно, а не распределяются между пользователями.
-
@oppman попросил совета по оценке затрат на HuggingFace TGI по сравнению с конечными точками API OpenAI для сервисов ИИ. @Falco поделился своими соображениями.
-
@sam ответил на отчет об ошибке о том, что сообщения и учетные записи не восстанавливаются при отклонении флагов от обнаружения спама Discourse AI, предоставив исправление.
-
@sam упомянул о текущей работе по реструктуризации конфигурации эмбеддингов для DiscourseAI и планах поддержки мультимодельных эмбеддингов.
-
@David_Ghost поинтересовался способностью AI Triage выполнять поиск и избегать тем с похожими заголовками на основе дат создания. @sam отметил, что рассматриваются подобные «агентоподобные» поведения.
-
@smithmarkl спросил о возможности внедрения пользовательских промптов или манипулирования эмбеддингами в функции поиска ИИ для повышения приоритета или разделения ответов сотрудников и сообщества. @Saif предложил создать запрос на новую функцию.
-
@c12gene сообщил о проблеме, когда ИИ-бот не мог читать сводки и подробное содержание. @MachineScholar решил это через улучшение системного промпта.
-
@Ricardo_Kutz и @Canapin поделились своим опытом работы со спамом на основе ИИ на своих форумах. @j127 и @princejamesoo дали советы по борьбе с таким спамом.
-
@thaidb поинтересовался возможностями Discourse AI предлагать релевантные темы и отправлять личные сообщения пользователям на основе их запросов.
-
@BrianC спросил о привязке лимитов токенов к подпискам и возможности использования более дорогих моделей за плату. @sam подтвердил, что для разных групп пользователей можно устанавливать разные квоты.
-
@MachineScholar поинтересовался возможностью вставки ключей API и данных проекта OpenAI из настроек администратора в пользовательские инструменты для ИИ-бота.
-
@thaidb спросил о способности ИИ-чат-бота агрегировать и отвечать на запросы по недвижимости с фильтрацией min/max на форуме Discourse, особенно для неструктурированных данных.
-
@oppman попросил рекомендаций по самостоятельному хостингу открытой языковой модели для DiscourseAI. @Eric_Keller поделился своим опытом работы с самоподписанными сертификатами.
-
@markschmucker обсудил принцип работы повторной генерации сводок и предложил изменить интервал для задачи повторной генерации (backfill), чтобы повысить эффективность.
-
@joo спросил о модификации проекта Riona-AI-Agent для интеграции с API Discourse.
Спасибо, что прочитали, и увидимся снова на следующей неделе! 