В качестве цели на этот год мы стремимся повысить уровень внедрения Discourse AI и его функций. Я пытаюсь комплексно понять, что мешает вам попробовать Discourse AI в вашем сообществе.
Понимаю, что могут быть конкретные особенности функций, которые вызывают неудобства, но в данном случае я пытаюсь получить общее представление о том, какие причины могут быть проблемными.
Кроме того, если вы готовы пообщаться со мной об этом по видеосвязи, я буду очень признателен за любую обратную связь 
Злоупотребление ИИ. Я имею в виду, что люди используют ИИ, чтобы писать ВСЁ. Это как бы обесценивает людей, но это неизбежно для всех ИИ. Но я, возможно, скоро смогу (если смогу оплатить)!
Да, я понимаю это. Мы думаем сделать Discourse AI полезным помощником в вашем путешествии по Discourse, а не полагаться на него, чтобы он «писал» всё за вас; при этом мы хотим, чтобы люди понимали, что отображаемый контент с функцией GenAI сгенерирован ИИ.
В нашем сообществе пользователи спамили мусорными ответами или решениями к туториалам, используя функцию, которая была очень распространена как раз в момент запуска ChatGPT…
Я хотел бы иметь возможность вручную назначать отдельные ПУБЛИКАЦИИ одной или нескольким AI-персонам в качестве их базы знаний.
Сейчас это слишком дорого, и я не хочу, чтобы мои пользователи вводили или создавали контент с помощью ИИ, когда фокус должен быть на человеческих обсуждениях.
Мы ещё не перешли на Discourse (оценка всё ещё продолжается), но в концептуальном плане есть два основных препятствия:
Наше сообщество в основном состоит из энтузиастов настольных ролевых игр, где высоко ценится человеческое творчество. В результате значительная часть наших пользователей негативно относится к генеративному ИИ. Хотя эксперименты с новыми инструментами ведутся активно, любое применение генеративного ИИ требует тщательного обдумывания.
Мы используем собственное хостинговое решение и имеем ограниченный бюджет (собранный благодаря вкладам некоторых пользователей). Его хватает на достойный сервер для размещения Discourse (или любого другого программного обеспечения для сообществ), но стоимость как текущих сервисов на базе больших языковых моделей (LLM), так и выделенных GPU-серверов слишком высока, чтобы включить их в бюджет. При этом ожидаемая выгода также слишком мала, чтобы оправдать такие расходы.
Я поддерживаю некоторые из вышеприведённых комментариев, особенно опасения по поводу того, что люди пишут слишком много с помощью ИИ, и становится всё сложнее отличить, что написал человек, а что — нет.
Однако, я думаю, что моё большее беспокойство вызывает использование удалённого ИИ. Я часто размышлял о том, насколько публичными я хочу сделать свои форумы на Discourse, и, кажется, у меня просто нет критериев для оценки того, насколько вторгаются в частную жизнь API ИИ в наши дни.
Я считаю, что если бы существовали более мощные и дешёвые самохостинговые или даже локальные LLM, то я бы чувствовал себя увереннее. Не уверен, как локальная LLM могла бы принести пользу Discourse, но само использование удалённой LLM вызывает у меня сегодня колебания.
Вызвало бы у вас большее доверие использование открытой LLM, размещённой на хостинге Discourse, по сравнению с другим сторонним провайдером? (хотя, вероятно, чуть меньше, чем в случае с локальным решением на устройстве?)
Возможно, немного, но я думаю, что предпочёл бы больше самохостинга или локальной обработки на устройстве (опять же, если это вообще возможно для самохостингового форума).
Возможно, если бы это было размещено на Discourse с возможностью самохостинга, как сейчас и есть в Discourse, да, я бы был более взволнован этим. В этом случае, я думаю, моя озабоченность сместилась бы на качество вывода LLM и стоимость его запуска.
Я подозреваю, что вы хотите услышать мнение людей с более развитыми сообществами, чем моё, но я всё же выскажу свою точку зрения.
Ничто не мешает мне добавить на свой сайт Discourse некоторые функции, работающие на базе ИИ, но меня интересуют сами функции, а не то, что они работают на ИИ.
Например, семантический поиск и возможность автоматической пометки постов (чтобы их позже мог проверить человек) — это функции, которые я с радостью бы использовал. Также была бы полезна возможность перевода постов в реальном времени.
Вот несколько примеров того, о чём я говорю, с точки зрения маркетинга:
когда вы переводите текст через Google, они не пишут «перевод с помощью ИИ», а просто предлагают перевести текст;
когда вы выполняете поиск в Google, они не пишут «поиск с помощью ИИ», хотя ИИ участвует в выдаче результатов (на данный момент не самых лучших);
когда SoundCloud предлагает теги для загруженного трека, они не пишут «тегирование с помощью ИИ», а интерфейс просто предлагает несколько тегов — конечного пользователя не побуждают задумываться о (удивительной) технологии, которая позволяет системе предлагать подходящие теги на основе анализа загруженного трека.
Некоторые функции, связанные с ИИ, особенно те, что касаются чат-ботов, могут восприниматься как противоречащие духу онлайн-сообществ. Объединяя все функции, связанные с ИИ, под заголовком «Discourse AI», вы рискуете отпугнуть людей от функций, которые работают на базе ИИ, но при этом могут оказаться невероятно полезными для их форумов.
Я не маркетолог-гений, поэтому относитесь ко всему вышесказанному с долей скепсиса.
Основные инструменты, созданные с помощью ИИ для помощи в модерации, меня устраивают. Я хочу способ генерации изображений, но я против любых методов создания контента с помощью ИИ, если это несёт риск утраты духа сообщества.
Социальные сети умирают не просто так — в этом и суть.
Я использую это. На моём форуме ИИ применяется для объяснения вещей[1]. Но я не разрешаю его использование обычным участникам, потому что это слишком дорого — я нахожусь на уровне, где 50 долларов в месяц — это ужасно много 
Но главная проблема для меня — не ошибка ИИ, а то, сколько работы требуется для создания качественной базы знаний. Однако для меня наибольшим слабостью ИИ является то, как плохо он использует векторные представления (embeddings), и поэтому контент, созданный сообществом, не используется достаточно эффективно.
Да, я знаю. Это в основном связано с ограничениями OpenAI. И технология не так готова к промышленному внедрению, как заявляют. Кроме того, существует языковой барьер.
Вишенка на торте: создание хороших промптов действительно сложно. И через несколько недель что-то меняется, и промпты приходится исправлять снова.
Это может помочь с некоторыми фоновыми задачами, когда-нибудь. Но когда вижу, как команды борются (и, с моей точки зрения, тратят время и деньги впустую, извините 
) с ежедневными и прочими сводками, я утверждаю, что это требует слишком много работы, которая на самом деле не увеличивает доход, неважно, считать ли это в долларах или в уровне удовлетворённости. Это не снижает нагрузку на администраторов и разработчиков, а увеличивает её.
Но, конечно, крупные корпорации, для которых 10 тысяч долларов — это меньше, чем ежемесячные расходы на запас энергетических напитков, могут и должны автоматизировать процессы с помощью ИИ, включая форумы поддержки Diacourse. Это, и должно быть, целью CDCK — но я не знаю, сколько из тех, кто здесь находится, высказывают свои мысли.
as: объяснить правила бейсбола и предположить, почему это такой популярный спорт, несмотря на его медлительность и даже кажущуюся скучность ↩︎
Похоже, общее мнение сводится к тому, что генеративный ИИ либо вызывает проблемы, либо способен навести хаос в сообществах, подменяя естественный обмен и человеческое творчество. Мы в Discourse AI стремимся найти баланс: ИИ должен лишь дополнять ваше письмо, а не писать его за вас полностью.
@simon, отличная мысль насчёт «использования ИИ» в функциях. Безусловно, брендинг вокруг этого может отпугнуть некоторых людей, но с другой стороны — помочь другим оценить осознанность взаимодействия с ИИ.
В основном сдерживается тем, что это не бесплатно.
Мы управляем небольшим творческим сообществом для поклонников интерактивной прозы, создателей, авторов и художников. Обычно у нас не возникает проблем, когда обязанности модерации становятся слишком обременительными, и наши модераторы, как и многие участники сообщества, с радостью отвечают на вопросы. Поэтому мы не стали бы использовать ИИ для «выполнения работы на форуме».
Хотя мы часто обсуждаем ИИ в контексте «генерации текста» в связи с играми, которые создаём, и многие люди проявляют к этому интерес, мы установили правило: контент, созданный с помощью ИИ, не может быть опубликован в ситуациях, когда ИИ-сущность «притворяется» реальным пользователем форума и пытается обмануть людей, пытаясь пройти тест Тьюринга. Мы не хотим, чтобы наш форум использовался как полигон для тестирования ИИ, а наше историческое содержимое, датированное 2006 годом, — как поле для сбора текстовых данных.
Если люди публикуют материалы, созданные с помощью ИИ, будь то для собственных целей в качестве помощника в написании текстов или в качестве демонстрации игры, которую они разрабатывают, мы просим их указывать, что это ИИ-контент, или ссылаться на него как на источник, поскольку технически это не их «собственный» материал. У нас было несколько спамеров, которые пытались участвовать в обсуждениях и повышать уровень доверия к себе (предположительно), подавая тему в ИИ вроде ChatGPT и публикуя полученные результаты, чтобы это выглядело как легитимное участие в форуме. Поскольку весь наш жанр искусства заключается в создании текстовых произведений, которые «отвечают» на взаимодействие пользователя (подумайте о текстовых приключениях вроде Zork), большинство людей довольно легко распознают контент, сгенерированный машиной, и помечают его.
ИИ или большая языковая модель (LLM) не могут согласиться с Условиями использования и Кодексом поведения. Если по какой-то причине они кого-то обидят, их невозможно будет модерировать. Поскольку мы ожидаем от наших пользователей прозрачности в отношении такого контента, было бы, вероятно, лицемерием с нашей стороны использовать какой-либо вид генерации ИИ для контента форума и ответов.
Кроме того, нам пришлось погасить пламенную дискуссию, которая грозила вспыхнуть, потому что многие наши пользователи — графические художники, которые очень чувствительны к краже их онлайн-работ в качестве исходных материалов для ИИ-арта. Тема об использовании ИИ-арта в играх быстро переросла в личные нападки на тех, кто был согласен с этим. Поэтому ИИ — одна из тем, за которой мы внимательно следим, чтобы убедиться, что она не обсуждается в контексте умышленного плагиата.
TL;DR: ИИ — это острая тема, по поводу которой нам пришлось установить правила, поэтому, вероятно, не стоит использовать его в контексте форума, населённого множеством художников и писателей.
Мы устали от этой AI-моды, которая в основном производит горы мусора и наносит ущерб окружающей среде. Ждём не дождёмся, когда этот пузырь лопнет и все снова увлекутся какой-нибудь глупостью, или, что ещё лучше, сосредоточатся на чём-то действительно полезном или просто улучшат базовый функционал, который все игнорируют в последнее время, чтобы впихнуть AI-мусор во всё подряд, потому что все делают так же, и именно на это сейчас бездумно тратят деньги инвесторы..
Наверное, это не тот ответ, который вы ожидали, но это честная правда. 
Основные препятствия здесь — это преодоление внутренних ограничений на использование сторонних инструментов и доступ к данным (чтобы получить разрешение на начало работы), а также отсутствие чёткого метода оценки затрат (потребление токенов и т. д.), что мешает нам получить одобрение бюджета для начала использования новых инструментов.
Я бы с радостью начал использовать некоторые из них, особенно отчётность по анализу тональности. Однако ощущается значительный разрыв между осведомлённостью о этих инструментах и их внедрением.
Кроме того, существуют сопутствующие опасения по поводу добавления ещё большего количества контента на базе генеративного ИИ в наше сообщество: это самая критичная тема, влияющая на наших участников и их средства к существованию. Мы также видим много новых учётных записей на форуме, публикующих очевидные сводки тем, сгенерированные ИИ (а также довольно неточные попытки «отвечать» на вопросы из существующих постов), поэтому наши пользователи уже чувствуют, что человеческий элемент сообщества затмевается инструментами ИИ, вместо того чтобы получать от них поддержку или усиление.
Я вижу множество комментариев, посвященных контенту, созданному с помощью ИИ. Говоря от имени нашего корпоративного сообщества, я хотел бы видеть продолжение инвестиций в административную сторону Discourse AI. Речь идет о инструментах, направленных на то, чтобы помочь нам демонстрировать ценность нашего сообщества нашим руководящим командам. Благодаря нашей (относительно) чистой категоризации и тегированию мы довольно успешно использовали Discourse AI в наших ежеквартальных обзорах бизнеса, чтобы показывать такие вещи, как: «Вот тональность этой подгруппы пользователей в этих категориях, обсуждающих этот продукт, в динамике».
Визуализация этих данных и представление нашей организации более измеримой картины ценности сообщества, например, с помощью такого индикатора, как тренд, принесла невероятный отклик и обеспечила продолжение инвестиций. Больше такого было бы здорово и позволило бы нам углубиться в эту тему.
Что касается бота на базе ИИ, мы бы очень хотели видеть больше возможностей для кастомизации процесса взаимодействия с ним. У нас есть строгие требования к тому, как мы можем передавать данные пользователей в сервисы ИИ, и поэтому мы создали собственную службу AWS Lambda между Discourse и AWS Bedrock. Возможность указывать конечную точку, с которой работает бот, а также документация по модели объектов позволили бы нам в полной мере реализовать существующего бота на базе ИИ в нашем сообществе. На данный момент мы создали собственный опыт взаимодействия с ботом, используя личные сообщения (PM) и веб-хуки, чтобы имитировать работу бота.
Любые действия, направленные на внедрение ИИ в администрирование и модерацию Discourse, с нашей точки зрения, станут наилучшей инвестицией. Нам нужно строить и поддерживать это сообщество масштабируемым образом для бизнеса, и я уверен, что в использовании ИИ в Discourse для достижения этой цели есть множество возможностей.
Пожалуйста, свяжитесь с командой по адресу team@discourse.
Очень жаль, что на вашем сайте не включена функция «Связанные темы». Она на 100% размещается нами (и уже включена во все тарифные планы), поэтому здесь нет проблем с данными, токенами или ценообразованием.
Аналогично, мы сами размещаем модели анализа тональности и будем рады обсудить их с вами. Я всё ещё немного скептически отношусь к анализу тональности, поскольку пытаюсь понять, какие конкретные примеры проблем он решает.
Мы также изучаем возможность запуска открытых моделей на нашем оборудовании; Llama 3 удивительно эффективна. Возможно, в долгосрочной перспективе мы сможем использовать наши собственные модели для таких функций, как создание сводок, особенно если нам удастся заставить модели с 7 миллиардами параметров выполнять эту задачу уверенно.
Я понимаю ваши опасения по поводу бюджетов. В Discourse AI уже учитывается использование токенов на человека, и мы планируем добавить квоты в плагин.
Это полностью входит в наш план разработки, мы уже работаем над этим: возможностью указывать URL и задавать «диалект», на котором он «говорит».