Что мешает вам попробовать Discourse AI?

Создание сообщества
35

Так как этот вопрос снова всплыл:

  1. Я использую эту функцию, но слежу за расходами как ястреб. Моя главная опасение — неконтролируемый расход токенов, по крайней мере, пока я не наберу достаточно опыта, чтобы интуитивно понимать, каков должен быть мой средний расход токенов. Возможность устанавливать лимиты расходов — это хорошо, но я не буду чувствовать себя комфортно, пока не узнаю, каков нормальный уровень использования в сообществе, а это требует времени.

  2. Проблемы доверия пользователей огромны. Неважно, какие сообщения я готовлю или что говорю как администратор сайта — существует непоколебимое представление о том, что LLM используют контент, созданный пользователями, для обучения, и что любое использование системой Discourse означает «продажу» данных пользователей без «разрешения». На основе моего опыта (IME), это системная проблема среди многих комментаторов, и её невозможно развеять, потому что люди «знают», что на самом деле делают компании ИИ. Включение ИИ-триажа на форуме и признание этого может привести к потоку жалоб типа: «Я НЕ СОГЛАСЕН, ЧТОБЫ ВЫ ПЕРЕДАВАЛИ МОИ ДАННЫЕ КАКОЙ-ТО ТЕХНОЛОГИЧЕСКОЙ КОМПАНИИ, ЧТОБЫ ОНИ ЗАРАБАТЫВАЛИ НА МОИХ СЛОВАХ!». Не всех это беспокоит, но те, кто беспокоится, — в ярости и при этом абсолютно не заинтересованы в обсуждении. У меня нет хорошего ответа на это.

  3. Меня несколько беспокоит передача состояния детекции спама на моём форуме настроению дюжины моделей разных компаний в любой момент времени. Будем честны: детекция спама с помощью ИИ, триаж с помощью ИИ и все остальные функции ИИ — это, по сути, наш подход «Давайте просто переложим эту проблему на ИИ», а затем попытка формализовать то, что мы хотим от него, с помощью инженерии промптов. Это работает, но процесс раздражающе недетерминирован. Вам фактически приходится надеяться, что всё будет работать так же, как и раньше. Мне это не нравится. Мне это совсем не нравится, и это вызывает у меня тревогу. Мне нравится, когда мои инструменты работают детерминировано. LLM — это полная противоположность детерминизма, и мы возлагаем часть функционала форума на то, что OpenAI и другие решат нам подкинуть.

Тем не менее, я использую как ИИ-антиспам, так и ИИ-триаж форума. Это полезно. Но я стараюсь помнить, что эти решения требуют постоянного мониторинга их эффективности.

2 лайка