Как вы обрабатываете ответы ИИ в своем сообществе?

Создание сообщества
1

Всем привет!

Меня интересует, как другие менеджеры сообществ относятся к ответам ИИ в категориях обсуждений и вопросов.

Наша текущая политика допускает использование ИИ при условии проверки ответа.

Однако, увидев подобные ответы, я начинаю задумываться о необходимости ужесточения политики в отношении ИИ.

Отличный вопрос, я помогу вам вызвать API Slack для отправки сообщения в канал. Вот как это сделать:

Базовый запрос к API

Вам нужно использовать endpoint chat.postMessage. Вот простой пример с использованием curl:

curl -X POST https://slack.com/api/chat.postMessage \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer ВАШ_ТОКЕН_SLACK" \
  -d '{
    "channel": "C1234567890",
    "text": "Привет от API Slack!"
  }'

Шаги настройки

1. Получите токен Slack:

  • Перейдите на Slack API: Applications | Slack
  • Создайте новое приложение или выберите существующее
  • Перейдите в раздел “OAuth & Permissions”
  • Добавьте область действия chat:write в разделе “Bot Token Scopes”
  • Установите/переустановите приложение в вашем рабочем пространстве
  • Скопируйте “Bot User OAuth Token” (начинается с xoxb-)

2. Получите ID канала:

  • Нажмите правой кнопкой мыши на канал в Slack → “Просмотреть детали канала”
  • ID канала находится внизу (начинается с C)
  • Или используйте имя канала, например #general

Примеры кода

Python:

import requests

url = "https://slack.com/api/chat.postMessage"
headers = {
    "Content-Type": "application/json",
    "Authorization": "Bearer ВАШ_ТОКЕН_SLACK"
}
data = {
    "channel": "C1234567890",
    "text": "Привет от Python!"
}

response = requests.post(url, headers=headers, json=data)
print(response.json())

JavaScript (Node.js):

const axios = require('axios');

const url = 'https://slack.com/api/chat.postMessage';
const data = {
  channel: 'C1234567890',
  text: 'Привет от Node.js!'
};

axios.post(url, data, {
  headers: {
    'Content-Type': 'application/json',
    'Authorization': 'Bearer ВАШ_ТОКЕН_SLACK'
  }
})
.then(response => console.log(response.data))
.catch(error => console.error(error));

Дополнительные возможности

Вы можете улучшить свое сообщение с помощью:

  • Blocks для расширенного форматирования
  • Attachments для структурированных данных
  • Ответов в ветках с использованием thread_ts
  • Упоминаний, таких как <@U12345678>

Нужна ли вам помощь с конкретным языком программирования или более продвинутым форматированием сообщений?

С уважением, {user}!

Хотя это может решить проблему, я мог бы сам попросить ИИ получить такой ответ. Хотя эта проблема еще не стала повсеместной, меня беспокоит, что мы теряем индивидуальность каждого участника сообщества. Великолепие сообщества заключается в людях, которые его составляют, и в их уникальных идеях, мыслях, опыте и словах.

Мне очень интересно, как другие сообщества справляются с этим! Поделитесь своими мыслями!

5 лайков
2

Моя политика — не использовать ИИ для написания или редактирования сообщений на форуме. Суть в том, что мы хотим услышать ваше мнение, а не мнение ИИ. Можно вставить текст, сгенерированный ИИ, и добавить свои комментарии к нему, но при этом обязательно указать, что это ИИ, перед самим текстом ИИ. Например:

«Я спросил ChatGPT о ___, и он ответил ___. Вот что я думаю по поводу того, что написал ChatGPT».

Я тщательно слежу за качеством контента. Думаю, что контент, сгенерированный ИИ в 2025 году, через 10 лет будет выглядеть устаревшим, примерно так же, как старые спецэффекты в кино сейчас уже не выглядят убедительно.

Если люди задают вопросы, а ИИ на них отвечает, зачем им идти на форум, а не просто спросить ChatGPT? Я считаю, что главная ценность форумов в будущем заключается в том, что вы сможете получать ответы от людей, а не от ботов.

8 лайков
3

Отличные мысли, @j127,

По сути, мы склонялись именно к такому подходу, если вокруг контента ИИ есть контекст и слова пользователей.

Я не хочу через несколько месяцев оглянуться и увидеть, что повсюду на наших форумах только идеально написанные ответы от ИИ, поэтому пытаюсь опередить эту ситуацию уже сейчас. Верните ошибки в правописании :slight_smile:

4 лайка
4

Есть один важный момент, о котором стоит помнить: запрет подобных практик может отпугнуть потенциальных новых пользователей. Возможное решение — создать отдельную категорию для такого контента и позволить пользователям размещать его там. Так пользователь почувствует, что внес ценный вклад, другие при необходимости смогут ссылаться на этот контент в других разделах форума, а те, кто не интересуется публикациями об ИИ, смогут просто пропустить эту категорию и все связанные ссылки.

Публикация материалов, созданных с помощью ИИ, на пользовательских форумах будет оставаться здесь в дальнейшем. В ближайшие годы я не вижу устоявшихся норм в этой области — аналогично вопросу об использовании ИИ в формальном образовании.

Однако с появлением новой волны ИИ, больших языковых моделей (LLM) и диффузионных моделей единственной константой остаётся изменение. Поэтому мой ответ не следует воспринимать как нечто незыблемое или как позицию, с которой я могу согласиться в будущем.

2 лайка
5

Это действительно зависит от ситуации, верно? В приведённом выше примере я бы был возмущён автором поста, если бы ответ содержал явные ошибки — особенно такие, которые могут привести читателей к ещё большим проблемам. Я не против, если люди публикуют ответы, сгенерированные ИИ, при условии, что они также уделили время проверке уместности и правильности информации. Ещё лучше, если они согласны с тем, что сгенерированный контент похож на то, как они сами представили бы эту информацию, или даже лучше.

С другой стороны, если вы просто что-то ввели в большую языковую модель (LLM), скопировали и вставили ответ и ожидаете, что я, как читатель вашей темы, сам разберусь, является ли этот контент правильным, то я не буду доволен. Вы не только тратите моё время, представляя ложную информацию как верную, но и снижаете доверие к сообществу в целом — или, по крайней мере, к вашим будущим ответам.

В будущем, как я подозреваю, многие добросовестные пользователи откажутся от использования LLM на форумах в ближайшие несколько лет, а останутся только недобросовестные участники или люди, которые изначально не понимают сути форумов. Это лишь анекдотическое наблюдение, но я использую LLM ежедневно уже около двух лет, и всё чаще возвращаюсь к созданию собственного контента. Вчера я хотел написать блог-пост, в который не был особенно вовлечён. Решил попробовать GPT, но что бы я ни делал, текст всё равно звучал как сгенерированный GPT, и я ненавидел это. Тогда я попробовал Claude, и, несмотря на час работы с ним, контент так и не звучал как текст, написанный живым человеком. В итоге, потратив в общей сложности около трёх часов, я всё выбросил и написал сам примерно за час.

Смысл этой истории в том, что, по крайней мере для меня, создание собственного контента становится всё более вознаграждающим, независимо от того, насколько хороши становятся модели. Я искренне надеюсь, что другие пользователи LLM также придут к такому выводу в ближайшие 2–3 года. Если это произойдёт, ответы с использованием ИИ на форумах будут исходить только от недобросовестных участников или от людей с добрыми намерениями, которые просто не знают лучшего. В любом случае такая ситуация значительно упрощает работу с контентом: можно блокировать недобросовестных участников, обучать тех, кто действует с добрыми намерениями, и ввести модерационную политику типа «контент, созданный ИИ, запрещён, за исключением случаев, когда вы явно проанализировали публикуемый материал, полностью согласны с тем, что его содержание отражает ваше мнение и понимание вопроса, и что этот материал выражает ваше мнение так же или даже лучше, чем вы бы сгенерировали его самостоятельно». Или что-то в этом роде.

P.S. Мне очень нравится этот взгляд:

Сначала я с этим не согласился, но после некоторых размышлений я полностью понимаю, что это может быть так.

6 лайков
7

Я обычно слегка насторожен, когда вижу ответы от ИИ, и ещё больше — когда пользователь, разместивший их, либо:

  • не указывает авторство ИИ,
  • просто копирует и вставляет текст.

Но, на мой взгляд, действительно недопустимо, когда полностью сгенерированные ИИ посты помечаются как «Решения». На самом деле, решение должно быть присвоено ИИ… или, точнее, просто не должно быть присвоено вовсе — достаточно лайка и благодарности.

Добавлю ещё: если бы автор темы хотел получить ответ от ИИ, он мог бы просто обратиться к ChatGPT. Ему не нужно, чтобы кто-то отвечал на вопрос, заданный другим людям, с помощью материалов от ИИ.

3 лайка
8

Я вижу здесь так много отличных ответов. В данном конкретном примере я считаю ИИ полезным, поскольку он носит чисто тактический характер. Поэтому, когда вы задаете своим сообществам вопросы или просите участников ответить, учитывайте разницу между тактическими моментами и «ощущениями». В зависимости от структуры вашего сообщества может существовать отдельное пространство для вопросов «как сделать» и другое — для общения между участниками. Понимание того, что «как сделать» — это место, где ИИ будет желанен и, возможно, рекомендован для избежания ошибок оператора. :slight_smile: Очень здорово иметь баланс в вашем пространстве сообщества, и именно это заставляет участников возвращаться.

2 лайка
9

Я считаю, что в Discourse уже есть раздел «Как сделать» (ask.discourse.com). Это на самом деле лучший ИИ-инструмент прямо внутри Discourse, который пользователи могут использовать самостоятельно, поэтому им не нужно, чтобы кто-то делал это за них. Всё остальное должно быть «пространством равных», где люди взаимодействуют, задают больше вопросов, чем дают ответы, и с удовольствием спорят, чтобы время от времени выудить какую-то правду.

Как красиво сказано здесь:

Скорее всего, люди приходят в пространство сообщества, когда у них происходит что-то необычное. Вероятно, перед нахождением решения проблемы задаётся множество вопросов: какую версию они используют, пробовали ли они то или это. Иногда очень важно почувствовать эмпатию со стороны других пользователей. ИИ не задаёт вопросов; у него нет интуиции относительно того, насколько мы иногда бываем глупы (например, на Meta: «Вы пробовали пересобрать Discourse?», «Вы пробовали безопасный режим?»), и любая эмпатия со стороны ИИ определённо фальшивая, как бы приятной она ни была.

Поэтому мой подход к обработке ответов с преобладанием ИИ-контента — я, вероятно, стал бы банить их и внедрял бы бота ИИ, чтобы пользователи могли легко помогать себе сами.

1 лайк