Добавить опцию флага для постов, сгенерированных ИИ, без указания, что пост создан ИИ

Внести вклад Функция
1

Как отмечено в заголовке, добавьте опцию при подаче жалобы, чтобы указать, что пост создан ИИ или выглядит как таковой.

В жалобе должно быть указано, разрешён ли на сайте контент, созданный ИИ, чтобы автор поста был в курсе. Если такой контент разрешён, в жалобе следует указать необходимые детали, например: модель и её версию, а возможно, и промпт, использованный для генерации контента.

Несколько недель назад на сайте OpenAI прошла конференция DevDay, после чего количество постов на форуме OpenAI в Discourse выросло. Затем увольнение генерального директора и изменения в совете директоров привлекли ещё больше новых пользователей. В результате сейчас мы видим множество первых постов в темах, которые представляют собой просто сгенерированный ИИ контент. В то время как обычные пользователи ещё пытаются понять, следует ли разрешать такой контент, наличие возможности хотя бы помечать такие посты, чтобы другие пользователи знали, что это контент, созданный ИИ, было бы полезным.

Да, я знаю, что существует опция «что-то ещё» при подаче жалобы. Однако многие пользователи её не используют, и часто, если пользователь всё же выбирает её, приходится быть экстрасенсом, чтобы понять, почему он действительно подал жалобу. Описания для опции «что-то ещё» часто настолько зашифрованы, что модератору приходится писать пользователю в личные сообщения, чтобы разобраться в причине жалобы. Опция жалобы, которая есть в списке, обычно быстро выбирается и используется.

Я понимаю, что некоторые могут счесть эту просьбу о новой функции спорной, поэтому ожидаю либо много обсуждений, либо почти никакого обсуждения.

Если вы всё же хотите обсудить это, пожалуйста, будьте вежливы, держитесь темы, не переходите на личности и, как всегда, соблюдайте правила сайта.

2 лайка
Rules Surrounding Writing Topics using AI
2

Это выглядит как хороший кандидат для пользовательского флага, определяемого на уровне сайта. Я знаю, что было несколько запросов на эту функцию, хотя не уверен, что она входит в ближайший план разработки.

4 лайка
3

Спасибо!

Никогда не слышал об этом, но это достойное улучшение.

Кстати:

Чтобы найти этот пост, я использовал бота Discourse AI. (чат)

Запрос

Перечислите посты, упоминающие «пользовательский флаг, определяемый сайтом» или что-то подобное.

Ответ

Вот посты, в которых упоминается «пользовательский флаг, определяемый сайтом» или схожие темы:

  1. Добавить опцию флага для постов, сгенерированных ИИ, без указания, что пост создан ИИ
  • Выдержка: «Это выглядит как хороший кандидат для пользовательского флага, определяемого сайтом. Я знаю, что было несколько запросов на это, хотя я не уверен, что это в ближайшем плане работ.»
  • Создан: 2023-11-29
  • Категория: функция
  • Теги: модерация, ИИ
  1. Создать пользовательские флаги
  • Выдержка: «В идеале я бы хотел использовать функциональность «флага», чтобы присвоить ему пользовательский флаг, который я мог бы создать сам…»
  • Создан: 2014-07-15
  • Категория: функция

Для получения более подробной информации вы можете перейти по предоставленным ссылкам.

Для тех, кто не переходит по ссылкам: одна из них ведёт на

4

Я искал хорошую тему с тегом #feature для ссылки, но, похоже, значительная часть недавних обсуждений по этому поводу велась внутри команды. Тем не менее, она набрала определённую популярность, и я считаю, что это ещё один хороший вариант её использования.

Я убрал тег ai из плагина, так как речь идёт скорее о модерации контента, созданного с помощью ИИ, а не о функции самого плагина. Хотя я и задумался: не стоит ли использовать плагин с ИИ для автоматической пометки таких случаев?

2 лайка
5

Только для информации, и без желания увести обсуждение от темы:

  • очень сложно (читай: почти невозможно) автоматически обнаружить вклад, созданный ИИ. (Источник: см. обсуждение здесь)
  • в любом случае, некоторые люди, для которых основной язык сайта (например, английский) не является родным, могут использовать ИИ для переписывания своих сообщений. Поэтому, даже если это можно обнаружить (?!?) или текст выглядит «подозрительно хорошо написанным», действительно ли вы хотите модерировать такие случаи или передавать их на рассмотрение модераторам?
  • зачем кому-то вообще беспокоиться, если только это не спам, для которого уже существует соответствующий флаг?
3 лайка
6

Мне пришлось прочитать это три раза, чтобы понять, что это значит.

Я по умолчанию воспринимал тег ai как темы, связанные с ai, но затем понял, что как модератор вы гораздо лучше осведомлены о значении каждого тега и что тег ai используется специально для бота Discourse AI, а не для тем, связанных с ИИ, как я предполагал.

Записываю это на заметку для других, кто мог попасть в ту же ловушку мышления.

1 лайк