Как легко указать, что контент написан человеком, создан с помощью ИИ или полностью сгенерирован ИИ?

Создание сообщества
1

Я один из администраторов форума с более чем 10 000 участников. Мы заметили, что некоторые пользователи начали активно использовать ИИ для ответов на посты. Хорошо, что они становятся более активными и стараются быть полезными, однако некоторые ответы могут вводить в заблуждение, так как ответы чат-ботов ИИ часто звучат очень уверенно, но при этом неточно. Мы не хотим запрещать использование ИИ, но хотели бы поощрять пользователей раскрывать факт его применения, поскольку это поможет другим участникам (и языковым моделям, обучающимся на содержимом форума) оценить степень доверия к контенту поста.

Мы хотели бы добавить для каждого нового ответа выпадающий список «Источник контента» со следующими вариантами:

  • Написано человеком
  • С помощью ИИ (проверено и отредактировано)
  • Сгенерировано ИИ (легкая проверка)

Я предполагаю, что многим другим форумам потребуется аналогичная функция, поэтому, возможно, её можно было бы внедрить как стандартную возможность или плагин. Но если этого не произойдёт, было бы здорово получить советы о том, как настроить это на нашем размещённом экземпляре Discourse.

6 лайков
2

Если вы доверяете своим пользователям, можно просто создать для этого теги? О, редактирую: извините, я только что прочитал, что вы сказали «каждый пост».

Или вы имеете в виду, что хотите, чтобы это «обнаруживалось» (иронично — с помощью ИИ) и автоматически добавлялось какое-то указание?

3

Это похоже на случай использования для запроса функции ответы на теги, а не только темы, где было отмечено:

…поэтому вы можете присоединиться к обсуждению и проголосовать за этот запрос.

Я не разработчик, но считаю, что подход без использования тегов, вероятно, задействовал бы таблицу post_custom_fields, которую используют плагины, такие как плагин Custom Wizard. Внедрение пользовательского поля поста в интерфейс — для выбора, отображения, поиска и фильтрации — звучит как довольно масштабный проект плагина.

2 лайка
4

Плагин не будет работать на форуме, размещённом на Discourse

Думаю, можно также сделать что-то с помощью компонента темы. Возможно, такого, который просто добавляет информацию как [wrap] к финальному сообщению и включает стилизацию для выделения этой информации.

1 лайк
5

Я бы доверился пользователям, но если использование ИИ очевидно и не раскрыто, модераторы также могут пометить пост соответствующим образом.

Было бы удобно предлагать пометить пост как созданный с помощью ИИ или сгенерированный ИИ, но я не уверен, что это технически осуществимо, и это не является обязательным. Мы могли бы заставить пользователя задуматься об этом, если по умолчанию селектор не будет инициализирован, так что пользователи должны были бы явно указывать источник контента.

Можно легко забыть добавить тег (пользователей нужно чаще напоминать о его использовании), но это могло бы сработать.

Звучит как хороший подход. Сколько работы потребуется для настройки? Как вы думаете, есть ли шанс, что это будет добавлено как встроенная функция или официальный плагин?

6

Шанс всегда есть, но я считаю, что в обозримом будущем это маловероятно, если только запрос на эту функцию не соберёт огромное количество голосов.

7

С текущей функциональностью тегов можно требовать, чтобы темы в категории имели тег из указанной группы тегов. Хотя тегов для ответов пока не существует (и маловероятно, что они появятся в ближайшее время), можно надеяться на аналогичную возможность и там.

9

Если цель — проинформировать человеческого читателя о том, что текст создан с помощью ИИ, то, на мой взгляд, тег не является решением. Люди не читают теги как часть основного содержания. Поэтому указание должно быть частью самого контекста.

Лично я использую метод, предоставляемый Discourse:

<details class='ai-quote' open>
<summary>
<span>Заголовок</span>
<span title='Обсуждение с ИИ'>ИИ</span>
</summary>
Более или менее контент...
</details>

В качестве альтернативы я использую компонент Quote Callouts.

Обучение пользователей правильному применению этих методов, если это и не невозможно, то по крайней мере крайне сложно для пользователей, пришедших из Facebook. Поэтому я остановился на требовании, чтобы контент, созданный с помощью ИИ, каким-либо образом был помечен. Пока есть видимый индикатор внутри самого контента и материал ИИ четко отделен, я удовлетворен.

Я пробовал использовать тег, но очень быстро заметил, что это не вызывало никакой реакции. Кроме того, я хочу использовать теги для классификации контента, и мне трудно представить, что кто-либо когда-либо попытается найти весь контент на моем форуме, связанный с ИИ. Особенно учитывая, что использование ИИ, вероятно, будет нарастать со временем. Это может даже дойти до того, что тег понадобится для указания на то, что контент создан человеком (и не просто с помощью эмодзи, поскольку такие сайты и даже форумы уже существуют).

5 лайков
10

Вы как-то обеспечиваете соблюдение этого требования?

1 лайк
11

Форум с небольшим трафиком, поэтому я читаю почти всё. Модераторы могут и будут помечать возможные случаи. Не всегда очевидно, когда AI используется активно или когда текст скопирован и вставлен. Не знаю, как это можно автоматизировать, поэтому мы используем принцип соседского контроля :smirking_face:

Но мои пользователи довольно хорошо знают правила.

2 лайка
12

Чуть не по теме, но на нашем форуме (не на Discourse) есть тема, посвящённая всему, что связано с генеративным ИИ: от плюсов до минусов.
Один активный постоянный участник начал публиковать очень спорные сообщения, чтобы оспаривать и подвергать сомнению аргументы других участников в ходе слегка накалившегося спора.

Его последние посты выдали его: в частности, одно сообщение содержало четыре пункта, каждый из которых был построен по схеме «Это не… Это».

Его раскусили, и он признался, что использовал ИИ для написания своих «двух последних сообщений», объяснив, что это не проблема, так как он дал ИИ инструкцию отражать его собственные мнения. Более того, он заявил, что если люди не могут опровергнуть его аргументы, значит, они ошибаются, независимо от того, написаны ли его посты ИИ или нет.

Лишние слова излишни: другие пользователи были весьма возмущены, когда поняли, что тратили своё время и силы на споры с ИИ.

10 лайков
13

В моём сообществе Facebook (которое я пытаюсь перенести на Discourse) мы тоже начали это замечать. Это крайне раздражает: в сообществе поддержки, где отношения являются фундаментом нашей работы, люди выдают сгенерированный ИИ мусор (в основном) за свои собственные ответы. Я даже создала отдельного чат-бота с помощью NotebookLM, подключив к нему всю нашу документацию (на данный момент это лишь концепт-доказательство) для тех, кто хочет взаимодействовать с ИИ.

Я понимаю, что не у всех сообществ одинаковые потребности в плане аутентичности и вторжения ИИ, но хочу сказать, что в моём сообществе мы твёрдо придерживаемся позиции: «Никакого ИИ. Или, если вы хотите процитировать что-то, что сказал чат-бот, пожалуйста, используйте кавычки и вступительный текст, но, честно говоря, вам, вероятно, не стоит этого делать».

Как показывает история @Canapin, люди очень злятся, когда понимают, что автор поста переложил на них ментальную нагрузку по разбору того, что выдал ИИ.

(Кстати: я очень воодушевлена возможностями ИИ и больших языковых моделей, использую их, но если я веду разговор с кем-то, я не хочу осознавать, что в какой-то момент беседы я, не получив согласия, начала говорить с их тётей, их собакой или их чат-ботом.)

Я очень поддерживаю такой тип маркировки. Прозрачность важна. ИИ — это больше, чем просто проверка орфографии или предиктивный текст.

Добавлю: если такая маркировка будет внедрена, её следует реализовать так, чтобы посты можно было стилизовать по-другому, делая наличие ИИ очень заметным. Например, другой шрифт, фон, цвет и т. д.

4 лайка