Значит, вы будете выгонять пользователей? Я больше не шучу. ИИ — это просто инструмент. То, как используется инструмент, определяет, хорош он, плох или бесполезен. Но вы просто говорите, что Meta должна немедленно отказаться от ИИ, потому что контент с использованием ИИ уже несколько раз публиковался здесь.
Так что, возможно… это зависит, точно так же, как варьируется определение спама.
Спам-сообщения от ИИ — это ежедневное явление на форуме Trainz Simulator.
Форум использует движок Xenforo.
Создаются новые учётные записи, после чего появляются 1–10 сообщений, разбросанных по различным подразделам форума. Сами сообщения безвредны для форума, но они раздражают.
Существует система жалоб на учётные записи и сообщения форума, которая справляется с этой проблемой довольно легко.
Меньше половины спама, конечно… Пока. Я получаю от 5 до 10 спам-аккаунтов в день уже несколько лет.
{quote=“Саиф Муртаза, пост:1, тема:292707, username:Saif”]
Спам от ИИ всегда выглядит так: хорошо написанный пост, не слишком формальный и не слишком разговорный, который грамотно использует контекст интересов форума или темы, в которой он размещён. Пост явно выглядит легитимно, но обычно содержит случайную спам-ссылку в одном из слов, которую сразу замечают участники сообщества и помечают как спам.
Пользователи сообщают и отмечают. Кроме того, такие посты часто попадают под порог Min first post typing time и автоматически определяются как спам системой Discourse.
Меня очень заинтересовал бы запрос в Data Explorer, который возвращал бы процент предполагаемых постов со спамом от ИИ за определённый период. Очевидно, что критерии для определения поста от ИИ очень сложно сузить для SQL-запроса, но в моём случае я думаю, что можно использовать ключевые слова. Обычный спам обычно не использует ключевые слова, специфичные для интересов моего сообщества, тогда как посты от ИИ их используют.
Поскольку посты от ИИ в настоящее время всегда отмечаются пользователями, было бы полезно иметь возможность возвращать их как проверенные (отклонённые) элементы в SQL-запросе.
Я направляю пользователей, которые не рассылают спам, к правилам, в которых сказано, что контент, созданный ИИ, не допускается, если он не помечен как написанный ИИ, и если они добавляют к нему свои комментарии.
Я не против ИИ. Мне нравятся такие вещи, как краткие обзоры тем и «еженедельная сводка по темам ИИ». Единственное, что не допускается на моих форумах, — это создание контента с помощью ИИ и выдача его за написанный человеком.