Этот вопрос для всех владельцев и модераторов форумов. Каково ваше мнение о пользователях, которые используют ИИ для автоматического просмотра форума, автоматического чтения последних комментариев и автоматической генерации ответов в тему? Они делают это, чтобы не участвовать в форуме по-настоящему, потому что хотят повысить свой уровень доверия и получить доступ к разделам, доступным только для пользователей с высоким уровнем доверия.
Вы активно преследуете таких пользователей? Как вы понимаете, что текст написан ИИ? Или вы закрываете на это глаза?
Ситуация может стать ещё более нечестной. Я видел посты, в которых один аккаунт-марионетка создаёт новую тему с помощью ИИ, а спустя короткое время новый пользователь (вероятно, принадлежащий тому же человеку) отвечает, соглашаясь с автором и хваля его.
Я такого поведения не встречал, но с моей стороны это было бы баном. Если бы они были активными членами сообщества, я бы ограничился предупреждением, но, судя по всему, они никогда не вносили вклада.
Думаю, было бы полезно иметь явную политику в отношении контента, созданного с помощью LLM.
ну, как я считаю, стоит подходить к этой проблеме: вопрос в том, насколько вы цените свой контент, доступ к которому ограничен уровнем доверия, и насколько вы цените сам доступ к этому контенту.
Если это контент, доступ к которому вы не хотите предоставлять людям, «обманывающим систему», я бы попытался найти способ предотвратить такое поведение.
Причина в том, что такое поведение распространено повсеместно. Смотрите пример Роберта:
ах… это происходит здесь… каждый день
В общем
часто для человеческого модератора это довольно очевидно просто по прочтению, но это требует времени модератора. Некоторые администраторы используют ИИ для обнаружения ИИ (смешно, не правда ли?)
Если вам удаётся определить, какие user-agents используются, или если они соблюдают стандарты управления, вы можете рассмотреть возможность их блокировки, ограничения частоты запросов или использования llms.txt.
Это работает только в том случае, если автоматизированные системы ведут себя как джентльмены.
Если определённые регионы вызывают проблемы, всегда можно использовать гео-блокировку.
Я использую AI-агента для проверки новых пользователей и пользователей с низким уровнем доверия. Его точность составляет более 95%.
Всё зависит от того, насколько хитрыми являются злоумышленники, но при должной работе и тестировании вы можете оказаться хитрее
Мы тоже довольно часто с этим сталкиваемся. Конечно, я не могу утверждать, каковы истинные мотивы, но по моему опыту это гораздо менее интересно, чем попытки «завоевать доверие». Я думаю, что это просто спам.
Сейчас к спаму также относятся датасеты для обучения ИИ и GEO — когда им выгодно просто упоминать продукт, услугу или компанию по всему интернету.
Иногда цель — набрать достаточно доверия, чтобы вставить ссылку, но я подозреваю, что ссылки теперь играют второстепенную роль.
Пока что признаки были довольно очевидными — мой «честный взгляд» таков, что «несущие швы» (то есть места, где текст собран из разных источников или сгенерирован) видны отчётливо. Я ставлю тему на паузу и отправляю пользователю дружелюбное (но шаблонное) личное сообщение с приветствием и просьбой просто ответить мне, чтобы вернуть тему в работу.
Как предложил кто-то другой, возможно, вам стоит пересмотреть ценность вашего контента, доступ к которому ограничен, и относительную ценность вкладов пользователей в форум. Есть ли у людей, у которых нет доступа к ограниченному контенту, знания или навыки, необходимые для того, чтобы вносить осмысленный вклад? Возможно, стоит изменить требования для перехода на новый уровень доверия так, чтобы публикация мусора не помогала, и каким-то образом сделать это очевидным, чтобы люди не были склонны к подобным действиям.
До появления ИИ могли ли новые пользователи вносить осмысленный вклад и переходить на следующий уровень доверия?
