Мы также сталкиваемся с этой проблемой — распознавание контента, созданного генеративным ИИ, становится всё сложнее, особенно если люди используют такие инструменты, как Humanizer, которые помогают избежать типичных признаков ИИ.
С точки зрения управления сообществом, я считаю, что разрешение использования чат-ботов на форуме убивает душу сообщества — если бы люди хотели общаться с ИИ, они бы уже это сделали. Они здесь потому, что хотят общаться с человеком.
Пока мы не нашли решения: мы провели несколько тестов с детекторами ИИ, но это игра в кошки-мышки, и у них слишком много ложных срабатываний. На данный момент мы внедрили политику форума (которую мы скоро начнём более активно продвигать) и полагаемся на помощь наших модераторов сообщества для выявления, проверки и очистки.
Но, честно говоря, это изматывает, и я иногда беспокоюсь о будущем наших сообществ, если они будут захвачены ботами.
Это одна из причин, по которой я избегаю участия в сообществах Reddit. Есть и другие причины, и я никогда не был очень активен на Reddit, но в наши дни он так забит ботами, что это ещё больше отталкивает меня от публикации сообщений.
Это очень напоминает ситуацию с электронной почтой в конце 90-х и начале 00-х. Будучи системным администратором небольшого дизайн-бюро, я наблюдал, как сотрудники начали активно использовать email в своей работе, но спам был настолько массовым, что делал почту практически бесполезной. В те дни борьба со спамом напоминала игру «Whack-a-Mole» (побить крота).
Как в итоге удалось взять эту ситуацию под контроль? Пройдет ли использование ИИ похожий путь? Потребуются ли на это десятилетия?
На данный момент, похоже, это единственный способ управления: переменных слишком много, чтобы с какой-либо надёжностью обнаруживать сгенерированный ИИ текст, и любой, кто утверждает обратное, продаёт пустышки. Лень проще вычислить, но в остальном мы должны оценивать каждый пост по качеству его содержания, не пытаясь угадать, как он был написан.