Похоже на то, что я делаю; я уже публиковал посты по этой теме в связанных разделах здесь.
У сгенерированных или обработанных ИИ постов всегда есть характерные признаки, по которым их можно распознать.
Мы прогоняем новые темы от пользователей с низким уровнем доверия через агента, который помечает их как потенциально созданные ИИ или нет. Пользователь получает вежливое сообщение от бота с объяснением причины и рекомендациями, что ему делать, а мы можем либо отменить пометку, либо удалить пост.
Это работает, но реальность такова: накатывает волна людей, которые просто копируют и вставляют диалоги в форум, что нежелательно.
В итоге получается стена текста, которую ИИ суммирует, а люди становятся лишь посредниками.
Лучше иметь политику нулевой терпимости. Исключение — языковые барьеры, но с автопереводом это уже неактуально. Кроме того, политики должны быть видимыми: если модерация ведётся за кулисами, люди теряют об этом представление.