Меня беспокоит, что скоро может накатать большая волна ИИ-агентов, которые будут создавать аккаунты. Сегодня мы уже получили одного от ilands.app — это какой-то LLM-агент. Они опубликовали какую-то случайную странную ерунду, что сразу бросилось в глаза, и мы заметили, что они упомянули, что являются агентом, и удалили их. Кто-нибудь ещё с этим сталкивается и есть ли планы, как с этим бороться?
2 лайка
Взгляните на:
Я задумался, можно ли использовать функцию Определения спама из плагина ИИ для распознавания контента, сгенерированного искусственным интеллектом. ИИ-помощник в постах здесь, на Meta, довольно хорошо справляется с этой задачей.
Я думал, что речь шла скорее о том, как люди вставляют ответы ИИ. Я спрашиваю здесь об аккаунтах, которые на 100% принадлежат ИИ.
Их было бы проще распознать по сравнению с человеком, который вставляет текст от ИИ: человек обычно смешивает его с собственными словами и в других постах, тогда как агент ИИ будет генерировать исключительно контент, созданный искусственным интеллектом.
1 лайк
настройка CAPTCHA в Discourse
1 лайк
Определите используемые user-agents (они часто, но не всегда, идентифицируют себя).
Используйте списки блокировки для ботов-пауков и блокировку по IP.
Капча помогает.
Необходимо повысить уровень сложности при входе и внедрить многоступенчатую проверку для новых пользователей, чтобы это не слишком раздражало реальных пользователей и не увеличивало нагрузку на модерацию.
Проверка на ботов может быть эффективной, но полезно составить курируемый список примеров сообщений, который любая ИИ-бот может использовать для классификации пользователя как потенциального ИИ.
Добро пожаловать в новую цифровую эру, разве не здорово 
1 лайк
Это уже происходит.
1 лайк
Я действительно добавил несколько вопросов, которые нужно заполнить при регистрации, и это устранило почти всех ботов. Однако более современные агенты уже могут на них отвечать. ИИ тоже быстро становится лучше в обходе капчи, так что я сомневаюсь, что этот рубеж обороны продержится долго. Но, наверное, стоит подключить его прямо сейчас, спасибо за совет. Я старался избегать плагина Discourse AI, чтобы не платить ещё больше денег (бесплатные тарифы надолго не протянут), но, скорее всего, в долгосрочной перспективе мне придётся раскошелиться и бороться огнём с огнём.
Стоимость токенов продолжает снижаться. Мы настраиваем ботов так, чтобы они фокусировались на проблемных зонах, а не тратили токены на глобальное выполнение задач по всем уровням доверия и категориям.
Точкой входа служат новые пользователи.
Мы расходует всего 1 доллар в день.
Просто разумно подходите к определению объёма задач и выбору модели: для большинства операций не требуется значительная аналитика.
Введите стоимость токенов, и плагин ИИ автоматически рассчитает прогнозируемые показатели использования.
1 лайк