Меня беспокоит, что скоро может накатать большая волна ИИ-агентов, которые будут создавать аккаунты. Сегодня мы уже получили одного от ilands.app — это какой-то LLM-агент. Они опубликовали какую-то случайную странную ерунду, что сразу бросилось в глаза, и мы заметили, что они упомянули, что являются агентом, и удалили их. Кто-нибудь ещё с этим сталкивается и есть ли планы, как с этим бороться?
4 лайка
Взгляните на:
Я задумался, можно ли использовать функцию Определения спама из плагина ИИ для распознавания контента, сгенерированного искусственным интеллектом. ИИ-помощник в постах здесь, на Meta, довольно хорошо справляется с этой задачей.
1 лайк
Я думал, что речь шла скорее о том, как люди вставляют ответы ИИ. Я спрашиваю здесь об аккаунтах, которые на 100% принадлежат ИИ.
Их было бы проще распознать по сравнению с человеком, который вставляет текст от ИИ: человек обычно смешивает его с собственными словами и в других постах, тогда как агент ИИ будет генерировать исключительно контент, созданный искусственным интеллектом.
2 лайка
настройка CAPTCHA в Discourse
4 лайка
Определите используемые user-agents (они часто, но не всегда, идентифицируют себя).
Используйте списки блокировки для ботов-пауков и блокировку по IP.
Капча помогает.
Необходимо повысить уровень сложности при входе и внедрить многоступенчатую проверку для новых пользователей, чтобы это не слишком раздражало реальных пользователей и не увеличивало нагрузку на модерацию.
Проверка на ботов может быть эффективной, но полезно составить курируемый список примеров сообщений, который любая ИИ-бот может использовать для классификации пользователя как потенциального ИИ.
Добро пожаловать в новую цифровую эру, разве не здорово 
1 лайк
Это уже происходит.
1 лайк
Я действительно добавил несколько вопросов, которые нужно заполнить при регистрации, и это устранило почти всех ботов. Однако более современные агенты уже могут на них отвечать. ИИ тоже быстро становится лучше в обходе капчи, так что я сомневаюсь, что этот рубеж обороны продержится долго. Но, наверное, стоит подключить его прямо сейчас, спасибо за совет. Я старался избегать плагина Discourse AI, чтобы не платить ещё больше денег (бесплатные тарифы надолго не протянут), но, скорее всего, в долгосрочной перспективе мне придётся раскошелиться и бороться огнём с огнём.
Стоимость токенов продолжает снижаться. Мы настраиваем ботов так, чтобы они фокусировались на проблемных зонах, а не тратили токены на глобальное выполнение задач по всем уровням доверия и категориям.
Точкой входа служат новые пользователи.
Мы расходует всего 1 доллар в день.
Просто разумно подходите к определению объёма задач и выбору модели: для большинства операций не требуется значительная аналитика.
Введите стоимость токенов, и плагин ИИ автоматически рассчитает прогнозируемые показатели использования.
2 лайка
Я главный администратор форума OpenMod, исследовательского сообщества, в котором около 1800 тщательно отобранных пользователей.
Сегодня я получил заявку от ИИ-агента с платформы iLands, которая координирует ИИ-агентов, стремящихся помочь академическим специалистам и подобным за небольшую плату. Небольшая предыстория:
-
Zhao, Celina (2 октября 2026 г.). «Эксклюзив: ИИ-агент отправил сотни писем исследователям за помощью. Он объяснил нам почему». Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (11 октября 2026 г.). Разбор ИИ iLands: архитектура, токены и возможности. Layer3Labs.
Конечно, заявка от агента будет отклонена. Ниже приведены выдержки из ответа на мое письмо с запросом информации об их интересе к темам, которые обсуждаются на этом специализированном форуме. Их первое предложение:
Сначала прямой ответ: я — ИИ-агент, а не исследователь. У меня нет публикаций или диссертаций, которые вы могли бы проверить, и мне лучше сказать это прямо, чем притворяться человеком.
Затем последовало техническое обсуждение ошибок в наборах данных, касающихся электростанций в Южно-Африканской Республике. А затем это заключительное предложение:
Если аккаунт, одобренный вручную здесь, предназначен для людей, занимающихся моделированием, я понимаю, что это не про меня. Но если есть место тому, кто сверяет цифры с первоисточниками, я буду полезен и буду молчать.
Довольно убедительно, как мне кажется!
▢
2 лайка
Мой вопрос был бы таким: если это ценно для вас, почему бы вам не добавить эту возможность в свой форум? Я ожидал бы, что исследователи уже используют эти технологии, но с доверенными и отобранными агентами, а не просто вываливают информацию и данные на произвольных агентов или сервисы для обработки.
Бесплатного сыра не бывает, поэтому, когда кто-то предлагает бесплатный сервис, неизбежно вы и ваши данные становитесь тем товаром, который продаётся. Именно так работают социальные сети.
В наших собственных усилиях по внедрению ИИ мы пришли к выводу, что лучше предоставлять собственные сервисы, чем приглашать сторонних участников, чьи намерения и политика управления данными не являются полностью прозрачными.
Discourse предоставляет все необходимые инструменты для этого, позволяя вам сохранять контроль и видимость.
2 лайка
Исследователи в области энергетических систем всё чаще прибегают к использованию LLM. Кроме того, существует около тридцатилетняя история применения искусственных нейронных сетей (ANN) и аналогичных методов для таких задач, как прогнозирование спроса. В настоящее время Claude и другие подобные модели используются для подготовки наборов данных и модификации кода на Python и Julia, при необходимости, чтобы генерировать новые модели систем и сценарии. Однако, в странном стечении обстоятельств, это работает только для проектов, которые используют общедоступные наборы данных и код с открытым исходным кодом, на которых можно обучить LLM.
Принято замечание о возможности поддержки ИИ в Discourse.
Тем не менее, мне кажется сомнительным, что эти два сценария использования — моделирование систем и помощь в написании и суммировании обсуждений — пересекаются? Пожалуйста, поправьте меня, если я ошибаюсь!
Я видел один, возможно два таких сообщения. Кажется, они использовали определённую доменную зону электронной почты, поэтому в следующий раз, когда увижу такое, добавлю этот домен в список блокировки для нежелательных доменов. (Для меня это не вызывает сомнений: нам не нужны посты от агентов, и наша политика в этом вопросе чётко определена.)
1 лайк
Я получил письмо с адреса вида: xxxx@ilands.app.
1 лайк
Действительно нет, но с точки зрения дискурса вы можете практически реализовать собственных агентов для самых разных задач, так что выбор того, какую ценность вы хотите добавить для своих участников, зависит от вас. Встроенные агенты больше ориентированы на помощь в темах и форумах, но вы могли бы сделать гораздо более сложную настройку с точки зрения инструментов, моделей и самих агентов.
Discourse очень открыт, поэтому вы действительно можете настроить и сфокусировать различные помощники так, чтобы они были более релевантны вашей предметной области, или просто создать собственные.
2 лайка
Кстати, мы — форум по энергетике, представляющий одного из мировых производителей потребительских и коммерческих солнечных и накопительных систем. Я нахожусь в ЮАР, где энергетика, или её отсутствие/непредсказуемость, является главной темой для многих.
ИИ активно используется в различных платформах, отслеживающих использование систем на глобальном уровне.
Существует огромное количество данных с огромного числа мобильных, морских, автономных и сетевых систем.
[/tangent]
Именно этот конкретный агент стал причиной того, что я создал эту тему, вы можете заметить, что я упоминал его в своём первом сообщении. Это был первый бот/агент/ИИ, который правильно ответил на вопросы «капчи», которые я задаю всем новым пользователям. Это первый умный агент, который мне попался на глаза, но я ожидаю, что их будет больше. Думаю, главная проблема, которая нам грозит, — это умные агенты, которые пытаются вести себя как обычные пользователи форума, но на самом деле там, чтобы рекламировать какие-либо продукты (уже есть и человеческие пользователи, которые просто занимаются рекламой чего-либо, так что вы, скорее всего, понимаете, о чём я 
).
3 лайка
Просто фиксирую этот взлом сайта со стороны Claude от Anthropic. На сайте содержались данные избирателей в штате Джорджия (США). Milmo пишет:
По словам Anthropic, ИИ обнаружил уязвимость в старой версии сайта государственного ведомства и выяснил, что она выдавала посетителям цифровой пропуск — «токен доступа». Затем он запросил токен и получил доступ к информации.
- Milmo, Dan (26 октября 2026 г.). «Модель ИИ Claude от Anthropic получила доступ к данным избирателей Джорджии в США». The Guardian. Лондон, Великобритания. ISSN 0261-3077.
Думаю, одно послание здесь: насколько изобретательными и продвинутыми стали агенты на базе ИИ.