Новые бот-аккаунты

Привет,

Только что заметил, что три новых аккаунта-бота были созданы недавно (19 октября, три дня назад, а я увидел их только сегодня) на форуме в режиме «только для сотрудников», размещённом на серверах в Сан-Хосе. Неужели это часть обновления системы или что-то в этом роде?

Вызывает тревогу появление этих новых ботов. Неясно, имеют ли они право находиться здесь и какова их цель?

Похоже, что исправление уже в процессе в официальном плагине Discourse.
https://github.com/discourse/discourse-ai/pull/258

Это запутанная страница, я не понимаю, о чём они говорят.

Не знаю, является ли появление этих бот-аккаунтов какой-либо проблемой, просто неясно, должно ли это происходить и для чего они нужны.

Недавно мы сделали модуль AI-бота из нашего AI-плагина доступным для всех тарифных планов на нашем хостинге. :partying_face: Эти трое пользователей — дружелюбные ребята, которые будут давать советы с помощью ИИ, как только вы включите модуль и добавите соответствующие ключи API (Discourse AI - AI bot).

Однако, как отмечает Мойн, мы теперь думаем, что лучше отложить создание этих пользователей до тех пор, пока модуль AI-бота не будет фактически включён и настроен администраторами сайта. :+1: Это изменение всё ещё находится в разработке, но, надеемся, мы скоро всё уладим. :crossed_fingers:

Извините за панику. :pray:

Ага, теперь всё понятно!

Я пытался поговорить с Клодом, но ответа не было, так как, видимо, в режиме для сотрудников он не поддерживается.

Отличное имя, «Клод».

Вам необходимо настроить соответствующие ключи API, чтобы сделать их интерактивными. :+1: Подробнее о том, как это сделать для каждого из них, вы можете узнать по ссылкам в разделе «Предварительные требования» руководства, на которое я ссылался выше — https://meta.discourse.org/t/discourse-ai-how-to-enable-ai-bot-in-discourse/266012#prerequisites-6

Как мы можем удалить аккаунты или хотя бы лишить их прав администратора? Мы не хотим, чтобы какой-либо ИИ вмешивался в наше сообщество.

Похоже, их можно удалить так же, как и обычных пользователей.

Я вижу только сообщение «Администраторов и модераторов нельзя удалить», а кнопки для снятия административных прав нет.

Хм, у меня они не отображаются как администраторы.

Я даже не могу изменить их уровень доверия. Любая попытка его понизить сразу же отменяется.

Редактирование: Похоже, я заблокировал уровень доверия перед его понижением, поэтому он возвращался к значению, которое было на момент блокировки. Это моя ошибка.

Тем не менее, я всё ещё не могу лишить их прав администратора.

Вот другой взгляд на это.

Это просто заполнители для ботов ИИ, которые до тех пор, пока администратор не настроит их в параметрах Discourse с помощью API-ключа, представляют собой лишь имена учётных записей без каких-либо возможностей — они не могут даже отвечать на сообщения.

Вот тестовое сообщение, чтобы проверить, отреагирует ли бот ИИ, если он не настроен с API-ключом.

Однако, если боты активированы, будьте крайне осторожны с тем, кому вы разрешаете общаться с ними. Если их использование нарушает политику компании, предоставляющей ИИ (например, OpenAI), учётная запись, связанная с API-ключом, будет заблокирована и, скорее всего, никогда не сможет быть восстановлена.

Как администратор Discourse на другом сайте, я тоже заметил это обновление и проверил работу ботов без настроенного API-ключа. На данный момент я считаю их безвредными, если они не активированы. Если у вас нет опытных пользователей, большинство участников, вероятно, даже не узнает об их существовании или о том, как ими воспользоваться.


На этом сайте Discourse у меня есть доступ к ботам, поэтому вот демонстрация того же теста.


Когда на этом сайте создается сообщение для бота, внизу области ввода текста появляется следующее уведомление.

image


Тот же тест, выполненный на форуме OpenAI (я там модератор категории).


Вот официальная публикация от Discourse:


Для тех, у кого нет доступа к параметрам администратора, вот значения по умолчанию, взятые с текущего сайта Discourse:

https://<URL сайта Discourse>/admin/site_settings/category/discourse_ai

Обратите внимание, что API-ключ не настроен. Никогда не публикуйте API-ключи — храните их в безопасности. Если по ошибке вы всё же опубликуете ключ, такие сервисы, как OpenAI, имеют страницу для отзыва текущего ключа и немедленной выдачи нового.

Они ничего не делают без включенных соответствующих настроек администратора, но мы понимаем, что было бы лучше, если бы они не создавались, пока вы не включите модуль AI Bot. В данный момент готовится изменение, которое обеспечит это, поэтому они будут удалены с вашего сайта в ближайшее время по мере внедрения этого обновления на нашем хостинге. :+1:

Ограничено ли это системой уровней доверия?

Если нет, это можно просто поддерживать, не публикуя их имена, если их можно настроить на разные имена.

Хороший вопрос.

Я могу ответить на это позже, но сейчас у меня нет всех деталей. Хочу отметить, что я участвую в использовании ботов уже около месяца и более, и отмечу, что не следует считать что-либо высеченным в камне. Также, если у вас есть идеи, предложения, рекомендации и т. д., пожалуйста, делитесь ими, но не ожидайте ответа, реализации или чего-либо ещё, так как это очень динамичная часть разработки Discourse.

Если у вас есть права администратора на сайте Discourse, перейдите по этой ссылке, чтобы узнать больше. Именно туда я обратился впервые, увидев ваш вопрос.

https://<URL сайта Discourse>/admin/site_settings/category/discourse_ai


РЕДАКТИРОВАНИЕ

Я разместил скриншоты текущих настроек бота Discourse AI в более раннем посте, чтобы все могли увидеть их, но, что более важно, чтобы у них был ориентир для обсуждения деталей настроек.


Чтобы ответить на ваш вопрос:

image

Спасибо. Я администратор, настроил API-ключ для этого, но у меня нет ключей Anthropic или Stability, только один ключ OpenAI.

В настройках по умолчанию указано, что разрешена только группа «Уровень доверия №4».

К сведению

Я не пользовался ботом на этом сайте несколько недель, но хотел обратить на это внимание, так как это может быть не очевидно при первом использовании.

У бота могут быть разные персонажи, которые можно выбрать, но опция выбора не так заметна.

Если нажать на Forum Helper, откроется выпадающий список.

Приятного использования!


Также стоит отметить, что поскольку бот в настоящее время доступен через личные сообщения и других пользователей можно пригласить в личное сообщение, когда в одном личном чате находятся два или более реальных человека и бот, бот отвечает на каждое сообщение, даже если оно было адресовано не ему.

Это ограничение касается только уровня доверия №4 на этом форуме поддержки?

Я не администратор здесь, только для своего собственного сайта.

С этим сообщением было опубликовано следующее уведомление:

Сообщения чат-бота с ИИ регулярно проверяются модераторами.

Тем не менее, похоже, это не работает: бот системы по умолчанию перестал функционировать, когда я перевёл сайт в режим «только для сотрудников». При этом режиме многое ограничено, но мы планируем перезапуск в следующем месяце.

Зарегистрировал аккаунт OpenAI, привязанный к учётной записи Microsoft. Они предоставляют 5 долларов бесплатного кредита, но при большом трафике взимается плата.

Интересно, что для компаний в США они не требуют идентификационный номер налогоплательщика, а для других стран — требуют. :face_with_monocle:

Очевидно, я не могу ответить на это, основываясь на настройках этого сайта, так как у меня нет доступа, но отмечу, что была создана группа для раннего тестирования, благодаря чему я и был включён.

https://meta.discourse.org/g/ai-bot-testers?asc=true

Если вы посмотрите на мои примеры выше, то увидите, что есть два разных варианта формулировок, и, насколько мне известно, это связано с этой настройкой:

image

На сайте, где у меня есть права администратора, мы не будем настраивать AI-ботов. На сайтах, где я могу запускать AI-ботов Discourse, у меня нет прав администратора. Также я не планирую создавать тестовый сайт и добавлять API-ключ для AI, чтобы протестировать это. Поэтому, если вы продолжите активно заниматься тем, чем занимаетесь сейчас, вы сможете взять эстафету через неделю или около того. :wink:

Я не могу помочь с этим.

Отлично, полезная информация, спасибо за помощь.