Nouveaux comptes de bots

Salut,

Je viens de remarquer que trois nouveaux comptes de bots ont été créés récemment (le 19 octobre, il y a trois jours, je viens de les remarquer aujourd’hui) sur le forum en mode réservé au personnel hébergé sur les serveurs de San Jose. Fait-il partie d’une mise à jour du système ou autre chose ?

Il est un peu alarmant de voir ces nouveaux bots, je ne suis pas sûr s’ils sont autorisés à être là et quel est leur but ?

Il semble qu’une correction soit déjà en cours dans le plugin Discourse officiel.

1 « J'aime »

C’est une page confuse, je ne comprends pas de quoi ils parlent.

Je ne sais pas si l’apparition de ces comptes de bots est nécessairement un problème, je ne savais juste pas si cela était censé se produire et à quoi ils servent.

Nous avons récemment rendu le module de bot IA de notre plugin IA disponible pour tous les plans sur notre hébergement. :partying_face: Ces trois utilisateurs sont les sympathiques petits gars qui dispenseraient les conseils d’IA une fois que vous l’aurez activé et ajouté les clés API pertinentes (Discourse AI - AI bot).

Cependant, comme le souligne Moin, nous pensons maintenant qu’il serait préférable de reporter leur création jusqu’à ce que le module Bot IA soit réellement activé et configuré par les administrateurs du site. :+1: C’est encore un changement en cours, mais nous espérons que nous aurons bientôt résolu cela. :crossed_fingers:

Désolé pour la frayeur. :pray:

2 « J'aime »

Ah ha, voilà qui explique cela !

J’ai essayé de parler à Claude mais il n’y a pas eu de réponse car, en mode personnel, ils ne sont pas pris en charge, je suppose.

C’est un bon nom, « Claude ».

Vous devrez configurer les clés d’API pertinentes pour les rendre interactives. :+1: Vous pouvez trouver plus de détails sur la façon de le faire pour chacun en utilisant les liens dans la section « Prérequis » du guide que j’ai lié ci-dessus - Discourse AI - AI bot

Comment pouvons-nous supprimer les comptes, ou au moins leur retirer leurs privilèges d’administrateur ? Nous ne voulons pas que l’IA interfère avec notre communauté.

Il semble qu’ils puissent être supprimés tout comme les utilisateurs humains.

Tout ce que je vois est un message disant « Les administrateurs et modérateurs ne peuvent pas être supprimés » et il n’y a aucun bouton pour supprimer leurs privilèges d’administrateur.

Bizarre, pour moi, ils n’apparaissent pas comme administrateurs.

Je ne peux même pas changer leur niveau de confiance. Toute tentative de le baisser est immédiatement annulée

Edit : il semble que j’avais verrouillé le niveau de confiance avant de le baisser, il revenait donc à ce qu’il était lorsqu’il était verrouillé. Ma faute.

Je ne peux toujours pas les désadmin cependant

Voici une autre façon de les considérer.

Ce sont des espaces réservés pour les robots IA, qui, jusqu’à ce qu’ils soient configurés par un administrateur avec une clé API dans les paramètres de Discourse, ne sont essentiellement que des noms de comptes sans aucune capacité d’agir, pas même de répondre à un message.

Voici un message de test pour voir si le robot IA répond lorsqu’il n’est pas configuré avec une clé API.

Cependant, si les robots sont activés, soyez très prudent quant à qui vous autorisez à converser avec eux, car si leur utilisation enfreint la politique de la société d’IA telle qu’OpenAI, le compte de la clé API sera désactivé et très probablement jamais réactivé.

En tant qu’administrateur Discourse sur un autre site, j’ai également remarqué la mise à jour et j’ai examiné les robots sans la clé API configurée. Je les considère actuellement comme inoffensifs lorsqu’ils ne sont pas activés et, à moins que vous n’ayez un utilisateur averti, la plupart des utilisateurs ne seront jamais au courant de leur existence pour le moment, ni même de la manière de les utiliser.


Sur ce site Discourse, j’ai accès aux robots, voici donc une démonstration du même test.


Lorsqu’un message est adressé à un robot sur ce site, la notification suivante est publiée en bas de la zone de saisie de texte.

image


Même test effectué sur le forum OpenAI. (Je suis modérateur de catégorie là-bas)


Voici la publication officielle de Discourse


Pour ceux qui n’ont pas accès aux paramètres d’administration, voici les valeurs par défaut prises d’un site Discourse actuel
https:///admin/site_settings/category/discourse_ai

Notez qu’aucune clé API n’est définie. De plus, ne publiez jamais de clé API, gardez-les en sécurité en tout temps. Si par accident vous en publiez une, des sites tels qu’OpenAI disposent d’une page pour révoquer une clé API actuelle et vous en réémettre immédiatement une nouvelle.

3 « J'aime »

Ils ne font rien sans les paramètres d’administration pertinents activés, mais nous apprécions qu’il serait préférable qu’ils ne soient pas créés à moins que vous n’activiez réellement le module AI Bot. Un changement est en cours pour y parvenir, ils devraient donc être supprimés de votre site dans un avenir proche à mesure que ce changement sera déployé sur notre hébergement. :+1:

4 « J'aime »

Est-ce restreint par le système de niveaux de confiance ?

Sinon, cela pourrait simplement être maintenu en ne publiant pas leurs noms, si cela peut être personnalisé avec différents noms.

Bonne question.

Je pourrai y répondre plus tard, mais je n’ai pas encore tous les détails. Je noterai que je suis impliqué dans l’utilisation des bots depuis environ un mois ou plus, et je noterai qu’il ne faut rien considérer comme gravé dans le marbre. De plus, si vous avez des idées, des suggestions, des recommandations, etc., veuillez les faire, mais ne vous attendez pas à une réponse/mise en œuvre ou quoi que ce soit d’autre, car c’est une partie très, très dynamique du développement de Discourse.

Si vous avez des droits d’administrateur sur un site Discourse, consultez cette URL pour en savoir plus, c’est là que je suis allé après avoir vu votre question.

https:///admin/site_settings/category/discourse_ai


EDIT

J’ai publié des captures d’écran des paramètres par défaut actuels des bots Discourse AI dans un post précédent afin que tout le monde puisse voir quels sont ces paramètres, mais plus important encore, avoir une référence pour pouvoir suivre les conversations sur les détails des paramètres.


Pour répondre à votre question

image

2 « J'aime »

Merci, je suis un administrateur qui a configuré une clé API pour cela, mais je n’ai pas de clés anthropic/stability, seulement une clé open A.I.

Le réglage par défaut indique que le seul groupe autorisé est le niveau de confiance n° 4.

1 « J'aime »

Pour information

Je n’ai pas utilisé le bot sur ce site depuis quelques semaines, mais je voulais signaler cela car il n’est peut-être pas évident à la première utilisation.

Le bot peut avoir différentes personnalités qui peuvent être sélectionnées, mais l’option de sélection n’est pas très évidente.

Si l’on clique sur Forum Helper, il s’agit en réalité d’une liste déroulante.

Amusez-vous bien !


Il est également à noter que, comme le bot est actuellement accessible via un message privé et que d’autres utilisateurs peuvent être invités dans un message privé, lorsque deux personnes réelles ou plus et le bot se trouvent dans le même message privé, le bot répond à chaque message, même si le message ne lui était pas adressé.

2 « J'aime »

Est-ce limité au niveau de confiance n° 4 pour ce forum d’assistance ?

Je ne suis pas administrateur ici, juste pour mon propre site.

Il y a cet avis affiché avec cela :

Les messages des chatbots IA sont régulièrement surveillés par les modérateurs.

Cela ne semble toujours pas fonctionner car le bot système par défaut a cessé de fonctionner lorsque j’ai mis le site en mode réservé au personnel. Beaucoup de choses sont restreintes avec cela, mais je prévois de relancer le mois prochain.

Configuration du compte Open A.I. lié au compte Microsoft, ils donnent 5 $ de crédit gratuit pour cela, mais s’il y a beaucoup de trafic, ils facturent pour cela.

Il est intéressant qu’ils ne veuillent pas de numéro d’identification fiscale pour les entreprises aux États-Unis, mais qu’ils le veuillent pour d’autres pays. :face_with_monocle:

Évidemment, je ne peux pas répondre à cela en me basant sur les paramètres de ce site car je n’y ai pas accès, mais je note qu’un groupe a été créé pour les premiers tests, c’est ainsi que j’ai été inclus.

https://meta.discourse.org/g/ai-bot-testers?asc=true

Si vous regardez mes exemples précédents, vous verrez qu’il existe deux formulations différentes et, à ma connaissance, c’est ce paramètre
image

Pour le site auquel j’ai accès en tant qu’administrateur, nous n’allons pas configurer les robots IA. Pour les sites sur lesquels j’ai accès pour exécuter des robots Discourse IA, je n’ai pas d’accès administrateur. Je ne prévois pas non plus de configurer un site de développement et d’ajouter une clé API IA pour tester cela, donc si vous restez actif dans ce que vous faites, vous pourrez prendre le relais dans une semaine environ. :wink:

Je ne peux pas vous aider avec cela.

D’accord, bonnes informations, merci de votre aide.

1 « J'aime »