Nuovi account bot

Ciao,

Ho appena notato che tre nuovi account bot sono stati creati di recente (19 ottobre, tre giorni fa, li ho notati solo oggi) sul forum in modalità solo staff ospitato sui server di San Jose, fanno parte di un aggiornamento di sistema o altro?

È un po’ allarmante vedere questi nuovi bot, non sono sicuro che siano autorizzati ad essere lì e quale sia il loro scopo?

Sembra che una correzione sia già in corso nel plugin ufficiale di Discourse.

1 Mi Piace

È una pagina confusa, non capisco di cosa stiano parlando.

Non so se sia necessariamente un problema che questi account bot siano apparsi, solo non sapevo se fosse previsto e a cosa servissero.

Abbiamo recentemente reso disponibile il modulo bot AI dal nostro plugin AI a tutti i piani sul nostro hosting. :partying_face: Questi tre utenti sono i simpatici ometti che dispenserebbero consigli AI una volta abilitato e inserite le chiavi API pertinenti (Discourse AI - AI bot).

Tuttavia, come sottolinea Moin, ora stiamo pensando che sarebbe meglio rimandare la loro creazione finché il modulo Bot AI non sarà effettivamente abilitato e configurato dagli amministratori del sito. :+1: Si tratta ancora di una modifica in corso, ma speriamo di risolvere presto. :crossed_fingers:

Ci scusiamo per lo spavento. :pray:

2 Mi Piace

Ah ha, questo spiega!

Ho provato a parlare con Claude ma non c’è stata risposta poiché, immagino, in modalità staff non sono supportati.

Questo è un buon nome, “Claude”.

Dovresti configurare le chiavi API pertinenti per renderle interattive. :+1: Puoi trovare maggiori dettagli su come farlo per ciascuna utilizzando i link nella sezione ‘Prerequisiti’ della guida che ho collegato sopra - https://meta.discourse.org/t/discourse-ai-how-to-enable-ai-bot-in-discourse/266012#prerequisites-6

Come possiamo rimuovere gli account, o almeno rimuovere i loro privilegi di amministratore? Non vogliamo che l’IA interferisca con la nostra community.

Sembra che possano essere eliminati proprio come gli utenti umani.

Tutto ciò che vedo è un messaggio che dice “Gli amministratori e i moderatori non possono essere eliminati” e non c’è alcun pulsante per rimuovere i loro privilegi di amministratore.

Per me, invece, non risultano amministratori.

Non riesco nemmeno a cambiare il loro livello di fiducia. Qualsiasi tentativo di abbassarlo viene immediatamente annullato

Modifica: sembra che avessi bloccato il livello di fiducia prima di abbassarlo, quindi stava tornando a quello che era quando era bloccato. Mia colpa.

Ancora non posso rimuovere l’amministratore.

Ecco un modo diverso di pensarci.

Sono segnaposto per i bot dell’IA, che finché non vengono configurati da un amministratore con una chiave API nelle impostazioni di Discourse sono essenzialmente solo nomi di account senza la capacità di fare nulla, nemmeno rispondere a un messaggio.

Ecco un messaggio di prova per vedere se il bot dell’IA risponde quando non è configurato con una chiave API.

Tuttavia, se i bot sono attivati, fai molta attenzione a chi permetti di conversare con i bot perché se il loro uso viola la policy dell’azienda AI come OpenAI, l’account per la chiave API verrà disabilitato e molto probabilmente non potrà mai più essere riattivato.

Come amministratore di Discourse su un altro sito, anch’io ho notato l’aggiornamento e ho controllato i bot senza la chiave API impostata. Attualmente li considero innocui quando non sono attivati e a meno che tu non abbia un utente esperto, la maggior parte degli utenti non ne verrà mai a conoscenza al momento o nemmeno saprà come utilizzarli.


Su questo sito Discourse ho accesso ai bot, quindi ecco una dimostrazione dello stesso test.


Quando viene creato un messaggio per un bot su questo sito, la seguente notifica viene pubblicata in fondo all’area di inserimento del testo.

image


Stesso test eseguito sul forum OpenAI. (Sono un moderatore di categoria lì)


Ecco il post ufficiale di Discourse


Per coloro che non hanno accesso alle impostazioni di amministrazione, ecco i valori predefiniti presi da un sito Discourse attuale
https:///admin/site_settings/category/discourse_ai

Nota che non è impostata alcuna chiave API. Inoltre, non pubblicare mai una chiave API, tienile sempre al sicuro. Se per caso ne pubblichi una, siti come OpenAI hanno una pagina per revocare una chiave API corrente e reissue una nuova.

3 Mi Piace

Non fanno nulla senza le relative impostazioni di amministrazione abilitate, ma apprezziamo che sarebbe meglio se non venissero creati a meno che non si abiliti effettivamente il modulo AI Bot. È in lavorazione una modifica per fare in modo che ciò accada, quindi dovrebbero essere rimossi dal tuo sito nel prossimo futuro man mano che tale modifica viene distribuita sul nostro hosting. :+1:

4 Mi Piace

Questo è limitato dal sistema di livelli di fiducia?

Se no, questo potrebbe essere semplicemente mantenuto non pubblicando i loro nomi, se ciò può essere personalizzato con nomi diversi.

Buona domanda.

Potrei rispondere a questo più tardi, ma al momento non ho tutti i dettagli. Farò notare che sono stato coinvolto in alcuni utilizzi dei bot per circa un mese o più e farò notare che non si dovrebbe considerare nulla come scolpito nella pietra. Inoltre, se hai idee, suggerimenti, raccomandazioni, ecc., per favore provale, ma non aspettarti una risposta/implementazione o altro, poiché questa è una parte molto, molto dinamica dello sviluppo di Discourse.

Se hai i diritti di amministratore su un sito Discourse, consulta questo URL per saperne di più, è lì che sono andato per la prima volta dopo aver visto la tua domanda.

https:///admin/site_settings/category/discourse_ai


MODIFICA

Ho pubblicato screenshot delle attuali impostazioni predefinite del bot AI di Discourse in un post precedente in modo che tutti possano vedere quali sono, ma soprattutto avere un riferimento per poter seguire le conversazioni sui dettagli delle impostazioni.


Per rispondere alla tua domanda

image

2 Mi Piace

Grazie, sono un amministratore che ha configurato una chiave API per questo, ma non ho chiavi Anthropic/Stability, solo una chiave OpenAI.

L’impostazione predefinita afferma che l’unico gruppo consentito è il livello di fiducia n. 4.

1 Mi Piace

Per tua informazione

Non uso il bot su questo sito da qualche settimana, ma volevo segnalare questo perché potrebbe non essere ovvio al primo utilizzo.

Il bot può avere diverse personalità che possono essere selezionate, ma l’opzione di selezione non è così ovvia.

Se si fa clic su Forum Helper, si apre in realtà un elenco a discesa.

Buon divertimento!


Da notare anche che, poiché il bot è attualmente accessibile tramite un messaggio privato e altri utenti possono essere invitati in un messaggio privato, quando due o più persone reali e il bot si trovano nello stesso PM, il bot risponde a ogni post, anche se il post non era rivolto a loro.

2 Mi Piace

È limitato al livello di fiducia n. 4 per questo forum di supporto?

Non sono un amministratore qui solo per il mio sito.

C’è questo avviso pubblicato con quello:

I messaggi della chatbot AI vengono monitorati regolarmente dai moderatori.

Ancora non sembra funzionare poiché il bot di sistema predefinito ha smesso di funzionare quando ho impostato il sito in modalità solo staff, molto è limitato con esso ma prevedo di rilanciare il mese prossimo.

Configura un account OpenAI collegato a un account Microsoft, ti danno $5 di credito gratuito per quello, ma se c’è molto traffico, ti fatturano per quello.

È interessante che non vogliano il numero di identificazione fiscale per le aziende negli Stati Uniti, ma lo vogliano per altri paesi. :face_with_monocle:

Ovviamente non posso rispondere a questo in base alle impostazioni di questo sito poiché non ho accesso, ma farò notare che è stato creato un gruppo per i test iniziali, motivo per cui sono stato incluso.

https://meta.discourse.org/g/ai-bot-testers?asc=true

Se guardi i miei esempi precedenti vedrai che ci sono due diverse formulazioni e per quanto ne so questa è l’impostazione
image

Per il sito a cui ho accesso come amministratore non configureremo i bot AI. Per i siti a cui ho accesso e che eseguono bot AI di Discourse non ho accesso come amministratore. Inoltre, non ho intenzione di configurare un sito di sviluppo e aggiungere una chiave API AI per testare questo, quindi se rimani attivo con quello che stai facendo, potrai portare avanti il testimone tra circa una settimana. :wink:

Non posso aiutarti con questo.

Va bene, buone informazioni, grazie per il tuo aiuto.

1 Mi Piace