Per quanto ne so, non ho attivato alcuna funzione di intelligenza artificiale. Eppure all’improvviso sono comparse un gran numero di account bot che non ho creato. Sono apparsi dopo l’ultimo lotto di aggiornamenti. Perché sono stati creati e come posso sbarazzarmene? Non ho bisogno dell’intelligenza artificiale per il forum.
Fanno parte della build, che tu li usi o meno. Di recente, un singolo account per l’agente è stato separato in account individuali per le funzionalità pertinenti.
Qualcos’altro che ho notato. Se il sistema te lo consente, non vedo perché non potresti rimuoverli insieme alle loro dipendenze, se non li userai mai.
È qualcosa che sta diventando integrante alla piattaforma; non riesco a immaginare la lotta allo spam senza l’agente AI.
Penso ancora che sarebbe fantastico poter utilizzare un unico utente per tutti i bot AI.
Mantenerli separati per agente rende estremamente complicato utilizzarli da parte di utenti in chat o tramite messaggi privati.
Potresti semplicemente creare il tuo agente e associare gli strumenti Discourse integrati necessari.
Anch’io sono un fan della filosofia “less is more”, ma c’è qualcosa da dire a favore dell’approccio agentico, essendo specifico per il task. Secondo me migliora accuratezza e coerenza.
Questa modifica è voluta.
In passato crevamo un utente per ogni modello linguistico, il che era molto confuso e difficile da spiegare.
Ora invece creiamo un utente per ogni agente AI che ha AI Bot abilitato. Questa è una situazione molto più facile da spiegare.
Hai un utente per “forum helper” perché stai permettendo agli utenti di parlare con “forum helper”.
So che questo ha creato dei disagi, ma almeno la nuova situazione attuale è molto più facile da spiegare.
Sì, capisco che a volte ci siano limitazioni tecniche e che la nuova situazione attuale sia migliore rispetto a quella originale. Sono grato per tutti gli sforzi profusi dal Core Team.
Ho finito per aggiungere Jev e ho utilizzato un Senior Bot per delegare i task a subagenti. Prima non era possibile, e sono contento di poterlo testare.
Trovo piuttosto preoccupante che un’istanza di Discourse self-hosted possa improvvisamente creare una dozzina di account di bot AI senza la mia conoscenza o il mio consenso, soprattutto quando non utilizzo affatto alcuna funzione basata sull’intelligenza artificiale.
Ciò che rende la situazione ancora più problematica è che questi account vengono creati con livelli di fiducia elevati, apparentemente senza alcun chiaro avviso agli amministratori in precedenza.
A partire da quale momento un’installazione self-hosted smette di sembrare qualcosa che controllo realmente? Questa è ancora la mia piattaforma, che gira sulla mia infrastruttura, oppure mi si chiede semplicemente di accettare qualsiasi modifica Discourse decida di introdurre, indipendentemente dal fatto che io lo voglia o no?
Comprendo pienamente la necessità di aggiornamenti e miglioramenti della sicurezza, ma creare silenziosamente account privilegiati per funzioni che non ho mai abilitato è un’altra cosa del tutto.
Ritengo che il team di Discourse dovrebbe almeno fornire istruzioni chiare su come gli amministratori possano rimuovere in modo sicuro questi account indesiderati, impedire che vengano ricreati e disfare efficacemente questa modifica.
Questa opzione avrebbe davvero dovuto essere facoltativa (opt-in), non qualcosa che gli amministratori scoprono per caso durante la revisione della lista degli utenti.
Gli account di sistema fanno parte di qualsiasi aggiornamento, ma sono d’accordo sul fatto che questa modifica avrebbe dovuto essere più visibile oltre a una semplice voce su GitHub — anche se forse l’ho semplicemente persa.
L’apparizione di un gruppo di nuovi utenti — scansioniamo anche la presenza di account spam creati in massa — ha destato qualche preoccupazione, ma è stato abbastanza facile chiarire la situazione esaminando i dettagli e contattando il supporto.
Come piattaforma ospitata, preferirei che questo aspetto fosse un po’ più trasparente: esistono numerosi meccanismi per comunicare le modifiche imminenti che potrebbero evitare preoccupazioni inutili.
Ti capisco, questo è un cambiamento che non è realmente fattibile in modo pratico in un aggiornamento imminente, ma posso pubblicare le note di rilascio.
Ho eliminato tutti gli account di servizio che avevamo creato per i modelli LLM: era una fonte enorme di complessità e confusione, ogni volta che veniva rilasciato un nuovo modello LLM venivano creati strani account come gpt-6.1-bot. Tuttavia, ora gli agenti con cui interagisci necessitano di account di servizio.
Vedremo se possiamo modificare l’esperienza di prima installazione per abilitare meno bot AI. Forse ci basta un bot assistente del forum per impostazione predefinita e poi lasciamo agli amministratori la scoperta di tutti gli altri agenti.
Sto riflettendo su queste cose.
Ciao,
Non riesco a trovare questa impostazione. Ho disabilitato tutte le funzionalità LLM dove possibile e anche il “modulo AI Bot”. Tuttavia, quando rimuovo gli utenti bot, vengono ricreati il giorno successivo.
Grazie in anticipo
Scusa per il disagio, questa modifica correggerà il problema in modo che le persone con i bot AI disattivati o l’AI disattivata non ricevano più i bot:
Grazie, Sam. Apprezzo davvero che tu abbia preso sul serio il feedback e che tu abbia risolto così in fretta.
Ripensandoci, il mio post originale era probabilmente un po’ più duro del necessario. Discourse è un ottimo software, e apprezzo sinceramente il lavoro che tu e il vostro team ci mettete dentro.
Gli errori capitano, ed è bello vedere degli sviluppatori che ascoltano la loro community e agiscono in base ai feedback. Grazie ancora!