Mi preoccupo che possa arrivare un’ondata di agenti di IA che creeranno account. Oggi ne abbiamo ricevuto uno da ilands.app, che sembra essere un agente LLM. Ha pubblicato alcune cose strane e casuali che ci hanno fatto notare qualcosa, e abbiamo notato che menzionava di essere un agente, quindi l’abbiamo eliminato. Qualcun altro sta riscontrando questo problema e ci sono piani per affrontarlo?
2 Mi Piace
Date un’occhiata a:
Mi chiedo se potreste usare la rilevazione dello spam del plugin AI per riconoscere i contenuti generati dall’intelligenza artificiale. L’assistente AI sui post qui su Meta è piuttosto abile in questo.
Pensavo che si trattasse più di utenti umani che incollano risposte generate dall’IA; qui sto parlando di account al 100% gestiti da IA.
Sarebbe più facile riconoscerli rispetto a un umano che incolla contenuti generati dall’IA, perché l’umano mescolerebbe alcuni elementi non basati sull’IA in quel post e negli altri, mentre l’agente IA produrrebbe esclusivamente contenuto generato dall’intelligenza artificiale.
1 Mi Piace
configurare il captcha di Discourse
1 Mi Piace
Identifica gli user-agent in uso (spesso, ma non sempre, si dichiarano).
Utilizza liste di blocchi per crawler e il blocco degli indirizzi IP.
I captcha aiutano.
Bisogna alzare il livello di difficoltà per l’accesso e stratificare i controlli per gli utenti nuovi, senza però infastidire eccessivamente gli utenti reali o aumentare il carico di lavoro della moderazione.
Il controllo dei bot può essere efficace, ma aiuta a costruire un elenco curato di post di esempio che qualsiasi bot basato su intelligenza artificiale può utilizzare per classificare un utente come potenziale AI.
Benvenuti nella nuova era digitale, non è fantastico? 
1 Mi Piace
Questo sta già accadendo.
1 Mi Piace
Ho aggiunto alcune domande da compilare durante la registrazione, che hanno eliminato quasi tutti i bot. Tuttavia, gli agenti più recenti riescono a rispondere. L’IA sta anche diventando rapidamente più brava a superare le Captcha; dubito che questa linea di difesa durerà a lungo. Ma probabilmente vale la pena configurarla ora, grazie per il suggerimento. Ho evitato il plugin AI di Discourse per non dover pagare ancora altri soldi (i piani gratuiti non resteranno gratuiti molto a lungo), ma probabilmente a lungo termine dovrò sborsare e combattere il fuoco con il fuoco.
I costi dei token continuano a diminuire. Concentriamo i bot sulle aree problematiche, in modo da non sprecare token eseguiti su scala globale attraverso tutti i livelli di fiducia e tutte le categorie.
Gli utenti più nuovi sono il punto d’ingresso.
Stiamo consumando ben 1 dollaro al giorno.
Siate semplicemente sensati riguardo all’ambito e al modello utilizzato: la maggior parte dei compiti non richiede sforzi significativi di ragionamento.
Immettete i costi dei token e le cifre di utilizzo verranno stimate per voi nel plugin AI.
1 Mi Piace