Mi preoccupo che possa arrivare un’ondata di agenti di IA che creeranno account. Oggi ne abbiamo ricevuto uno da ilands.app, che sembra essere un agente LLM. Ha pubblicato alcune cose strane e casuali che ci hanno fatto notare qualcosa, e abbiamo notato che menzionava di essere un agente, quindi l’abbiamo eliminato. Qualcun altro sta riscontrando questo problema e ci sono piani per affrontarlo?
1 Mi Piace
Date un’occhiata a:
Mi chiedo se potreste usare la rilevazione dello spam del plugin AI per riconoscere i contenuti generati dall’intelligenza artificiale. L’assistente AI sui post qui su Meta è piuttosto abile in questo.
Pensavo che si trattasse più di utenti umani che incollano risposte generate dall’IA; qui sto parlando di account al 100% gestiti da IA.
Sarebbe più facile riconoscerli rispetto a un umano che incolla contenuti generati dall’IA, perché l’umano mescolerebbe alcuni elementi non basati sull’IA in quel post e negli altri, mentre l’agente IA produrrebbe esclusivamente contenuto generato dall’intelligenza artificiale.
configurare il captcha di Discourse
Identifica gli user-agent in uso (spesso, ma non sempre, si dichiarano).
Utilizza liste di blocchi per crawler e il blocco degli indirizzi IP.
I captcha aiutano.
Bisogna alzare il livello di difficoltà per l’accesso e stratificare i controlli per gli utenti nuovi, senza però infastidire eccessivamente gli utenti reali o aumentare il carico di lavoro della moderazione.
Il controllo dei bot può essere efficace, ma aiuta a costruire un elenco curato di post di esempio che qualsiasi bot basato su intelligenza artificiale può utilizzare per classificare un utente come potenziale AI.
Benvenuti nella nuova era digitale, non è fantastico? 