Questa domanda è rivolta a tutti i proprietari e moderatori dei forum: cosa ne pensate degli utenti che utilizzano l’IA per sfogliare automaticamente il forum, leggere i commenti recenti e far scrivere e pubblicare automaticamente una risposta al thread? Lo fanno per non dover partecipare attivamente al forum, perché desiderano raggiungere un livello di fiducia più elevato per accedere alle sezioni riservate a determinati livelli di fiducia.
Vigilate attivamente su questi utenti? Come fate a capire se un testo è stato scritto da un’IA? Fingete di non accorgervene?
Può diventare ancora più disonesto. Ho visto post in cui un account fantoccio pubblica un nuovo argomento con contenuti generati dall’IA e, poco dopo, un nuovo utente (presumibilmente controllato dallo stesso attore) risponde concordando e complimentandosi con l’autore del post.
Non ho mai visto un comportamento del genere, ma da parte mia sarebbe un ban. Se fossero membri in regola, verrebbe emesso un avviso, ma sembra che non abbiano mai contribuito.
Credo che sia utile avere una politica esplicita sui contributi generati da LLM.
Bene, la mia domanda su come dovresti gestire questo problema è: quanto valuti il tuo contenuto riservato e quanto valuti l’accesso a detto contenuto.
Se si tratta di contenuto a cui non vuoi che le persone accedano “ingannando il sistema”, cercherei di capire come cercare di fermare questo tipo di comportamento.
Il motivo è che questo comportamento è molto comune. Guarda l’esempio di Robert:
ah… questo continua ad accadere qui… ogni giorno
Comunque
molte volte è piuttosto ovvio per un moderatore umano semplicemente leggendo, ma ciò richiede tempo al moderatore. Alcuni amministratori stanno utilizzando l’IA per catturare l’IA (divertente, eh?)
Se sei in grado di isolare gli user-agent utilizzati, oppure se rispettano gli standard di controllo, potresti considerare di bloccarli, di applicare un limite di velocità o di utilizzare llms.txt.
Queste soluzioni funzionano solo se le automazioni si comportano come gentiluomini.
Se determinate regioni sono un problema, c’è sempre anche il geo-blocking.
Utilizzo un agente di rilevamento AI per esaminare i nuovi utenti o quelli con un livello di fiducia basso. Si è rivelato accurato per oltre il 95%.
Dipende da quanto siano abili i malintenzionati, ma con un po’ di lavoro e test puoi diventare tu più abile
Anche noi abbiamo visto questo fenomeno piuttosto spesso. Certo, non posso parlare delle motivazioni, ma per esperienza mi sembra molto meno interessante che cercare di “guadagnare fiducia”. Credo che si tratti semplicemente di spam.
Oggi lo spam include anche i dataset per l’addestramento dell’IA e il GEO — in cui è vantaggioso per loro semplicemente menzionare un prodotto, un servizio o un’azienda in tutto il web.
A volte lo scopo è accumulare abbastanza fiducia per inserire un link, ma sospetto che i link siano ormai secondari.
Finora gli indizi sono stati piuttosto evidenti — la mia “opinione onesta” è che le “cuciture portanti” si notano chiaramente. Metto l’argomento in pausa e invio all’utente un messaggio diretto amichevole (ma precompilato) che lo dà il benvenuto e gli chiede di rispondere a me per riattivarlo.
Come ha suggerito qualcun altro, sembra che tu debba riconsiderare il valore dei tuoi contenuti protetti e il valore relativo dei contributi degli utenti al forum. Le persone che non hanno accesso ai contenuti protetti possiedono le conoscenze o le competenze necessarie per contribuire in modo significativo? Forse modifichi i requisiti per raggiungere un nuovo livello di fiducia in modo tale che pubblicare spazzatura non aiuti e, in qualche modo, renda chiaro questo fatto affinché le persone non siano tentate di farlo.
Prima dell’AI, gli utenti nuovi potevano contribuire in modo significativo e raggiungere il livello di fiducia successivo?
