L’altro argomento, in cui si chiedeva agli amministratori della comunità se consentissero le risposte generate dall’IA, mi ha fatto riflettere. Con la nuova funzionalità di workflow e qualche altro bel gadget, come un plugin di gamification personalizzato, non sarebbe difficile creare un sistema in cui gli utenti umani ricevono voti di rispetto da parte degli altri, mentre le risposte dell’IA vengono penalizzate. Più rispetto ha un utente, più il suo voto, positivo o negativo, avrà peso.
Il sistema di fiducia integrato in Discourse è fondamentalmente la stessa cosa.
Ho visto in prima persona come gli spammer cerchino di aggirare il sistema. Pubblica un argomento generato dall’IA, poi lo promuove con un voto positivo usando un altro account. L’IA spamma se stessa
Secondo voi, il mio sistema di “rispetto” verrebbe manipolato allo stesso modo, o credete che potrebbe autoregolare il forum, incentivare l’interazione tra utenti umani e alleggerire il carico di lavoro degli amministratori?
Sembra che il plugin Post Voting funzionerebbe davvero bene con questo.
Mi chiedo: ci sono stati account alimentati da IA al punto da mettere “mi piace” ai post, interagire e raggiungere il livello TL3? Perché in tal caso potrebbe essere un problema.
Forse la soluzione sarebbe cambiare i criteri di promozione alla quantità di punti raccolti. Ma questo comporterebbe un cambiamento fondamentale in tutto il sistema. Promuoverebbe una gamification più aggressiva (letteralmente) del forum per guadagnare punti. Ma sai, pubblicare in modo aggressivo contenuti di qualità e non generati da IA potrebbe anche essere una buona cosa…
La sfida è che sempre più persone utilizzano un’IA per formare i propri pensieri. Lo vediamo nel numero crescente di persone che copiano e incollano un argomento nel compositore: in realtà ho un bot in grado di interrogare questa metrica, il che aggiunge un’altra dimensione da verificare per quanto riguarda la “saggezza” di un post.
Quando le persone diventano proxy disposte e credono che il contenuto digitalmente elaborato che forniscono sia loro, un sistema di rispetto crollerà.
Per far funzionare questo meccanismo, è necessaria una base comune, o un sistema di valori, tra tutti i membri di un forum; a mio parere, questo semplicemente non è possibile in nessun grande gruppo di persone, figuriamoci in una comunità online.
Penso che i burattini (sock puppets) e gli anelli di voto siano già una pratica umana - e inevitabilmente diventeranno una pratica anche per gli agenti, se scopriranno che ciò li aiuta a raggiungere i loro obiettivi.
Credo che si tratti di una corsa agli armamenti, e quindi non vincolabile, e che la questione di quali contromisure valgano la pena sia di natura economica.
Potrei aver già menzionato il sistema di metamodellazione di Slashdot - ne sono sempre stato piuttosto impressionato. Probabilmente non è molto diverso da un plugin per il voto, ma forse con meccanismi aggiuntivi. Slashdot era uno dei primi siti popolari che doveva affrontare queste problematiche - è una parte della storia da cui possiamo imparare, se lo desideriamo.
