L’altro argomento, in cui si chiedeva agli amministratori della comunità se consentissero le risposte generate dall’IA, mi ha fatto riflettere. Con la nuova funzionalità di workflow e qualche altro bel gadget, come un plugin di gamification personalizzato, non sarebbe difficile creare un sistema in cui gli utenti umani ricevono voti di rispetto da parte degli altri, mentre le risposte dell’IA vengono penalizzate. Più rispetto ha un utente, più il suo voto, positivo o negativo, avrà peso.
Il sistema di fiducia integrato in Discourse è fondamentalmente la stessa cosa.
Ho visto in prima persona come gli spammer cerchino di aggirare il sistema. Pubblica un argomento generato dall’IA, poi lo promuove con un voto positivo usando un altro account. L’IA spamma se stessa
Secondo voi, il mio sistema di “rispetto” verrebbe manipolato allo stesso modo, o credete che potrebbe autoregolare il forum, incentivare l’interazione tra utenti umani e alleggerire il carico di lavoro degli amministratori?
Sembra che il plugin Post Voting funzionerebbe davvero bene con questo.
Mi chiedo: ci sono stati account alimentati da IA al punto da mettere “mi piace” ai post, interagire e raggiungere il livello TL3? Perché in tal caso potrebbe essere un problema.
Forse la soluzione sarebbe cambiare i criteri di promozione alla quantità di punti raccolti. Ma questo comporterebbe un cambiamento fondamentale in tutto il sistema. Promuoverebbe una gamification più aggressiva (letteralmente) del forum per guadagnare punti. Ma sai, pubblicare in modo aggressivo contenuti di qualità e non generati da IA potrebbe anche essere una buona cosa…
La sfida è che sempre più persone utilizzano un’IA per formare i propri pensieri. Lo vediamo nel numero crescente di persone che copiano e incollano un argomento nel compositore: in realtà ho un bot in grado di interrogare questa metrica, il che aggiunge un’altra dimensione da verificare per quanto riguarda la “saggezza” di un post.
Quando le persone diventano proxy disposte e credono che il contenuto digitalmente elaborato che forniscono sia loro, un sistema di rispetto crollerà.
Per far funzionare questo meccanismo, è necessaria una base comune, o un sistema di valori, tra tutti i membri di un forum; a mio parere, questo semplicemente non è possibile in nessun grande gruppo di persone, figuriamoci in una comunità online.
