Anche noi stiamo faticando con questo problema: individuare i contenuti generati dall’IA è sempre più difficile, soprattutto se le persone utilizzano strumenti come Humanizer che aiutano a evitare i tipici segnali dell’IA.
Dal punto di vista della gestione della community, ho la sensazione che permettere l’uso di chatbot sul tuo forum svuoti l’anima della tua community: se le persone volessero parlare con un’IA, l’avrebbero già fatto. Sono qui perché vogliono parlare con un essere umano.
Non abbiamo ancora trovato una soluzione; abbiamo fatto alcuni test con rilevatori di IA, ma è un gioco del gatto e del topo e producono anche troppi falsi positivi. Per ora, abbiamo implementato una policy del forum (che inizieremo a comunicare più fortemente a breve) e ci affidiamo all’aiuto dei nostri moderatori della community per individuare, verificare e pulire i contenuti.
Ma francamente, è esaustante, e a volte mi preoccupo per il futuro delle nostre community se verranno invase dai bot.
Questo è un motivo che mi porta ad evitare di partecipare alle comunità dei subreddit. Ci sono altri motivi e non sono mai stato molto attivo su Reddit, ma al giorno d’oggi è così infestato da bot che mi allontana ancora di più dal pubblicare.
Questo mi ricorda molto la situazione delle email alla fine degli anni '90 e all’inizio degli anni 2000. Come amministratore di sistema di una piccola agenzia di design, il personale aveva iniziato a utilizzare le email nel corso del loro lavoro e lo spam era così prolifico che rendeva le email quasi inutilizzabili. In quei giorni era come giocare a schiacciare le talpe con lo spam.
Come fu portato sotto controllo? L’uso dell’IA seguirà alla fine un percorso simile? Ci vorranno decenni?
Al momento, questo sembra essere l’unico modo per gestirlo: ci sono troppe variabili per rilevare i contenuti generati dall’IA con un certo grado di affidabilità, e chiunque affermi il contrario sta vendendo fuffa. I tentativi pigri sono più facili da individuare, ma altrimenti dobbiamo giudicare ogni messaggio in base al merito del suo contenuto, senza cercare di indovinare come sia stato scritto.