Non sono sicuro che questo sia il posto giusto per pubblicare un argomento del genere, ma è il topic più vicino che sono riuscito a trovare.
Di recente stiamo riscontrando un aumento di post generati dall’IA: nuovi utenti con testi lunghi e complessi, scritti un po’ troppo bene. La prova decisiva è la comparsa di post simili su un altro forum Discourse.
Il mio sospetto è che si tratti di un utente precedentemente bannato per aver usato l’IA in modi sgradevoli, tornato per testare il suo ultimo modello. Questi nuovi post sono di qualità molto superiore rispetto ai tentativi precedenti. La prossima generazione di post generati dall’IA sarà così difficile da distinguere dalla scrittura umana che potremmo non riuscire mai a capire la differenza. La domanda è: cosa si può fare al riguardo, se qualcosa?
Ecco una proposta, forse una proposta SCOMPOSTA, ma la metto comunque in pratica… Abbiamo bisogno dei nostri Rispondenti-IA per rispondere a nuovi utenti sospetti, rispondendo a domande ovvie e testando le risposte generate dall’utente. Potrebbe essere necessario farlo in una sorta di sandbox in modo che non sia evidente al nuovo utente che sta essendo sottoposto a un test.
Credito originale dell’idea a Randall Munroe.