Il blog parla di come GPT4 viene addestrato per agire come moderatore di contenuti Internet basato su policy.
Questo si applica direttamente ai siti Discourse che utilizzano moderatori umani per filtrare i contenuti in base alle policy.
Come moderatore umano su alcuni siti, utilizzo le policy sia dell’organizzazione che del forum Discourse per decidere le azioni da intraprendere riguardo a un post, più specificamente quando viene segnalato. Non è raro che io, come moderatore, lasci un post segnalato se non viola una policy.
So che hai chiesto i miei pensieri, ma cerco di attenermi ai fatti; spero di essere rimasto nei miei limiti.
Il mio obiettivo non era iniziare una discussione, ma trasmettere informazioni che ritengo rilevanti sia per Discourse l’azienda sia per coloro che gestiscono siti con l’assistenza di moderatori umani.
Sebbene abbia cercato di attenermi ai fatti per le informazioni fornite nel primo post, ecco un punto che ritengo valga la pena discutere.
Un sito dovrebbe fare affidamento esclusivamente su un moderatore AI o gli esseri umani dovrebbero essere coinvolti? Ancora più importante, cosa succede quando un AI e un umano non sono d’accordo?
L’uso della parola loop è stata una scelta, non una coincidenza; hai mai ascoltato le missioni Apollo dal controllo di volo e sentito parlare della parola loop?
Una nota a margine molto interessante correlata a questo, che molti potrebbero non vedere, è che questo è lo stesso problema che ha affrontato il volo spaziale con equipaggio; il veicolo spaziale dovrebbe essere completamente autonomo o un essere umano dovrebbe essere in grado di assumere il controllo parziale e/o completo? Questo può essere considerato l’inizio dei piloti automatici per gli aerei.
Un libro affascinante che ho letto personalmente sull’argomento, ho imparato molto su un’area di codice e design non vista in nessun altro progetto.
“Digital Apollo: Human and Machine in Spaceflight” di David A. Mindell (site) (WorldCat)
Certamente, tieni gli esseri umani nel ciclo. Hai visto Robocop? Seriamente, c’è molto giudizio nella moderazione. Sebbene sia bene avere delle linee guida e usarle, eseguirle come un insieme di regole rigide mi sembra sciocco: una soluzione tecnica a un problema umano.
Modifica: Aggiungerei che gestisco forum su scala umana, dove i moderatori si conoscono tra loro e conoscono i membri che contribuiscono regolarmente. Sono sicuro che OpenAI stia pensando a forum su scala industriale, gestiti a scopo di lucro, dove le sfide di moderazione sono piuttosto diverse.
Discourse è una piattaforma ideale per imparare, crescere e costruire questi nuovi strumenti.
Sono completamente a favore dell’abbracciare la rivoluzione dell’IA come una “rete neurale” decentralizzata e interconnessa di reti attraverso cui le società e le culture umane già esistenti possono iniziare a evolversi e collaborare in modo più efficiente, e iniziare a invertire la rotta contro le piaghe della polarizzazione abilitate dalle centralizzazioni di potere e controllo inflitteci dalle recenti iterazioni dei social network.
Gli esseri umani dovrebbero essere coinvolti, ma penso che avere un certo livello di moderazione AI sarebbe un grande punto di forza per qualsiasi istituzione pubblica che stesse prendendo in considerazione un forum. Ad esempio, se la CBC potesse in qualche modo essere convinta ad avere un forum.
L’equilibrio potrebbe essere qualcosa del tipo, i moderatori umani userebbero le loro capacità umane per guidare le conversazioni, mentre l’AI (supervisionata da umani) farebbe rispettare le linee guida del sito. La moderazione AI potrebbe potenzialmente rendere i forum più disposti a consentire conversazioni che trattano questioni polarizzanti.
Voglio una moderazione assistita dall’IA per individuare gli utenti problematici che creano nuovi account dopo essere stati sospesi. Gestire questi casi consuma più tempo di quanto vorrei, e non sono nemmeno uno dei moderatori (abbiamo ruoli separati).
C’è qualche funzionalità AI come questa per l’integrazione su discourse. Penso che sarebbe molto utile per assistere nella moderazione della mia community. Per favore, fammelo sapere! Sto cercando soluzioni per risparmiare tempo per i post che violano le nostre linee guida.
La moderazione dei contenuti svolge un ruolo cruciale nel sostenere la salute delle piattaforme digitali. Un sistema di moderazione dei contenuti che utilizza GPT-4 si traduce in un’iterazione molto più rapida sui cambiamenti delle policy, riducendo il ciclo da mesi a ore. GPT-4 è anche in grado di interpretare regole e sfumature in lunga documentazione di policy sui contenuti e adattarsi istantaneamente agli aggiornamenti delle policy, con conseguente etichettatura più coerente. Riteniamo che ciò offra una visione più positiva del futuro delle piattaforme digitali, in cui l’IA può aiutare a moderare il traffico online secondo le policy specifiche della piattaforma e alleviare il peso mentale di un gran numero di moderatori umani. Chiunque abbia accesso all’API di OpenAI può implementare questo approccio per creare il proprio sistema di moderazione assistito dall’IA.
Mentre OpenAI ti vende token da usare per le giostre nel tuo luna park, un “peso mentale” viene sostituito da un altro “peso mentale” (supponendo che ti importi), riesci a individuarlo?
Sebbene io stia assolutamente adorando questa tecnologia e abbia fatto del mio meglio per capirla e sapere come usarla al meglio, è chiaro che OpenAI (e servizi simili) hanno davvero capito qualcosa da un punto di vista commerciale.
L’implicazione è che per ogni post pubblicato devi dare soldi a OpenAI per potenzialmente molteplici ragioni (riassunto, grammatica del post, NSFW del post, embedding del profilo, l’elenco continua).
Prima che tu te ne accorga, OpenAI sta ottenendo una buona fetta per tutto il traffico sul tuo sito. Tutti quei guadagni pubblicitari e di affiliazione che hai faticosamente ottenuto? Una parte di essi viene ora deviata a loro.
E i provider di Cloud VPS ameranno tutte le persone che aggiorneranno i loro server da 4 GB a 16 GB per utilizzare modelli open source localmente.
Detto questo, ovviamente nessuno lo farà su larga scala a meno che non sia più efficiente farlo in questo modo e sia competitivamente importante farlo.
E ancora meno pessimisticamente, un altro modo di guardare ai servizi forniti è una democratizzazione della tecnologia che prima era disponibile solo ai grandi provider.
Ad esempio, la ricerca semantica ora è più economica che mai e le piccole installazioni possono ora utilizzare una ricerca potente a un prezzo molto conveniente. Questa è sicuramente una grande cosa?
La potenza dell’elaborazione del linguaggio naturale è piuttosto sorprendente anche nei modelli più economici.
E abbiamo appena iniziato questa nuova era, sono sicuro che i prezzi diminuiranno con l’aumentare della concorrenza.
È del tutto pertinente e secondo me certamente non fuori tema.
Quanti post al giorno sul sito che gestisci?
Se devi pagare $ a OpenAI per ogni post contribuito, questa è una considerazione.
Qual è il valore marginale di un post per le tue entrate pubblicitarie, il coinvolgimento dei clienti?
Alla fine deve ripagarsi per essere giustificabile.
Non ho dubbi che potrebbe portare a una riduzione materiale delle ore di gestione della community e migliorare la qualità generale di un sito, ecc. che potrebbe stabilire un forte caso a suo favore.
Non si tratta solo della struttura o della fattibilità tecnica, ma queste cose devono essere considerate?
