Cosa porta l'AI alle conversazioni tra umani?

[hellekin]

Continuando la discussione da Discourse Version 3.2:

@tobiaseigen

Intelligenza Artificiale

Discourse AI è stato lanciato nell’aprile 2023 ed è disponibile per i clienti enterprise su richiesta e per gli self-hoster. Per la v3.2 miriamo ad aumentare l’adozione e ottenere più feedback dal mondo reale in modo da poter affinare e aggiungere le funzionalità già sviluppate. Stiamo anche continuando a costruire la nostra conoscenza nello spazio AI e stiamo stabilendo modelli per integrare la tecnologia AI in Discourse che possano essere sfruttati in futuro.

Poiché l’obiettivo per la prossima versione di Discourse è stato annunciato essere l’AI, vorrei cogliere l’occasione per mettere in discussione questa scelta. Dopotutto, Discourse è fatto per supportare “discussioni ponderate e connessioni significative”.

Poiché il campo dell’AI è in gran parte dominato da enormi corporazioni con tasche profonde, e dato che l’addestramento dell’AI consuma grandi quantità di acqua, mi chiedo sinceramente perché questa funzionalità sia importante per Discourse, la community di Discourse e il mondo in generale. Posso capire la frase “costruire software per forum per il prossimo decennio”, ma non sono sicuro di voler vivere e conversare con l’AI invece che con gli umani — specialmente perché gli umani sembrano richiedere meno acqua nel tempo per conversazioni molto migliori.

Il campo dell’AI è pieno di bugie per attrarre investitori. Sembra che Discourse AI sia stato introdotto su richiesta del cliente – probabilmente alcune organizzazioni che gestiscono enormi istanze pubbliche e devono affrontare tonnellate di spazzatura. Certo, questo non è per tutti, e probabilmente appropriato se hai milioni di utenti e devi affrontare questo problema aumentando la potenza…

@Falco

Disclaimer

Siamo molto attenti nella nostra sperimentazione sull’AI. Gli algoritmi su cui ci basiamo sono buoni solo quanto i dati su cui sono stati addestrati. Bias, inaccuratezze e allucinazioni sono tutte possibilità che dobbiamo considerare. Rivediamo, testiamo e perfezioniamo regolarmente i nostri moduli AI.

Apprezzo questo disclaimer. Ma cosa succede al consenso? Molte persone preferirebbero non alimentare i propri post per l’addestramento dell’AI, specialmente se si trovano in community riservate o in gruppi ristretti. C’è una storia crescente di grandi corporazioni che si appropriano di contenuti per l’addestramento dell’AI senza riguardo per le leggi sul Copyright né per il consenso. È davvero una buona idea fornire loro contenuti di alta qualità — e pagarli?

Se ci fosse la possibilità di non acconsentire a tale acquisizione di dati personali — e questa potrebbe essere una richiesta legittima ai sensi della Legge europea GDPR —, questo non vanificherebbe l’intero scopo di avere l’AI che sorveglia un forum?

Spero davvero che questo rimanga opzionale per sempre, e che venga mostrato un consenso appropriato per questo. Lo sarà?

Bene, ho creato questo argomento separato dalla discussione sul plugin perché penso che meriti un’opinione più ampia e non volevo deviare la discussione originale…

---

Ecco un elenco di titoli alternativi “suggeriti dall’AI”:

• L’etica dell’arricchimento AI in Discourse no, non si tratta di un ‘arricchimento’ di cui parlo, piuttosto di una preoccupazione per il degrado della conversazione umana…
• Discourse e AI: una proposta controversa beh, noooo… non si tratta di controversia, ma di conversazioni umane!
• L’AI può diventare il futuro delle discussioni su Discourse? davvero… come in… bot che parlano tra loro?
• Integrazione AI in Discourse: minaccia o innovazione? bot, non sei pronto per la sottigliezza del linguaggio.

[JammyDodger]

@hellekin

Ecco un elenco di titoli alternativi “suggeriti dall’IA”:

I suggerimenti di titoli dell’IA possono essere un po’ esaltati. Penso che abbia chiaramente letto troppe riviste patinate nel suo tempo libero. Anche se penso che se potessi attenuarlo di un livello potrebbe essere molto utile per dividere gli argomenti (cosa che apprezzo sia più utile ai moderatori che a tutti).

@hellekin

Dato che il focus per l’imminente rilascio di Discourse è stato annunciato essere l’IA, vorrei cogliere l’occasione per mettere in discussione questa scelta. Dopotutto, Discourse è fatto per supportare “discussioni ponderate e connessioni significative”.

Ho iniziato piuttosto scettico sull’uso dell’IA per ragioni simili. Sono più interessato a ciò che le persone hanno da dire piuttosto che a quanto bene un’IA possa rifinirlo. Al momento (e queste cose si muovono abbastanza velocemente) c’è anche un certo tono che genera e che penso oscuri/omogeneizzi la “voce” dello scrittore.

Tuttavia, ci sono stati un paio di strumenti AI di Discourse che penso siano risultati piuttosto eleganti. Adoro gli argomenti correlati. Questo ha davvero avuto un impatto su come trovo e interagisco con diversi argomenti. Come avido lettore di forum, questo è stato un tesoro. L’ho usato su un paio di forum ora, e le tane di coniglio di contenuti collegati in cui mi sono perso sono state fantastiche. Ottimo anche per trovare risposte e collegare argomenti.

Bert, l’AI Bot, è stato anche brillante. Soprattutto ora che ha le persone SQL Helper e Site Setting. Penso che questi siano più orientati al lato amministrativo (e forse al mio lavoro ), ma è stato un vero aiuto (e penso che potremmo effettivamente essere amici )

Penso che ciò che mi ha convinto sia quanto sia stato utile utilizzare gli strumenti basati sull’IA per aiutare con le cose di tutti i giorni. Non penso ancora di volere un filtro AI sui contributi stessi, ma avere degli aiutanti “intelligenti” mi ha certamente reso la vita più facile e mi ha permesso di concentrarmi maggiormente sulle cose che mi piace fare.

[Falco]

@hellekin

Dato che l’obiettivo per l’imminente rilascio di Discourse è stato annunciato essere l’IA, vorrei cogliere l’occasione per mettere in discussione questa scelta. Dopotutto, Discourse è fatto per supportare “discussioni ponderate e connessioni significative”.

Sebbene abbiamo usato la parola “focus” lì, a mio parere più per ragioni storiche, questi sono i team interni che abbiamo creato per lavorare in diverse aree dell’ecosistema Discourse.

Abbiamo un team focalizzato sull’IA da marzo, di cui sono il responsabile tecnico. Abbiamo fatto un ciclo molto sperimentale durante Discourse 3.1, quindi stiamo tornando di nuovo al ciclo 3.2 per aggiungere rifiniture alle funzionalità per le quali abbiamo ricevuto un buon feedback dai nostri utenti.

L’idea è di mantenere tutto sotto DiscourseAI, il che tiene chiunque non utilizzi il plugin al riparo da eventuali bug introdotti da esso, e va a beneficio di tutti coloro che utilizzano Discourse mentre creiamo ed esercitiamo l’estensibilità del software.

@hellekin

soprattutto perché gli esseri umani sembrano richiedere molta meno acqua nel tempo per conversazioni molto migliori.

(citazione necessaria)

@hellekin

Dato che il campo dell’IA è in gran parte dominato da enormi corporazioni con tasche profonde

Penso che sarai felice di sapere che per questo ciclo abbiamo dedicato molto tempo a rendere ogni modulo compatibile con modelli open source, quindi anche le funzionalità più potenti possono essere eseguite su una GPU che puoi trovare in un PC da gioco.

Questo è stato un punto cruciale per me, ovvero che non creeremo funzionalità completamente dipendenti da terze parti, e sono molto felice dei progressi che abbiamo fatto qui.

@hellekin

Certo, questo non è per tutti, ed è probabilmente appropriato se hai milioni di utenti e devi affrontare questo problema investendo più risorse…

È vero, perché vorresti la moderazione IA per un’istanza tra amici? Ma potrebbe essere un fattore determinante per un’istanza in cui un singolo CM cerca di gestire una community sovradimensionata con un piccolo team.

Anche Discourse su larga scala è qualcosa a cui teniamo, altrimenti stiamo lasciando vaste aree della comunicazione online ai giardini recintati, e questo non lo vuoi.

@hellekin

Ma cosa succede al consenso?

Qui non cambia nulla: ciò che pubblichi in un’istanza Discourse è soggetto alle regole di quella specifica istanza. Se tale istanza stampa i tuoi post e li invia come cartoline a nonne ignare, potrebbero dover renderlo esplicito nei loro termini. Lo stesso vale per l’IA.

Per il plugin IA, gran parte del flusso “condividi con l’IA” è avviato dall’utente. Puoi chiedere all’IA di correggere, tradurre, ecc. Puoi chiedere all’IA di riassumere. Nel frattempo, le azioni di massa, come il calcolo degli embedding che alimentano argomenti correlati semanticamente e la ricerca semantica, sono, per impostazione predefinita, calcolate utilizzando modelli OpenSource che possono essere ospitati sulle stesse macchine su cui stai eseguendo Discourse e sono sicuri da terze parti.

@JammyDodger

Penso che ciò che mi ha convinto sia quanto sia stato utile utilizzare gli strumenti basati sull’IA per aiutare con le cose di tutti i giorni.

Ed è sempre stato questo il mio piano per questo progetto. Si tratta di costruire strumenti per rendere più facile la conversazione delle persone e ridurre le faccende. Non di parlare con le macchine.