La prima ragione era in realtà principalmente che non sapevo davvero quali funzionalità potesse offrire Discourse AI. Ne ho viste alcune su Meta ma non sapevo altro.
Ma ora questa pagina mi ha risposto 
Se non l’avessi vista, però, non saprei cosa potrebbe fare.
Potrebbe essere il caso anche per molte altre persone, ma non lo so.
La sola menzione di “AI” allontana la maggior parte delle persone nella nostra community e polarizza il resto. Nel nostro caso, pagare denaro alle grandi aziende che portano i big data al livello successivo con folli livelli di consumo energetico e sorveglianza globale è… contro tutti i nostri valori.
L’open source e l’auto-hosting potrebbero mitigare questo problema, ma ancora una volta… Le funzionalità principali per cui lo useremmo sarebbero una migliore ricerca e suggerimenti migliori. E abbiamo davvero bisogno di affidarci all’“AI” per questo? Non ci sono miglioramenti nei database di contenuti e negli algoritmi di ricerca e suggerimento che funzionano localmente con lo stesso costo e consumo energetico, senza diventare un attore attivo del grande gioco dell’AI?
Potrei usare l’IA se fosse utilizzata esclusivamente come strumento di “correzione bozze” integrato, ad esempio. O forse anche come strumento di traduzione.
Nulla mi impedisce di utilizzare Discourse AI; anzi, penso che ora sia una delle parti più fantastiche dell’intera applicazione.
Tuttavia, poiché lavoro come educatore e ricercatore/ingegnere AI, vorrei offrire la mia umile prospettiva su questo argomento, poiché lavoro a stretto contatto con persone al di fuori di questa proverbiale “bolla AI”. Nella mia esperienza, le persone sono riluttanti a utilizzare/implementare l’AI per tre ragioni principali:
In realtà, tutti questi dilemmi possono essere mitigati con un’adeguata ingegneria dei prompt unita all’educazione sull’argomento, quindi non è un difetto da parte di Discourse. Forse, tuttavia, se l’azienda creasse un corso intensivo “AI per Negati” specifico per il plugin Discourse AI, allora forse il tasso di adozione e il comfort crescerebbero entrambi. L’AI ha molto clamore ora, quindi molte persone vogliono usarla anche se non sanno come o per cosa.
Tuttavia, la mia intuizione mi dice che questo set di funzionalità guiderà la popolarità di Discourse nel prossimo futuro, poiché è semplicemente ingegnoso e così finemente integrato nel sistema. Davvero un ottimo lavoro!
Trovo questa formulazione piuttosto strana, e la noto non come una critica, ma perché riecheggia il titolo della discussione: “Cosa ti impedisce di provare Discourse AI?”
In entrambi i casi, sembra che si presuma che l’IA sia ovviamente una cosa buona e preziosa, e che in qualche modo qualcuno non se ne renda conto.
Ma io la vedo diversamente: l’“IA” di oggi è una bolla di tecnologie affascinanti, molto attraenti per chi ama le cose più nuove per se stesse, e possibilmente di valore qua e là - ma in nessun modo intrinsecamente preziose di per sé.
La domanda deve riguardare quali siano i benefici - cosa renderà le cose migliori, in questo caso migliori per i membri del forum o forse per gli amministratori del forum.
Il che mi porta a
O per dirla in altro modo, la pura inaffidabilità delle offerte di oggi. Per quanto a volte aiutino, nel riassumere o suggerire, troppo spesso sbagliano. Un riassunto inaffidabile? Un’analisi del sentiment inaffidabile? Questo può solo peggiorare l’esperienza!
Ho un po’ di simpatia per chi è impiegato per promuovere l’IA, o impiegato per integrarla in un prodotto - questa è la natura del lavoro, a volte i ruoli sono essi stessi mal indirizzati.
Ma non vedo davvero la presunzione che questa sia una grande cosa che aiuterà tutti i forum. Alcuni forum, forse. Diteci dove si suppone che sia il valore, e includete i costi di tale valore erogato in modo inaffidabile.
Il mio punto è che l’IA può migliorare moltissime cose e, secondo la mia esperienza, alcuni miei clienti desiderano migliorare la propria attività o le proprie operazioni in qualche modo, ma non sono sicuri di come farlo precisamente. Non penso affatto che tutti debbano provare a usare l’IA, poiché ciò significherebbe semplicemente cadere nella trappola dell’attuale clamore.
Decisamente non intrinsecamente preziosa, cosa che non ho implicato. Come per la maggior parte delle tecnologie, può essere sovrautilizzata e sottoperformare, o semplicemente essere palesemente abusata.
Devo ancora sperimentare questa “pura inaffidabilità”. Forse dipende da ciò che si sta cercando di ottenere? Compiti molto generali e complessi possono ancora portare a risultati inaffidabili, questo è vero. Ancora una volta, una conoscenza adeguata dell’ingegneria dei prompt e delle applicazioni di questa tecnologia sono un must per mitigarla, quindi il mio punto rimane.
Apprezzo la tua compassione, tuttavia, non ne ho bisogno 
. Sono un libero professionista, senza bisogno di cercare di “spingere” l’IA a persone che non ne hanno bisogno, ed è anzi piuttosto presuntuoso da parte tua presumere che qualcuno o il suo lavoro sia fuorviante semplicemente come risultato di un’opinione per lo più infondata su un argomento che ti sembra estraneo, a giudicare da come ne scrivi.
Ho sviluppato sistemi di IA che rilevano e segmentano automaticamente i tumori cerebrali e forniscono analisi dei rischi di trattamento. Non credo che i pazienti che beneficiano di tali progressi concorderebbero sul fatto che un tale ruolo sia “fuorviante”. Alcuni di noi ricercano l’IA a beneficio dell’umanità e non solo per fare soldi facili.
Di nuovo, non ho presunto che avrebbe aiutato tutti i forum e credo piuttosto che possa essere sciocco per gli amministratori adottarla “solo perché” senza alcuna conoscenza del dominio e un obiettivo finale in mente.
Nota a margine:
Incoraggio umilmente a essere un po’ meno discriminatorio e un po’ più informato nelle tue future risposte sulla questione dell’IA, o almeno a non prendere le risposte di qualcun altro fuori contesto per poi accusarli di essere fuorvianti e cercare di offrire la tua compassione 
EDIT:
Ho dimenticato di aggiungere che Discourse aggiungendo più opzioni per le personalizzazioni (ad esempio, la capacità di ingegnerizzare correttamente i prompt del sommario dell’argomento) mitigerebbe molti rischi. Stanno già andando in questa direzione tramite i personaggi e la capacità di scegliere quali modelli utilizzare, ecc.
Mi scuso, ho rimuginato su questo thread da quando è iniziato, e ho usato il tuo contributo come punto di partenza. Non intendo nulla di specifico o personale nelle mie osservazioni.
Per me, usare l’IA nel discorso, come @Saif è interessato a sapere, avrei bisogno di conoscere la proposta di valore. Al momento il mio forum sta funzionando bene e i costi sono sotto controllo. Per aggiungere qualcosa, che ha un costo monetario, dovrei sapere qual è il beneficio. Non è che ci sia qualcosa che mi impedisca di provare l’IA.
Ho disabilitato Akismet e sto testando Discourse AI Spam e Persona internamente, il mio LLM è Google Gemini Flash 2.0
La mia domanda è: imparerà con le interazioni e apprenderà in profondità con il feedback umano? perché l’opzione per memorizzare i dati è consentita solo nella versione pro.
Non imparerà nulla, ma puoi fornire istruzioni personalizzate specifiche per il tuo forum se noti che commette errori.
C’è qualche possibilità di bloccare la menzione da una persona a un argomento specifico?
Dato che questo è riemerso:
Lo sto usando, ma sto tenendo d’occhio i costi. La mia più grande preoccupazione è l’uso incontrollato dei token, almeno finché non potrò eseguire le cose abbastanza a lungo da farmi un’idea di quale dovrebbe essere il mio utilizzo medio di token. La possibilità di impostare limiti di costo è buona, ma non mi sentirò personalmente a mio agio finché non saprò qual è l’utilizzo medio della community, e questo richiede solo tempo.
I problemi di fiducia degli utenti sono enormi. Non importa quale messaggio preparo o cosa dico come amministratore del sito: c’è una percezione incrollabile che gli LLM utilizzino contenuti generati dagli utenti per l’addestramento e che qualsiasi utilizzo da parte del sistema Discourse significhi “vendere” dati utente senza “permesso”. Questo è un problema che, a mio parere, è sistemico tra molti commentatori ed è impossibile da scuotere, perché la gente “sa” cosa stanno “facendo veramente” le aziende di IA. Abilitare il triage basato sull’IA su un forum e dire che lo stai facendo significa potenzialmente affrontare un’ondata di lamentele del tipo “NON CONSENTO CHE TU INVii I MIEI DATI A QUALCHE AZIENDA DI TECHBRO DELL’IA PER FARLI GUADAGNARE CON LE MIE PAROLE!”. Non tutti sono preoccupati da questo tipo di cose, ma coloro che lo sono, sono incazzati mentre allo stesso tempo sono totalmente disinteressati alla discussione. Non ho una buona risposta qui.
Sono un po’ a disagio nel porre lo stato del rilevamento dello spam del mio forum su come una dozzina di modelli di diverse aziende si sentono in un dato momento. Siamo onesti qui: il rilevamento dello spam AI, il triage AI e tutte le altre funzionalità AI sono fondamentalmente dire “Ehi, facciamo in modo che questo sia un problema dell’IA” e poi cerchiamo di codificare ciò che vogliamo che faccia tramite l’ingegneria dei prompt. Funziona, ma il processo è fastidiosamente non deterministico. In pratica devi solo sperare che le cose continuino a funzionare come stanno funzionando. Non mi piace. Non mi piace affatto, e mi provoca ansia. Mi piace che i miei strumenti siano adeguatamente deterministici. Gli LLM sono l’esatto opposto polare del determinismo, e stiamo basando una parte della funzionalità del forum su qualunque cosa OpenAI et al decidano di lanciarci addosso.
Detto questo, sto usando sia l’antispam AI che il triage del forum AI. È utile. Ma cerco di rimanere consapevole del fatto che queste soluzioni devono essere continuamente monitorate per l’efficacia.
Chi paga i costi di calcolo associati al plugin?
La generazione di token non è gratuita e l’affitto di una GPU nel cloud costa circa $250/mese per il piano più economico (NVIDIA T4 da Google Cloud).
Questo plugin costa $250 al mese?
Penso che la maggior parte delle persone utilizzi un piano a pagamento con uno dei maggiori fornitori di servizi AI (c’è un elenco di modelli supportati qui nella documentazione).
Sfortunatamente non sono a conoscenza di opzioni convenienti per gli self-hoster: tutto ciò che è basato su GPU che conosco rientra nella fascia di prezzo che hai menzionato, e sospetto che anche l’inferenza basata su CPU sarà troppo lenta, anche su macchine più potenti.
Discourse AI self-hosted ti consente di connetterti a diversi modelli commerciali tramite API. Sto scoprendo che la mia spesa per il triage AI più l’anti-spam AI più alcuni riassunti AI notturni è di circa $0,03/mese con Gemini Flash 2.0.
Penso che abbiamo una diversa comprensione di “AI self-hosted” qui. Per me, ciò implica la connessione a un modello/servizio che viene eseguito localmente. Quello che descrivi è possibile, ma in effetti la parte locale è solo un proxy e i dati lasceranno il tuo server/verranno trasferiti al provider dell’API. Per molte persone andrà bene, ma per me/la nostra community non è un’opzione.
Mi scuso, mi riferivo a Discourse self-hosted. Il mio errore.