Ci sono un sacco di presupposti in quella frase. Forse sarebbe meglio chiedermi cosa intendo prima di reagire alle tue deduzioni.
1 Mi Piace
Non sei l’unico. Anche a me piacerebbe sapere se le LLM sono state utilizzate per un progetto o meno.
Oltre alla qualità del codice, ci sono anche questioni etiche sufficienti legate alle LLM, e le persone dovrebbero almeno poter prendere una decisione informata riguardo al software che installano e ai progetti che sostengono. Esistono modi per usare le LLM per creare buon software, con sufficiente cura? Probabilmente sì. Esistono modi etici per usare le LLM, dato lo stato attuale dell’industria e della politica? Credo che questo sia molto più difficile.
Ma prima di iniziare un altro lungo dibattito qui, per favore: si tratta solo di trasparenza, in modo che le persone possano prendere le proprie decisioni prima di installare qualcosa.
5 Mi Piace
Puoi spiegarmi dove sbaglio?
Oppure: cosa intendevi dire?
Questo è assolutamente il punto chiave di ciò che desidero. Voglio solo trasparenza fin dall’inizio, in modo che le persone sappiano a cosa vanno incontro. Per quanto riguarda l’etica: come qualcuno che ha passato mesi a “avvelenare” gli addestratori di LLM e ha fatto di tutto per tenere questa tecnologia fuori dalla sua vita e da tutti i propri codebase, sarebbe intrinsecamente ipocrita se decidessi che va bene usarla per creare app da solo o per utilizzare app create al 100% da un LLM.
Fortunatamente non è troppo difficile fare i propri controlli, e la mia politica attuale consiste nel verificare i contributori: se vedo molti commit effettuati da un LLM, semplicemente chiudo e non lo uso. Tutto ciò che sto suggerendo qui è un piccolo etichetta autodichiarata per informare le persone, ma in questo thread ci sono alcuni argomenti validi contro. Capisco tutto riguardo al fatto che fa risparmiare tempo e rende la tecnologia accessibile a più persone, ma non credo sia irragionevole voler starne alla larga. 
7 Mi Piace
Ci sto passando sopra, aspetto di vedere come si assesta la polvere su questa vicenda.
Chiaramente alcuni hanno un interesse personale nell’esito. Ho detto la mia, ho condiviso alcune riflessioni.
Non ho intenzione di imporre la mia opinione agli altri né di farmi imporre la loro.
Mi tiro fuori da questa faccenda. Aspetto che la polvere si depositi.
Aggiungo solo il fatto che, se questa è una preoccupazione, non c’è bisogno di preoccuparsi di plugin o temi, perché non si può più usare Discourse in alcun modo. Questi giorni tutti usano molto l’AI per svilupparlo.
9 Mi Piace
Lo so, e in un mondo ideale non userei affatto software codificato da LLM. Purtroppo il mondo non è ideale e non ho sempre la possibilità di scegliere. Tanto più è importante preservare quella scelta dove è ancora possibile.
8 Mi Piace
Solo per essere perfettamente chiari su questo punto:
Sviluppo Discourse utilizzando i miei agenti; in circa 10 mesi non ho scritto più di poche righe di codice. Quest’anno ho implementato funzionalità significative e ho corretto numerosi difetti.
Se stai cercando un progetto in cui il coding agentico è vietato, temo che dovrai cercare altrove.
9 Mi Piace
Non ho chiesto un divieto, e nemmeno l’autore del topic. L’argomento è “Richiedere che i temi e i plugin generati da LLM vengano etichettati come tali”.
4 Mi Piace
Perché i temi ne hanno bisogno, quando per il core non ci sono restrizioni?
1 Mi Piace
Immagino che il ragionamento sia: non possiamo evitare che la parte centrale sia creata dall’IA, ma possiamo offrire una scelta per le parti rimanenti?
Capisco cosa si sta chiedendo (e perché), ma penso che sarebbe più efficiente fare come suggerito in precedenza, ovvero creare un tag AI-free da usare da parte di chi ritiene importante questa distinzione.
4 Mi Piace
Allora, la domanda è: cosa si intende per “senza AI”? Quando sviluppo qualcosa, chiedo ad Ask Discourse o a Claude informazioni su aspetti specifici, ma non genero l’intero progetto con il “vibe coding”. In che misura, dunque, un nome del genere coprirebbe l’uso dell’AI? Letteralmente al 0%, con chat AI solo per chiarimenti, oppure per la generazione completa? Penso che questa distinzione dovrebbe essere fatta in modo chiaro.
5 Mi Piace
Per me personalmente, senza IA significherebbe:
«Ho scritto tutto il codice a mano e, se mi viene chiesto di spiegare qualsiasi riga di codice di questo progetto, so cosa fa – o quantomeno riesco a capirlo dopo una rapida lettura, se ho bisogno di rinfrescarmi la memoria.»
Ma sì, la definizione dovrebbe essere chiara e sono sicuro che non tutti la penseranno allo stesso modo.
D’altra parte, se si tratta di preoccupazioni etiche o ambientali, allora anche fare domande all’IA fa parte del problema…
Un bel groviglio.
4 Mi Piace
Un buon punto di partenza potrebbe essere: “nessun codice generato da LLM in questo progetto”. Probabilmente non si può essere al 100% precisi, è più una dichiarazione di intenti. Spesso vedo paralleli con il veganismo: se lo si porta all’estremo, alla fine ci si ritrova con contraddizioni e scelte impossibili. Ma non è questo il punto. Il punto è minimizzare i danni inutili.
Vedo molti danni derivanti dall’uso dei LLM: sulla qualità a lungo termine del codice, sull’ambiente, sulla nostra società e sulla nostra stessa salute mentale. Quando guardo a un progetto software su cui conto di fare affidamento, voglio sapere se lo sviluppatore cerca di evitarli o se ci va a fondo. Se ritiene la questione abbastanza importante da etichettare il proprio progetto come “senza AI”, per me è già una dichiarazione utile.
4 Mi Piace
È un peccato che debba essere così, perché ho ancora forti preoccupazioni etiche su come le aziende di IA di fatto rubino codice da Internet, distruggano libri e, in generale, utilizzino crawler abusivi che rubano tutto senza rispettare il server host (anche se si guarda oltre la crisi DRAM non necessaria!), il tutto per arrivare primi nella corsa ai LLM che nessuno voleva. Ho già smesso di usare molte applicazioni perché la qualità del codice è peggiorata così tanto, come VS Code, che è diventato lento, inefficiente in termini di memoria e generalmente pieno di bug. I pacchetti di aggiornamento di Formbricks hanno smesso di funzionare, il mio player musicale è diventato lento e ingombrante (quando aggiungere funzionalità diventa così facile, si inizia a perdere il perimetro del progetto e si aggiunge tutto) e metà del tempo smette di riprodurre la musica.
Ma il problema è che mi piace Discourse, quindi non voglio smettere di usarlo. Non è come un IDE o un player musicale per cui non ho alcun attaccamento, o nemmeno il mio sistema operativo, perché odiavo già Windows prima di smettere di usarlo nel 2024. A meno che il software non diventi estremamente pieno di bug o lento a causa dei LLM, è improbabile che decida di smettere di usarlo.
Non cerco di essere completamente “nero o bianco” riguardo a tutta questa situazione, ma non riesco a superare le preoccupazioni etiche o sulla privacy che derivano dall’uso di un LLM.
4 Mi Piace
Condivido alcune delle tue osservazioni e, in quanto persona che valorizza la privacy, capisco che per evitare di utilizzare l’IA si dovrebbe smettere di usare il clearnet.
Indipendentemente dalla tecnologia in sé, essa ha intrinsecamente legami commerciali con coloro che tecnicamente abilitano l’uso di Internet: Cloudflare, Amazon, Google, Meta, Microsoft.
Stiamo affrontando un cambiamento di epoca digitale, che continuerà inevitabilmente a approfondire sia la sua luce che la sua oscurità. Finché possiamo ancora navigare senza un’identità, capisco che possiamo scegliere la via di mezzo, ovvero usare l’IA in modo consapevole.
E credo che sia ciò che fa Discourse, o ciò che faccio io stesso, anche se faccio parte del gruppo che hai menzionato, che progetta plugin o componenti senza sapere come farli. Lo faccio in privato, li testo e imparo sempre, perché lavoro su un progetto alternativo, decentralizzato e di nicchia che non riceve finanziamenti da anni e non ho trovato nessuno disposto a farlo per meno di migliaia di dollari.
Ci sono diverse sfumature da analizzare e non credo che un semplice tag risolva il problema alla radice o al centro. Nella mia filosofia di vita, fare è meglio che dire, quindi vorrei sapere in che modo e in relazione a questo, agiate davvero alla fine.
4 Mi Piace
Non voglio essere pignolo, ma pensi che l’uso dell’IA sia tecnicamente un problema, in generale, per il software consolidato creato da sviluppatori competenti? E sto parlando solo dell’efficienza, della stabilità e della sicurezza delle app.
Ho visto molte app diventare lente, ingombranti, maliziose o rotte molto prima che esistessero gli LLM.
Uso molte applicazioni nella mia vita di tutti i giorni e finora non ho notato alcun problema tecnico presuntamente causato dall’uso dell’IA nel loro codice. E sono abbastanza sicuro che al giorno d’oggi il 95%, se non di più, di quelle app venga realizzato con l’IA in qualche misura.
Se uso un’app creata da sviluppatori incompetenti, sicuramente avrò un’esperienza negativa, che ci sia l’IA o no.
Come tutti, ho visto drammi come “guarda questa famosa app creata da uno sviluppatore famoso che si è rotta a causa dell’IA”, credo che sia successo (e succederà di nuovo).
Pensò anche che si tratti di un’occorrenza rara, credo che gli sviluppatori talentuosi non abbiano dovuto aspettare l’IA perché i loro progetti fallissero in qualche punto per qualsiasi motivo.
Sono preoccupato (e a volte disgustato) dalle IA per molte ragioni, incluse alcune di quelle che hai menzionato, ma non davvero per “la mia app musicale è diventata pessima a causa dell’IA” (e di nuovo, non sto dicendo che non succeda).
7 Mi Piace
Dipende dall’autoregolamentazione. Far eseguire all’IA compiti banali come la scrittura di test non è davvero la stessa cosa che creare intere app (o plugin, in questo caso) e pubblicarle come proprie. Sono sicuro che se mi svegliassi domani e decidessi “cosa mi passava per la testa, gli LLM sono super etici e possono davvero aiutare il mio flusso di lavoro!”, allora sì, sarei in grado di superare il burnout e sviluppare più velocemente, come fanno alcuni sviluppatori più esperti. Ma personalmente, questo toglie tutto il divertimento alla programmazione e allo sviluppo. Mi piace programmare come hobby e come lavoro: delegarlo a un LLM toglie ogni senso di godimento dall’equazione, perché non stai realmente codificando; stai solo digitando prompt tutto il giorno.
Questo è sempre stato un problema (Windows 10 è stato rilasciato nel 2015). Il fatto che l’IA sia diventata popolare e “brava” nella programmazione l’ha solo accelerato, perché ha reso troppo facile aggiungere gonfiore alla tua app. Diciamo che avevo un’app di navigazione e un giorno ho deciso all’improvviso di voler aggiungere un lettore FLAC integrato con un sacco di integrazioni. Ovviamente, questo non deve esistere ed è fuori scope per un’app di navigazione e sarebbe uno spreco del mio tempo o di quello dei miei sviluppatori. Ma invece, se vado su Claude e gli dico “aggiungi un lettore musicale alla mia app con x, y e z”, posso semplicemente aggiungerlo e rilasciarlo. Quello che era “potrebbe essere carino ma è inutile e uno spreco di tempo” è diventato una funzionalità reale che i miei utenti immaginari ora hanno tutti, il che aumenta l’impronta dell’app, rendendola più lenta e più pesante in termini di RAM/archiviazione. Questo è solo immaginario alla fine della giornata, ma lo scenario non lo è affatto e sta accadendo a molte app.
Con o senza LLM, è responsabilità dello sviluppatore creare una buona app. Uno sviluppatore disattento, con o senza IA, creerà o un’app scadente o ne creerà una decente ma si lascerà trascinare e la rovinerà. Sappiate che non sono contro gli LLM in modo rigido come lo sono con i modelli di generazione di immagini e video; credo semplicemente che abbiano un ruolo, e che non sia la programmazione per la maggior parte delle persone che non possono usare la tecnologia in modo responsabile.
5 Mi Piace
Non ho seguito la conversazione e sono troppo stanco per cercare i riferimenti appropriati, ma ho trovato un paio di « sistemi di etichettatura » o « framework di disclosure » che potrebbero valere la pena esaminare, se non li avete già in « considerazione ». La questione oggi riguarda meno se l’IA sia stata utilizzata o meno, e più il modo in cui lo è stato. C’è una grande differenza tra dare a un LLM un paragrafo di istruzioni per fargli generare un plugin e poi dirgli di « testare e correggere gli errori », e mantenere la direzione generale e la supervisione dello sviluppo, usando il LLM per svolgere il suo lavoro in modo controllato. Per me, chiedere alle persone che forniscono codice di dichiarare spontaneamente l’uso dell’IA sarebbe qualcosa da valutare.
(P.S.: Sono più familiare con queste problematiche nel campo della scrittura, piuttosto che nella programmazione, ovviamente.)
3 Mi Piace
Sì, condivido il tuo punto di vista in merito, è una preoccupazione 
3 Mi Piace