Obbligo di etichettare come tali i temi e i plugin generati da LLM

Ci sono un sacco di presupposti in quella frase. Forse sarebbe meglio chiedermi cosa intendo prima di reagire alle tue deduzioni.

1 Mi Piace

Non sei l’unico. Anche a me piacerebbe sapere se le LLM sono state utilizzate per un progetto o meno.

Oltre alla qualità del codice, ci sono anche questioni etiche sufficienti legate alle LLM, e le persone dovrebbero almeno poter prendere una decisione informata riguardo al software che installano e ai progetti che sostengono. Esistono modi per usare le LLM per creare buon software, con sufficiente cura? Probabilmente sì. Esistono modi etici per usare le LLM, dato lo stato attuale dell’industria e della politica? Credo che questo sia molto più difficile.

Ma prima di iniziare un altro lungo dibattito qui, per favore: si tratta solo di trasparenza, in modo che le persone possano prendere le proprie decisioni prima di installare qualcosa.

1 Mi Piace

Puoi spiegarmi dove sbaglio?
Oppure: cosa intendevi dire?

Questo è assolutamente il punto chiave di ciò che desidero. Voglio solo trasparenza fin dall’inizio, in modo che le persone sappiano a cosa vanno incontro. Per quanto riguarda l’etica: come qualcuno che ha passato mesi a “avvelenare” gli addestratori di LLM e ha fatto di tutto per tenere questa tecnologia fuori dalla sua vita e da tutti i propri codebase, sarebbe intrinsecamente ipocrita se decidessi che va bene usarla per creare app da solo o per utilizzare app create al 100% da un LLM.

Fortunatamente non è troppo difficile fare i propri controlli, e la mia politica attuale consiste nel verificare i contributori: se vedo molti commit effettuati da un LLM, semplicemente chiudo e non lo uso. Tutto ciò che sto suggerendo qui è un piccolo etichetta autodichiarata per informare le persone, ma in questo thread ci sono alcuni argomenti validi contro. Capisco tutto riguardo al fatto che fa risparmiare tempo e rende la tecnologia accessibile a più persone, ma non credo sia irragionevole voler starne alla larga. :slight_smile:

3 Mi Piace

Ci sto passando sopra, aspetto di vedere come si assesta la polvere su questa vicenda.

Chiaramente alcuni hanno un interesse personale nell’esito. Ho detto la mia, ho condiviso alcune riflessioni.

Non ho intenzione di imporre la mia opinione agli altri né di farmi imporre la loro.

Mi tiro fuori da questa faccenda. Aspetto che la polvere si depositi.

Aggiungo solo il fatto che, se questa è una preoccupazione, non c’è bisogno di preoccuparsi di plugin o temi, perché non si può più usare Discourse in alcun modo. Questi giorni tutti usano molto l’AI per svilupparlo.

5 Mi Piace

Lo so, e in un mondo ideale non userei affatto software codificato da LLM. Purtroppo il mondo non è ideale e non ho sempre la possibilità di scegliere. Tanto più è importante preservare quella scelta dove è ancora possibile.

3 Mi Piace

Solo per essere perfettamente chiari su questo punto:

Sviluppo Discourse utilizzando i miei agenti; in circa 10 mesi non ho scritto più di poche righe di codice. Quest’anno ho implementato funzionalità significative e ho corretto numerosi difetti.

Se stai cercando un progetto in cui il coding agentico è vietato, temo che dovrai cercare altrove.

2 Mi Piace

Non ho chiesto un divieto, e nemmeno l’autore del topic. L’argomento è “Richiedere che i temi e i plugin generati da LLM vengano etichettati come tali”.

1 Mi Piace

Perché i temi ne hanno bisogno, quando per il core non ci sono restrizioni?

Immagino che il ragionamento sia: non possiamo evitare che la parte centrale sia creata dall’IA, ma possiamo offrire una scelta per le parti rimanenti?

Capisco cosa si sta chiedendo (e perché), ma penso che sarebbe più efficiente fare come suggerito in precedenza, ovvero creare un tag AI-free da usare da parte di chi ritiene importante questa distinzione.

2 Mi Piace

Allora, la domanda è: cosa si intende per “senza AI”? Quando sviluppo qualcosa, chiedo ad Ask Discourse o a Claude informazioni su aspetti specifici, ma non genero l’intero progetto con il “vibe coding”. In che misura, dunque, un nome del genere coprirebbe l’uso dell’AI? Letteralmente al 0%, con chat AI solo per chiarimenti, oppure per la generazione completa? Penso che questa distinzione dovrebbe essere fatta in modo chiaro.

2 Mi Piace

Per me personalmente, senza IA significherebbe:

«Ho scritto tutto il codice a mano e, se mi viene chiesto di spiegare qualsiasi riga di codice di questo progetto, so cosa fa – o quantomeno riesco a capirlo dopo una rapida lettura, se ho bisogno di rinfrescarmi la memoria.»

Ma sì, la definizione dovrebbe essere chiara e sono sicuro che non tutti la penseranno allo stesso modo.

D’altra parte, se si tratta di preoccupazioni etiche o ambientali, allora anche fare domande all’IA fa parte del problema…

Un bel groviglio.

Un buon punto di partenza potrebbe essere: “nessun codice generato da LLM in questo progetto”. Probabilmente non si può essere al 100% precisi, è più una dichiarazione di intenti. Spesso vedo paralleli con il veganismo: se lo si porta all’estremo, alla fine ci si ritrova con contraddizioni e scelte impossibili. Ma non è questo il punto. Il punto è minimizzare i danni inutili.

Vedo molti danni derivanti dall’uso dei LLM: sulla qualità a lungo termine del codice, sull’ambiente, sulla nostra società e sulla nostra stessa salute mentale. Quando guardo a un progetto software su cui conto di fare affidamento, voglio sapere se lo sviluppatore cerca di evitarli o se ci va a fondo. Se ritiene la questione abbastanza importante da etichettare il proprio progetto come “senza AI”, per me è già una dichiarazione utile.