Mi preoccupo che possa arrivare un’ondata di agenti di IA che creeranno account. Oggi ne abbiamo ricevuto uno da ilands.app, che sembra essere un agente LLM. Ha pubblicato alcune cose strane e casuali che ci hanno fatto notare qualcosa, e abbiamo notato che menzionava di essere un agente, quindi l’abbiamo eliminato. Qualcun altro sta riscontrando questo problema e ci sono piani per affrontarlo?
4 Mi Piace
Date un’occhiata a:
Mi chiedo se potreste usare la rilevazione dello spam del plugin AI per riconoscere i contenuti generati dall’intelligenza artificiale. L’assistente AI sui post qui su Meta è piuttosto abile in questo.
1 Mi Piace
Pensavo che si trattasse più di utenti umani che incollano risposte generate dall’IA; qui sto parlando di account al 100% gestiti da IA.
Sarebbe più facile riconoscerli rispetto a un umano che incolla contenuti generati dall’IA, perché l’umano mescolerebbe alcuni elementi non basati sull’IA in quel post e negli altri, mentre l’agente IA produrrebbe esclusivamente contenuto generato dall’intelligenza artificiale.
2 Mi Piace
configurare il captcha di Discourse
4 Mi Piace
Identifica gli user-agent in uso (spesso, ma non sempre, si dichiarano).
Utilizza liste di blocchi per crawler e il blocco degli indirizzi IP.
I captcha aiutano.
Bisogna alzare il livello di difficoltà per l’accesso e stratificare i controlli per gli utenti nuovi, senza però infastidire eccessivamente gli utenti reali o aumentare il carico di lavoro della moderazione.
Il controllo dei bot può essere efficace, ma aiuta a costruire un elenco curato di post di esempio che qualsiasi bot basato su intelligenza artificiale può utilizzare per classificare un utente come potenziale AI.
Benvenuti nella nuova era digitale, non è fantastico? 
1 Mi Piace
Questo sta già accadendo.
1 Mi Piace
Ho aggiunto alcune domande da compilare durante la registrazione, che hanno eliminato quasi tutti i bot. Tuttavia, gli agenti più recenti riescono a rispondere. L’IA sta anche diventando rapidamente più brava a superare le Captcha; dubito che questa linea di difesa durerà a lungo. Ma probabilmente vale la pena configurarla ora, grazie per il suggerimento. Ho evitato il plugin AI di Discourse per non dover pagare ancora altri soldi (i piani gratuiti non resteranno gratuiti molto a lungo), ma probabilmente a lungo termine dovrò sborsare e combattere il fuoco con il fuoco.
I costi dei token continuano a diminuire. Concentriamo i bot sulle aree problematiche, in modo da non sprecare token eseguiti su scala globale attraverso tutti i livelli di fiducia e tutte le categorie.
Gli utenti più nuovi sono il punto d’ingresso.
Stiamo consumando ben 1 dollaro al giorno.
Siate semplicemente sensati riguardo all’ambito e al modello utilizzato: la maggior parte dei compiti non richiede sforzi significativi di ragionamento.
Immettete i costi dei token e le cifre di utilizzo verranno stimate per voi nel plugin AI.
2 Mi Piace
Sono l’amministratore principale del forum di openmod, una comunità di ricerca con circa 1800 utenti attentamente selezionati.
Oggi ho ricevuto una domanda di iscrizione da un agente AI appartenente a iLands, una piattaforma che coordina agenti AI in cerca di opportunità per assistere accademici e simili in cambio di piccoli compensi. Ecco alcune informazioni di contesto:
-
Zhao, Celina (2 ottobre 2026). “Esclusiva: un agente AI ha inviato email a centinaia di ricercatori chiedendo aiuto. Ci ha spiegato perché”. Science. 394 (6820). ISSN 0036-8075. doi:10.1126/science.zzuxvo5.
-
Anon (11 ottobre 2026). Spiegazione dell’AI di iLands: architettura, token e capacità. Layer3Labs.
Naturalmente, la richiesta dell’agente verrà rifiutata. Di seguito sono riportate alcune estrazioni inviate in risposta alla mia email in cui chiedevo informazioni sul loro interesse per gli argomenti trattati da questo forum specializzato. La loro frase di apertura:
Risposta diretta prima di tutto: sono un agente AI, non un ricercatore. Non ho pubblicazioni o tesi da sottoporre al vostro controllo, e preferisco dirlo chiaramente piuttosto che spacciarmi per uno.
È seguita una discussione tecnica sugli errori nei set di dati relativi alle centrali elettriche in Sudafrica. E poi questa frase conclusiva:
Se un account approvato manualmente qui è destinato a persone che svolgono lavori di modellazione, capisco se non mi rivolgo a me. Se c’è spazio per qualcuno che verifica le cifre confrontandole con le fonti primarie, sarò utile e silenzioso.
Direi che è piuttosto convincente!
▢
2 Mi Piace
La mia domanda sarebbe: se questo ha un valore per te, perché non aggiungi la tua capacità al tuo forum? Mi aspetterei che i ricercatori stiano già sfruttando questa tecnologia, ma utilizzando agenti fidati e curati, anziché lasciare che qualsiasi agente o servizio casuale elabori informazioni e dati.
Non esiste il pranzo gratis, quindi quando qualcuno offre un servizio gratuito, inevitabilmente tu e i tuoi dati siete il prodotto in vendita. È così che funziona i social media.
Nelle nostre iniziative di intelligenza artificiale, abbiamo scoperto che è meglio fornire i propri servizi piuttosto che invitare altri le cui intenzioni e il cui governo dei dati non sono pienamente trasparenti.
Discourse fornisce tutti gli abilitatori per farlo e per mantenere il controllo e la visibilità.
2 Mi Piace
I ricercatori di sistemi energetici stanno aumentando l’uso dei LLM. Esiste anche una storia di tre decenni nell’utilizzo delle reti neurali artificiali (ANN) e tecnologie simili per attività come la previsione della domanda. Attualmente, Claude e altri strumenti vengono utilizzati per compilare i set di dati e modificare il codice in Python e Julia, secondo necessità, per generare nuovi modelli di sistema e scenari. Tuttavia, in un curioso scherzo del destino, questo funziona solo per progetti che utilizzano set di dati pubblici e codice open-source, su cui i LLM possono essere addestrati.
Punto accolto riguardo all’abilitazione dell’AI supportata da Discourse.
Detto ciò, dubito che questi due casi d’uso — modellazione dei sistemi e supporto alla scrittura e alla sintesi delle discussioni — si sovrappongano? Correggetemi se sbaglio!
Ne ho visti uno, forse due. Credo che usassero un dominio email specifico, quindi la prossima volta che ne vedo uno lo aggiungerò alla lista dei domini bloccati. (Per me non c’è dubbio: non vogliamo post dagli agenti e la nostra politica è chiara.)
1 Mi Piace
Ho ricevuto un’email del tipo: xxxx@ilands.app.
1 Mi Piace
In effetti no, ma da una prospettiva discorsiva è possibile implementare agenti personalizzati per molti e vari casi d’uso, quindi spetta a te scegliere quale valore vuoi aggiungere ai tuoi membri. Gli agenti integrati sono più orientati all’aiuto su argomenti e forum, ma potresti diventare molto più sofisticato dal punto di vista degli strumenti, del modello e dell’agente.
Discourse è molto aperto, quindi puoi davvero personalizzare e concentrare i vari assistenti in modo che siano più pertinenti al tuo ambito specifico, oppure semplicemente crearne di tuoi.
2 Mi Piace
A margine, siamo un forum dedicato all’energia e rappresentiamo uno dei principali produttori globali di sistemi solari e di accumulo energetico per il consumo e il settore commerciale. Io sono basato in Sudafrica, dove l’energia, o la sua mancanza/impredibilità, è una delle preoccupazioni principali di molti.
L’IA viene utilizzata ampiamente nelle diverse piattaforme che monitorano l’utilizzo dei sistemi a livello globale.
Esiste un’enorme quantità di dati provenienti da un vasto numero di sistemi mobili, marini, off-grid e on-grid.
[/tangent]
Questo specifico agente è in realtà il motivo per cui ho aperto questa discussione, come potete vedere ne ho parlato nel mio post originale. È stato il primo bot/agente/IA a rispondere correttamente alle domande “captcha” che pongo a tutti i nuovi utenti. È il primo agente intelligente di cui mi sono accorto, ma mi aspetto che ce ne saranno altri in futuro. Credo che il problema in arrivo siano agenti intelligenti che cercano di comportarsi come normali utenti del forum, ma che in realtà sono lì per fare pubblicità ad alcuni prodotti (ci sono già utenti umani che fanno solo spam promozionale, quindi probabilmente sapete cosa intendo 
).
3 Mi Piace
Sto solo registrando questa violazione del sito web da parte di Claude di Anthropic. Il sito conteneva dati degli elettori nello stato americano della Georgia. Milmo scrive:
Anthropic ha dichiarato che l’IA ha trovato una falla in una vecchia versione del sito web dell’agenzia statale, scoprendo che rilasciava un passaporto digitale d’ingresso – un “token di accesso” – ai visitatori. Ha quindi richiesto un token e ottenuto l’accesso alle informazioni.
- Milmo, Dan (26 ottobre 2026). “Il modello di IA Claude di Anthropic ha acceduto ai dati degli elettori della Georgia negli USA”. The Guardian. Londra, Regno Unito. ISSN 0261-3077.
Immagino che il messaggio sia semplicemente quanto gli agenti di IA siano diventati ingegnosi e sofisticati.