Preoccupazioni sulla privacy personale con il plugin AI

Richiesta di funzionalità

Cari sviluppatori di Discourse,
grazie per aver messo in funzione il plugin AI. Lo stiamo utilizzando nel nostro forum comunitario dove condividiamo opinioni e le migliori pratiche per il nostro lavoro.
Abbiamo preoccupazioni sui diritti di privacy personale qui in Europa. Come regola nel nostro forum, utilizziamo i nomi propri come nome utente. Le richieste con il plugin AI inviano il nome insieme al contenuto del post a servizi di terze parti in altri paesi e regioni (OpenAI, Meta, Claude e chiunque altro). Questo è un grosso problema per noi che utilizziamo il plugin, poiché collega il contenuto agli individui.
Pertanto, speriamo in una funzionalità di privacy aggiuntiva per disabilitare tutti i tipi di trasferimenti di dati personali.
Mi piacerebbe ricevere un vostro riscontro.
Cordiali saluti,
Wolfgang

2 Mi Piace

Questa è una scelta deliberata da parte dei proprietari del sito.

Discourse AI è stato costruito agnostico dai fornitori di AI fin dal primo giorno, in modo che gli amministratori possano scegliere un fornitore di AI di cui si fidano con i dati, uno che aderisce a qualsiasi confine regionale, o persino ospitare i modelli AI sullo stesso hardware su cui gira il forum, in modo che i dati non vengano mai condivisi con terze parti.

9 Mi Piace

Un post è stato diviso in un nuovo argomento: Come implementare Mistral con Embeddings

Ciao Falco,
Potresti guidarmi o darmi istruzioni su come modificare questa impostazione?
Ma anche questo post descrive molto bene ciò che penso:

Dovrebbe essere lo stesso modo in cui hai configurato il tuo LLM in primo luogo, andando in Admin > Plugin > AI > LLM e registrando lì il tuo LLM di scelta.

2 Mi Piace

Capisco, grazie. Ma penso che ci sia un malinteso. Il mio punto è che voglio poter scegliere se il nome utente viene inviato all’LLM, non importa quale. Anche questa impostazione è come hai descritto sopra?

2 Mi Piace

No, non esiste un’impostazione del sito per questo e al momento non è prevista.

La soluzione alternativa che forniamo al personale che necessita di regole più severe su ciò che viene condiviso con terze parti è la compatibilità con quasi tutti gli LLM ospitati e locali che risolve il problema attaccandolo da un altro angolo.

Penso che sarebbe una funzionalità piuttosto incompleta introdurre una falsa sensazione di sicurezza per gli operatori del sito.

Se i nomi utente sono considerati PII… allora cosa dire dell’enorme miriade di modi in cui queste PII si insinuano nei post?

  • citazioni
  • menzioni
  • menzionare casualmente Jane Austen?
4 Mi Piace

Okay, fair point. Non ci avevo pensato.
Quindi stai dicendo che si riduce tutto a un LLM di cui ci fidiamo? Se non ci fidiamo di nessun LLM e non possiamo permetterci di ospitarne uno nostro, non possiamo usare la funzionalità/plugin?

2 Mi Piace

Come puoi mantenere la riservatezza se anche una semplice citazione o menzione può rivelare informazioni identificative?

Esatto! Se entrambi:

  • Non ti fidi di nessun LLM di terze parti
  • Non vuoi eseguire il tuo LLM

Ti consiglio di non integrare gli LLM nel tuo forum.

5 Mi Piace