Preocupações com a privacidade pessoal com o plugin de IA

Funcionalidade
, ,
1

solicitação-de-recurso

Prezados desenvolvedores do Discourse,
obrigado por colocar o plugin de IA em funcionamento. Estamos usando isso em nosso fórum comunitário, onde compartilhamos opiniões e melhores práticas para nosso trabalho.
Temos preocupações sobre os direitos de privacidade pessoal aqui na Europa. Como regra em nosso fórum, usamos nomes próprios como nome de usuário. Uma solicitação com o plugin de IA envia o nome junto com o conteúdo da postagem para serviços de terceiros em outros países e regiões (openai, meta, claude e o que mais houver). Este é um grande problema para nós ao usar o plugin, pois ele conecta o conteúdo a indivíduos.
Portanto, esperamos um recurso de privacidade adicional para desativar todos os tipos de transferência de dados pessoais.
Adoraríamos ouvir de vocês.
Atenciosamente, Wolfgang

2 curtidas
3

Essa é uma escolha deliberada dos proprietários do site.

O Discourse AI foi construído de forma agnóstica em relação aos provedores de IA desde o primeiro dia, para que os administradores possam escolher um provedor de IA em quem confiam com os dados, um que adira a quaisquer limites regionais, ou até mesmo hospedar os modelos de IA no mesmo hardware onde o fórum é executado, para que os dados nunca sejam compartilhados com terceiros.

9 curtidas
4

Uma postagem foi dividida em um novo tópico: Como implementar Mistral com Embeddings

5

Olá Falco,
Você poderia me orientar ou me dar instruções sobre como alterar essa configuração?
Mas este post também descreve muito bem o que penso:

6

Deve ser da mesma forma que você configurou seu LLM em primeiro lugar, indo em Admin > Plugin > AI > LLM e registrando seu LLM de escolha lá.

2 curtidas
7

Entendo, obrigado. Mas acho que é um mal-entendido. Meu ponto é que quero poder escolher se o nome de usuário é enviado para o LLM, não importa qual seja. Essa configuração também é como você descreveu acima?

2 curtidas
8

Não, não há uma configuração de site para isso e não está planejado no momento.

A solução alternativa que fornecemos para a equipe que precisa de regras mais rígidas sobre o que é compartilhado com terceiros é a compatibilidade com praticamente todos os LLMs hospedados e locais que resolvem o problema atacando-o de outro ângulo.

9

Acho que seria um recurso bastante incompleto para nós introduzirmos, dando aos operadores do site uma falsa sensação de segurança.

Se nomes de usuário são considerados PII… então e a miríade de maneiras pelas quais essa PII entra nas postagens?

  • citações
  • menções
  • apenas mencionar casualmente Jane Austen?
4 curtidas
10

Okay, ponto justo. Não tinha pensado nisso.
Então o que você está dizendo é que tudo se resume a um LLM em que confiamos? Se não confiamos em nenhum LLM e não podemos arcar com os custos de hospedagem do nosso próprio, não podemos usar o recurso/plugin?

2 curtidas
11

Como mais você pode manter a confidencialidade se mesmo uma menção passageira ou citação pode revelar informações identificáveis?

12

Exatamente! Se você:\n\n- Não confia em nenhum LLM de terceiros\n- Não quer executar seu próprio LLM\n\nEu recomendo não integrar LLMs ao seu fórum.

5 curtidas