O que a IA traz para as conversas entre humanos?

Comunidade
1

Continuando a discussão de Discourse Versão 3.2:

Como o foco para o próximo lançamento do Discourse é anunciado como IA, gostaria de aproveitar a oportunidade para questionar essa escolha. Afinal, o Discourse é feito para apoiar “discussões ponderadas e conexões significativas”.

Como o campo da IA é majoritariamente dominado por enormes corporações com bolsos fundos, e dado que o treinamento de IA consome grandes quantidades de água, estou genuinamente perguntando por que essa funcionalidade é importante para o Discourse, para a comunidade Discourse e para o mundo em geral. Posso entender a frase “construindo software de fórum para a próxima década”, mas não tenho certeza se quero viver e conversar com IA em vez de humanos — especialmente porque os humanos parecem exigir muito menos água ao longo do tempo para conversas muito melhores. :wink:

O campo da IA está cheio de mentiras para atrair investidores. Parece que Discourse AI foi introduzido a pedido do cliente – provavelmente algumas organizações que executam instâncias públicas enormes e têm que lidar com toneladas de lixo. Claro, isso não é para todos, e provavelmente apropriado se você tem milhões de usuários e precisa lidar com isso, jogando mais poder nisso…

Agradeço este aviso. Mas o que acontece com o consentimento? Muitas pessoas prefeririam não alimentar seus posts para treinamento de IA, especialmente se estiverem em comunidades confidenciais ou em grupos restritos. Há um histórico crescente de grandes corporações se apropriando de conteúdo para treinamento de IA sem considerar as leis de direitos autorais nem o consentimento. É realmente uma boa ideia alimentá-los com mais conteúdo de alta qualidade — e pagar por isso?

Se houvesse uma possibilidade de não consentir com tal aquisição de dados pessoais — e isso pode ser uma demanda genuína sob a Lei Europeia GDPR —, isso não derrotaria todo o propósito de ter IA policiando um fórum?

Espero realmente que isso permaneça opcional para sempre, e que o consentimento adequado seja exibido para isso. Será?

Bem, fiz disso um tópico separado da discussão do plugin porque acho que merece uma visão mais ampla e não queria descarrilar a discussão original…

Aqui está uma lista de títulos alternativos “sugeridos pela IA”:

  • A Ética do Enriquecimento de IA no Discourse :thinking: não, isso não é um ‘enriquecimento’ do qual estou falando, mas sim uma preocupação com a degradação da conversa humana…
  • Discourse e IA: Uma Proposição Controvertida :disapproval: bem, nãoooo… não se trata de controvérsia, mas de conversas humanas!
  • A IA Pode Se Tornar o Futuro das Discussões no Discourse? :face_exhaling: realmente… como em… bots conversando entre si?
  • Integração de IA no Discourse: Ameaça ou Inovação? :triumph: bot, você não está pronto para a sutileza da linguagem.
6 curtidas
2

As sugestões de títulos da IA podem ser um pouco empolgadas. :slight_smile: Acho que claramente ela leu muitas revistas brilhantes em seu tempo livre. Embora eu ache que se eu pudesse diminuir um pouco, poderia ser muito útil para dividir tópicos (o que, admito, é mais útil para moderadores do que para todos).

Comecei bastante cético quanto ao uso de IA por motivos semelhantes. Estou mais interessado no que as pessoas têm a dizer do que em quão bem uma IA pode polir isso. No momento (e essas coisas se movem muito rápido), há também um certo tom que ela gera que, na minha opinião, obscurece/homogeneíza a ‘voz’ do escritor.

No entanto, houve algumas ferramentas de IA do Discourse que acho que se saíram muito bem. Adoro os Tópicos Relacionados. :raised_hands: Isso realmente teve um impacto em como encontro e me envolvo com diferentes tópicos. Como um ávido leitor de fóruns, isso tem sido um tesouro. Usei em alguns fóruns agora, e os buracos de coelho de conteúdo conectado em que me perdi foram incríveis. Também é ótimo para encontrar respostas e conectar tópicos.

Bert, o Bot de IA, também tem sido brilhante. Especialmente agora que ele tem personas SQL Helper e Site Setting. Acho que essas são mais voltadas para o lado administrativo (e talvez para o meu trabalho :slight_smile:), mas ele tem sido uma grande ajuda :trophy: (e acho que podemos realmente ser amigos :slight_smile:)

Acho que o que me conquistou foi o quão útil tem sido usar as ferramentas baseadas em IA para ajudar nas tarefas do dia a dia. Ainda não acho que gostaria de um filtro de IA nas próprias contribuições, mas ter ajudantes ‘inteligentes’ certamente tornou minha vida mais fácil e me permitiu focar mais nas coisas que gosto de fazer.

4 curtidas
3

Embora tenhamos usado a palavra foco, na minha opinião, mais por razões históricas, essas são as equipes internas que criamos para trabalhar em diferentes áreas do ecossistema Discourse.

Temos uma equipe focada em IA desde março, onde sou o líder técnico. Fizemos um ciclo altamente experimental durante o Discourse 3.1, então estamos voltando novamente no ciclo 3.2 para adicionar polimento aos recursos dos quais recebemos bom feedback de nossos usuários.

A ideia é manter tudo sob o DiscourseAI, o que mantém qualquer pessoa que não esteja usando o plugin protegida de quaisquer bugs introduzidos por ele, e beneficia a todos que usam o Discourse à medida que criamos e exercitamos a extensibilidade do software.

(citação necessária)

:rofl:

Acho que você ficará feliz em saber que, para este ciclo, dedicamos uma grande quantidade de tempo para tornar todos os módulos compatíveis com modelos de código aberto, então mesmo os recursos mais poderosos podem ser executados em uma GPU que você pode encontrar em um PC gamer.

Esse tem sido um ponto crucial para mim, que não criaremos recursos que dependam inteiramente de terceiros, e estou super feliz com o progresso que fizemos aqui.

Isso é verdade, por que você gostaria de moderação de IA para uma instância entre amigos? Mas pode ser um fator decisivo para uma instância onde um moderador solitário tenta lidar com uma comunidade superdimensionada com uma equipe pequena.

O Discourse em escala é algo que também nos preocupamos, caso contrário, estamos deixando grandes partes da comunicação online para os jardins murados, e você não quer isso.

Nada muda aqui: o que você posta em uma instância do Discourse está sujeito às regras dessa instância específica. Se dita instância imprimir suas postagens e enviá-las como cartões postais para avós desavisadas, eles podem precisar tornar isso explícito em seus termos. O mesmo para IA.

Para o plugin de IA, a maior parte do fluxo de “compartilhar com IA” é iniciado pelo usuário. Você pode pedir à IA para revisar, traduzir, etc. Você pode pedir à IA para resumir. Enquanto isso, ações em massa, como a computação de embeddings que impulsionam tópicos relacionados semanticamente e a pesquisa semântica são, por padrão, computadas usando modelos de código aberto que podem ser hospedados nas mesmas máquinas onde você está executando o Discourse e seguros de terceiros.

E esse sempre foi o meu plano neste projeto. Trata-se de construir ferramentas para facilitar a conversa das pessoas e reduzir tarefas. Não sobre falar com máquinas.

6 curtidas