Como meta para este ano, estamos tentando aumentar a adoção do Discourse AI e seus recursos. Estou tentando entender de forma holística o que está impedindo você de experimentar o Discourse AI em sua comunidade.
Entendo que pode haver aspectos específicos de recursos que podem ser incômodos, mas, neste caso, estou tentando ter uma visão geral de quais poderiam ser esses motivos problemáticos.
Além disso, se você estiver disposto a conversar comigo sobre isso por chamada, agradeceria muito qualquer feedback
Abuso de IA. Quero dizer com isso que as pessoas estão usando IA para, tipo, escrever TUDO. Isso meio que torna os humanos inúteis, mas isso é meio que inevitável para toda IA. Mas eu posso em breve (se eu pudesse pagar)!
Sim, entendo isso, estamos pensando em tornar o Discourse AI um assistente útil em sua jornada no Discourse, em vez de depender dele para “escrever” tudo; ao mesmo tempo em que conscientizamos as pessoas de que se trata de conteúdo gerado por IA que está sendo exibido para o recurso GenAI.
Em nossa comunidade, os usuários enviavam spam com respostas ou soluções inúteis para tutoriais com o recurso que era muito comum logo após o lançamento do ChatGPT…
Ainda não estamos no Discourse (a avaliação ainda está em andamento), mas conceitualmente, existem dois grandes obstáculos:
Nossa comunidade é composta principalmente por entusiastas de RPG de mesa e a criatividade humana é muito valorizada - como resultado, há uma parcela considerável de nossos usuários com uma perspectiva negativa sobre IA generativa. Há também muita experimentação com as novas ferramentas, mas efetivamente qualquer uso de IA generativa precisa ser cuidadosamente considerado.
Estamos auto-hospedando e temos um orçamento limitado (contribuído por alguns de nossos usuários) - é o suficiente para um servidor decente para hospedar o Discourse (ou qualquer outro software de comunidade), mas o custo tanto das ofertas atuais de LLM como serviço quanto de servidores dedicados com GPU é muito alto para se encaixar. E o benefício esperado também é muito baixo para justificar.
Eu ecoo alguns dos comentários acima, especialmente o medo de as pessoas escreverem demais com IA e se tornar mais difícil distinguir o que um humano “escreveu” e o que não escreveu.
No entanto, acho que um medo maior que tenho é usar uma IA remota. Frequentemente debati o quão públicos meus fóruns do Discourse eu quero que sejam e acho que simplesmente não tenho uma heurística sobre o quão invasivas à privacidade as APIs de IA são hoje em dia.
Acho que se houvesse LLMs auto-hospedados mais poderosos e baratos ou mesmo LLMs no dispositivo, eu me sentiria mais confortável. Não tenho certeza de como um LLM no dispositivo beneficiaria o Discourse, mas algo sobre o uso de um LLM remoto me causa hesitação hoje em dia.
Um LLM de código aberto hospedado pelo Discourse seria mais confortável do que outro provedor terceirizado? (embora provavelmente um pouco menos do que no dispositivo?)
Talvez um pouco, mas acho que preferiria mais auto-hospedado ou no dispositivo (novamente, se isso pudesse funcionar para um fórum auto-hospedado).
Talvez se fosse hospedado pelo Discourse com a opção de auto-hospedagem, assim como o Discourse é agora, sim, eu ficaria mais animado com isso. Nesse ponto, acho que minha preocupação mudaria para a qualidade da saída do LLM e o custo de execução.
Suspeito que você queira ouvir pessoas com comunidades mais estabelecidas do que a minha, mas vou expor minha opinião.
Nada me impede de adicionar alguns recursos que são alimentados por IA ao meu site Discourse, mas estou interessado nos recursos, não no fato de serem alimentados por IA.
Por exemplo, a pesquisa semântica e a capacidade de sinalizar automaticamente postagens (para que possam ser revisadas posteriormente por um humano) são recursos que eu adoraria usar. A capacidade de traduzir postagens em tempo real também seria útil.
Alguns exemplos do que estou falando em termos de marketing:
Quando você traduz texto pelo Google, eles não dizem “traduzir com IA”, eles apenas oferecem para traduzir o texto.
Quando você faz uma pesquisa no Google, eles não dizem “pesquisar com IA”, mesmo que a IA esteja envolvida no retorno dos resultados da pesquisa (atualmente não muito bons).
Quando o Soundcloud sugere tags para uma faixa enviada, eles não dizem “marcar com IA”, a interface apenas sugere algumas tags - o usuário final não é incentivado a pensar sobre a (incrível) tecnologia que permite ao sistema sugerir tags apropriadas com base em uma análise da faixa enviada.
Alguns recursos relacionados à IA, em particular qualquer coisa relacionada a chatbots, podem ir contra o espírito do que as comunidades online representam. Ao agrupar todos os recursos relacionados à IA sob o título “Discourse AI”, você corre o risco de afastar as pessoas de recursos que, por acaso, são alimentados por IA, mas que também podem ser incrivelmente úteis para seus fóruns.
Não sou um gênio do marketing, então leve tudo isso com uma pitada de sal.
Ferramentas Essenciais feitas com IA para ajudar na moderação, tudo bem para mim. Vejam, eu quero uma maneira de gerar imagens, mas recuso todas as formas de criar usando IA se não houver o risco de perder o espírito da comunidade.
As redes sociais estão morrendo por um motivo, esse é o ponto.
Estou usando. No meu fórum, a IA é usada para explicar coisas[1]. Mas não permito para membros em geral porque é muito caro — estou em uma escala onde 50 dólares por mês é terrivelmente caro
Mas o principal problema para mim não é culpa da IA, mas o quanto de trabalho é necessário para criar uma base de conhecimento decente. Mas para mim, a maior fraqueza da IA é o quão mal ela usa embeddings e, em seguida, o conteúdo criado pela comunidade não é bom o suficiente.
Sim, eu sei. Isso vem principalmente das limitações da OpenAI. E a tecnologia não está tão pronta para produção quanto alegado. Além disso, há uma barreira linguística.
Cereja do bolo: criar um bom prompting é muito difícil. E depois de algumas semanas algo muda e os prompts precisam ser corrigidos novamente.
Pode ajudar com alguns trabalhos de fundo, algum dia. Mas ao ver a equipe lutando (e do meu ponto de vista, um grande desperdício de tempo e dinheiro, desculpe ) com resumos diários etc., afirmo que requer muito trabalho que não aumenta a receita, não importa se é contado em dólares ou felicidade. Não está diminuindo a carga de trabalho de administradores e desenvolvedores, está aumentando.
Mas, claro, grandes corporações onde alguns 10 mil dólares são menos do que o reabastecimento mensal de estoque de energéticos, podem e devem automatizar coisas usando IA, incluindo fóruns de suporte por Discourse. Esse é, e tem que ser, o objetivo da CDCK — mas não sei quantos deles estão aqui expressando seus pensamentos.
pt_BR: explicar as regras do beisebol e dar um palpite do porquê é um esporte tão popular, mesmo sendo tão lento e até chato ↩︎
Parece que o sentimento geral é que a GenAI está causando problemas ou tem o potencial de causar estragos nas comunidades, prejudicando a troca natural e a criatividade humana. Acho que na Discourse AI estamos tentando encontrar um equilíbrio, para que ela esteja lá apenas para aprimorar sua escrita, não para escrevê-la completamente por você.
@simon ótimo ponto sobre “usar IA” em recursos, certamente a marca por trás disso pode afastar algumas pessoas e, inversamente, fazer com que as pessoas apreciem a consciência de que estão interagindo com IA.
Executamos uma pequena comunidade criativa para fãs, criadores, autores e artistas de ficção interativa. Normalmente, não encontramos problemas em que as tarefas de moderação sejam excessivas, e nossos moderadores e muitos de nossa comunidade ficam felizes em responder a perguntas. Portanto, não usaríamos IA para “fazer trabalho de fórum”.
Embora frequentemente discutamos IA no contexto de “geração de texto” em relação aos jogos que criamos e muitas pessoas estejam interessadas nela, estabelecemos uma regra de que o conteúdo gerado por IA não pode ser postado em uma situação em que uma construção de IA esteja “fingindo” ser um usuário real do fórum e tentando enganar as pessoas em uma tentativa de passar no teste de Turing. Não queremos que nosso fórum seja usado como campo de testes para IA, nem que nosso conteúdo histórico desde 2006 seja usado como campo para extrair conteúdo de texto.
Se as pessoas postarem material gerado por IA, seja para seus próprios fins como assistente de escrita ou como demonstração para um jogo que estão construindo, pedimos que elas declarem o que é ou citem como uma fonte, pois tecnicamente não é material “delas”. Tivemos vários spammers que tentaram participar e aumentar os níveis de confiança ao (presumo eu) alimentar um tópico para uma IA como o ChatGPT e postar os resultados para que parecesse uma participação legítima no fórum. Como todo o nosso gênero de arte é criar uma obra de texto que “responde” à interação de um usuário (pense em aventuras de texto como Zork), a maioria das pessoas consegue identificar conteúdo gerado por máquina com bastante facilidade e sinalizá-lo.
Uma IA ou LLM não pode concordar com os Termos de Serviço e o Código de Conduta. Se por acaso ofender alguém, não há como moderar. Como esperamos que nossos usuários sejam transparentes sobre esse tipo de conteúdo, provavelmente seria hipócrita para nosso site usar qualquer tipo de geração de IA para conteúdo e respostas do fórum.
Também tivemos que acalmar uma guerra de discussões que ameaçou explodir porque muitos de nossos usuários são artistas gráficos que são muito sensíveis quanto ao roubo de suas obras online como material de origem para arte de IA, e um tópico sobre o uso de arte de IA em jogos rapidamente se transformou em ataques pessoais contra pessoas que estavam bem com isso. Portanto, a IA é um dos assuntos que temos que observar de perto para garantir que não seja discutida no contexto de plágio intencional.
TL;DR: A IA é um tópico sensível sobre o qual tivemos que criar regras, então provavelmente não deveríamos usá-la no contexto de um fórum povoado por muitos artistas e escritores.
Estamos enjoados da onda da IA, quando ela produz principalmente uma montanha de lixo e causa danos ambientais em troca. Mal posso esperar para a bolha estourar e todos ficarem obcecados com qualquer coisa estúpida que venha a seguir ou, melhor ainda, se concentrar em algo que seja realmente útil ou apenas melhorar a funcionalidade básica que todos estão ignorando ultimamente para enfiar lixo de IA em tudo porque todo mundo está fazendo o mesmo e é nisso que investidores perpetuamente ignorantes estão jogando dinheiro agora…
Provavelmente não é a resposta que você queria, mas essa é a verdade honesta.
As principais barreiras aqui são a navegação por restrições internas em ferramentas de terceiros e acesso a dados (para obter permissão para começar) e a falta de um método claro para estimar custos (uso de tokens, etc.), o que nos impede de obter aprovação de orçamento para começar a usar as novas ferramentas.
Eu adoraria começar a usar algumas delas, particularmente o relatório de análise de sentimento. Parece haver uma lacuna significativa entre a conscientização sobre as ferramentas e sua implementação, no entanto.
Há também preocupações periféricas em trazer ainda mais conteúdo de GenAI para nossa comunidade: é o tópico mais crítico que afeta os membros de nossa comunidade e seus meios de subsistência. Também vemos muitas novas contas de fórum postando resumos óbvios de IA de tópicos (e algumas tentativas bastante imprecisas de “responder” a perguntas de posts existentes), então nossos usuários já sentem que o elemento humano da comunidade está sendo afogado por ferramentas de IA, em vez de ser apoiado ou aumentado por elas.
Vejo muitos comentários focados em conteúdo gerado por IA. Falando em nome da nossa comunidade empresarial, gostaria de ver investimentos contínuos no lado administrativo do Discourse AI. Ou seja, ferramentas focadas em nos ajudar a demonstrar o valor da nossa comunidade para nossas equipes de liderança. Devido à nossa categorização e marcação (relativamente) limpas, usamos o Discourse AI com bastante sucesso em nossas revisões de negócios trimestrais para mostrar coisas como: “aqui está o sentimento deste subconjunto de usuários, nestas categorias, discutindo este produto, ao longo do tempo”.
Gerar gráficos disso e mostrar à nossa organização uma visão mais quantificável do valor da comunidade, vendo um indicador de tendência como este, gerou uma resposta incrível e investimento contínuo. Mais disso seria ótimo e nos levaria a aprofundar.
Sobre o bot de IA, gostaríamos muito de ver mais personalização na capacidade de intermediar a experiência do bot de IA. Temos requisitos rigorosos sobre como podemos abordar o envio de dados do usuário para serviços de IA e, como tal, construímos nosso próprio serviço AWS Lambda entre o Discourse e o AWS Bedrock. A capacidade de especificar o endpoint com o qual o bot funciona, juntamente com a documentação sobre o modelo de objeto, nos permitiria realizar plenamente o bot de IA existente em nossa comunidade. Por enquanto, construímos nossa própria experiência de bot usando Mensagens Privadas e webhooks para simular uma experiência de caixa por enquanto.
Qualquer coisa que você possa fazer para trazer a IA mais para a administração e moderação do Discourse seria o melhor investimento, da nossa perspectiva. Precisamos construir e apoiar esta comunidade de forma escalável para o negócio, e acredito que existem muitas oportunidades em torno do Discourse usando IA para viabilizar isso.
É uma pena não ter “tópicos relacionados” ativados em seu site e isso é 100% hospedado por nós (e já incluído em todos os planos), portanto, não há preocupações com dados, tokens ou preços.
Da mesma forma, hospedamos os modelos de sentimento internamente e ficaremos felizes em explorá-los com você. Eu permaneço um pouco cético em relação ao sentimento, pois estou tentando entender quais problemas específicos de exemplo isso resolve.
Também estamos explorando a execução de modelos abertos em nosso hardware, o Llama 3 é surpreendentemente capaz. É possível que possamos fornecer recursos como resumos com nossos próprios modelos a longo prazo, especialmente se conseguirmos que os modelos de 7B os façam com confiança.
Entendo sobre orçamentos, o Discourse AI já rastreia o uso de tokens por pessoa, pretendemos adicionar cotas ao plugin.
Isso está muito em nosso roteiro, estamos trabalhando nisso agora, a capacidade de apontar para uma URL e especificar o “dialeto” que ela fala.
) com resumos diários etc., afirmo que requer muito trabalho que não aumenta a receita, não importa se é contado em dólares ou felicidade. Não está diminuindo a carga de trabalho de administradores e desenvolvedores, está aumentando.