# Integrando bots como o GPT3?
**URL:** https://meta.discourse.org/t/integrating-gpt3-like-bots/242665
**Category:** Development
**Created:** [Outubro 22, 2022, 11:45am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665 "2022-10-22T11:45:49Z")
**Posts on this page:** 20
**Page:** 3
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [Fevereiro 11, 2023, 9:01pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/45 "2023-02-11T21:01:07Z")
Isso seria maravilhoso, pois nosso primeiro período da equipe dedicada de IA é coletar e catalogar ideias sobre possíveis recursos.
---
### Author:  [@SimonBiggs](https://meta.discourse.org/u/SimonBiggs)
#### Post date: [Fevereiro 12, 2023, 9:14am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/46 "2023-02-12T09:14:40Z")
> Descobri o que o bot faria, mas não precisa ser um plugin real para o Discourse. Ele só precisa rodar de vez em quando como um cron, e então postar comentários e respostas usando a API do Discourse. O que você acha?
Isso certamente faz sentido. No entanto, eu pessoalmente só gostaria de criar ferramentas de IA de código aberto. E, dado que o próprio Discourse está planejando criar uma ferramenta, eu gostaria de ajudá-los em vez disso, idealmente.
---
### Author:  [@MaxZieb](https://meta.discourse.org/u/MaxZieb)
#### Post date: [Fevereiro 12, 2023, 4:06pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/47 "2023-02-12T16:06:23Z")
## Proposta de um Bot de Respostas com Categorização Agendada e Ajuste Fino para Fóruns Discourse
**Introdução:** Fóruns Discourse dependem do engajamento e das contribuições dos usuários, e um aspecto crucial disso é a capacidade de obter respostas oportunas e precisas para as perguntas. No entanto, às vezes pode levar um tempo para obter uma resposta, desencorajando os usuários a continuar participando da conversa. Para resolver isso, propomos um bot que possa responder automaticamente às perguntas após um período específico para incentivar o engajamento da comunidade. Além disso, o bot alocará chamadas agendadas para categorizar threads existentes e construir seu próprio conjunto de dados de ajuste fino, que pode ser atualizado de tempos em tempos.
**Objetivos:** Os principais objetivos do bot de respostas com categorização agendada e ajuste fino para fóruns Discourse são:
1. Incentivar o engajamento da comunidade, fornecendo respostas oportunas e precisas para perguntas que, de outra forma, poderiam permanecer sem resposta.
2. Automatizar a categorização de threads existentes para garantir que as perguntas sejam corretamente marcadas e que os usuários possam encontrar facilmente informações relevantes.
3. Construir um conjunto de dados de ajuste fino para o bot, a fim de melhorar seu desempenho e precisão ao longo do tempo.
**Solução Proposta:** Para atingir os objetivos descritos acima, propomos a integração de um bot que possa responder automaticamente às perguntas após um período específico, alocar chamadas agendadas para categorizar threads existentes e construir seu conjunto de dados de ajuste fino. O bot será projetado para analisar a entrada do usuário, entender o contexto da conversa e gerar respostas apropriadas com base em regras predefinidas e modelos de aprendizado de máquina.
O bot usará técnicas de processamento de linguagem natural (PNL) para analisar a entrada do usuário e gerar respostas relevantes para a conversa. Ele será treinado para entender o contexto da pergunta, o tópico em discussão e as interações anteriores do usuário para fornecer respostas precisas e úteis. O bot responderá apenas a perguntas que não foram respondidas dentro de um período específico ou quando convocado diretamente por um nome de usuário.
Além de responder a perguntas, o bot alocará chamadas agendadas para categorizar threads existentes. Ele analisará o conteúdo e as tags da thread para garantir que as perguntas sejam corretamente marcadas e organizadas para facilitar a navegação. O bot também construirá seu conjunto de dados de ajuste fino registrando e categorizando as consultas e respostas dos usuários. Esse conjunto de dados será usado para treinar e melhorar o desempenho do bot ao longo do tempo.
**Benefícios:** Os benefícios de integrar um bot de respostas com categorização agendada e ajuste fino para fóruns Discourse são numerosos, incluindo:
1. Incentivo ao engajamento da comunidade: O bot fornecerá respostas oportunas e precisas às perguntas, incentivando os usuários a continuar participando da conversa.
2. Melhor categorização de threads: O bot automatizará a categorização de threads, garantindo que as perguntas sejam corretamente marcadas e organizadas para facilitar a navegação.
3. Melhoria na precisão e desempenho: O conjunto de dados de ajuste fino do bot será usado para treinar e melhorar seu desempenho ao longo do tempo.
4. Redução da carga de trabalho para moderadores humanos: O bot reduzirá a carga de trabalho dos moderadores humanos, automatizando a categorização de threads e respondendo a perguntas que, de outra forma, ficariam sem resposta.
**Conclusão:** A integração de um bot de respostas com categorização agendada e ajuste fino para fóruns Discourse é um investimento valioso que pode ajudar a incentivar o engajamento da comunidade, automatizar tarefas de categorização e melhorar a precisão e o desempenho do bot ao longo do tempo. Recomendamos explorar os modelos de PNL e aprendizado de máquina disponíveis para selecionar aquele que melhor atende às necessidades do fórum Discourse. O processo de integração deve ser planejado e executado cuidadosamente, com testes e treinamento adequados para garantir que o bot funcione conforme o esperado.
---
### Author:  [@philip\_rhoades](https://meta.discourse.org/u/philip_rhoades)
#### Post date: [Fevereiro 12, 2023, 5:40pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/48 "2023-02-12T17:40:41Z")
Este é um ótimo começo, mas infelizmente, como o OP, ainda não atinge o que eu disse que estava procurando no início. No entanto, depois de observar essa área por muitos anos, a menos que eu ganhe na loteria, não conseguirei exatamente o que quero tentando pagar por isso sozinho. Para reiterar, preciso de um bot que não só faça o que você descreve acima, mas também tenha uma memória persistente para discussões anteriores com indivíduos - assim como um humano tem. Como não vou conseguir exatamente o que quero tão cedo, mas o próprio Discourse + a proposta em desenvolvimento para um Bot de IA do Discourse farão MUITO do que eu quero, talvez eu deva colocar todos os meus esforços em ajudar o máximo que puder com esse projeto enquanto continuo a investigar memórias persistentes usando Teoria dos Grafos e outras coisas - que poderiam ser adicionadas mais tarde?
---
### Author:  [@SimonBiggs](https://meta.discourse.org/u/SimonBiggs)
#### Post date: [Fevereiro 14, 2023, 11:23pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/49 "2023-02-14T23:23:39Z")
> [@philip\_rhoades](#):
>
> Para reiterar, preciso de um bot que possa não apenas fazer o que você descreve acima, mas também tenha uma memória persistente para discussões anteriores com indivíduos - assim como um humano tem.
Se a implementação/propostas do Discourse não atenderem às suas necessidades, e você estiver disposto a financiar o desenvolvimento de software de IA de código aberto (Apache-2.0, que o próprio Discourse então ficaria livre para reutilizar), ficarei mais do que feliz em configurar para você um bot de IA para Discourse que tenha memória.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [Fevereiro 15, 2023, 1:33am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/50 "2023-02-15T01:33:15Z")
Tudo aqui vai depender do modelo. Vejo muito interesse geral, mas ninguém sugeriu qual modelo usar e ninguém provou que o modelo pode fazer algo remotamente útil.
Mesmo obter boas coisas do OPT é difícil e o Facebook adicionou um bom número de parâmetros. Minha preocupação geral aqui (também para a indústria em geral) é que no espaço aberto não há nada remotamente próximo ao GPT 3 devinci, e o GPT 4 está no horizonte e tornará ainda mais difícil competir.
---
### Author:  [@SimonBiggs](https://meta.discourse.org/u/SimonBiggs)
#### Post date: [Fevereiro 15, 2023, 1:55am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/51 "2023-02-15T01:55:56Z")
> [@sam](#):
>
> mas ninguém sugeriu qual modelo usar e ninguém provou que o modelo pode fazer algo remotamente útil.
No post seguinte acima, tanto um modelo quanto a utilidade são detalhados:
> [@Integrating GPT3-like bots?](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/35?u=simonbiggs):
>
> Here is a great implementation of a GPT bot that is able to use the entire website context built ontop of supabase (open source): [[ClippyGPT - How I Built Supabase’s OpenAI Doc Search (Embeddings)] ](https://www.youtube.com/watch?v=Yhtjd7yGGGA) I suspect, Discourse and supabase would be a great alignment here. A plugin that undergoes forum embeddings using the approach in that video above, and then creates a user backed by that would be amazing. I would certainly be interested. But unfortunately, I think if it’s not in the ope…
O processo é Supabase + OpenAI GPT API. Atualmente, GPT 3.5 + OpenAI embeddings é suficiente para realizar muitas das tarefas desejadas hoje de um bot Discourse.
A API GPT não é de código aberto. Mas é uma API. E quando um modelo de código aberto alcançar (como [GitHub - LAION-AI/Open-Assistant: OpenAssistant is a chat-based assistant that understands tasks, can interact with third-party systems, and retrieve information dynamically to do so.](https://github.com/LAION-AI/Open-Assistant)), ele pode ser substituído em seu lugar.
> [@sam](#):
>
> Minha preocupação geral aqui (também para a indústria em geral) é que no espaço aberto não há nada nem remotamente próximo ao GPT 3 devinci, e o GPT 4 está no horizonte e tornará ainda mais difícil competir.
Concordo plenamente. É por isso que, por enquanto, o GPT 3.5 seria usado internamente até que uma alternativa melhor estivesse disponível.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [Fevereiro 15, 2023, 5:30am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/52 "2023-02-15T05:30:03Z")
Minha grande preocupação aqui é a atribuição, especialmente quando um corpus é enorme como um fórum Discourse e tantos dos dados usados para treinar o bot podem estar desatualizados.
Existem algumas grandes questões fundamentais com essa abordagem ClippyGPT. Você não pode substituir a pesquisa por algo que não fornece links de volta para o conteúdo. Treinar isso também seria uma tarefa monstruosa.
---
### Author:  [@philip\_rhoades](https://meta.discourse.org/u/philip_rhoades)
#### Post date: [Fevereiro 17, 2023, 5:36am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/53 "2023-02-17T05:36:51Z")
> [@SimonBiggs](#):
>
> Se as implementações/propostas do Discourse não atenderem às suas necessidades e você estiver disposto a financiar o desenvolvimento de software de IA de código aberto (Apache-2.0, que o próprio Discourse ficaria livre para reutilizar), ficaria muito feliz em configurar para você um bot de IA para Discourse que tenha memória.
Provavelmente é melhor te enviar uma mensagem privada para uma discussão melhor sobre os detalhes dessa ideia. .
---
### Author:  [@SimonBiggs](https://meta.discourse.org/u/SimonBiggs)
#### Post date: [Fevereiro 17, 2023, 5:52am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/54 "2023-02-17T05:52:19Z")
Olá Phil,
Eu também estou no fuso horário de Sydney (Wagga Wagga). Meu endereço de e-mail é [me@simonbiggs.net](mailto:me@simonbiggs.net). Vamos organizar um horário para fazer uma videochamada?
Abraços,
Simon
---
### Author:  [@philip\_rhoades](https://meta.discourse.org/u/philip_rhoades)
#### Post date: [Fevereiro 17, 2023, 6:07am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/55 "2023-02-17T06:07:25Z")
Nossa! - Mudei de Sydney para Cowra em 2015! - Passei perto de você há alguns dias indo e voltando de Holbrook!
Você estará por aí pelo resto do dia?
---
### Author:  [@Decorbuz](https://meta.discourse.org/u/Decorbuz)
#### Post date: [Fevereiro 18, 2023, 5:11pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/56 "2023-02-18T17:11:30Z")
[Falando de Sydney… 😉](https://www.theverge.com/23599441/microsoft-bing-ai-sydney-secret-rules)
Estou surpreso que ninguém tenha mencionado o “novo” Bing ainda. Acho que é um ótimo exemplo do que poderia ser implementado no Discourse.
> **[Reinventing search with a new AI-powered Microsoft Bing and Edge, your...](https://blogs.microsoft.com/blog/2023/02/07/reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web/)**
>
> To empower people to unlock the joy of discovery, feel the wonder of creation and better harness the world’s knowledge, today we’re improving how the world benefits from the web by reinventing the tools billions of people use every day, the search...
https://www.youtube.com/embed/CJUOBQtceiQ?feature=oembed&wmode=opaque
---
### Author:  [@WorldIsMine](https://meta.discourse.org/u/WorldIsMine)
#### Post date: [Fevereiro 21, 2023, 10:00am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/57 "2023-02-21T10:00:22Z")
> [@RGJ](#):
>
> Sim, esse seria um experimento divertido.
> Também tenho pensado na capacidade de conectar algo como o DialogFlow ao plugin de Chat.
>
> Não tenho tempo dedicado imediato para isso, mas adoraria pensar junto e experimentar um pouco com algumas pessoas com ideias semelhantes.
Disposto a dar algum apoio financeiro para isso 🙂
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [Fevereiro 23, 2023, 12:05pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/58 "2023-02-23T12:05:10Z")
Portanto, meu plugin pode usar o GPT3 (por padrão: “text-davinci-003”, mas você pode escolher o modelo) para resumir Tópicos:
> [@Summarising topics with an LLM (GPT, BERT, ...)?](https://meta.discourse.org/t/summarising-topics-with-an-llm-gpt-bert/254951/5?u=merefield):
>
> So I couldn’t help myself from having a go today: It’s very experimental and there are very few safeguards for when things go wrong atm, so it’s definitely not for professional use(!!) Note due to token limits it can only currently take the first ~40 Posts into account (based one of my forums activity). Has a downvoting system. UI preview: (btw, this example is based on the rather random data in the development fixtures, it performs much better on real data). Btw, I “spent” $0.…
Eu já testei (inclusive em Produção) e estou bastante impressionado com os resultados até agora. Eu iria tão longe a ponto de dizer que às vezes é “sublime”.
No entanto, embora muitas vezes retorne resumos relevantes, sintaticamente corretos e convincentes, ele é propenso a imprecisões factuais que podem ser altamente enganosas e prejudicar sua utilidade. Tanto potencial aqui, no entanto!
Note que o plugin ainda é muito experimental, mas agora parece estável. Os resultados variarão, mas existem várias configurações de qualidade de vida para melhorar seus resultados, incluindo um mecanismo de desaprovação com uma configuração de limite que solicitará ao sistema que recupere um novo resumo do LLM.
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [Fevereiro 24, 2023, 3:08pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/59 "2023-02-24T15:08:23Z")
Isso também está indo muito bem:
---
### Author:  [@alefattorini](https://meta.discourse.org/u/alefattorini)
#### Post date: [Fevereiro 25, 2023, 1:50pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/60 "2023-02-25T13:50:01Z")
Eu acho que o ChatGPT seria ótimo para FAQs e documentação. Dê uma olhada neste estudo de Richard Millington
> **[ChatGPT vs. Superusers – What Our Data Showed | FeverBee](https://www.feverbee.com/chat-gpt-in-communities/?utm_source=pocket_mylist)**
>
> Should you be using ChatGPT in your community? Read more to find out...
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [Fevereiro 28, 2023, 3:08am UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/61 "2023-02-28T03:08:48Z")
> [@alefattorini](#):
>
> Eu acho que o ChatGPT seria ótimo para FAQs e documentação.
O ChatGPT não tem suporte para fine-tuning (nem tem uma API para isso, até hoje).
Eu acho que seria interessante treinar um modelo baseado em GPT (seja fazendo fine-tuning do GPT-3 ou usando outra coisa) em um corpus de um site Discourse para ver o quão bem o capitão salada de palavras se sai depois de treinado nos dados e ensinado a responder. Com a ressalva clara de que “lixo entra, lixo sai”.
Experimentos certamente acontecerão, e os modelos GPT mentirosos e excessivamente confiantes melhorarão com o tempo (tanto devido a melhores dados quanto a algoritmos de mitigação que, de alguma forma, verificam fatos).
A postagem de Richard é certamente interessante, mas o ChatGPT ainda não está pronto para a tarefa:
Comparado, por exemplo, com o Bing, que faz fine-tuning com base em resultados de pesquisa que são bastante recentes.
---
### Author:  [@guidoleenders](https://meta.discourse.org/u/guidoleenders)
#### Post date: [Março 21, 2023, 10:26pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/62 "2023-03-21T22:26:09Z")
Algo semelhante parece ter sido lançado em [Goodspeed I Bubble Buddy I Bubble FAQs](https://goodspeed.studio/bubble-buddy)
Não tenho certeza se o conteúdo de [https://forum.bubble.io/](https://forum.bubble.io/) também é usado como semente.
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Março 23, 2023, 6:52pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/63 "2023-03-23T18:52:21Z")
Se o OP não achar que esta resposta está no tópico, me avise para que eu possa movê-la.
* * *
> [@Falco](#):
>
> Isso seria maravilhoso, pois nosso primeiro período da equipe dedicada de IA é coletar e catalogar ideias sobre possíveis recursos.
* * *
A OpenAI acabou de anunciar os Plugins do ChatGPT.
[Plugins do ChatGPT chegaram!](https://community.openai.com/t/chatgpt-plugins-are-here/115731)
Lendo a documentação, encontrei o exemplo mais extenso
> **[GitHub - openai/chatgpt-retrieval-plugin: The ChatGPT Retrieval Plugin lets you easily find...](https://github.com/openai/chatgpt-retrieval-plugin)**
>
> The ChatGPT Retrieval Plugin lets you easily find personal or work documents by asking questions in natural language.
que observa
> Este é um plugin para ChatGPT que permite a busca e recuperação semântica de documentos pessoais ou organizacionais. Ele permite que os usuários obtenham os trechos de documentos mais relevantes de suas fontes de dados, como arquivos, notas ou e-mails, fazendo perguntas ou expressando necessidades em linguagem natural. As empresas podem disponibilizar seus documentos internos para seus funcionários por meio do ChatGPT usando este plugin.
Sendo um usuário regular de vários sites do Discourse, seria bom poder simplesmente fazer uma pergunta em linguagem natural ao ChatGPT e, em seguida, ele poderia, através de um plugin a ser criado, pesquisar todos esses sites do Discourse para mim e criar uma boa resposta.
Isso é mais uma ideia, mas vale a pena mencionar.
* * *
**EDIT**
Outro plugin do ChatGPT que existe atualmente. (Observado para aqueles que tentam entender o que um [plugin](https://en.wikipedia.org/wiki/Plug-in_(computing)) pode fazer, eu sei que para programadores isso é senso comum, mas para não programadores é como falar grego, então espero que isso lhes dê uma melhor compreensão 🙂 )
> **[ChatGPT Gets Its “Wolfram Superpowers”!](https://writings.stephenwolfram.com/2023/03/chatgpt-gets-its-wolfram-superpowers/)**
>
> Wolfram plugin gives computationally accurate answers to ChatGPT queries using Wolfram's data knowledgebase and language. Custom visualizations are given as well. Stephen Wolfram explains how it works.
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Abril 6, 2023, 12:51pm UTC](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665/64 "2023-04-06T12:51:29Z")
Para sua informação
> **[Chrome ships WebGPU | Blog | Chrome for Developers](https://developer.chrome.com/blog/webgpu-release/)**
>
> The Chrome team ships WebGPU, which allows high-performance 3D graphics and data-parallel computation on the web.
[Página anterior](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665.md?page=2)
[Próxima página](https://meta.discourse.org/t/integrating-gpt3-like-bots/242665.md?page=4)