Dei uma olhada nisso brevemente por causa do meu envolvimento/interesse histórico com 's no espaço Discourse.
A autorização das chamadas de API para o ChatGPT baseado na web é atualmente bastante complexa (e irritante, forçando você a imitar um navegador web, por exemplo) e algumas soluções provisórias de wrapper de API de código aberto falharam desde então, pois eles apertaram isso.
Suspeito que, por enquanto, eles estão ativamente tentando dificultar a engenharia reversa das chamadas de API do site oficial e pode valer a pena esperar pela API oficial para um ChatGPT totalmente conversacional que certamente virá para evitar essa complexidade e qualquer abuso dos termos de serviço que você possa arriscar? Olhando para o Discourse da OpenAI ( ), isso parece ser o pensamento de outros.
Notando que já existe uma API oficial da OpenAI, mas ela não suporta conversas contínuas de maneira tão conveniente (você parece ter que enviar todo o histórico a cada vez em uma variável context! Isso é muito desperdício (e, em última análise, caro) para eu me preocupar no momento! ).
@philip_rhoades ou qualquer outra pessoa aqui — você chegou a implementar um bot do Discourse com GPT-3?
Eu imagino bots para impulsionar a atividade da comunidade, que podem ser configurados para responder em diferentes estilos a comentários feitos por visitantes ou entre si. Você teria o tópico principal do fórum, o tópico da thread e a primeira postagem nele como entradas. O bot usaria a API para gerar algum texto e garantir que ele seja diferente o suficiente dos outros bots. Cada um discutiria um aspecto diferente da postagem original. Então, permitiria que a discussão humana acontecesse. Se ninguém responder em uma thread por uma semana, um bot pode ressuscitar essa thread respondendo novamente, desta vez a uma das postagens anteriores.
Os bots não serão realmente capazes de vincular a artigos externos, mas isso está chegando, pode ser um processo diferente para fazer isso.
Para ser ético, cada bot precisaria de um perfil que diga que é um bot alimentado por GPT-3.
Alguém interessado em escrever um plugin do Discourse para fazer isso? Eu pagaria por isso de nossa empresa. Quando se trata de IA, esta é uma área onde preferimos NÃO abrir coisas de código por medo de sermos abusados (embora seja bastante trivial para outra pessoa fazer isso e abrir o código).
Existem plugins do Discourse que facilitam a criação de contas sintéticas que usam cron para postar? Como eles funcionam?
Eu definitivamente estaria interessado, mas sugiro uma pausa se você quiser um bot conversacional até que eles forneçam a API conversacional oficial completa (qualquer solução improvisada provavelmente quebrará os Termos e Condições)
Se você não se importar com uma solução simples de chamada e resposta única, o trabalho definitivamente poderia começar em breve. Sinta-se à vontade para me enviar uma mensagem privada.
Certo, na verdade eu nem quero o ChatGPT. Apenas o GPT-3. Há algo contra os termos de serviço em relação ao que sugeri… não seria interativo, mas apenas uma postagem a cada poucos dias por cada bot. Não é “astroturfing”, já que os bots estão apenas em nosso fórum e estão claramente rotulados em seus perfis:
Para ser claro, você pode torná-lo um pouco interativo, mas atualmente é bastante difícil de gerenciar.
A API atual de IA aberta para GPT3 provavelmente seria suficiente para esse caso de uso, em qualquer situação.
Não tenho certeza de como instruiríamos o bot a instruir (talvez um trabalho de algum tipo), mas vamos discutir, definitivamente interessado, sinta-se à vontade para me enviar uma mensagem direta aqui.
Espere, como acontece muitas vezes quando começo a escrever, acabei de perceber algo! Como não queremos que outros proprietários de fóruns copiem ou revendam o código neste caso, podemos simplesmente desenvolver um serviço de código fechado que cria contas no discourse e preenche seus perfis, e então posta periodicamente como essas contas! O discourse tem algum tipo de lista de permissões para contas para evitar que sejam banidas secretamente por virem todas do mesmo endereço IP ou algo assim?
Isto não é uma recomendação; apenas estou indicando um site relacionado a transformers, o T de GPT (Generative Pre-trained Transformer), que vale a pena conferir.
Embora eu entenda os conceitos de redes neurais, transformers e GPT, pessoalmente não tenho os recursos para treiná-los ainda devido ao alto custo, mas me mantenho atualizado sobre eles. Também estou ciente do que considero alguns de seus calcanhares de Aquiles [1]. Não entenda isso como se eu não gostasse deles, apenas sinto que, “de fábrica”, eles não estão prontos para o uso principal, como eu preciso.
[1] Perguntas de 1994 do Dr. Vaughan Pratt para Avaliar Cyc, Feitas ao ChatGPT (ref )
Aprenda a criar uma IA que pode responder perguntas sobre seu site
Este tutorial detalha um exemplo simples de rastreamento de um site (neste exemplo, o site da OpenAI), transformação das páginas rastreadas em embeddings usando a API de Embeddings e, em seguida, criação de uma funcionalidade de busca básica que permite a um usuário fazer perguntas sobre as informações incorporadas. Isso se destina a ser um ponto de partida para aplicativos mais sofisticados que utilizam bases de conhecimento personalizadas.
Aqui está uma ótima implementação de um bot GPT capaz de usar todo o contexto do site, construído sobre o Supabase (código aberto):
Suspeito que Discourse e Supabase seriam um ótimo alinhamento aqui. Um plugin que realiza embeddings de fóruns usando a abordagem do vídeo acima e, em seguida, cria um usuário baseado nisso seria incrível.
Eu certamente estaria interessado. Mas, infelizmente, acho que se não estiver no espaço de código aberto, estaremos perdendo nosso tempo e esforço, pois o plugin mais mantido acabará sendo o de código aberto. E se você criar e usar uma versão de código fechado, ficará preso a um fardo de manutenção.
Se ambos estiverem dispostos a participar financeiramente, estou em posição de tornar isso realidade. E bem em breve, se desejado. Mas precisaria ser sob a licença Apache-2.0.
Também suspeito que isso ajudaria seriamente a empresa Discourse se um plugin como este pudesse ser um plugin oficial. Isso é algo em que a empresa Discourse estaria interessada?
Eu poderia conseguir uma bolsa de financiamento correspondente do governo onde moro para apoiar a criação disso. Se você estiver interessado em participar financeiramente, me avise. Terei prazer em gerenciar a infraestrutura de hospedagem, e qualquer pessoa que contribuir financeiramente no início para a criação do plugin poderá ter um desconto significativo na solução hospedada perfeita que indexa seu fórum e cria bots GPT inteligentes para seu Discourse.
Isso é muito interessante, obrigado por compartilhar!
Ei, algumas boas notícias sobre nossa equipe aqui na Discourse.
Para o próximo ciclo de lançamento, nós da Discourse elegemos a IA como uma de nossas prioridades para novos recursos e plugins. Isso significa que agora temos uma equipe dedicada trabalhando em recursos como integração de LLM e apresentaremos esses em breve aqui no Meta.
Parece uma decisão inteligente. Aprendi rapidamente, utilizando o ChatGPT e recebendo feedback de usuários sem conhecimento técnico, que eles não estão familiarizados com o conceito de engenharia de prompt. Sendo assim, gostaria de compartilhar este recurso:
Se estiverem buscando indivíduos para testar e fornecer feedback sobre os lançamentos iniciais, por favor, incluam-me e ficarei feliz em ajudar se estiver disponível.