Integrando bots como o GPT3?

Dei uma olhada nisso brevemente por causa do meu envolvimento/interesse histórico com :robot:'s no espaço Discourse.

A autorização das chamadas de API para o ChatGPT baseado na web é atualmente bastante complexa (e irritante, forçando você a imitar um navegador web, por exemplo) e algumas soluções provisórias de wrapper de API de código aberto falharam desde então, pois eles apertaram isso.

Suspeito que, por enquanto, eles estão ativamente tentando dificultar a engenharia reversa das chamadas de API do site oficial e pode valer a pena esperar pela API oficial para um ChatGPT totalmente conversacional que certamente virá para evitar essa complexidade e qualquer abuso dos termos de serviço que você possa arriscar? Olhando para o Discourse da OpenAI (:+1: ), isso parece ser o pensamento de outros.

Mas vamos perguntar diretamente ao bot?:

Notando que já existe uma API oficial da OpenAI, mas ela não suporta conversas contínuas de maneira tão conveniente (você parece ter que enviar todo o histórico a cada vez em uma variável context! Isso é muito desperdício (e, em última análise, caro) para eu me preocupar no momento! :sweat_smile: ).

Espero que eles lancem uma API oficial com uma referência de conversa simples em algum momento em breve. Sem dúvida, haverá um preço anexado! :sweat_smile:

5 curtidas

@philip_rhoades ou qualquer outra pessoa aqui — você chegou a implementar um bot do Discourse com GPT-3?

Eu imagino bots para impulsionar a atividade da comunidade, que podem ser configurados para responder em diferentes estilos a comentários feitos por visitantes ou entre si. Você teria o tópico principal do fórum, o tópico da thread e a primeira postagem nele como entradas. O bot usaria a API para gerar algum texto e garantir que ele seja diferente o suficiente dos outros bots. Cada um discutiria um aspecto diferente da postagem original. Então, permitiria que a discussão humana acontecesse. Se ninguém responder em uma thread por uma semana, um bot pode ressuscitar essa thread respondendo novamente, desta vez a uma das postagens anteriores.

Os bots não serão realmente capazes de vincular a artigos externos, mas isso está chegando, pode ser um processo diferente para fazer isso.

Para ser ético, cada bot precisaria de um perfil que diga que é um bot alimentado por GPT-3.

Alguém interessado em escrever um plugin do Discourse para fazer isso? Eu pagaria por isso de nossa empresa. Quando se trata de IA, esta é uma área onde preferimos NÃO abrir coisas de código por medo de sermos abusados (embora seja bastante trivial para outra pessoa fazer isso e abrir o código).

Existem plugins do Discourse que facilitam a criação de contas sintéticas que usam cron para postar? Como eles funcionam?

4 curtidas

Eu definitivamente estaria interessado, mas sugiro uma pausa se você quiser um bot conversacional até que eles forneçam a API conversacional oficial completa (qualquer solução improvisada provavelmente quebrará os Termos e Condições)

Se você não se importar com uma solução simples de chamada e resposta única, o trabalho definitivamente poderia começar em breve. Sinta-se à vontade para me enviar uma mensagem privada.

4 curtidas

Certo, na verdade eu nem quero o ChatGPT. Apenas o GPT-3. Há algo contra os termos de serviço em relação ao que sugeri… não seria interativo, mas apenas uma postagem a cada poucos dias por cada bot. Não é “astroturfing”, já que os bots estão apenas em nosso fórum e estão claramente rotulados em seus perfis:

https://www.technologyreview.com/2020/10/08/1009845/a-gpt-3-bot-posted-comments-on-reddit-for-a-week-and-no-one-noticed/amp/

1 curtida

Para ser claro, você pode torná-lo um pouco interativo, mas atualmente é bastante difícil de gerenciar.

A API atual de IA aberta para GPT3 provavelmente seria suficiente para esse caso de uso, em qualquer situação.

Não tenho certeza de como instruiríamos o bot a instruir (talvez um trabalho de algum tipo), mas vamos discutir, definitivamente interessado, sinta-se à vontade para me enviar uma mensagem direta aqui.

1 curtida

Espere, como acontece muitas vezes quando começo a escrever, acabei de perceber algo! Como não queremos que outros proprietários de fóruns copiem ou revendam o código neste caso, podemos simplesmente desenvolver um serviço de código fechado que cria contas no discourse e preenche seus perfis, e então posta periodicamente como essas contas! O discourse tem algum tipo de lista de permissões para contas para evitar que sejam banidas secretamente por virem todas do mesmo endereço IP ou algo assim?

1 curtida

Você está propondo um bot que se registraria em instâncias de Discourse de terceiros (que você não possui) e se passaria por um usuário real?

1 curtida

Olá @merefield e @EGreg,

Também estou interessado em uma integração GPT usando a API de IA.

É uma ideia nos unirmos e vermos se podemos criar algo assim para a comunidade Meta? Estou disposto a participar financeiramente.

1 curtida

Ok … me envie um e-mail

greg

no domínio

qbix.com

3 curtidas

O preço do GPT-3 pode ser caro, minha comunidade conseguiu consumir US$ 2,00 em créditos em 15 minutos usando um bot do Chat GPT.

1 curtida

FYI

Isto não é uma recomendação; apenas estou indicando um site relacionado a transformers, o T de GPT (Generative Pre-trained Transformer), que vale a pena conferir. :slightly_smiling_face:

Embora eu entenda os conceitos de redes neurais, transformers e GPT, pessoalmente não tenho os recursos para treiná-los ainda devido ao alto custo, mas me mantenho atualizado sobre eles. Também estou ciente do que considero alguns de seus calcanhares de Aquiles [1]. Não entenda isso como se eu não gostasse deles, apenas sinto que, “de fábrica”, eles não estão prontos para o uso principal, como eu preciso.

[1] Perguntas de 1994 do Dr. Vaughan Pratt para Avaliar Cyc, Feitas ao ChatGPT (ref )

3 curtidas

Enviei um e-mail para você, mas ainda não recebi nenhuma resposta?

Para sua informação

Dos tutoriais da OpenAI

Q&A de Sites com Embeddings

Aprenda a criar uma IA que pode responder perguntas sobre seu site

Este tutorial detalha um exemplo simples de rastreamento de um site (neste exemplo, o site da OpenAI), transformação das páginas rastreadas em embeddings usando a API de Embeddings e, em seguida, criação de uma funcionalidade de busca básica que permite a um usuário fazer perguntas sobre as informações incorporadas. Isso se destina a ser um ponto de partida para aplicativos mais sofisticados que utilizam bases de conhecimento personalizadas.


A OpenAI tem um fórum no Discourse!!! que não é tão fácil de encontrar.

Eles facilitam a localização do site do Discord, mas eu os evito como a praga.

Especialmente se você não leu meu post :wink:

1 curtida

Aqui está uma ótima implementação de um bot GPT capaz de usar todo o contexto do site, construído sobre o Supabase (código aberto):

Suspeito que Discourse e Supabase seriam um ótimo alinhamento aqui. Um plugin que realiza embeddings de fóruns usando a abordagem do vídeo acima e, em seguida, cria um usuário baseado nisso seria incrível.

Eu certamente estaria interessado. Mas, infelizmente, acho que se não estiver no espaço de código aberto, estaremos perdendo nosso tempo e esforço, pois o plugin mais mantido acabará sendo o de código aberto. E se você criar e usar uma versão de código fechado, ficará preso a um fardo de manutenção.

Se ambos estiverem dispostos a participar financeiramente, estou em posição de tornar isso realidade. E bem em breve, se desejado. Mas precisaria ser sob a licença Apache-2.0.

Também suspeito que isso ajudaria seriamente a empresa Discourse se um plugin como este pudesse ser um plugin oficial. Isso é algo em que a empresa Discourse estaria interessada?


Eu poderia conseguir uma bolsa de financiamento correspondente do governo onde moro para apoiar a criação disso. Se você estiver interessado em participar financeiramente, me avise. Terei prazer em gerenciar a infraestrutura de hospedagem, e qualquer pessoa que contribuir financeiramente no início para a criação do plugin poderá ter um desconto significativo na solução hospedada perfeita que indexa seu fórum e cria bots GPT inteligentes para seu Discourse.

3 curtidas

Simon,

Tentei responder ao e-mail do Discourse, mas recebi um erro de servidor (que investigarei separadamente), mas foi o que eu disse:

"Enviei uma nota para o cara perguntando se ele poderia ajudar com meu caso de uso aqui:

https://forum.phirho.org

  • seria bom se ele pudesse ajudar. .

Phil."

Isso é muito interessante, obrigado por compartilhar!

Ei, algumas boas notícias sobre nossa equipe aqui na Discourse.

Para o próximo ciclo de lançamento, nós da Discourse elegemos a IA como uma de nossas prioridades para novos recursos e plugins. Isso significa que agora temos uma equipe dedicada trabalhando em recursos como integração de LLM e apresentaremos esses em breve aqui no Meta.

18 curtidas

Excelente notícia! - então, se vocês pudessem adicionar uma memória persistente para conversas anteriores. .

5 curtidas

Essa é uma ótima notícia! :slight_smile: Obrigado pelo aviso, eu realmente não quero reinventar a roda quando vocês vão construir algo incrível :slight_smile:.

Abraços,
Simon

3 curtidas

Parece uma decisão inteligente. Aprendi rapidamente, utilizando o ChatGPT e recebendo feedback de usuários sem conhecimento técnico, que eles não estão familiarizados com o conceito de engenharia de prompt. Sendo assim, gostaria de compartilhar este recurso:

Se estiverem buscando indivíduos para testar e fornecer feedback sobre os lançamentos iniciais, por favor, incluam-me e ficarei feliz em ajudar se estiver disponível.

2 curtidas