A maior parte do nosso conteúdo é orientada por vídeo. Nossa ideia era postar o vídeo (Vimeo) e, em seguida, inserir uma transcrição no corpo e ocultá-la usando o recurso de resumo.
Uma pergunta simples, como “por favor, forneça um resumo detalhado da última apresentação de George Gammon do Rebel Capitalist Live”, quebrou o bot.
“Infelizmente, os detalhes completos da transcrição de sua apresentação não estão disponíveis diretamente no breve trecho. No entanto, explorar o vídeo vinculado pode ser a melhor maneira de acessar o conteúdo abrangente de sua apresentação.”
Estou apenas curioso, existe uma maneira de fazer o bot realmente olhar a transcrição e resumi-la?
Notei que ele não está obtendo a transcrição completa, mas um breve trecho. Isso pode ser o problema?
Ei, obrigado por participar, Sam. Então, acho que deve ser algum tipo de problema de permissão. Sinto que já tentei de tudo com relação às permissões e ainda não consigo fazer o bot ler a thread que criei…
Meu prompt: "você pode acessar a thread e a transcrição nesta página?
“Olá, colega capitalista rebelde, espero que esteja bem! Parece que o tópico que você forneceu (Joseph Wang - 1º de junho de 2024) não foi encontrado ou pode não estar acessível neste momento. Se você tiver outros detalhes ou outro link, sinta-se à vontade para compartilhá-los comigo, e farei o meu melhor para ajudar!”
Não é um link público. Por algum motivo, às vezes os tópicos precisam ser everybody, às vezes não. E se um bot tentar usar o link completo, ele o fará como um… navegador da web. E talvez o login forçado seja um problema?
Não tenho certeza se você precisa contratar alguém aqui, farei o login e darei uma olhada se você estiver de acordo.
Pela captura de tela, posso ver que você não ativou a depuração.
O tópico de leitura funciona apenas em tópicos públicos, adicionei um interruptor para permitir a pesquisa de tópicos privados, farei o mesmo para a ferramenta de leitura.
Tenha em mente … IA hoje em dia é mais arte do que ciência, ela pode fazer muitas coisas, mas é um sistema imperfeito inerentemente.
Dado o bloqueio na captura de tela, o problema é que você está tentando acessar um tópico privado.
Farei isso mais tarde hoje, preciso finalizar um PR para permitir que a ferramenta (opcionalmente) leia o conteúdo no contexto da pessoa que fala com o bot.
Só para ter certeza absoluta. Um usuário significa, neste contexto, o usuário real que fez uma solicitação, e não aquele pseudo-usuário de IA que tenta responder? Quero dizer, ambos os usuários têm direitos de trustlevel.
Olá Sam, isso funciona muito melhor em relação às respostas. Obrigado, senhor!
Você sabe por que o bot adicionaria um /1 à postagem da apresentação de Wang, quebrando o link?
Também notei que ele quer te levar para o site de hospedagem de vídeos em vez da postagem, a menos que você seja específico. E o URL da postagem não funciona como mencionado acima. Eu vejo o que você quer dizer com ser mais uma arte.
Quando pedi para ele me mostrar onde posso assistir à última apresentação de Joseph Wang no Rebel Capitalist live.
Ele disse:
“Você pode assistir à apresentação de Joseph Wang no Rebel Capitalist Live seguindo este link: Joseph Wang - Rebel Capitalist Live Presentation. A postagem de Joseph Wang no fórum Rebel Capitalist Live pode ser encontrada aqui.”
Diferentes LLMs têm desempenho melhor ou pior… por exemplo, você tem GPT 3.5 (mais barato / pior)… GPT 4o (mais caro / melhor). Eu recomendaria que você reduzisse a variável indo para sua página de LLM e desativando GPT-4 e 3.5 turbo e tendo apenas 4o habilitado. https://forum.georgegammon.com/admin/plugins/discourse-ai/ai-llms
Os prompts do sistema são importantes. Se você quiser que o LLM se comporte de uma certa maneira, inclua alguns exemplos de “bom comportamento” no prompt do sistema.
Há também um aspecto de aleatoriedade que é difícil de controlar.
Por favor, tente novamente com GPT 4o e veja como você se sai.
Obrigado @sam, isso resolveu. Também adicionamos uma linha adicional ao prompt do sistema: “quando você recuperar um link, certifique-se de que seja um link para algum lugar dentro desta plataforma apenas.”
Acho que este bot acabou de tornar nosso serviço 10x mais valioso para nossos membros.