Tenho tentado colocar um resumo em um fluxo de trabalho funcional e algumas coisas que descobri:
Não há razão para não ter um resumo da primeira postagem, pois o resumo apenas evoluirá à medida que o tópico aumenta. Claro que essas atualizações são limitadas pelas configurações.
Ao trabalhar em um tópico, o resumo fica no topo da página, mas o usuário sempre será enviado para o final (última postagem, última postagem lida). Portanto, invariavelmente, o resumo nunca será lido por esses usuários. É uma coisa muito legal de se ter, mas suspeito que nunca seja vista, pois o usuário nunca / não terá motivo para rolar até o topo para ver o que o resumo diz, mesmo que seja útil. O resumo poderia ser posicionado na coluna da direita, abaixo da linha do sumário / data? Para que esteja sempre visível?
Exceto o custo e ter muita informação duplicada ao mesmo tempo ocupando espaço?
Certamente um resumo adiciona mais valor depois que as coisas realmente começaram e você tem vários posts, pelo menos?
De qualquer forma, suspeito que você possa definir seus limites como quiser aqui, e não precisa de nenhuma ação minha?
Você tem certeza de que os leitores existentes se darão ao trabalho de ler o resumo? Observo que o resumo é provavelmente mais valioso para novos leitores que verão o resumo primeiro e poderão usá-lo como um guia para ler mais adiante?
Esta é uma boa ideia, desde que a largura da apresentação seja suficiente para tornar a leitura confortável? Isso pode ser um desafio?
Minha solução experimental seria alavancar o Plugin Layouts e criar um widget compatível que possa aparecer à direita ou à esquerda de um Tópico (de fato, se adicionarmos suporte a Top, podemos colocá-lo lá também na localização original!).
Note que existem outras maneiras de lidar com isso:
adicionar um botão de mover para o topo (há um componente de tema). Você poderia até modificar isso para incluir um rótulo dizendo “ir para o resumo”?
Vou adicioná-lo ao roadmap de qualquer forma, mas me diga o que você pensa sobre o acima.
Concordo com o aspecto do custo, mas se fosse para ser usado como o ‘trecho alternativo’, um resumo teria que ser gerado. Não tenho certeza se consegui fazê-lo funcionar atualizando as configurações. Talvez eu tenha perdido alguma coisa, voltarei para verificar.
Ponto muito bom… Suponho que o tempo dirá. Mas se os usuários começarem a se acostumar com o resumo, vejo que com o tempo eles darão uma olhada rápida. Na verdade, se alguns usuários estiverem trabalhando em vários tópicos, acho que é um bom e rápido lembrete do que aconteceu. Talvez no futuro um usuário possa clicar para gerar um resumo do que aconteceu desde a última vez que esteve em um tópico específico? (Novamente, o custo permitindo a chamada da API)
Gosto dessa ideia, sim. Melhor do que o botão para ir ao topo, pois você precisa voltar para onde estava antes (que pode não ser a última postagem).
Exceto que acabei de ter um resumo criado que continha detalhes de uma postagem interna “Whisper”. Haveria alguma chance de essas postagens serem excluídas do que é enviado ao openai?
Obrigado por isso.
Tenho uma pergunta, no entanto: você está excluindo todas as postagens de administradores? Isso significa que é uma boa prática para um usuário administrador que posta ter 2 contas separadas, uma como administrador e outra para postar e interagir com a comunidade? No meu site, costumo postar em tópicos e gostaria que isso fosse incluído no resumo (sou um administrador do site).
Obrigado. Tentei instalar e iniciar este plugin, mas ao tentar deixar um comentário em algumas postagens retorna um erro HTTP 500. No production.log, vejo a mensagem:
StandardError (O comprimento máximo de contexto deste modelo é de 4097 tokens, no entanto, você solicitou 15682 tokens (15482 em seu prompt; 200 para a conclusão). Por favor, reduza seu prompt; ou o comprimento da conclusão.)
Com certeza, então… você precisa reduzir a quantidade que está resumindo usando as configurações.
Não acredito que seja um bug, você está simplesmente sendo ganancioso
Você precisa ajustar as configurações para corresponder à sua configuração. Há um limite de Postagem e um limite de Caracteres que você pode controlar. Um token geralmente tem 4 caracteres.
É possível que os padrões sejam um pouco generosos demais… mas eles são definidos para aproximar o limite de tokens, então isso é um pouco estranho.
@merefield pergunta rápida sobre o modelo de linguagem que você está usando para isso. Por que você não decidiu habilitar o gpt-3.5-turbo?
Temos testado o uso do gpt-3.5 para resumos de transcrições de e-mail e telefone e ele faz um ótimo trabalho. A mensagem de e-mail / transcrição em si colocamos no conteúdo do usuário.
Para transcrição de telefone, por exemplo, adicionamos o seguinte ao conteúdo do ‘sistema’
Identifique se esta transcrição é uma conversa telefônica ou se o chamador está deixando uma mensagem de voz.
Se for uma conversa telefônica, forneça um resumo da conversa telefônica e, em seguida, crie as seguintes seções com itens em tópicos
Acordos Feitos
Perguntas Levantadas
Possíveis inconsistências / preocupações
Pontuação de sentimento: (para cada participante)
Revisão do Líder de Equipe: (Por favor, sinalize se esta chamada deve ser revisada por um líder de equipe)
Se for uma mensagem de voz, forneça um título ‘Mensagem de voz deixada [para]’ e, em uma nova linha, resuma a mensagem de voz em uma frase
Porque ele foi otimizado para chat e, na época, a OpenAI ainda recomendava o Davinci 003 para sumarização. Ficarei feliz em revisar isso quando o material do GPT-4 estiver mais amplamente disponível.
Note que ChatGPT e Davinci-003 são da mesma geração, então não tenho certeza se há muita diferença entre eles em termos de resultados?
Aqui está uma coisa: duas vezes na semana passada, li algum tipo de contribuição e, no final, descobri que era de um LLM. Ambas as vezes me senti mal - eu havia investido em entender o sentido de algo, pensando que havia uma pessoa por trás das palavras.
Portanto, eu recomendaria (fortemente!) que a divulgação viesse antes do texto.
Obrigado pela resposta. Entendo que a funcionalidade pode estar no escopo no futuro.
Mas eu acabei de perguntar ao ChatGPT sobre o conteúdo de um link e ele respondeu (então está funcionando!) e todos poderiam usar essa forma mencionando e depois editando/excluindo posts.
