Adicione mais suporte de idiomas para resumos de IA

Há um pequeno problema, o recurso de sumarização funciona muito bem, mas gera resumos em inglês. No entanto, o site é em turco. Gostaria de saber se o mesmo erro existe em diferentes idiomas do site ou se haverá melhorias. Temos a opção de alterar o prompt aplicado ao OpenAI nas configurações?

E obrigado por tudo..

3 curtidas

Você está usando o GPT-4 para o modelo nas configurações? Podemos certamente ajustar o prompt para que ele siga o idioma do conteúdo.

4 curtidas

não, estou usando 3.5 turbo 16k:

Tentei traduzir alguns termos para o turco da seção de texto e, quando tentei mais tarde, vi que ele resumiu alguns tópicos em turco. Se tivesse sido completamente corrigido, quando pensei que ajudaria, ele resumiu outro assunto em inglês novamente. Podemos fazer alguma melhoria no prompt admin? Ou devemos esperar por uma melhoria a ser feita para isso?

Resumos separados são salvos, mas um botão para atualizar seria bom. Resumos de exemplo em inglês precisarão ser recriados no futuro. Essa compilação é automática ou haverá um botão mágico para recriá-la :slight_smile:

summarization strategy: Open AI's gpt-3.5-turbo-16k

nota: Fico muito feliz em ver que você está interessado. Você é incrível.

4 curtidas

@kuaza Você já encontrou uma solução? Estamos tendo o mesmo problema. Nosso fórum é em alemão, mas o resumo acaba sendo em inglês.

1 curtida

Não consegui encontrar uma solução para a questão. Pensei que seria corrigido em novas atualizações, mas agora tentei, ainda é o mesmo, o site e os tópicos estão em turco, mas resume em inglês. Pode ser bom criar um tópico na seção de bugs para isso.

1 curtida

Bem, não é um bug em si. Mas seria definitivamente uma ótima adição especificar um idioma diferente na configuração @Falco

1 curtida

Nosso plano atual é instruir o LLM a manter o resumo no mesmo idioma das postagens que foram resumidas. Isso ainda não é o caso, mas podemos conseguir isso na próxima semana. Temos trabalhado arduamente em resumos:

  • Suporte para LLMs de código aberto como Llama2, StableBeluga2, etc.
  • Suporte para streaming de resumos
  • Tratamento de timeouts da API do LLM

Portanto, fique atento às novidades em breve.

9 curtidas

Sem pressão, pessoal, vocês estão fazendo um trabalho fantástico e o ritmo com que lançam novos recursos é quase difícil de acompanhar :smiley:

1 curtida

O mesmo aqui com espanhol, tentei fazer um fork e mudar os prompts, mas não funcionou (porque as tabelas parecem estar endurecidas ou algo assim).

Fico feliz em ver que o Core está trabalhando nisso :slight_smile:

3 curtidas

Obrigado! Eu só queria adicionar um pouco de ânimo e dizer a vocês que é uma função incrível. No meu fórum, é comum ter tópicos longos e isso facilita muito a vida e é apreciado em nossa comunidade.

Também estamos ansiosos para ter nossos resumos em sueco em vez de inglês. :heart:

Se fosse possível editar / afetar a instrução que vai para o bot de IA, seria ótimo também, pois poderíamos adicionar nossa própria tonalidade.

1 curtida

Jan, criei o primeiro plugin de Resumo de IA. Ele está aqui:

Ele usa strings de localização para todos os prompts, então você pode achar que consegue fazê-lo funcionar para você, embora precise editar os prompts (não muitos!)

O plugin funciona fantasticamente.

Nunca o testei em um idioma estrangeiro. Ficaria curioso para saber se você consegue obter um comportamento melhor dele em seu idioma.

Priorizaremos a localização disso, assim que for feita, reportaremos.

4 curtidas

Obrigado, este é um dos meus recursos favoritos do plugin, e agora que ele funciona com modelos Llama2 totalmente de código aberto e com streaming para resumos, está funcionando melhor do que nunca.

Qual modelo você usa para os resumos? Posso enviar isso amanhã.

2 curtidas

Incrível! :heart:

Não sei se estou respondendo corretamente, mas a configuração para “estratégia de sumarização” é “GPT4 da OpenAI”. Estamos usando as chaves de API da OpenAI para os diferentes plugins de IA. Isso faz sentido para você?

3 curtidas

Funciona muito bem em turco, eu testo no meu próprio site o tempo todo. Você fez um ótimo trabalho. Acho que funcionará perfeitamente em outros idiomas também.

1 curtida

O resumo de IA e o nome do tópico (especialmente na seção de mensagens privadas) estão sempre em inglês, embora eu tenha um site em espanhol e todo o conteúdo seja em espanhol. Ajustei o plugin de resumo de IA para espanhol, mas não sei como configurar o nome do tópico.

2 curtidas

Este problema voltou novamente. Uma conversa que comecei com uma mensagem privada voltou em inglês em vez de turco.

Acredito que vai melhorar com o tempo :slight_smile:

Apenas informando que estamos trabalhando para otimizar nossos prompts, o que nos trará melhor suporte para conteúdo gerado em outros idiomas que não o inglês.

7 curtidas

Desculpe por ressuscitar um tópico antigo. Atualizei para a versão 3.2.0, mas ainda tenho alguns problemas, pois às vezes os resumos são feitos em inglês e às vezes em sueco, que é minha língua nativa. Existe algum prompt que eu possa prefixar ou fazer algo?

Não, que eu saiba não há. Mas há um truque que você pode tentar: converse com o bot em sueco e, logo depois, gere um resumo.

Deveríamos ter a opção de excluir ou pelo menos regenerar o resumo também.

1 curtida