É possível tornar a busca padrão Semantic search no site? Quanto custam essas chamadas?

A pesquisa semântica funciona muito bem e oferece resultados melhores do que a pesquisa regular. Podemos usar este sistema de pesquisa em todo o site, mas ele não vem por padrão. Deve ser selecionado ao pesquisar.

É possível usar esta pesquisa por padrão? E esta chamada tem algum custo?

2 curtidas

Você pode conferir o Plugin Algolia para Discourse. Eu o fiz funcionar em alguns dos meus sites:

https://meta.discourse.org/search?q=algolia

1 curtida

Estamos reformulando o funcionamento da Pesquisa Semântica, e ela mostrará seus resultados ao lado dos resultados de pesquisa padrão, o que deve atender às suas necessidades. Deve ser lançado em algumas semanas.

10 curtidas

Acabamos de lançar a busca semântica integrada à busca regular no Discourse AI. Agora está usando HyDE para obter melhores resultados, então me diga como está funcionando para você. Uma grande mudança é que você deve ter o módulo de embeddings configurado, bem como um serviço LLM (OpenAI, Anthropic ou Llama2).

Você pode testá-lo aqui no Meta.

5 curtidas

Parece ótimo. Estou animado para usá-lo em breve. Vocês são todos incríveis.

1 curtida

Tendo brincado um pouco com ele agora, algumas observações:

  • Os resultados são diferentes da busca regular. Nem sempre melhores, porque às vezes uma busca por palavra-chave/relevância realmente parece obter o melhor resultado quando você sabe as palavras-chave para pesquisar, mas…
  • Ele retorna um conjunto mais amplo de resultados e estes são às vezes realmente úteis.
  • Atualmente, é muito lento para mim. Percebo que isso é um tanto inevitável porque há uma etapa de geração de LLM antes da recuperação, então não tenho certeza se isso pode ser corrigido, mas vale a pena saber. Parece mais lento do que uma chamada curta do gpt-3.5 seria…

Alguns pontos da interface do usuário:

  • Nem sempre é óbvio nos resultados retornados qual parte é relevante. Em um aplicativo em que estou trabalhando, estou dividindo documentos em pedaços bem pequenos antes de criar embeddings (sentenças/parágrafos) e isso significa que, ao pesquisar/recuperar, é possível colorir cada sentença de acordo com a similaridade semântica. Isso seria um pouco como destacar as palavras-chave da busca, mas apareceria como um mapa de calor com partes semanticamente similares coloridas em quente e as não similares em frio.
  • É irritante ter que clicar para expandir os resultados semânticos.
  • Vocês pensaram em maneiras de combinar resultados de palavras-chave e semânticos? Seria possível escolher ‘similaridade’ ou ‘relevância’ como a ordem de classificação para o conjunto de resultados? Dessa forma, se você escolhesse ‘similaridade’, poderia começar apresentando resultados baseados em palavras-chave e inserir documentos recuperados pelo hyde na lista à medida que chegam.
  • Seria realmente interessante (pelo menos para mim) poder ver o documento hipotético usado para fazer a correspondência de similaridade. Posso imaginar querer editar este documento às vezes… e como a similaridade de cosseno é relativamente barata (em comparação com a chamada de geração de LLM), ainda seria bastante rápido na interface do usuário para atualizar os resultados à medida que o usuário atualiza sua consulta/documento hipotético.

Em suma — isso é muito legal, obrigado! Será ótimo quando isso for implementado de forma que o chatbot possa usar os resultados.

B

1 curtida

Conseguimos fazer com que passasse de 45s para 7s apenas esta semana com algumas otimizações inteligentes, e estamos usando isso para preencher um cache, então as pesquisas recorrentes são instantâneas.

No momento, fazemos um único embedding por tópico. Planejamos fazer embeddings por post, e isso tornará essa pesquisa ainda melhor no futuro.

A interface atual é temporária e não foi feita por nossa equipe de design. Nosso objetivo era implementá-la e deixar nossa comunidade brincar com ela para coletar feedback sobre os aspectos funcionais do recurso. Uma interface adequada para isso seguirá em breve.

Isso faria os resultados se moverem enquanto você os escaneia, o que é um grande erro em UX. Nosso principal objetivo é encontrar uma maneira de apresentar ambos de forma que sejam úteis e agreguem à experiência de pesquisa sem serem irritantes.

Sim, é por isso que movemos ambos para acontecerem na mesma tela e com uma única entrada do que tínhamos antes. A integração adicional de ambos depende do paradigma de interface que escolhermos para esta tela.

Em sua própria instância, você pode consultar os ai_api_audit_logs para isso. Por exemplo, uma pesquisa por Discourse app freezing on iOS aqui mais cedo resultou na seguinte postagem hipotética:

Assunto: O aplicativo Discourse está travando no iOS

Olá a todos, estou usando o aplicativo Discourse no meu iPhone há alguns meses e ultimamente tenho tido travamentos com bastante frequência. O aplicativo simplesmente trava e fica sem resposta, geralmente quando estou tentando carregar novas postagens ou navegar entre categorias. Parece acontecer com mais frequência quando tenho vários tópicos abertos ao mesmo tempo e alterno entre eles. Os indicadores de carregamento giram indefinidamente e tocar nos botões não faz nada. Eventualmente, ele recarrega, mas está ficando bem irritante. Estou executando a versão mais recente do iOS 13.3 em um iPhone 8 Plus. Alguém mais tem visto esse problema ultimamente? Os fóruns em si carregam bem em um navegador móvel, é apenas o aplicativo dedicado que está agindo de forma estranha. Tentei fechar à força e reabrir o aplicativo algumas vezes, mas isso não parece resolver. Alguma sugestão de outros usuários do Discourse mobile sobre como resolver esses problemas de travamento? Eu odiaria ter que parar de usar o aplicativo se ele continuar travando. Agradeço antecipadamente por qualquer ajuda ou conselho!

Desde que fizemos alguns ajustes no prompt, estou incrivelmente surpreso com os resultados.

Essa é uma proposta interessante, mas é bastante complicada de explicar esse fluxo para o usuário médio. Dito isso, gosto muito do que a Shopify fez em sua interface administrativa, onde eles permitem que você substitua algumas recomendações de produtos sugeridas por IA. Eventualmente, poderíamos fazer o mesmo aqui.

Isso já é o caso há 2 dias. O Bot de IA usa 1/4 de seus resultados de pesquisa interna usando essa técnica.

5 curtidas

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.