# É possível tornar a busca padrão Semantic search no site? Quanto custam essas chamadas? **URL:** \ **Category:** Feature\ **Tags:** ai, ai-search\ **Created:** [Agosto 20, 2023, 9:11pm UTC](https://meta.discourse.org/t/is-it-possible-to-make-the-default-search-semantic-search-on-the-site-how-much-do-these-calls-cost/275953 "2023-08-20T21:11:51Z")\ **Posts on this page:** 1\ **Showing post:** 6
**Author:** ![bigfudge](https://avatars.discourse-cdn.com/v4/letter/b/6de8d8/32.png) [@bigfudge](https://meta.discourse.org/u/bigfudge)\ **Post date:** [Setembro 8, 2023, 8:35am UTC](https://meta.discourse.org/t/is-it-possible-to-make-the-default-search-semantic-search-on-the-site-how-much-do-these-calls-cost/275953/6 "2023-09-08T08:35:29Z")
Tendo brincado um pouco com ele agora, algumas observações: - Os resultados são diferentes da busca regular. Nem sempre melhores, porque às vezes uma busca por palavra-chave/relevância realmente parece obter o melhor resultado quando você sabe as palavras-chave para pesquisar, mas… - Ele retorna um conjunto mais amplo de resultados e estes são às vezes realmente úteis. - Atualmente, é muito lento para mim. Percebo que isso é um tanto inevitável porque há uma etapa de geração de LLM antes da recuperação, então não tenho certeza se isso pode ser corrigido, mas vale a pena saber. Parece mais lento do que uma chamada curta do gpt-3.5 seria… Alguns pontos da interface do usuário: - Nem sempre é óbvio nos resultados retornados qual parte é relevante. Em um aplicativo em que estou trabalhando, estou dividindo documentos em pedaços bem pequenos antes de criar embeddings (sentenças/parágrafos) e isso significa que, ao pesquisar/recuperar, é possível colorir cada sentença de acordo com a similaridade semântica. Isso seria um pouco como destacar as palavras-chave da busca, mas apareceria como um mapa de calor com partes semanticamente similares coloridas em quente e as não similares em frio. - É irritante ter que clicar para expandir os resultados semânticos. - Vocês pensaram em maneiras de combinar resultados de palavras-chave e semânticos? Seria possível escolher ‘similaridade’ ou ‘relevância’ como a ordem de classificação para o conjunto de resultados? Dessa forma, se você escolhesse ‘similaridade’, poderia começar apresentando resultados baseados em palavras-chave e inserir documentos recuperados pelo hyde na lista à medida que chegam. - Seria realmente interessante (pelo menos para mim) poder ver o documento hipotético usado para fazer a correspondência de similaridade. Posso imaginar querer editar este documento às vezes… e como a similaridade de cosseno é relativamente barata (em comparação com a chamada de geração de LLM), ainda seria bastante rápido na interface do usuário para atualizar os resultados à medida que o usuário atualiza sua consulta/documento hipotético. Em suma — isso é muito legal, obrigado! Será ótimo quando isso for implementado de forma que o chatbot possa usar os resultados. B --- _[View the full topic](https://meta.discourse.org/t/is-it-possible-to-make-the-default-search-semantic-search-on-the-site-how-much-do-these-calls-cost/275953)._