Quero compartilhar uma pequena dica para aqueles que desejam configurar o recurso de resumo de tópicos por IA. Testei vários modelos e estava procurando um modelo que fosse barato para uso massivo e que pudesse reconhecer o idioma do nosso site, que é o húngaro. Primeiro, testei o GPT4, que é, claro, ótimo, mas caro. O GPT3.5, na maioria das vezes, criava os resumos em inglês.
Em seguida, testei a linha Gemini 1.5. A versão Pro também é ótima, mas parece cara demais para nós. O Flash foi o que eu realmente queria! Mas o Flash, nos meus testes, criava os resumos apenas em inglês.
Depois, testei a linha Claude 3, que na minha opinião é fantástica. O menor modelo, Haiku, consegue criar, na maioria das vezes, ou seja, em ~95% dos casos, ótimos resumos de tópicos em húngaro, que é o objetivo principal do nosso fórum. Testei o Sonnet também, que me impressionou mais. Mas escolhi o Haiku por enquanto por causa do preço e queremos obter algumas estatísticas de uso antes de passar para o Sonnet. É barato e inteligente o suficiente. Sugiro que todos experimentem.
Com a OpenAI, precisamos da capacidade de indicar o idioma. Um idioma geral não é confiável.
Mas. O GPT-4o usa, no meu caso, finlandês quase o tempo todo. Se houver imagens ou um trecho de texto em inglês, ele cria um resumo em inglês. E por ser OpenAI, nem mesmo isso é consistente
Atualização: Recalculei as coisas e notei que se eu ativasse o Haiku primeiro, os membros o usariam como algo novo. Eles geraram algumas centenas de sumarizações em poucos dias ~800. Então podemos ir mais alto porque esses tópicos já foram sumarizados e isso reduzirá o uso. Então, agora estamos usando o Opus depois de alguns dias de uso do Sonnet e o Opus é uma dimensão totalmente nova. O Opus pode reconhecer imagens e fazer estatísticas sobre os posts do tópico. Quero dizer, por exemplo, há 5000 posts em um tópico e o Opus pode categorizar as respostas e listar as coisas mais respondidas e fazer sugestões com base nos posts. Acho que o Opus é o melhor que já experimentei até agora.
Portanto, na minha opinião, se você começar com o mais barato, que agora é o Haiku, então você pode subir para o Sonnet e continuar, porque o uso será reduzido. O que é legal porque você tem a opção de verificar cada modelo. Mas depende realmente do uso do fórum, é claro…