Quiero compartir un pequeño consejo para aquellos que quieran configurar la función de resumen de temas con IA. Probé muchos modelos y estaba buscando uno que fuera económico para un uso masivo y que pudiera reconocer el idioma de nuestro sitio, que es el húngaro. Primero probé GPT4, que por supuesto es genial pero caro; GPT3.5 la mayoría de las veces creaba los resúmenes en inglés.
Luego probé la línea Gemini 1.5; la versión Pro también es genial, pero parece demasiado cara para nosotros. ¡Flash fue lo que realmente quería! Pero Flash, en mis pruebas, solo creó los resúmenes en inglés.
Luego probé la línea Claude 3, que en mi opinión es impresionante. El modelo más pequeño, Haiku, puede crear la mayoría de las veces, quiero decir, ~95% de resúmenes de temas geniales en húngaro, que es el objetivo principal en nuestro foro. También probé Sonnet, que me impresionó más. Pero elegí Haiku por ahora debido al precio y queremos obtener algunas estadísticas de uso antes de pasar a Sonnet. Es lo suficientemente barato e inteligente. Sugiero que todos lo prueben.
Con OpenAI necesitamos la capacidad de indicar el idioma. Uno general no es responsable.
Pero. GPT-4o usa en mi caso finlandés casi todo el tiempo. Si hay imágenes o un fragmento de texto en inglés, crea un resumen en inglés. Y como es OpenAI, incluso eso no es consistente
Actualización: Recalculé las cosas y noté que si activaba primero Haiku, los miembros lo usaban como algo nuevo. Generaron en unos días unos cientos de resúmenes ~800. Luego podemos ir más allá porque esos temas ya han sido resumidos y esto reducirá el uso. Así que ahora estamos usando Opus después de unos días de uso de Sonnet y Opus es una dimensión completamente nueva. Opus puede reconocer imágenes y hacer estadísticas sobre las publicaciones del tema. Quiero decir, por ejemplo, hay 5000 publicaciones en un tema y Opus puede categorizar las respuestas y enumerar las cosas más respondidas y hacer sugerencias basadas en las publicaciones. Creo que Opus es lo mejor que he probado hasta ahora.
Así que, en mi opinión, si empiezas con el más barato, que ahora es Haiku, entonces puedes pasar a Sonnet y seguir adelante porque el uso se reducirá. Lo cual es genial porque tienes la opción de probar cada modelo. Pero realmente depende del uso del foro, por supuesto…