Я очень впечатлен Claude 3 🎉

Создание сообщества
,
1

Привет :waving_hand:

Хочу поделиться небольшим советом для тех, кто хочет настроить функцию AI-резюме тем. Я перепробовал множество моделей и искал решение, которое было бы недорогим для массового использования и при этом умело определяло бы язык нашего сайта — венгерский. Сначала я пробовал GPT-4, который, конечно, отличный, но дорогой; GPT-3.5 же чаще всего создавал резюме на английском.

Затем я попробовал линейку Gemini 1.5: версия Pro тоже прекрасна, но, похоже, для нас слишком дорога. А вот Flash — это именно то, что я искал! Однако в моих тестах Flash создавал резюме только на английском. :disappointed_face:

После этого я попробовал линейку Claude 3, которая, на мой взгляд, впечатляет. Самая маленькая модель, Haiku, в большинстве случаев (около 95 %) создаёт отличные резюме тем на венгерском языке — это главная цель на нашем форуме. Я также пробовал Sonnet, который произвёл на меня ещё большее впечатление. Но пока я выбрал Haiku из-за цены: мы хотим сначала собрать статистику использования, прежде чем переходить на Sonnet. Он недорогой и достаточно умный. Рекомендую всем попробовать.

9 лайков
2

Для OpenAI нам нужна возможность указывать язык. Общий вариант не подходит.

Но GPT-4o в моём случае почти всегда использует финский. Если есть изображения или фрагмент текста на английском, он создаёт резюме на английском. И поскольку это OpenAI, даже это работает не последовательно :man_facepalming:

1 лайк
3

Я определенно хочу исправить это, я уверен, что мы можем что-то сделать.

6 лайков
4

Обновление: Я пересчитал показатели и заметил, что после включения Haiku участники начали использовать его как новую функцию. За несколько дней было сгенерировано несколько сотен кратких резюме (~800). Далее мы можем перейти на более мощные модели, так как эти темы уже были обобщены, что снизит нагрузку. Сейчас мы используем Opus после нескольких дней работы с Sonnet, и Opus открывает совершенно новый уровень возможностей. :flushed_face: Opus умеет распознавать изображения и строить статистику по темам постов. Например, если в теме 5000 сообщений, Opus может классифицировать ответы, выделить наиболее обсуждаемые вопросы и предложить рекомендации на основе контента постов. На мой взгляд, Opus — лучшая модель из всех, что я пробовал на данный момент. :sweat_smile:

Так что, на мой взгляд, если начать с самой дешёвой модели (сейчас это Haiku), то можно постепенно перейти на Sonnet и дальше, поскольку нагрузка будет снижаться. Это удобно, так как у вас есть возможность протестировать каждую модель. :slightly_smiling_face: Конечно, всё зависит от активности на форуме…

3 лайка