Случайное обсуждение настройки LLM в Discourse

[Saif (Saif Murtaza)]

@AquaL1te

Есть ли также тема, которая даёт общее представление о лучшем соотношении цены и качества? Или даже о том, какой LLM можно использовать бесплатно для небольшого сообщества и базового функционала? Я мог бы углубиться в детали и поэкспериментировать, но у меня немного не хватает времени.

У нас есть эта тема, которая, возможно, именно то, что вы ищете.

Какой LLM использовать для Discourse AI?

При выборе большой языковой модели (LLM) для функционирования возможностей Discourse AI важно понимать потребности как администратора сообщества, так и его участников. На ваше решение могут влиять следующие факторы: Производительность для конкретного сценария: Ищете ли вы модель с наивысшей производительностью? Производительность может варьироваться в зависимости от задачи (например, суммирование, поиск, сложная логика, обнаружение спама). Оценка основывается на способности модели генерироват…