Мы можем редактировать, изменять и создавать системные промпты, но могли бы получить более широкий доступ ко всем промптам? Их периодически требуется настраивать.
Основная потребность в этом запросе связана с объяснениями ИИ. Хорошо, что они учитывают контекст поста, но сейчас они слишком поверхностны — особенно те, что основаны на OpenAI. Они в основном просто копируют уже написанное, тогда как должны расширять объяснение, сохраняя при этом контекст.
Я немного опасается, что эта функциональность довольно жёстко зашита (и часть решений взята из экосистемы OpenAI), но возможно ли внесение изменений без полной перестройки уже созданного?
Привет, @Falco, есть ли какие-то новости о примерных сроках, когда появится возможность редактировать системные промпты? Я предполагаю, что речь идёт о помощнике форума и, возможно, о основном системном промпте при включении LLM, который, как я понимаю, не виден
Это очень сложно реализовать правильно, так как системные промпты контролируют не только инструкции, но и ожидаемый формат вывода.
Если мы сейчас позволим пользователям настраивать это, мы обрекаем себя на постоянный поток недовольных пользователей, поскольку наши обновления будут ломать их сайты всякий раз, когда нам потребуется изменить ожидаемый формат вывода, который анализируется для таких функций, как сводки, помощники и т. д.
Один из способов обойти это — перейти к строгим форматам, используя Guidance, функциональные вызовы или структурированный вывод. Однако экосистема только сейчас достигает уровня зрелости, когда это доступно у большинства провайдеров и в вариантах для самостоятельного размещения. Это важно, потому что Discourse AI не привязывает сообщества к OpenAI; он позволяет людям выбирать из тысяч совместимых больших языковых моделей.
Всё это к тому, что мы хотим это сделать, но не можем реализовать наполовину. Это означает, что вся экосистема ИИ должна догнать нас, и это происходит только сейчас.
Благодарим за обратную связь, @Falco. В целом, персоны, которые работают очень хорошо, обеспечивают отличную гибкость. Я полностью понимаю вашу позицию: не хочется, чтобы по всему пространству разбросано множество проблемных форумов. На самом деле это забота о владельце форума. Мне кажется, что промпты работают отлично в текущем виде, но было бы здорово иметь возможность немного влиять на них, добавляя контекст для конкретного сообщества. Например, «делай это» или «не делай того». Не трогайте системные промпты, так как они работают у нас великолепно, но, возможно, стоит добавить немного дополнительного контекста где-то по ходу дела.
