Добавить больше языковой поддержки для сводок на основе ИИ

Есть небольшая проблема: функция суммирования работает отлично, но генерирует сводки на английском языке. Однако сайт на турецком. Интересно, существует ли такая же ошибка на других языках сайта или будут ли какие-либо улучшения. Есть ли у нас возможность изменить промпт, применяемый для OpenAI, в настройках?

И спасибо всем…

3 лайка

Используете ли вы GPT-4 в качестве модели в настройках? Мы можем доработать промпт, чтобы он следовал языку контента.

4 лайка

нет, я использую 3.5 turbo 16k:

Я попытался перевести некоторые термины из текстового раздела на турецкий, но позже заметил, что некоторые темы были сгруппированы на турецком языке. Если бы всё было полностью исправлено, то, как я думал, это помогло бы, но он снова сгруппировал другую тему на английском. Можно ли внести некоторые улучшения в администрирование промптов? Или нам стоит подождать, пока это будет исправлено?

Отдельные сводки сохраняются, но было бы здорово добавить кнопку для обновления. Примеры сводок на английском языке потребуется воссоздать в будущем. Это построение автоматическое или будет волшебная кнопка для его воссоздания :slight_smile:

стратегия суммирования: gpt-3.5-turbo-16k от Open AI

примечание: я очень рад видеть, что вам интересно. Вы потрясающие.

4 лайка

@kuaza Вы уже нашли решение? У нас возникла та же проблема. Наш форум на немецком языке, но итоговое резюме оказывается на английском.

1 лайк

Я не смог найти решение для этого вопроса. Думал, что оно будет исправлено в новых обновлениях, но попробовал снова — всё так же: сайт и темы на турецком, а сводка на английском. Возможно, стоит создать тему в разделе багов по этому поводу.

1 лайк

Что ж, это не совсем баг. Но было бы отличным дополнением указать другой язык в конфигурации @Falco

1 лайк

Наш текущий план — попросить LLM сохранять язык резюме таким же, как и у обобщаемых постов. Пока это ещё не реализовано, но, возможно, мы сможем внедрить это уже на следующей неделе. Мы усердно работаем над функцией обобщения:

  • Поддержка открытых LLM, таких как Llama2, StableBeluga2 и других.
  • Поддержка потоковой передачи резюме.
  • Обработка тайм-аутов API LLM.

Следите за новостями здесь в ближайшее время.

9 лайков

Не давите, ребята, вы проделываете фантастическую работу, и темп, с которым вы выпускаете новые функции, почти невозможно угнаться :smiley:

1 лайк

У меня то же самое с испанским. Я пытался сделать форк и изменить подсказки, но это не сработало (похоже, таблицы как будто защищены или что-то в этом роде).

Рад видеть, что Core работает над этим :slight_smile:

3 лайка

Спасибо! Я просто хотел выразить поддержку и сказать вам, что это потрясающая функция. На моём форуме часто встречаются длинные темы, и это значительно облегчает жизнь, за что наша сообщество очень признательно.

Мы также с нетерпением ждём, когда резюме будут появляться на шведском, а не на английском. :heart:

Также было бы здорово, если бы можно было редактировать или влиять на инструкции, отправляемые AI-боту, чтобы можно было задать собственный тон.

1 лайк

Джан, я создал первый плагин для AI-резюмирования. Он находится здесь:

Для всех промптов используются строки локализации, так что, возможно, вы сможете заставить его работать для вас, хотя вам потребуется отредактировать промпты (их не так много!)

Плагин работает фантастически.

Однако я никогда не тестировал его для иностранных языков. Мне было бы интересно узнать, сможете ли вы добиться от него лучшей работы в вашем языке.

Мы отдадим приоритет локализации этого вопроса. Как только это будет сделано, мы сообщим об этом.

4 лайка

Спасибо, это одна из моих любимых функций плагина, и теперь, когда она работает с полностью открытыми моделями Llama2 и поддерживает потоковую передачу для генерации сводок, она работает лучше, чем когда-либо.

Какую модель вы используете для генерации сводок? Я могу подготовить это уже завтра.

2 лайка

Удивительно! :heart:

Не уверен, что отвечаю правильно, но настройка «стратегия сводки» установлена как «GPT4 от OpenAI». Мы используем API-ключи OpenAI для различных плагинов ИИ. Это имеет смысл для вас?

3 лайка

Отлично работает на турецком языке, я постоянно тестирую его на своём сайте. Вы проделали отличную работу. Думаю, он будет так же хорошо работать и на других языках.

1 лайк

Сводка от ИИ и название темы (особенно в разделе личных сообщений) всегда на английском, хотя у меня сайт на испанском и весь контент на испанском. Я настроил плагин сводки от ИИ для испанского языка, но не знаю, как настроить название темы.

2 лайка

Эта проблема снова возникла. Переписка, которую я начал в личном сообщении, вернулась на английском вместо турецкого.

Думаю, со временем станет лучше :slight_smile:

Просто хотим сообщить, что мы работаем над оптимизацией наших промптов, что позволит нам лучше поддерживать контент, созданный на языках, отличных от английского.

7 лайков

Извините, что оживляю старую тему. Я обновился до версии 3.2.0, но у меня всё ещё возникают проблемы: иногда сводки генерируются на английском, а иногда на моём родном шведском. Есть ли какой-то префикс для промпта или другие действия, которые можно предпринять?

Нет, насколько мне известно, нет. Но есть один трюк, который можно попробовать: пообщайтесь с ботом на шведском языке, а затем сразу же сгенерируйте сводку.

У нас должна быть возможность удалить или хотя бы перегенерировать сводку.

1 лайк