GPT-4o mini приземлился — будет ли он поддерживаться?

Всё сказано в заголовке — просто интересно, планируется ли поддержка этой модели и, если да, то есть ли примерные сроки её внедрения?

Это огромное улучшение для всех, кто сейчас использует GPT 3.5 Turbo, так как она умнее и более чем на 60% дешевле.

Подробнее об этой модели на TechCrunch

1 лайк

https://meta.discourse.org/t/discourse-chatbot/256652/899?u=aaron_walsh

4 лайка

Это уже работает с плагином Discourse AI, вам просто нужно убедиться, что в конфигурации LLM указано имя gpt-4o-mini:

10 лайков

Что ж, это неловко. Спасибо, босс :grin::robot:
Возможно, я недостаточно с ним поэкспериментировал — заметил.

2 лайка

Посмотрим, насколько умнее или лучше будет галлюцинировать :smirking_face:. Помню, какой шум поднялся, когда вышла GPT-4o, а теперь люди массово жалуются.

Но попробовать стоит.

Чуть не по теме, но я до конца не понимаю, зачем у нас два места для указания настроек модели и API: раздел настроек и раздел LLM?

1 лайк

Это хороший момент. Я подозреваю, что проблемы с галлюцинациями вряд ли могли бы улучшиться с этой моделью, однако мне удалось в значительной степени смягчить их, добавив ряд ограничений в системный промпт — хотя, разумеется, у этого есть и свои недостатки.

Это имеет смысл только при ручной настройке LLM. Поэтому я задаю себе тот же вопрос :sweat_smile:

Идея в том, что вы сначала настраиваете свою LLM, а затем выбираете эту LLM для нужной функции Discourse AI. Именно поэтому они в настоящее время находятся в двух разных местах.

У нас были внутренние обсуждения о том, чтобы объединить этот процесс в одном месте, то есть сразу при настройке LLM вы могли бы включить её для конкретных функций ИИ, как это сделано для AI-бота.