Поддержка o1-preview и o1-mini

https://openai.com/index/introducing-openai-o1-preview/

https://openai.com/index/openai-o1-mini-advancing-cost-efficient-reasoning/

При попытке связаться с моделью возникла ошибка: { "error": { "message": "Неподдерживаемое значение: 'messages[0].role' не поддерживает 'system' для этой модели.", "type": "invalid_request_error", "param": "messages[0].role", "code": "unsupported_value" } }

Похоже, что эти новые модели не поддерживают роль system. o1-mini на 80% дешевле топовой модели и может быть полезен для сложных задач.

1 лайк

Кроме того, поддержка инструментов и потоковой передачи отсутствует; мы посмотрим, сможем ли мы что-то обойти, пока OpenAI работает над добавлением недостающих функций.

7 лайков

Доступ к ним через API не должен быть открыт, если только не используется тарифный план 5-го уровня. Это бета-версия.

1 лайк

Верно, сейчас требуется 5-й уровень, но это временно, и в итоге доступ будет у всех.

1 лайк

Из письма от OpenAI, которое я получил вчера:

Эти модели недоступны в API для вашего аккаунта, пока мы находимся в этом кратком бета-периоде. (Разработчики на уровне использования 5 получат доступ, но мы расширим доступ для большего числа уровней.) Мы продолжаем улучшать o1 и свяжемся с вами, как только она станет доступна вам в API.

1 лайк

Я должен признать, что 4o стал для меня настоящим спасением. Учитывая, что это дополнительно 80% к текущим возможностям, это будет работать гораздо эффективнее, чем платить за ChatGPT 18,99 фунтов стерлингов в месяц.

Я использую его вручную для добавления скриптов CCS на форум и создания собственных дизайнов. Невероятно, на что он способен.

Однако для разработчиков это также опасно, поскольку он может превзойти их труд.

Хотя я понимаю причину добавления фразы «или стриминг», многие могут этого не понять. Возможно, будет полезно для присутствующих здесь дать небольшое объяснение, почему был упомянут стриминг. :slightly_smiling_face:

1 лайк

Мы можем ожидать, что эта модель останется довольно дорогой даже после полного выпуска API, поэтому, надеюсь, нам удастся внедрить ограничения на использование пользователями для AI-персонажей :face_holding_back_tears::heart:

Discourse использует функцию потоковой передачи (вывод ответа по мере его поступления, аналогично веб-интерфейсу ChatGPT), чтобы отображать ответ в реальном времени. Модели o1 не поддерживают эту функцию, поэтому Discourse необходимо изменить свою логику для работы с моделями без потоковой передачи.

4 лайка

Одно из интересных применений o1 — использовать его как пользовательский инструмент для ведения всех чатов с GPT-4 и более дешевыми моделями, а затем обращаться к o1 в случаях, когда очевидно, что требуется специальное рассуждение.

2 лайка

Здесь реализована очень базовая функция:

Поддерживается общее использование LLM в персоне без инструментов.

Наша командная встреча состоится на следующей неделе, поэтому я хочу минимизировать изменения.

4 лайка