o1-preview 및 o1-mini 지원

모델에 연결을 시도했으나 다음 오류가 반환되었습니다: { "error": { "message": "Unsupported value: 'messages[0].role' does not support 'system' with this model.", "type": "invalid_request_error", "param": "messages[0].role", "code": "unsupported_value" } }

이 새로운 모델들은 system 역할을 지원하지 않는 것 같습니다. o1-mini는 최상위 모델보다 80% 저렴하여 복잡한 작업에 유용할 수 있습니다.

1개의 좋아요

또한, 도구 지원이나 스트리밍 기능도 아직 제공되지 않습니다. OpenAI가 누락된 기능을 추가하는 동안 우리가 어떤 방식으로든 해결할 수 있을지 지켜보겠습니다.

7개의 좋아요

이것들은 5단계가 아닌 한 API를 통해 접근할 수 없어야 합니다. 현재 베타 버전입니다.

1개의 좋아요

맞아요, 현재는 5티어가 필요하지만 이건 일시적인 조치입니다. 결국 모든 사용자가 접근할 수 있게 될 거예요.

1개의 좋아요

어제 받은 Openai 이메일 내용입니다:

이 모델들은 현재 짧은 베타 기간 동안 고객님의 계정으로 API에서 사용할 수 없습니다. (사용량 티어 5의 개발자는 접근할 수 있으며, 향후 더 많은 티어로 접근 범위를 확대할 예정입니다.) o1 모델을 지속적으로 개선하고 있으며, API에서 사용 가능해지자마자 알려드리겠습니다.

1개의 좋아요

솔직히 4o는 나에게 큰 도움이 되었습니다. 현재 요금에 80%가 추가되는 것이지만, 매달 18.99파운드를 내고 ChatGPT를 사용하는 것보다 훨씬 더 효율적으로 사용할 수 있을 것입니다.

저는 이 도구를 수동으로 사용하여 포럼에 CCS 스크립트를 추가하고 제 디자인을 만드는 데 활용하고 있습니다. 이 도구가 할 수 있는 일은 정말 놀라울 정도입니다.

하지만 개발자들에게는 위험할 수도 있습니다. 그들의 작업을 능가할 수 있기 때문입니다.

or streaming을 추가한 이유는 이해하지만, 많은 사용자는 그렇지 않을 수 있습니다. 스트리밍이 언급된 이유에 대한 간단한 설명이 여기 계신 분들에게 도움이 될 수 있을 것입니다. :slightly_smiling_face:

1개의 좋아요

이 모델은 API가 완전히 출시된 후에도 상당 기간 동안 꽤 비쌀 것으로 예상되므로, AI 페르소나에 대한 사용자 사용량 제한이 구현되길 바랍니다 :face_holding_back_tears::heart:

Discourse는 스트리밍 기능(응답이 들어오는 즉시 출력하는 방식, ChatGPT 웹UI와 유사)을 사용하여 응답을 실시간으로 표시합니다. o1 모델은 이 기능을 지원하지 않으므로, Discourse는 논리를 변경하여 비스트리밍 모델과 함께 작동하도록 해야 합니다.

4개의 좋아요

o1의 흥미로운 활용법 중 하나는 커스텀 도구로 사용하는 것입니다. GPT-4나 저가형 모델로 대부분의 대화를 처리하고, 특정 추론이 필요하다고 판단될 때만 o1에 요청을 보내는 방식이죠.

2개의 좋아요

여기 아주 기본적인 것을 구현했습니다:

도구 없이 페르소나 내에서 LLM을 일반적으로 사용할 수 있도록 지원합니다.

다음 주에 팀 미팅이 예정되어 있으므로 변경 사항(churn)을 최소화하고 싶습니다

4개의 좋아요