MarcP
(MarcP)
9월 13, 2024, 3:28오전
1
모델에 연결을 시도했으나 다음 오류가 반환되었습니다: { "error": { "message": "Unsupported value: 'messages[0].role' does not support 'system' with this model.", "type": "invalid_request_error", "param": "messages[0].role", "code": "unsupported_value" } }
이 새로운 모델들은 system 역할을 지원하지 않는 것 같습니다. o1-mini는 최상위 모델보다 80% 저렴하여 복잡한 작업에 유용할 수 있습니다.
1개의 좋아요
sam
(Sam Saffron)
9월 13, 2024, 3:51오전
2
또한, 도구 지원이나 스트리밍 기능도 아직 제공되지 않습니다. OpenAI가 누락된 기능을 추가하는 동안 우리가 어떤 방식으로든 해결할 수 있을지 지켜보겠습니다.
7개의 좋아요
Jagster
(Jakke Flemming)
9월 13, 2024, 6:21오전
3
이것들은 5단계가 아닌 한 API를 통해 접근할 수 없어야 합니다. 현재 베타 버전입니다.
1개의 좋아요
MarcP
(MarcP)
9월 13, 2024, 12:15오후
4
맞아요, 현재는 5티어가 필요하지만 이건 일시적인 조치입니다. 결국 모든 사용자가 접근할 수 있게 될 거예요.
1개의 좋아요
어제 받은 Openai 이메일 내용입니다:
이 모델들은 현재 짧은 베타 기간 동안 고객님의 계정으로 API에서 사용할 수 없습니다. (사용량 티어 5의 개발자는 접근할 수 있으며, 향후 더 많은 티어로 접근 범위를 확대할 예정입니다.) o1 모델을 지속적으로 개선하고 있으며, API에서 사용 가능해지자마자 알려드리겠습니다.
1개의 좋아요
솔직히 4o는 나에게 큰 도움이 되었습니다. 현재 요금에 80%가 추가되는 것이지만, 매달 18.99파운드를 내고 ChatGPT를 사용하는 것보다 훨씬 더 효율적으로 사용할 수 있을 것입니다.
저는 이 도구를 수동으로 사용하여 포럼에 CCS 스크립트를 추가하고 제 디자인을 만드는 데 활용하고 있습니다. 이 도구가 할 수 있는 일은 정말 놀라울 정도입니다.
하지만 개발자들에게는 위험할 수도 있습니다. 그들의 작업을 능가할 수 있기 때문입니다.
EricGT
(EricGT)
9월 14, 2024, 12:28오후
7
Sam Saffron:
또는 스트리밍
or streaming을 추가한 이유는 이해하지만, 많은 사용자는 그렇지 않을 수 있습니다. 스트리밍이 언급된 이유에 대한 간단한 설명이 여기 계신 분들에게 도움이 될 수 있을 것입니다.
1개의 좋아요
이 모델은 API가 완전히 출시된 후에도 상당 기간 동안 꽤 비쌀 것으로 예상되므로, AI 페르소나에 대한 사용자 사용량 제한이 구현되길 바랍니다
MarcP
(MarcP)
9월 14, 2024, 4:46오후
9
Discourse는 스트리밍 기능(응답이 들어오는 즉시 출력하는 방식, ChatGPT 웹UI와 유사)을 사용하여 응답을 실시간으로 표시합니다. o1 모델은 이 기능을 지원하지 않으므로, Discourse는 논리를 변경하여 비스트리밍 모델과 함께 작동하도록 해야 합니다.
4개의 좋아요
sam
(Sam Saffron)
9월 15, 2024, 10:13오후
10
o1의 흥미로운 활용법 중 하나는 커스텀 도구로 사용하는 것입니다. GPT-4나 저가형 모델로 대부분의 대화를 처리하고, 특정 추론이 필요하다고 판단될 때만 o1에 요청을 보내는 방식이죠.
2개의 좋아요
sam
(Sam Saffron)
9월 16, 2024, 11:07오후
11
여기 아주 기본적인 것을 구현했습니다:
main ← gpt-o
merged 11:41PM - 16 Sep 24 UTC
Caveats
- No streaming, by design
- No tool support (including no XML tools)…
- No vision
Open AI will revamp the model and more of these features may
become available.
This solution is a bit hacky for now
도구 없이 페르소나 내에서 LLM을 일반적으로 사용할 수 있도록 지원합니다.
다음 주에 팀 미팅이 예정되어 있으므로 변경 사항(churn)을 최소화하고 싶습니다
4개의 좋아요