제목이 전부입니다 – 이 모델을 지원할 계획이 있는지 궁금하고, 만약 그렇다면 대략 언제 구현될 수 있을지 추정치가 있는지 알고 싶습니다.
현재 GPT 3.5 Turbo를 사용 중인 사용자들에게는 더 똑똑하고 60% 이상 저렴한 이 모델이 엄청난 개선입니다.
제목이 전부입니다 – 이 모델을 지원할 계획이 있는지 궁금하고, 만약 그렇다면 대략 언제 구현될 수 있을지 추정치가 있는지 알고 싶습니다.
현재 GPT 3.5 Turbo를 사용 중인 사용자들에게는 더 똑똑하고 60% 이상 저렴한 이 모델이 엄청난 개선입니다.
이미 Discourse AI 플러그인과 함께 작동합니다. LLM 설정에서 이름을 gpt-4o-mini로 사용하도록 확인하기만 하면 됩니다:
음, 좀 민망하네요. 감사합니다, 보스 ![]()
![]()
아직 충분히 직접 해보지 못한 것 같네요. 메모해 둘게요.
얼마나 더 똑똑하거나 환각(hallucination)이 얼마나 더 잘 일어나는지 한번 지켜볼 생각입니다
GPT-4o가 나왔을 때 얼마나 큰 화제가 됐는지 기억하는데, 지금은 불만이 쏟아지고 있네요.
그래도 시도해 보는 건 좋은 일입니다.
조금 주제에서 벗어난 이야기인데, 왜 모델과 API를 설정하는 곳이 설정(Settings)과 LLM 섹션 두 군데나 있는지 완전히 이해가 안 됩니다.
좋은 지적입니다. 이 모델로 인해 환각(hallucination) 문제가 개선되었을 거라고는 생각하지 않습니다. 다만, 시스템 프롬프트 전반에 여러 제약 조건을 설정함으로써 그 문제를 상당 부분 완화할 수 있었습니다. 물론 이 방식에도 단점이 있죠.
수동 LLM 설정의 경우에만 의미가 있습니다. 그래서 저도 같은 질문을 하고 있네요 ![]()
아이디어는 먼저 LLM을 설정한 후, 원하는 Discourse AI 기능을 선택할 때 해당 LLM을 고르는 것입니다. 그래서 현재는 두 가지가 별도의 위치에 있습니다.
우리는 이 과정을 한 곳에서 처리할 수 있도록, 즉 LLM을 설정하는 바로 그 순간에 특정 AI 기능을 활성화할 수 있도록 하는 것에 대해 내부적으로 논의해 왔습니다. AI 봇 설정에서 이미 그렇게 하고 있는 방식과 유사합니다.