GPT-4o mini가 출시되었습니다. 지원 예정인가요?

제목이 전부입니다 – 이 모델을 지원할 계획이 있는지 궁금하고, 만약 그렇다면 대략 언제 구현될 수 있을지 추정치가 있는지 알고 싶습니다.

현재 GPT 3.5 Turbo를 사용 중인 사용자들에게는 더 똑똑하고 60% 이상 저렴한 이 모델이 엄청난 개선입니다.

이 모델에 대한 자세한 정보(TechCrunch)

1개의 좋아요

https://meta.discourse.org/t/discourse-chatbot/256652/899?u=aaron_walsh

4개의 좋아요

이미 Discourse AI 플러그인과 함께 작동합니다. LLM 설정에서 이름을 gpt-4o-mini로 사용하도록 확인하기만 하면 됩니다:

10개의 좋아요

음, 좀 민망하네요. 감사합니다, 보스 :grin::robot:
아직 충분히 직접 해보지 못한 것 같네요. 메모해 둘게요.

2개의 좋아요

얼마나 더 똑똑하거나 환각(hallucination)이 얼마나 더 잘 일어나는지 한번 지켜볼 생각입니다 :smirking_face: GPT-4o가 나왔을 때 얼마나 큰 화제가 됐는지 기억하는데, 지금은 불만이 쏟아지고 있네요.

그래도 시도해 보는 건 좋은 일입니다.

조금 주제에서 벗어난 이야기인데, 왜 모델과 API를 설정하는 곳이 설정(Settings)과 LLM 섹션 두 군데나 있는지 완전히 이해가 안 됩니다.

1개의 좋아요

좋은 지적입니다. 이 모델로 인해 환각(hallucination) 문제가 개선되었을 거라고는 생각하지 않습니다. 다만, 시스템 프롬프트 전반에 여러 제약 조건을 설정함으로써 그 문제를 상당 부분 완화할 수 있었습니다. 물론 이 방식에도 단점이 있죠.

수동 LLM 설정의 경우에만 의미가 있습니다. 그래서 저도 같은 질문을 하고 있네요 :sweat_smile:

아이디어는 먼저 LLM을 설정한 후, 원하는 Discourse AI 기능을 선택할 때 해당 LLM을 고르는 것입니다. 그래서 현재는 두 가지가 별도의 위치에 있습니다.

우리는 이 과정을 한 곳에서 처리할 수 있도록, 즉 LLM을 설정하는 바로 그 순간에 특정 AI 기능을 활성화할 수 있도록 하는 것에 대해 내부적으로 논의해 왔습니다. AI 봇 설정에서 이미 그렇게 하고 있는 방식과 유사합니다.