Discourse 챗봇 🤖

[merefield (Robert)]

메타(Meta)가 새로운 Llama 4 모델을 방금 출시했습니다.

The Llama 4 herd: The beginning of a new era of natively multimodal AI...

챗봇이 이 모델을 사용할 수 있습니다.

저는 이를 위해 www.groq.com을 사용 중입니다(관련 없음). 해당 사이트에서는 이미 스카우트(scout) 모델을 배포했습니다

(키를 제공해야 합니다.)

(참고로 임베딩(Embeddings)을 사용 중이라면 OpenAI만 지원되므로 아직 프로덕션 환경에서의 사용을 권장하지 않습니다.)

[merefield (Robert)]

OpenAI를 따라가기가 점점 지치네요

https://openai.com/index/gpt-4-1/

https://openai.com/index/introducing-o3-and-o4-mini/

릴리스 “1.4.12”

하지만 해당 모델들을 지원하도록 채트봇을 업데이트했습니다 (사실상 추론 모델의 버그 수정 및 모델 선택 목록 업데이트가 대부분입니다).

FEATURE: update model selection with new OpenAI 4.1 models (#129)

FEATURE: add new o3/o4 reasoning models and reasoning effort setting (#130)

• 추론(reasoning)을 사용하는 경우, 추론 양을 조절하기 위한 새로운 설정인 chatbot_open_ai_model_reasoning_level을 사용할 수 있습니다 (추론 모델 전용). 설정 값이 높을수록 더 똑똑해지지만, 토큰 사용량을 주의 깊게 확인하고 Chatbot max response tokens를 충분히 높여두지 않으면 오류가 발생할 수 있습니다.

• 이제 추론 모델이 RAG와 함께 제대로 작동합니다.

• 훌륭한 gpt-4.1-nano 모델을 사용하려는 경우, 합리적인 응답을 받기 위해 Chatbot API supports name attribute 설정을 활성화해야 합니다.

• 새로운 GPT 4.1 모델을 사용하는 경우, 컨텍스트 길이가 매우 길 수 있으므로 Chatbot max look behind 값을 큰 숫자로 높일 수 있습니다.

[ozkn (Mathx)]

마지막 업데이트 이후로 인공지능이 프롬프트 설명을 무시하고 있습니다. 설정은 변경하지 않았으며, 챗봇 유형 설정은 기본으로 되어 있습니다.

[merefield (Robert)]

@ozkn

인공지능이 프롬프트 설명을 무시합니다

이 내용을 다른 말로 표현해 줄 수 있나요? "프롬프트 설명"이라고 한 것이 무엇을 의미하나요? 시스템 프롬프트를 말씀하시는 건가요?

[merefield (Robert)]

괜찮아요, 문제를 확인했습니다. 보고해 주셔서 감사합니다 @ozkn

[merefield (Robert)]

수정:

FIX: restore system prompt addition to Basic bot

[merefield (Robert)]

릴리스 “1.5.0”

• 그림 그리기 및 편집에 특히 뛰어나고 지시 사항 및 텍스트 처리에 강점이 있는 놀라운 (!!) 새로운 OpenAI 이미지 생성기(gpt-image-1)를 지원합니다.

  • 새로운 이미지 모델 설정 chatbot support picture creation model
  • 참고: 새로운 모델을 사용하려면 OpenAI 계정을 인증해야 합니다.
    • 이 이유로 인해 기본값은 여전히 DALL-E 3입니다.
    • DALL-E 3는 여전히 빠르지만 텍스트 처리는 훨씬 열등하며 편집 기능이 제공되지 않습니다.

• 이제 채팅에서 인라인 PDF 업로드 문의를 지원하며, 토픽에서도 지원합니다.

  

[merefield (Robert)]

릴리스 1.5.2

조금 다른 무언가를 준비했습니다:

FEATURE: kick off chat with bot from a Post (#133)

@Don 님의 AI Post Analyzer for Chat 에 영감을 받아, 백엔드의 이점을 활용하여 Chatbot을 위한 유사하지만 약간 더 복잡한 솔루션을 구축했습니다(참고: @Don 님의 테마 컴포넌트는 Chatbot과 호환되지 않습니다).

이 기능이 활성화되어 있다면(설정 chatbot quick access bot post kicks off를 통해), 게시물 오른쪽 위를 클릭하면 봇이 해당 게시물과 최근 히스토리에 대해 개인적으로 대화하기 시작합니다.

기본적으로 사용자가 빠른 실행을 위해 선택한 매체(설정에서)를 사용하여 채팅과 개인 메시지 모두에서 작동합니다.

이 릴리스에는 Chatbot과의 DM 채팅이 대화의 맨 아래에서 열리도록 하는 매우 중요한 수정 사항도 포함되어 있어, 때때로 스크롤할 필요가 없습니다. 사실 이 유형의 시나리오에 대해 Chat 플러그인 관련 PR이 나와야 할 것 같습니다 …

참고: 이는 복잡한 새로운 시스템이므로 "실험적"으로 표시되며 기본적으로 꺼져 있습니다.

훌륭한 아이디어를 제공해 주신 @Don 님께 감사드립니다.

[Jagster (Jakke Flemming)]

@merefield

게시물 우측 상단의 봇 아이콘

찾을 수가 없어요

[merefield (Robert)]

해당 기능을 활성화하셨나요? 기본값은 꺼져 있습니다.

[Jagster (Jakke Flemming)]

물론이지

[merefield (Robert)]

콘솔에 오류가 있나요?

오늘 업데이트된 시스템입니다:

그리고 또 다른 하나:

메인 토픽에 스팸이 되지 않도록 비공개로 진행하겠습니다.

[merefield (Robert)]

릴리스 1.5.3

게시물 시작(Post launch) 기능에 상당한 개선이 이루어졌으며, 버튼이 게시물 버튼 메뉴(Post Button Menu)로 이동했습니다:

IMPROVE: Post launch improvements (#134)

• IMPROVE: 게시물 시작 버튼이 게시물 버튼 메뉴로 이동
• IMPROVE: 채팅 시작 메시지 위치 및 오버라이드 개선
• IMPROVE: 짜증나는 콘솔 경고 제거
• IMPROVE: 스타일링 - 이제 다시 chatbot-btn id가 하나만 있습니다

[merefield (Robert)]

몇 가지 수정 사항을 병합했습니다:

Merge pull request #135 from merefield/fix_chat_editing_for_ai_gen_images

(이건 저한테는 교육적인 경험이었습니다!)

그리고 제가 그날 컨디션이 좀 안 좋았던 것 같습니다:

FIX: revert removal of mime gems

(@BrianC 님의 비공개 보고에 감사드립니다)

가능하시다면, 문제를 공개 토픽에서 보고해 주시면 감사하겠습니다.

[BrianC (Brian)]

Hi @merefield,

Chatbot 플러그인을 사용하여 Gemini 2.5 Flash를 실행하려는데 연결이 되지 않습니다.

현재 신뢰 설정

• 모델 이름: google/gemini-2.5-flash-preview-05-20

• 사용자 지정 URL: https://generativelanguage.googleapis.com/v1beta/models/gemini-2.5-flash-preview-05-20
  (또한 /v1beta/openai/ 경로도 시도해 보았습니다.)

지금까지의 시도

• OpenRouter, Google AI Studio, OpenAI의 API 키를 사용했으나 모두 작동하지 않았습니다.

• openai-gemini 프록시(PublicAffairs 저장소)를 설치하고 플러그인을 해당 프록시로 연결했으나 여전히 작동하지 않습니다.

Gemini 2.5 Flash를 플러그인과 함께 작동시키기 위해 필요한 URL 조합이나 제가 놓치고 있는 추가 단계가 있는지 아시나요?

정확한 설정에 대해 조금 혼란스럽습니다. 도움을 주시면 감사하겠습니다.

Brian

[merefield (Robert)]

브라이언, 안녕하세요. 체크박스를 잊지 마세요.

참고로 이 기능은 Basic Bot에서는 작동할 수 있지만, 포럼 검색 도구를 포함한 더 유용한 RAG Bot에서는 작동하지 않습니다. 언젠가 이 기능을 추가할 계획(이 기능을 통해 대체 임베딩 제공업체를 지정할 수 있게 됨)은 있지만, 당분간 RAG Bot은 OpenAI만 지원합니다(대부분의 사용자가 사용하려는 것이 바로 이 RAG Bot입니다).

[BrianC (Brian)]

로버트, 정말 감사합니다. 당신의 노력이 존경스럽습니다. 제품에서 보여준 성실함과 탁월함에 감사드립니다.

[merefield (Robert)]

이 변경 사항으로 인해 다음을 유의해 주세요:

인기 플러그인을 Discourse 코어에 번들링

앞으로 몇 주 동안, 인기 있는 Discourse 플러그인 중 일부를 코어 저장소로 이동할 예정입니다. 이는 Discourse가 기본적으로 더 많은 플러그인을 포함하게 되며, 모든 플러그인의 테스트 및 최신 상태를 유지하는 것이 더 쉬워진다는 것을 의미합니다. 이 모든 플러그인은 기본적으로 비활성화 상태로 유지되므로, 기존 커뮤니티에는 눈에 띄는 영향을 미치지 않습니다. discourse.org와 같은 관리형 호스팅 서비스를 사용 중이라면 아무 조치도 필요하지 않습니다. 자체 호스팅 커뮤니티 Discourse를 자체 호스팅 중이고 이미 이 플러그인 중 하나를 사용 중이라면, 다음 재빌드 전에 app.yml 파일에서 관련 줄을 제거하도록 안내받게 됩니다. 개발 환경 이미 로컬에 플러그인 중 하나가 설치되어 있고 최신 버전의 Discourse 코어를 가져온 경우, 다음 두 가지 중 하나가 발생합니다. 플러그인에 심볼릭 링크를 사용하는 경우, git pull 실행 중 오류가 …

해당 플러그인을 사용 중이셨다면 재빌드(rebuild)가 불가능했을 것입니다.

이 변경 사항으로 인해 여러 새로운 gem 의존성이 추가되었는데, 그중 하나는 Chatbot에서 사용 중인 버전보다 오래된 것이었습니다.

현재 의존성을 정렬했으며, 이제 재빌드가 정상적으로 이루어져야 합니다(나머지 문제는 모두 해결됨).

[merefield (Robert)]

GPT-5를 추가하기 위한 PR이 열려 있지만, CI 과정에서 문제가 발생하고 있습니다.

이에 대해 Development 토픽을 열었습니다.

[merefield (Robert)]

FEATURE: add GPT-5 support (#143)

병합되었습니다.

GPT-5의 추론이 너무 느리다고 느껴진다면 추론 수준을 변경할 수 있습니다. 이제 minimal 수준이 추가되었습니다.

이번 작업에 도움을 주신 @NateDhaliwal님께 감사드립니다!