Discourse AI 주제 요약 🤖

[ncaming215 (nate c.)]

@merefield

@ncaming215

“system_tagging”

시스템 프롬프트인가요? (원하시면 수정할 수 있습니다)

@ncaming215

“prompt.tag”인가요?

실제 작업을 수행하는 Chat Completion에 전송되는 “user” 쿼리인가요.

죄송합니다, 이 주제에 대한 마지막 질문입니다. LLM에 더 잘 세분화된 프롬프트를 전달하려면 “system.tagging”을 사용하고 “prompt.tag”는 사용하지 않는 것이 맞나요?

[merefield (Robert)]

@ncaming215

미안하지만, 이 주제에 대한 마지막 질문 하나만 더: 더 좋고 세밀한 프롬프트를 LLM에 전달하려면 prompt.tag 대신 system.tagging을 사용해야 하는 것이 맞나요?

개인적으로는 prompt.tag를 수정하는 것이 더 좋다고 생각합니다. 물론 자유롭게 실험해 보셔도 됩니다.

이 프롬프트들을 사용한 결과가 처음부터 매우 좋았기 때문에(GPT 4 사용 시) 특별히 집중하거나 많이 실험해 보지는 않았습니다.

system.tagging은 응답의 '스타일’이나 ‘캐릭터’(예: 유머러스하거나 극적)를 수정하는 데 도움이 될 수 있습니다.

[merefield (Robert)]

오래전부터 이 기능을 추가하고 싶었지만, Completions 기반 자동 태그 시스템의 결과가 너무 좋아 우선순위로 올리기가 어려웠습니다.

하지만 오늘 아침, Embeddings 분류를 기반으로 한 자동 태그를 옵션으로 추가했습니다:

FEATURE: embeddings based auto-tagging (Part I) (#16)

FEATURE: embeddings based auto-tagging (part 2) (#17)

새로운 설정 항목들이 여러 가지 있으니 잘 확인해 보세요

즐겁게 사용하세요

[ncaming215 (nate c.)]

주의: 약 5시간 전에 다시 500 오류로 인해 내 웹사이트가 작동하지 않게 되었습니다. GPT 4를 사용하고 있었지만, 저는 어떤 변경 사항도 하지 않았습니다. @RGJ가 업데이트를 배포했을 가능성이 있지만(메시지를 보지 못했기 때문에) 가능성은 낮습니다. 플러그인을 비활성화하자 오류가 해결되었습니다.

[merefield (Robert)]

현재까지는 문제가 보이지 않습니다.

로그된 오류 내용을 공유해 주시고, 설치된 플러그인의 버전을 확인해 주시겠습니까?

[Jagster (Jakke Flemming)]

제가 받은 AI 관련 500 에러는 어제부터 발생하기 시작했으며, 자동 대체(alt) 기능과 관련된 것으로 보입니다(아직 더 자세히 확인하지는 않았습니다). 왜 더 깊이 파고들지 않았을까요? 500 에러는 OpenAI에서 정말 자주 발생하기 때문입니다.

[RGJ (Richard - Communiteq)]

사이트의 플러그인이 어딘가에서 이전 버전으로 되돌아간 것 같습니다.

@ncaming215 죄송합니다. 이는 아마도 우리의 실수일 것입니다. 지금 0.2.2 버전으로 되돌렸고, 무슨 일이 있었는지 알아내겠습니다. 당분간 @merefield 님은 걱정하지 않으셔도 됩니다.

[merefield (Robert)]

OpenAI의 이 발표를 전하게 되어 기쁩니다. AI 주제 요약 옵션이 업데이트되었음을 확인해 드립니다:

Introducing GPT-4o mini in the API

https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/

FEATURE: add gpt-4o-mini as an option (#113)

이것은 AI 주제 요약에 있어 큰 의미가 있습니다. 왜냐하면 이 새로운 모델은 다음과 같은 특징을 갖추고 있기 때문입니다:

• 128k 컨텍스트 (따라서 많은 수의 게시글을 요약할 수 있습니다!)
• GPT 3.5 Turbo 비용보다 60% 저렴합니다!

즐기세요!

[merefield (Robert)]

와… 체크아웃할 때 빠뜨린 코드가 있었습니다.

이제 해결했고, 동시에 로깅도 개선했습니다:

FIX: gpt-4o-mini support and enhance logging (#19)

경고를 올려 준 @Jagster에게 감사드립니다.

[Bathinda (Bathinda Helper)]

@merefield

:/var/www/discourse# su postgres -c 'psql discourse'
\dx
ALTER EXTENSION vector UPDATE;
\dx
exit

위와 같이 수행하면 다음 오류가 발생합니다:

[merefield (Robert)]

이것은 표준 설치에 대한 설명입니다.

“웹 전용” 컨테이너에서 데이터베이스에 진입하려고 하고 있는 것 같습니다.

해당 상황에서는 대신 데이터 컨테이너에 진입해야 할 수 있습니다.

좋은 소식은 이것을 참고하면 이제 더 이상 필요하지 않을 수 있다는 점입니다(최소 tests-passed의 경우). 코어 팀이 표준 스크립팅을 통해 vector 확장 기능을 마침내 업그레이드했다고 믿기 때문에, 완전한 재빌드만 수행하면 될 수도 있습니다.

[Bathinda (Bathinda Helper)]

네, 감사합니다.
(네, 저는 2컨테이너 설정을 사용하고 있습니다. 그리고 Tests-Passed 상태입니다.)

[merefield (Robert)]

이 플러그인에 썸네일 생성 기능을 추가했습니다.

선택적으로 요약을 이미지로 생성하여 원문(OP) 상단에 자동으로 추가합니다.

FEATURE: add optional thumbnail generation (#20)

• 플러그인 설정에서 활성화해야 합니다.
• 원하시면 매번 기존 상단 이미지를 자동으로 삭제하도록 설정할 수 있습니다.
• 플러그인 설정의 링크를 통해 프롬프트를 편집하여 스타일과 내용을 조정할 수 있습니다(단, 이후 생성되는 모든 이미지에 적용됩니다).

즐겁게 사용하세요

[Amicable]

로컬에서 호스팅 중인 채팅봇이 링크 내의 모든 토픽 이름을 slug라는 용어로 대체하고 있습니다.

예를 들어, 예상되는 링크는 다음과 같습니다.

https://localhost/t/title-of-the-topic-concerned/2341/5

하지만 채팅봇은 다음과 같은 URL로 참조를 하이퍼링크로 처리합니다:

https://localhost/t/slug/2341/5

slug라는 용어로 검색을 시도해 보았지만, 설정에서 slug 생성 방법이 기본값인 ascii로 설정되어 있다는 언급 외에는 다른 정보를 얻지 못했습니다.

미리 도움을 주셔서 감사합니다!

[Jagster (Jakke Flemming)]

저는 Jagster라는 형태(form)를 사용하고 있습니다. localhost가 이 동작을 변경한다고 생각하지는 않지만, 확신은 하지 못합니다.

Chatbot이라고 하셨을 때, Discourse AI의 요약(summary) 기능을 말씀하시는 건가요?

[Amicable]

용어가 정확하지 않을 수 있어 죄송합니다. 로컬호스트 인스턴스에서 Ai 플러그인을 활성화하고 @chatbot과 대화하고 있습니다. 채팅이든 토픽 답변이든, 응답은 종종 Discourse 인스턴스 내 다른 토픽의 출처와 연결됩니다. 토픽에서는 다음과 같이:

채팅 세션에서는 다음과 같이:

두 경우 모두 하이퍼링크된 URL이 잘못 형성되어 있으며, 토픽 이름이 slug로 대체됩니다.

[Jagster (Jakke Flemming)]

저기에도 이런 것이 있어서 질문드렸습니다:

Discourse 챗봇

요약 Discourse용 원본 AI 챗봇 리포지토리 링크 GitHub - merefield/discourse-chatbot: An AI bot with RAG capability for Topics, Chat & Customer Support in Discourse, currently powered by OpenAI · GitHub 설치 가이드 Discourse에 플러그인 설치 방법 스폰서십 이 플러그인이 마땅히 받아야 할 유지보수를 받고 향후에도 사용자의 사이트에서 계속 작동할 수 있도록, 사용자의 조직과 개인의 자원 및 필요에 맞는 수준으로 저의 오픈소스 작업에 대한 정기적인 스폰서가 되어 주십시오. 이 플러그인을 즐기고 계신가요? GitHub에서 를 눌러 주세요! [image] …

이걸 사용하면 프롬프트를 변경할 수 있습니다. 하지만 Discourse AI를 사용할 경우, 요약(summary)의 프롬프트는 (현재로서는) 변경할 수 없습니다.

그런데 DAI의 요약을 이용하면 바로 여기에 링크가 생성됩니다. 그래서 저보다 훨씬 더 전문적인 분의 도움이 필요합니다. 여러분의 문제는 아마도 오래된 플러그인이나 로컬호스트 설치에서 비롯되었을 수 있기 때문에, 실제로 무슨 일이 일어나고 있는지 정확히 아는 분의 도움이 필요합니다.

[merefield (Robert)]

안녕하세요!

Chatbot도 이 플러그인도 로컬 개발 환경에서 정확한 링크를 제공하는 데 최적화되어 있지 않습니다.

기능의 목표는 항상 프로덕션 환경이지만, 물론 개발 환경에서도 테스트할 수 있다면 그 자체로 좋은 점입니다.

로컬호스트 링크 지원이 개선되는 좋은 PR을 제출해 주신다면 기꺼이 받아들일 것입니다.

[Moin]

@Amicable

https://localhost/t/slug/2341/5

이 링크는 이렇게 작동하지 않나요? Discourse가 토픽 ID에 의존하므로, 토픽 제목이 포함된 링크와 동일한 방식으로 작동할 것으로 기대합니다.

[merefield (Robert)]

포트 번호가 누락되어 작동하지 않을 수 있습니다.