그렇게 된다면 정말 훌륭할 것 같습니다. 저희 전담 AI 팀의 첫 번째 단계는 가능한 기능에 대한 아이디어를 수집하고 정리하는 것이기 때문입니다.
봇이 무엇을 할지 파악했지만, Discourse의 실제 플러그인일 필요는 없습니다. 그냥 가끔씩 cron으로 실행되고, Discourse API를 사용해 댓글과 답변을 게시하기만 하면 됩니다. 어떻게 생각하시나요?
그건 확실히 합리적인 방법입니다. 하지만 저는 개인적으로 오픈소스 AI 도구만 만들고 싶습니다. 그리고 Discourse 자체도 그런 도구를 계획하고 있다고 하니, 가능하면 그들을 돕는 쪽이 더 이상적이라고 생각합니다.
디스커스 포럼을 위한 스케줄링된 분류 및 파인튜닝을 갖춘 답변 봇 제안
도입: 디스커스 포럼은 사용자 참여와 기여에 의존하며, 이 중 중요한 측면은 질문에 대한 적시적이고 정확한 답변을 얻는 능력입니다. 그러나 때로는 응답이 지연되어 사용자가 대화에 계속 참여하는 것을 주저하게 만들 수 있습니다. 이를 해결하기 위해, 우리는 특정 시간 경과 후 자동으로 질문에 답변하여 커뮤니티 참여를 장려할 수 있는 봇을 제안합니다. 또한, 이 봇은 기존 스레드를 분류하기 위한 스케줄링된 호출을 할당하고, 주기적으로 업데이트될 수 있는 자체 파인튜닝 데이터셋을 구축합니다.
목표: 디스커스 포럼을 위한 스케줄링된 분류 및 파인튜닝을 갖춘 답변 봇의 주요 목표는 다음과 같습니다:
- 그렇지 않으면 답변되지 않을 수 있는 질문에 대한 적시적이고 정확한 답변을 제공하여 커뮤니티 참여를 장려합니다.
- 기존 스레드의 분류를 자동화하여 질문이 올바르게 태그되고 사용자가 관련 정보를 쉽게 찾을 수 있도록 합니다.
- 봇의 성능과 정확도를 시간이 지남에 따라 향상시키기 위한 파인튜닝 데이터셋을 구축합니다.
**제안된 솔루션:**上記의 목표를 달성하기 위해, 우리는 특정 시간 경과 후 자동으로 질문에 답변하고, 기존 스레드 분류를 위한 스케줄링된 호출을 할당하며, 파인튜닝 데이터셋을 구축할 수 있는 봇의 통합을 제안합니다. 이 봇은 사용자 입력을 분석하고 대화의 맥락을 이해하며, 사전 정의된 규칙과 기계 학습 모델을 기반으로 적절한 응답을 생성하도록 설계됩니다.
이 봇은 자연어 처리(NLP) 기법을 사용하여 사용자 입력을 분석하고 대화와 관련된 응답을 생성합니다. 질문의 맥락, 논의 중인 주제, 사용자의 이전 상호작용을 이해하도록 훈련되어 정확하고 유용한 답변을 제공합니다. 봇은 특정 시간 내에 답변되지 않은 질문이나 사용자 이름으로 직접 호출된 경우에만 응답합니다.
질문에 대한 답변 외에도, 봇은 기존 스레드를 분류하기 위한 스케줄링된 호출을 할당합니다. 스레드의 내용과 태그를 분석하여 질문이 올바르게 태그되고 쉬운 탐색을 위해 조직화되도록 보장합니다. 봇은 사용자 쿼리와 응답을 기록하고 분류하여 파인튜닝 데이터셋을 구축합니다. 이 데이터셋은 시간이 지남에 따라 봇의 성능을 훈련하고 향상시키는 데 사용됩니다.
장점: 디스커스 포럼에 스케줄링된 분류 및 파인튜닝을 갖춘 답변 봇을 통합하는 데 따른 장점은 다음과 같습니다:
- 커뮤니티 참여 장려: 봇은 질문에 대한 적시적이고 정확한 답변을 제공하여 사용자가 대화에 계속 참여하도록 장려합니다.
- 스레드 분류 개선: 봇은 스레드 분류를 자동화하여 질문이 올바르게 태그되고 쉬운 탐색을 위해 조직화되도록 보장합니다.
- 정확도 및 성능 향상: 봇의 파인튜닝 데이터셋은 시간이 지남에 따라 봇의 성능을 훈련하고 향상시키는 데 사용됩니다.
- 인간 모더레이터의 업무 부담 감소: 봇은 스레드 분류를 자동화하고 그렇지 않으면 답변되지 않을 질문을 답변함으로써 인간 모더레이터의 업무 부담을 줄입니다.
결론: 디스커스 포럼에 스케줄링된 분류 및 파인튜닝을 갖춘 답변 봇을 통합하는 것은 커뮤니티 참여를 장려하고, 분류 작업을 자동화하며, 시간이 지남에 따라 봇의 정확도와 성능을 향상시키는 데 도움이 되는 가치 있는 투자입니다. 우리는 디스커스 포럼의 요구 사항을 가장 잘 충족하는 NLP 및 기계 학습 모델을 선택하기 위해 사용 가능한 모델을 탐색하는 것을 권장합니다. 통합 과정은 봇이 의도대로 수행되도록 보장하기 위해 적절한 테스트와 훈련을 통해 신중하게 계획되고 실행되어야 합니다.
훌륭한 시작이지만, 안타깝게도 원포스터(OP)인 제가 처음에 언급했던 목적을 달성하지는 못했습니다. 이 분야를 여러 해 동안 연구해 온 결과, 로또를 맞지 않는 한 제 돈을 들여서 정확히 원하는 것을 얻기란 쉽지 않을 것 같습니다. 다시 한 번 말씀드리자면, 저는 위에서 설명하신 기능뿐 아니라 개인과의 이전 대화에 대해 인간처럼 영구적인 기억을 유지할 수 있는 봇이 필요합니다. 당장 제가 원하는 것을 정확히 얻기는 어렵겠지만, Discourse 자체와 개발 중인 Discourse AI Bot 제안서가 제가 원하는 것의 상당 부분을 충족할 수 있을 것 같으니, 아마 그래프 이론(Graph Theory) 등을 활용한 영구 기억에 대한 조사를 계속하면서 그 프로젝트에 최대한 도움을 주는 데 모든 노력을 기울이는 것이 좋겠습니다. 나중에 그래프 이론 기반 기능이 추가될 수도 있겠죠?
Discourse의 구현/제안이 요구사항을 충족하지 못하고, 오픈소스 AI 소프트웨어(Apache-2.0, Discourse 측이 자유롭게 재사용할 수 있는 라이선스) 개발에 자금을 지원하는 데 동의하신다면, 기억 기능이 있는 Discourse용 AI 봇을 설정해 드리는 데 기꺼이 응하겠습니다.
여기서 모든 것이 모델에 달려 있습니다. 많은 일반적인 관심이 있는 것을 볼 수 있지만, 어떤 모델을 사용할지 제안한 사람은 없으며, 해당 모델이 약간이라도 유용한 일을 할 수 있다는 것을 입증한 사람도 없습니다.
OPT에서 좋은 결과를 얻는 것조차 어렵고, Facebook은 상당한 수의 매개변수를 추가했습니다. 제 일반적인 우려(또한 산업 전반에 대한 우려)는 오픈 공간에는 GPT-3 Davinci에 근접한 것이 아무것도 없으며, GPT-4가 지평선에 나타나 경쟁이 더욱 어려워질 것이라는 점입니다.
위 인용된 게시물에서 모델과 유용성에 대해 자세히 설명되어 있습니다:
해당 프로세스는 Supabase + OpenAI GPT API입니다. 현재 GPT 3.5 + OpenAI 임베딩은 오늘날 Discourse 봇에서 원하는 많은 작업을 수행하는 데 충분합니다.
GPT API는 오픈 소스가 아닙니다. 하지만 이는 API입니다. 그리고 오픈 소스 모델이 추격해 올 때(예: https://github.com/LAION-AI/Open-Assistant), 해당 모델로 교체할 수 있습니다.
저는 분명히 동의합니다. 그래서 당분간은 더 나은 대안이 나올 때까지 내부적으로 GPT 3.5를 사용하겠습니다.
여기서 내가 가장 우려하는 부분은 출처 표기입니다. 특히 Discourse 포럼처럼 코퍼스가 방대할 경우, 봇을 학습하는 데 사용된 데이터의 상당 부분이 이미 시대에 뒤처져 있을 수 있기 때문입니다.
이 ClippyGPT 방식에는 몇 가지 근본적인 문제가 있습니다. 콘텐츠로 돌아가는 링크를 제공하지 않는 것으로 검색을 대체할 수는 없습니다. 또한 이를 학습시키는 작업은 그야말로 막대한 부담이 될 것입니다.
이 아이디어의 세부 사항에 대해 더 나은 논의를 위해 개인 메시지로 보내는 것이 더 좋을 것 같습니다. .
와! - 2015년에 시드니에서 코라로 이사했거든요! - 며칠 전 홀브룩에 가다 오다가 당신 근처를 지나쳤어요!
오늘 남은 시간 동안 혹시 근처에 계실까요?
아직 아무도 “새로운” 빙(Bing)에 대해 언급하지 않는 것이 놀랍습니다. 이는 디스코르스(Discourse)에 구현될 수 있는 것의 훌륭한 예시라고 생각합니다.
이 프로젝트에 재정적 지원을 좀 해보고 싶네요 
이 플러그인은 GPT3(기본값: “text-davinci-003”, 모델 선택 가능)를 사용하여 토픽을 요약할 수 있습니다:
프로덕션 환경에서도 직접 테스트해 봤고, 지금까지의 결과에 상당히 인상받았습니다. 때로는 '경이롭다’고까지 표현하고 싶습니다.
하지만 관련성 있고 문법적으로 정확하며 설득력 있는 요약을 자주 생성하는 반면, 사실에 대한 부정확성이 발생할 수 있어 매우 오해의 소지가 크고 유용성을 떨어뜨릴 수 있습니다. 그럼에도 불구하고 이 기술의 잠재력은 매우 큽니다!
플러그인은 여전히 매우 실험적인 단계이지만, 현재는 안정적으로 작동하는 것 같습니다. 결과는 달라질 수 있지만, 결과를 개선하기 위한 다양한 편의성 설정이 있습니다. 여기에는 LLM에서 새로운 요약을 다시 가져오도록 시스템에 지시하는 임계값 설정이 포함된 다운보팅(반대 투표) 메커니즘도 포함됩니다.
FAQ와 문서에는 ChatGPT가 훌륭할 것 같습니다. Richard Millington의 이 연구를 확인해 보세요.
ChatGPT에는 파인튜닝(Fine-tuning) 지원이 없습니다(오늘날 기준 API도 없습니다).
Discourse 사이트의 코퍼스(corpora)로 GPT 기반 모델(예: GPT-3 파인튜닝 또는 다른 모델 사용)을 학습시켜, 데이터로 학습하고 응답하도록 교육한 후 'captain word salad’가 얼마나 잘 작동하는지 확인해 보는 것이 흥미로울 것 같습니다. 단, "쓰레기가 들어가면 쓰레기가 나온다(garbage in, garbage out)"는 점을 명확히 전제로 해야 합니다.
실험은 분명히 이루어질 것이며, 과신하고 거짓말을 하는 GPT 모델들은 시간이 지남에 따라 더 좋아질 것입니다(더 나은 데이터와 어떤 식으로든 사실 확인을 수행하는 완화 알고리즘 덕분에).
Richard의 게시글은 확실히 흥미롭지만, ChatGPT는 아직 이 작업에 완전히 준비가 되지 않았습니다:
비교하자면, Bing은 비교적 최신 검색 결과를 기반으로 파인튜닝을 수행합니다.
https://goodspeed.studio/bubble-buddy에서 비슷한 것이 출시된 것으로 보입니다.
https://forum.bubble.io/의 콘텐츠가 시드로도 사용되는지 확신할 수 없습니다.
OP가 이 답변이 주제와 맞지 않는다고 느끼신다면 알려주세요. 옮기도록 하겠습니다.
OpenAI가 방금 ChatGPT 플러그인을 발표했습니다.
문서를 읽던 중 가장 포괄적인 예시를 발견했습니다.
여기에는 다음과 같이 명시되어 있습니다.
이는 개인 또는 조직의 문서에 대한 의미론적 검색 및 검색을 가능하게 하는 ChatGPT 플러그인입니다. 사용자는 파일, 노트, 이메일과 같은 데이터 소스에서 질문을 하거나 자연어로 필요를 표현함으로써 가장 관련성 높은 문서 조각을 얻을 수 있습니다. 기업은 이 플러그인을 사용하여 내부 문서를 직원들에게 ChatGPT를 통해 제공할 수 있습니다.
여러 Discourse 사이트의 정기 사용자로서, ChatGPT에 자연어 질문을 하면 새로 만들어질 플러그인을 통해 모든 Discourse 사이트를 검색하고 멋진 답변을 만들어 주었으면 좋겠습니다.
이것은 더 아이디어에 가깝지만 언급할 가치가 있습니다.
편집
현재 존재하는 또 다른 ChatGPT 플러그인입니다. (플러그인이 무엇을 할 수 있는지 이해하려는 분들을 위해 참고합니다. 프로그래머들에게는 상식이지만, 비프로그래머들에게는 그리스어를 말하는 것과 같으므로, 이것이 더 나은 이해를 도울 것으로 생각합니다 
)
참고로