챗봇이 PDF를 읽을 수 있도록 해서 그룹 토론에 참여하게 해주세요

PDF 파일과 채팅할 수 있는 도구에 접근할 수 있는 분들을 위해, Discourse AI -AI 봇도 PDF를 읽고 토론에 참여할 수 있으면 좋겠습니다.


지금은 학술 연구자들이 이 기능을 마치 사탕처럼 맛있게 활용하고 있지만, 여러 사용자가 봇과 함께 그룹으로 모여 논문을 논의할 수 있는 방법은 아직 찾지 못했습니다. AFAIK(본인의 지식 범위 내로) 현재는 사용자가 봇과 1:1로만 채팅하며, 봇이 읽은 논문에 대해 이야기할 수 있을 뿐입니다. 논문과 함께하는 그룹 채팅이 존재한다는 것은 확신하지만, Discourse에도 이러한 기능이 있었으면 합니다.

봇을 초대해 한 명 이상의 논문(PDF)을 주제로 토론하는 북클럽을 상상해 보세요.



누군가 Discourse + AI 모델 플러그인(ref) = :moneybag:라는 영감을 떠올린다면, :star2: 이 글이 그 아이디어를 처음 접한 곳이었으면 합니다.

다양한 플러그인과 봇이 점점 더 많이 만들어지면, 결국 가라지 밴드를 결성하거나 :guitar:, 가상 프로그래머 미팅을 열거나 :desktop_computer: 하는 등의 일이 가능해질 것입니다.



3개의 좋아요

Discourse Chatbot 🤖 에 관해서는 PR을 환영합니다.

해당 작업을 후원하고 싶으신 분은 누구든 자유롭게 연락해 주세요.

제가 만든 프레임워크는 쉽게 확장할 수 있으며, PDF 읽기 기능은 훌륭한 추가 기능이 될 것입니다. :+1:

3개의 좋아요

이런 종류의 작업에는 전용 페르소나가 필요할 것 같습니다. 분할하고 임베딩한 다음, 그와 대화할 수 있으므로 충분히 가능하다고 생각합니다. 다만, 이를 "포럼 헬퍼"와 혼합하는 것은 적절하지 않을 것 같아 “문서 탐색기” 페르소나를 만드는 것이 어떨까 싶습니다.

매우 흥미로운 사용 사례입니다. 문서 업로드 등에 필요한 인프라가 이미 많이 갖춰져 있어, 이를 구축하는 것은 그리 무리한 일이 아닙니다.

3개의 좋아요

이것이 파일에서 텍스트를 추출해서 프롬프트에 삽입하는 건가요? 그렇다면 흥미로운 기능인 것 같습니다.

먼저, 이 기능들을 직접 만들어 본 적이 없기 때문에 추측만 할 수 있습니다.

네, 그렇습니다.

제가 시도해 본 몇 가지 ChatGPT 플러그인들은 PDF 전체를 읽지만, 수학 표현식이나 그래프에서 데이터를 추출하는 것은 그 능력 범위를 벗어나므로 텍스트만 읽는 경우가 많습니다. 이는 PDF가 레이아웃과 표현을 위해 설계되었기 때문이며, 맥락 추출이나 데이터 교환 형식으로서 지식을 전달하는 용도로는 적합하지 않기 때문입니다.

정확히 무엇을 의미하는지 잘 모르겠지만, 제 이해로는 지식을 벡터 데이터베이스에 임베드(embed)한 후, 프롬프트를 사용하여 관련 부분을 찾아 답변을 구성한다고 봅니다.

이 개념을 타인에게 설명할 때 제가 사용하는 비유는 다음과 같습니다. PDF라는 형식에 집착하기보다는, 해당 논문의 저자(들)가 논문에서 전달하려는 아이디어에 초점을 맞추고, 마치 그들과 대화하는 것처럼 생각하라는 것입니다.

ChatGPT에서 플러그인을 실행할 수 있다면 다음 사이트에서

https://pugin.ai/

PDF 또는 paper를 검색해서 몇 가지를 시도해 보세요. 제가 발견한 두 가지 주요 차이점은, 많은 플러그인이 단일 PDF를 읽는 반면 (https://pugin.ai/p/chatwithpdf), 이 플러그인(https://pugin.ai/p/science)은 2억 5천만 개의 과학 논문 중 관련 논문을 골라낸다는 점입니다.


LangChain에는 이런 것이 있습니다.

그리고 GitHub에는 유사한 저장소들이 있습니다 (ref), 결과는 사용자마다 다를 수 있습니다(YMMV).


이러한 기술이 학계에 국한될 것이라고 생각하는 분들을 위한 구체적인 사용 사례를 하나 소개합니다.

Leveraging LLMs with Vast Mechanic Datasets and Guides

1개의 좋아요

리포지토리 이름에 모델 번호를 넣다니 참 이상하네요! 3.5에서는 왜 작동하지 않을까요?

참고로

다른 회사들도 유사한 아이디어로 뛰어들고 있습니다.

1개의 좋아요