컴포저에서 PDF 업로드 및 토론

[BrianC (Brian)]

Hi everyone,

I’m not sure if this is the correct way to make a feature request, but I wanted to reference this post with Sam.

The idea is to allow users to upload PDFs or TXT files directly in chat and have the AI process and respond to questions about the content. It seems like much of the infrastructure is already in place, and it could add tremendous value for interactive discussions.

Would love to hear thoughts on this!

Thanks,
Brian

[MachineScholar]

This is a perfect solution for countless organizations who run a Discourse instance. Furthermore, the AI plugin could get a global setting to allow/disallow document uploads to personas and the admin panel could get a new tab with some settings for chunking size, number of results, etc. which can be global or per-LLM. As you mentioned, it seems like much or even most of the code infrastructure already exists for this feature.

@MachineScholar

I personally work with many people who can’t really use any AI in their work (ChatGPT, Claude, Perplexity, etc) because of privacy and other concerns. They also don’t have and can’t afford dedicated AI engineers to build a custom solution, nor are they technical individuals themselves. So I see a very large market gap here for small and medium businesses/organizations, where Discourse AI is the perfect solution.

[BrianC (Brian)]

@sam do you think this one will see development at some point?

[MachineScholar]

Hopefully there’s hope as we just got PDF uploads in the persona editor for RAG

PDF support in Discourse AI (RAG)

This guide explains how to implement and use PDF processing capabilities within discourse-ai, including both basic text extraction and enhanced processing with LLM assistance. Required user level: Administrator Summary The discourse-ai plugin supports PDF processing for RAG (Retrieval-Augmented Generation) in two distinct modes: Basic text extraction Enhanced processing with LLM analysis Basic text extraction This mode provides fundamental PDF processing c…

[sam (Sam Saffron)]

여기서 까다로운 부분은 UI입니다.

PDF나 대용량 텍스트 파일이 인덱싱되려면 "리드 타임"이 필요합니다. 그리고 UI 측면에서도 과제가 있습니다.

1. 1, 7, 27번 게시물에서 PDF/텍스트를 업로드했는데, 사용자는 현재 진행 상황을 어떻게 파악할까요?
2. 1번 게시물에서 업로드했지만 사용 가능까지 5분이 걸린다면, 이를 사용자에게 어떻게 전달할까요?

기술적으로 이 두 가지 문제를 직관적으로 해결할 수 있는 유일한 방법은 업로드를 위한某种의 맞춤형 UI인 것 같습니다.

여기서 UI 과제가 가장 큰 장벽이며, 실제 메커니즘은 그리 복잡하지 않습니다.

cc @awesomerobot / @Falco

[MachineScholar]

@sam

기술적으로, 이 두 가지 문제를 모두 우회하는 가장 직관적인 방법은 업로드를 위한某种 커스텀 UI를 구현하는 것 같습니다.

저는 프론트엔드 개발자가 아니므로 이 모든 것이 터무니없는 것일 수 있지만, 한번 들어봐 주세요…

AI 업로드 모달

컴포저 툴바에 “AI 문서” 버튼을 추가하여 특수한 AI 업로드 모달을 열 수 있다고 제안합니다(사용자가 표준 또는 향상된 처리 및 기타 설정을 선택할 수 있는 모달). 그런 다음 토픽/게시물은 아래 두 가지 중 하나가 될 수 있습니다(이 동작을 결정하는 사이트 설정을 추가할 수도 있습니다):

1. 처리가 완료될 때까지 게시한 사용자를 제외하고는 스레드 내 다른 사용자에게 회색으로 표시되고 보이지 않으며 — 처리가 완료된 후 공개적으로 표시됩니다. 또는…
2. 게시물을 초안으로 저장하고 업로드가 백그라운드에서 계속 진행되도록 할 수 있습니다. 열면 업로드 진행 상황을 보여주는 AI 업로드 모달이 표시됩니다. 본질적으로 AI 업로드가 완료되거나 취소될 때까지 게시를 허용하지 않습니다.

• 두 경우 모두 업로드가 완료되면 사용자에게 알림을 보내도록 허용하는 설정을 추가할 수 있습니다.

업로드 추적

토픽 전체에서 업로드를 추적하는 것과 관련하여, 파일 목록(해당 게시물 번호, 크기 등 포함)을 토픽 통계 아래 이 위치에 삽입할 수 있습니다: