올해의 목표로, Discourse AI와 그 기능들의 도입률을 높이는 것을 시도하고 있습니다. 여러분의 커뮤니티에서 Discourse AI를 사용해 보지 못하게 하는 것이 무엇인지 전체적으로 이해해 보고자 합니다.
특정 기능과 관련된 불편한 점들이 있을 수 있다는 점은 이해하지만, 이번에는 그러한 문제적인 이유들이 무엇일 수 있는지에 대해 더 큰 그림을 그려 보고자 합니다.
또한, 통화를 통해 이에 대해 이야기해 주실 의사가 있으시다면, 여러분의 피드백을 매우 감사히 받겠습니다 
AI 남용. 여기서 말하는 건 사람들이 AI를 써서 거의 모든 걸 작성한다는 거야. 이러면 인간의 가치가 없어지는 것 같지만, 사실 모든 AI에겐 피할 수 없는 일이지. 근데 나도 곧 (돈만 있다면!) 그렇게 될 거 같아!
그 마음 잘 알아. 우리는 Discourse AI를 모든 것을 "작성"하도록 의존하는 것이 아니라, Discourse 여정에서 도움이 되는 어시스턴트로 만들고 싶어. 또한 GenAI 기능을 통해 표시되는 콘텐츠가 AI로 생성된 것임을 사용자들이 인지할 수 있도록 할 계획이야.
우리 커뮤니티에서는 ChatGPT가 출시되던 무렵에 매우 흔했던 기능으로, 사용자가 쓰레기 답변이나 튜토리얼의 해답을 스팸으로 남기는 일이 발생했습니다…
개별 게시물을 하나 이상의 AI 페르소나의 지식 기반으로 수동 지정할 수 있도록 하고 싶습니다.
지금은 너무 비싸서, 초점이 인간 간의 토론에 있는 상황에서 사용자들에게 타이핑을 하거나 AI 콘텐츠 생성을 요구할 수는 없습니다.
아직 Discourse를 사용하지는 않고 있습니다(평가 중이므로), 하지만 개념적으로 두 가지 주요 장애물이 있습니다:
우리 커뮤니티는 주로 테이블톱 롤플레잉 게임(TRPG) 애호가들로 구성되어 있으며 인간의 창의성이 크게 중시됩니다. 그 결과 생성형 AI에 대해 부정적인 시각을 가진 사용자가 상당한 비율을 차지하고 있습니다. 새로운 도구에 대한 실험도 많이 이루어지고 있지만, 생성형 AI의 사용은 효과적으로 신중하게 고려해야 합니다.
우리는 자체 호스팅(self-hosting)을 사용하며 예산이 제한적입니다(일부 사용자가 기부한 금액으로 충당). Discourse(또는 다른 커뮤니티 소프트웨어)를 호스팅하기에 충분한 수준의 서버는 구할 수 있지만, 현재 LLM 서비스(LaaS)와 전용 GPU 서버의 비용은 이를 감당하기에는 너무 높습니다. 또한 기대되는 효과도 이를 정당화할 만큼 낮습니다.
위에서 언급된 댓글 중 몇 가지에 동의합니다. 특히 AI를 과도하게 사용하게 되면, 어떤 것이 인간이 "작성"한 것인지 아닌지 구별하기가 어려워지는 점이 걱정됩니다.
하지만 제가 더 크게 우려하는 부분은 원격 AI를 사용하는 것입니다. 저는 Discourse 포럼을 얼마나 공개적으로 운영할지에 대해 자주 고민해 왔는데, 요즘 AI API가 얼마나 사생활을 침해하는지 판단할 기준(휴리스틱)이 명확하지 않은 것 같습니다.
더 강력하고 저렴한 자체 호스팅 또는 온디바이스 LLM이 있다면, 훨씬 더 안심할 수 있을 것 같습니다. 온디바이스 LLM이 Discourse에 어떤 이점을 가져다줄지는 정확히 모르겠지만, 원격 LLM을 사용하는 것이 요즘은 저에게 망설임을 불러일으킵니다.
다른 제3자 제공업체보다 Discourse에서 호스팅되는 오픈소스 LLM이 더 안심할 수 있을까요? (물론 온디바이스보다는 약간 덜할 수 있겠지만요?)
조금 정도라면 괜찮겠지만, 저는 셀프호스팅 또는 온디바이스 방식(다시 말하지만, 셀프호스팅 포럼에서 실제로 작동할 수 있다면)을 더 선호할 것 같습니다.
지금의 Discourse처럼, Discourse가 호스팅하는 방식과 셀프호스팅 옵션을 모두 제공하는 형태라면, 저는 더 관심을 가질 것 같습니다. 그 시점에는 제 우려가 LLM 출력의 품질과 실행 비용으로 옮겨갈 것 같습니다.
제 커뮤니티보다 더 확고한 커뮤니티를 가진 분들의 의견을 듣고 싶으신 것 같지만, 제 생각을 한번 말씀드릴게요.
AI 기반의 기능을 내 Discourse 사이트에 추가하는 데에 아무런 장애물이 없지만, 저는 AI로 구동된다는 사실 자체보다는 기능 자체에 관심이 있습니다.
예를 들어, 의미론적 검색(semantic search)과 게시물을 자동 플래그 처리할 수 있는 기능(이후 인간이 검토할 수 있도록)은 제가 꼭 사용하고 싶은 기능들입니다. 게시물을 실시간으로 번역할 수 있는 기능도 유용할 것 같습니다.
제가 말씀드리는 마케팅 측면의 예시들을 몇 가지 들어드리겠습니다:
특히 챗봇과 관련된 AI 기능은 온라인 커뮤니티의 정신에 반하는 것으로 느껴질 수 있습니다. 모든 AI 관련 기능을 "Discourse AI"라는 제목 아래에 묶어두면, AI로 구동되지만 포럼에 incredibly 유용할 수 있는 기능들로부터 사람들을 떠나게 만들 위험이 있습니다.
저는 마케팅 천재는 아니므로, 위 내용은 참고용으로만 받아들이시기 바랍니다.
AI로 만든 Essentials Tools로 모더레이션을 돕는 건 내 입장에선 괜찮아. 하지만 이미지를 생성하는 방식은 원하되, 커뮤니티의 정신을 잃을 위험이 있다면 AI를 활용한 모든 생성 방식은 거부해.
소셜 미디어가 죽어가는 데는 이유가 있어. 그게 핵심이야.
저는 현재 이 기능을 사용하고 있습니다. 제 포럼에서는 AI를 활용해 개념을 설명하는 데 사용하고 있습니다.[1] 하지만 일반 회원들에게는 사용 권한을 부여하지 않습니다. 월 50달러는 저에게 정말 부담스러운 금액이거든요. 
하지만 제게 가장 큰 문제는 AI 자체의 결함이 아니라, 적절한 지식 베이스를 구축하는 데 필요한 작업량입니다. 그리고 제 생각에 AI의 가장 큰 약점은 임베딩(embeddings)을 활용하는 방식이 너무 부실하다는 점입니다. 그 결과 커뮤니티에서 생성된 콘텐츠가 충분히 활용되지 못하고 있습니다.
네, 알아요. 대부분 OpenAI의 한계에서 비롯된 문제입니다. 또한 이 기술은 주장하는 것만큼 생산 환경에 적합하지 않습니다. 게다가 언어 장벽도 존재합니다.
그 위에 한 가지 더: 좋은 프롬프트를 작성하는 것은 정말 어렵습니다. 몇 주가 지나면 무언가가 바뀌어서 프롬프트를 다시 수정해야 합니다.
언젠가 백그라운드 작업에는 도움이 될 수 있을지 모릅니다. 하지만 팀이 일상적인 요약 작업 등에 고군분투하는 모습을 보면(제 관점에서는 시간과 돈을 낭비하는 것 같아 죄송합니다 
), 이는 매출을 실제로 증가시키지 않는 작업이 너무 많다고 주장합니다. 달러로든 행복으로든 측정하든 마찬가지입니다. 이는 관리자 및 개발자의 업무 부담을 줄여주지 않고, 오히려 증가시킵니다.
물론 월 에너지 음료 재고 비용이 1만 달러보다 적다면, 디스코urse를 포함한 지원 포럼까지 AI를 활용해 자동화할 수 있고, 그래야 하는 대기업들이 있습니다. 이것이 CDCK의 목표이며, 그래야만 합니다. 하지만 여기에서 자사의 의견을 말하는 그런 대기업들이 얼마나 될지는 모르겠습니다.
예: 야구 규칙을 설명하거나, 왜 이렇게 느리고 지루한 스포츠임에도 불구하고 이렇게 인기 있는지에 대한 추측을 제공하기 ↩︎
일반적인 여론은 GenAI가 커뮤니티에 문제를 일으키거나 혼란을 초래할 잠재력이 있으며, 자연스러운 교류와 인간의 창의성을 빼앗아 간다는 것입니다. 저는 Discourse AI에서 이를 균형 있게 다루고자 노력하고 있으며, AI가 글을 완전히 대신 쓰는 것이 아니라 글쓰기를 보완하는 데만 사용되도록 하고 있습니다.
@simon 님, 기능에서 "AI 사용"이라는 표현에 대한 훌륭한 지적이십니다. 분명히 이러한 브랜딩이 일부 사용자를 소외시킬 수 있는 반면, AI와 상호작용하고 있다는 인식을 높여 긍정적인 반응을 이끌어낼 수도 있습니다.
대부분 무료가 아니라는 사실 때문에 제약을 받습니다.
우리는 인터랙티브 픽션(Interactive Fiction) 팬, 크리에이터, 작가, 아티스트를 위한 소규모 크리에이티브 커뮤니티를 운영하고 있습니다. 우리는 보통 모더레이션 업무가 과다하다는 문제에 부딪히지 않으며, 모더레이터들과 커뮤니티 구성원 중 많은 분들이 질문 답변을 기꺼이 도와주십니다. 따라서 우리는 AI를 "포럼 업무"를 수행하는 데 사용하지 않습니다.
우리는 우리가 만드는 게임과 관련하여 "텍스트 생성"이라는 맥락에서 AI에 대해 자주 논의하며 많은 분들이 이에 관심이 있지만, AI 생성 콘텐츠가 실제 포럼 사용자를 "모방"하여 튜링 테스트를 통과하려는 시도로 사람들을 속이려는 상황에서 게시되는 것은 허용하지 않는다는 규칙을 정했습니다. 우리는 포럼이 AI 테스트장으로 사용되거나, 2006년부터 축적된 역사적 콘텐츠가 텍스트 스크래핑을 위한 데이터베이스로 악용되는 것을 원하지 않습니다.
사람들이 자신의 글쓰기 보조 도구로, 또는 개발 중인 게임의 데모용으로 AI 생성 자료를 게시할 경우, 이는 엄밀히 말해 “그들 자신의” 자료가 아니므로 그것이 무엇인지 명시하거나 출처를 인용하도록 요청합니다. 우리는 여러 스팸 공격자가 (주관적으로) ChatGPT와 같은 AI에게 특정 주제를 입력하고 그 결과를 게시하여 합법적인 포럼 참여처럼 보이게 함으로써 참여도를 높이고 신뢰 등급을 올리는 시도를 한 사례를 경험했습니다. 우리의 예술 장르 전체가 사용자가 상호작용하는 것에 "반응"하는 텍스트 작품을 만드는 것이기 때문에(예: Zork와 같은 텍스트 어드벤처), 대부분의 사람은 기계 생성 콘텐츠를 쉽게 알아차리고 신고할 수 있습니다.
AI나 LLM은 서비스 약관과 행동 강령에 동의할 수 없습니다. 만약 누군가를 모독하게 된다면, 이를 조정할 방법이 없습니다. 우리는 사용자들이 이러한 유형의 콘텐츠에 대해 투명할 것을 기대하므로, 우리 사이트가 포럼 콘텐츠와 응답에 어떤 형태의 AI 생성을 사용해도 될까요? 아마도 그것은 위선적일 것입니다.
또한, 많은 사용자들이 그래픽 아티스트로서 온라인 작품이 AI 아트의 소스 자료로 도용되는 것에 대해 매우 민감하기 때문에, 게임에 AI 아트를 사용하는 것에 대한 토론이 AI 아트에 찬성하는 사람들을 향한 개인적 공격으로 빠르게 변질되어 불길이 번질 뻔한 논쟁을 진정시키기도 했습니다. 따라서 AI는 의도적인 표절의 맥락에서 논의되지 않도록 우리가 면밀히 주의를 기울여야 하는 주제 중 하나입니다.
요약: AI는 우리가 규칙을 정해야 했던 민감한 이슈이므로, 수많은 아티스트와 작가로 이루어진 포럼의 맥락에서 사용하는 것은 적절하지 않을 것입니다.
대부분 쓰레기 산만 만들어 놓고 환경 파괴까지 초래하는 AI 열풍에 지긋지긋합니다. 버블이 꺼지고, 다음에 나올 또 다른 멍청한 것에 모두들 열광하거나, 아니면 더 좋게 말하면 실제로 유용한 것에 집중하거나, 최근에는 모두가 무시하고 있는 기본 기능을 개선하는 데 집중했으면 좋겠습니다. 그런데 다른 사람들이 다 그렇다고 해서 AI 쓰레기를 모든 것에 끼워 넣는 건 정말 싫습니다. 그리고 그건 지금 영구적으로 무지한 투자자들이 돈을 쏟아붓고 있는 분야이기도 하니까요..
원하는 답은 아닐 수도 있지만, 이것이 솔직한 진실입니다. 
여기서 주요 장벽은 제3자 도구 및 데이터 접근에 대한 내부 제한을 극복하는 것(시작할 수 있는 권한을 얻는 것)과, 비용(토큰 사용량 등)을 추정하는 명확한 방법이 없어 새 도구를 사용하기 위한 예산 승인을 받지 못하고 있다는 점입니다.
저는 이 중 일부, 특히 감정 분석 보고서를 사용하기 시작하고 싶습니다. 다만, 도구에 대한 인지와 실제 도입 사이에는 상당한 격차가 있는 것 같습니다.
또한 커뮤니티에 생성형 AI(GenAI) 콘텐츠를 더 많이 도입하는 것에 대한 부수적인 우려도 있습니다. 이는 커뮤니티 구성원들의 생계에 영향을 미치는 가장 중요한 주제입니다. 또한, 기존 게시물의 질문에 대한 "답변"을 시도하는 것이지만 상당히 부정확한, 스레드의 명백한 AI 요약본을 게시하는 신규 포럼 계정이 많이 발견되고 있습니다. 이로 인해 사용자들은 AI 도구가 커뮤니티의 인간적 요소를 지원하거나 증강하는 것이 아니라, 오히려 그것을 묻어두고 있다고 느끼고 있습니다.
AI 생성 콘텐츠에 초점을 맞춘 많은 댓글을 볼 수 있습니다. 저희 엔터프라이즈 커뮤니티를 대표하여 말씀드리자면, Discourse AI의 관리 측면에 대한 지속적인 투자가 이루어지기를 바랍니다. 즉, 리더십 팀에게 커뮤니티의 가치를 보여줄 수 있도록 돕는 도구들이요. 저희는 (상대적으로) 깔끔한 카테고리 및 태그 체계 덕분에, 분기별 비즈니스 리뷰에서 Discourse AI를 성공적으로 활용했습니다. 예를 들어, "이러한 카테고리의 특정 사용자 하위 집단의 감성 분석을 시간 흐름에 따라 이 제품 관련 주제로 보여드리겠습니다"와 같은 인사이트를 제공했죠.
이러한 데이터를 그래프로 시각화하여 커뮤니티의 가치를 더 정량적으로 보여준 결과, 조직 내에서 놀라운 반응을 얻었고 지속적인 투자가 이어졌습니다. 이러한 기능이 더 많이 개발된다면 커뮤니티 분석에 더 깊이 접근할 수 있을 것입니다.
AI 봇에 대해 말씀드리자면, AI 봇 경험을 중개하는 기능에 대한 더 많은 커스터마이징 옵션을 제공해 주셨으면 합니다. 저희는 사용자 데이터를 AI 서비스에 전송하는 방식에 대해 엄격한 요구 사항을 가지고 있어, Discourse와 AWS Bedrock 사이에 자체 AWS Lambda 서비스를 구축했습니다. 봇이 통신할 엔드포인트를 지정할 수 있는 기능과 객체 모델에 대한 문서가 제공된다면, 기존 AI 봇을 저희 커뮤니티에서 온전히 활용할 수 있을 것입니다. 현재는 PM(개인 메시지)과 웹훅을 활용하여 박스(Box) 경험을 모방하는 자체 봇 경험을 구축해 두고 있습니다.
저희의 관점에서, AI를 Discourse의 관리 및 모더레이션에 더 많이 활용하는 방향으로 개선되는 것이 가장 가치 있는 투자입니다. 비즈니스를 위해 확장 가능한 방식으로 이 커뮤니티를 구축하고 지원해야 하며, AI를 활용하여 이를 가능하게 할 수 있는 많은 기회가 Discourse에 있다고 믿습니다.
team@discourse로 연락해 주세요.
당사의 사이트에서 “관련 주제” 기능이 비활성화된 것은 매우 안타까운 일입니다. 이 기능은 100% 당사가 호스팅하며(모든 플랜에 이미 포함되어 있음) 데이터 문제나 토큰 문제, 가격 문제가 없습니다.
마찬가지로 감정 분석 모델도 자체 호스팅하며, 이를 함께 탐색하는 데 기꺼이 응하겠습니다. 감정 분석에 대해서는 여전히 다소 회의적인데, 이것이 구체적으로 어떤 문제를 해결하는지 이해하려고 노력하고 있기 때문입니다.
또한 당사의 하드웨어에서 오픈 모델을 실행하는 것도 검토 중이며, llama 3는 놀라울 정도로 뛰어난 성능을 보여줍니다. 장기적으로 자체 모델로 요약과 같은 기능을 구동할 수 있을 가능성이 있으며, 특히 7B 모델이 이를 자신감 있게 수행할 수 있다면 더욱 그러할 것입니다.
예산 문제에 대해서는 공감합니다. Discourse AI는 이미 개인별 토큰 사용량을 추적하고 있으며, 플러그인에 할당량(quota) 기능을 추가할 예정입니다.
이것은 저희 로드맵에 매우 중요한 부분이며, 현재 이를 작업하고 있습니다. URL을 지정하고 해당 URL이 사용하는 "방언(dialect)"을 지정할 수 있는 기능을 개발 중입니다.