첫 번째 이유는 사실 제가 Discourse AI가 어떤 기능을 할 수 있는지 잘 몰랐기 때문이었습니다. Meta에서 일부 기능을 봤지만, 그 외에는 잘 알지 못했습니다.
하지만 이 페이지 덕분에 이제 그 질문에 답을 찾았습니다 
그 페이지를 보지 못했다면, 어떤 기능을 할 수 있는지 알지 못했을 것입니다.
많은 다른 사람들에게도 마찬가지일 수 있지만, 저는 잘 모르겠습니다.
7개의 좋아요
우리 커뮤니티에서 대부분의 사람들은 'AI’라는 말만 들어도 기피하는 경향이 있고, 나머지 사람들은 극단적으로 나뉘어 있습니다. 우리 사례에서 보면, 빅데이터를 새로운 차원으로 끌어올리며 미친 수준의 에너지 소비와 전 세계적 감시를 동반하는 대기업에 돈을 지불하는 것은… 우리의 모든 가치관에 정면으로 반합니다.
오픈소스와 자체 호스팅이 이를 완화할 수 있지만, 다시 말하지만… 우리가 활용할 주요 기능은 더 나은 검색과 더 나은 추천입니다. 그리고 정말로 그걸 위해 'AI’에 의존해야 할까요? 동일한 비용과 에너지 소비로 로컬에서 작동하면서, 거대 AI 게임의 적극적 플레이어가 되지 않으면서도 콘텐츠 데이터베이스와 검색 및 추천 알고리즘의 개선이 불가능할까요?
4개의 좋아요
예를 들어 AI가 내장된 ‘교정’ 도구로만 사용된다면 사용할 수도 있을 것 같습니다. 아니면 번역 도구로 쓰이는 것도 괜찮을 것 같고요.
1개의 좋아요
Discourse AI를 사용하는 데는 아무런 장애물이 없습니다. 오히려 저는 이것이 현재 전체 애플리케이션 중 가장 훌륭한 부분 중 하나라고 생각합니다.
다만, 저는 교육자이자 AI 연구자/엔지니어로 일하고 있으며, 이른바 ‘AI 버블’ 밖의 사람들과도 밀접하게 협력하고 있습니다. 제 경험상, 사람들이 AI를 사용하거나 도입하는 데 주저하는 이유는 주로 세 가지입니다:
- 악명 높은 LLM 환각(hallucinations)을 관리할 수 없기 때문에;
- 이를 도입할 만한 적절한 사용 사례를 찾지 못해 관련성에 대한 정당성을 부여할 수 없기 때문에;
- 일반적으로 AI의 기능에 대해 오해하고 있어 실망하기 때문에.
실제로 이러한 모든 딜레마는 적절한 프롬프트 엔지니어링과 해당 주제에 대한 교육을 병행하면 완화할 수 있습니다. 따라서 이는 Discourse 측의 결함과는 전혀 무관합니다. 다만, 만약 회사가 Discourse AI 플러그인에 특화된 ‘AI 입문자를 위한’ 강의를 제공한다면, 채택률과 사용 편의성이 모두 향상될 수 있을 것입니다. 현재 AI는 큰 화제이므로, 많은 사람들이 어떻게 사용해야 하는지 또는 무엇을 위해 사용해야 하는지 알지 못해도 AI를 사용하고자 합니다.
그럼에도 불구하고, 직감을 믿고 말하자면 이 기능 세트가 가까운 미래에 Discourse의 인기를 주도할 것입니다. 이 기능은 단순한 것을 넘어 매우 독창적이며 시스템에 정교하게 통합되어 있기 때문입니다. 정말 훌륭한 작업입니다!
6개의 좋아요
이 표현은 꽤 이상하다고 생각합니다. 비판의 의도가 아니라, 이 글 제목인 "Discourse AI를 시도하지 않는 것을 막는 것이 무엇인가요?"와 동일한 맥락을 담고 있기 때문이죠.
두 경우 모두 AI가 분명히 좋고 가치 있는 것이라는 전제가 깔려 있고, 누군가가 그 가치를 보지 못하고 있다는 뉘앙스가 느껴집니다.
하지만 제 생각은 다릅니다. 오늘날의 'AI’는 매력적인 기술의 거품이며, 최신 기술을 그 자체로 좋아하는 사람들에게는 매우 매력적이지만, 여기저기서 가치가 있을 수는 있습니다. 그러나 그 자체로 본질적인 가치를 지니고 있다고는 볼 수 없습니다.
질문은 이득이 무엇인지에 초점을 맞춰야 합니다. 이 경우 포럼 회원이나 포럼 관리자 입장에서 무엇이 더 좋아지는지가 핵심이죠.
그리고 이것이 바로
이라는 부분과 연결됩니다. 다시 말해, 오늘날 제공되는 서비스의 극심한 신뢰성 부족입니다. 요약이나 제안을 하는 데 도움이 되는 경우가 있긴 하지만, 오히려 틀리는 경우가 훨씬 더 많습니다. 신뢰할 수 없는 요약? 신뢰할 수 없는 감정 분석? 그것은 오히려 더 나쁜 경험만을 만들어낼 뿐입니다.
AI를 추진하거나 제품을 통합하는 업무를 맡은 사람들에게는 약간의 동정을 표합니다. 그것이 고용의 본질이고, 때로는 역할 자체가 잘못된 방향으로 설정되기도 하니까요.
하지만 이것이 모든 포럼에 도움이 될 위대한 것이라는 전제는 정말로 이해할 수 없습니다. 일부 포럼에는 도움이 될 수 있겠죠. 그 가치는 어디에 있는지에 대해 알려주시고, 그 가치가 신뢰할 수 없는 방식으로 전달될 때 발생하는 비용까지 포함해 말씀해 주십시오.
3개의 좋아요
제 말씀은 AI가 매우 많은 것들을 개선할 수 있으며, 제 경험상 일부 클라이언트는 비즈니스나 운영 방식을 어떤 식으로든 개선하고 싶지만 정확히 어떻게 해야 할지 모르겠다는 것입니다. 저는 모든 사람이 AI를 사용해야 한다고 전혀 생각하지 않습니다. 그것은 단지 현재의 하이프(hype) 함정에 빠지는 것이기 때문입니다.
본질적으로 가치 있는 것은 절대 아니라는 점에는 동의합니다. 저는 그런 뉘앙스를 쓰지 않았습니다. 대부분의 기술과 마찬가지로, AI도 과용되거나 기대에 미치지 못하거나, 심지어 악용될 수 있습니다.
저는 아직 이러한 '극심한 신뢰성 부족’을 경험해 본 적이 없습니다. 아마도 무엇을 이루고자 하느냐에 따라 다를까요? 매우 일반적이고 복잡한 작업은 여전히 신뢰할 수 없는 결과를 낳을 수 있다는 점은 사실입니다. 다시 말하지만, 이를 완화하기 위해 프롬프트 엔지니어링과 이 기술의 적용에 대한 적절한 전문 지식은 필수입니다. 따라서 제 주장은 변함없습니다.
동정은 감사하지만, 저는 그것을 필요로 하지 않습니다 
. 저는 자영업자이며, AI가 필요 없는 사람들에게 AI를 ‘밀어붙일’ 필요가 없습니다. 그리고 주제에 대해 어떻게 글을 쓰는지를 볼 때, 당신에게는 낯선 주제에 대한 근거 없는 의견만으로 누군가나 그들의 일이 잘못된 방향이라고 단정 짓는 것은 꽤 무례한 일입니다.
저는 뇌종양을 자동으로 탐지하고 분할하며 치료 위험 분석을 제공하는 AI 시스템을 개발했습니다. 이러한 발전에서 혜택을 받는 환자분들이 그런 역할이 '잘못된 방향’이라고 동의할 것이라고는 생각하지 않습니다. 우리 중 일부는 단순한 단기 이익이 아니라 인류의 이익을 위해 AI를 연구합니다.
다시 말씀드리지만, 저는 그것이 모든 포럼에 도움이 될 것이라고 전제하지 않았습니다. 오히려 도메인 지식이나 목표 없이 단지 ‘그냥’ 도입하는 것이 관리자에게는 어리석은 일일 수 있다고 생각합니다.
부연 설명:
AI 관련 미래 답변에서 좀 더 차별적인 태도를 줄이고 좀 더 정보에 입각한 태도를 가져주셨으면 합니다. 혹은 적어도 다른 사람의 답변을 맥락에서 분리해서 '잘못된 방향’이라고 비난하고 동정을 표하지는 마세요 
수정:
Discourse가 커스터마이징 옵션을 더 추가하면(예: 주제 요약기에 대해 적절하게 프롬프트 엔지니어링을 할 수 있는 기능 등) 많은 위험을 완화할 수 있을 것입니다. 그들은 이미 페르소나와 사용할 모델 선택 기능 등을 통해 이 방향으로 나아가고 있습니다.
1개의 좋아요
죄송합니다. 이 스레드가 시작된 이후로 계속 마음에 걸려 있었고, 마침 당신의 게시글을 출발점으로 삼게 되었습니다. 제 관찰에는 특정하거나 개인적인 의도가 전혀 없습니다.
@Saif 님이 궁금해하시듯, 저에게 있어 토론에 AI를 활용하려면 가치 제안을 알아야 합니다. 현재 제 포럼은 잘 운영되고 있으며 비용도 통제되고 있습니다. 금전적 비용이 드는 것을 추가하려면 그 혜택이 무엇인지 알아야 합니다. AI를 시도하는 것을 막는 것이 있는 것은 아닙니다.
4개의 좋아요
Akismet을 비활성화했고, Discourse AI Spam과 Persona를 내부적으로 테스트하고 있습니다. 사용 중인 LLM은 Google Gemini Flash 2.0입니다.
질문은 이 시스템이 반복적인 상호작용과 인간 피드백을 통해 심층 학습을 하는지 여부입니다. 데이터 캐싱 옵션은 프로 버전에서만 허용되므로, 이 부분도 함께 확인하고 싶습니다.
1개의 좋아요
이 시스템은 아무것도 학습하지 않습니다. 다만, 실수를 하는 것을 발견하셨다면 포럼에 특화된 사용자 지시를 제공할 수 있습니다.
2개의 좋아요
페르소나의 멘션을 특정 토픽에 고정할 수 있는 방법이 있을까요?
이 문제가 다시 떠올랐으니:
-
저는 실제로 사용하고 있지만, 비용은 매서운 눈으로 주시하고 있습니다. 가장 큰 우려는 통제 불능의 토큰 사용량입니다. 적어도 평균 토큰 사용량이 어느 정도가 정상인지 직감을 가질 때까지는 그렇습니다. 비용 한도를 설정할 수 있는 기능은 좋지만, 커뮤니티의 일반적인 사용량이 어떤지 확실히 알게 될 때까지는 마음이 편하지 않습니다. 그리고 그것은 시간이 걸리는 일입니다.
-
사용자 신뢰 문제는 매우 큽니다. 제가 어떤 메시지를 준비하거나 사이트 관리자로 어떤 말을 하든, LLM이 사용자 생성 콘텐츠를 학습에 사용하고 있으며 Discourse 시스템의 모든 사용은 “허가” 없이 사용자 데이터를 "판매"하는 것이라는 불변의 인식이 존재합니다. 제 경험에 비추어 볼 때 이는 많은 댓글 작성자들 사이에서 체계적인 문제이며, 사람들이 AI 기업들이 “실제로” 하고 있는 것을 “알고” 있기 때문에 결코 사라지지 않습니다. 포럼에서 AI 기반 분류를 활성화하고 그렇게 한다고 말하는 것은, "내 데이터를 어떤 AI 테크브로 회사에 보내서 내 글로 돈을 벌게 해주는 데 동의하지 않습니다!"라는 항의가 쏟아지는 결과를 초래할 수 있습니다. 모든 사람이 이런 것에 대해 우려하는 것은 아니지만, 우려하는 사람들은 분노를 느끼면서도 동시에 토론에는 전혀 관심이 없습니다. 이에 대한 좋은 답을 가지고 있지 않습니다.
-
포럼의 스팸 감지 상태를 [여러 회사의 모델들이 그 시점에 어떻게 "기분"을 내고 있는지에 따라] (AI spam bot says it is not spam but scan log says it is spam - #5 by Roman) 맡기는 것에 대해 다소 불편함을 느낍니다. 솔직하게 말하자면: AI 스팸 감지, AI 분류 및 기타 모든 AI 기능은 기본적으로 "자, 이건 그냥 AI의 문제로 넘기자"라고 말하는 것과 같고, 프롬프트 엔지니어링을 통해 우리가 원하는 것을 어떻게 코딩화할지 시도하는 것입니다. 작동은 하지만, 이 과정은 *짜증나도록 비결정론적(non-deterministic)*입니다. 기본적으로는 지금처럼 작동하기를 바라는 수밖에 없습니다. 저는 이것이 싫습니다. 전혀 싫지 않습니다. 제 도구가 적절히 결정론적이기를 원합니다. LLM은 결정론적인 것의 정반대이며, 우리는 OpenAI 등이 우리에게 던져주는 것에 포럼 기능의 일부를 의존하고 있습니다.
그럼에도 불구하고, 저는 AI 안티스팸과 AI 포럼 분류를 모두 사용하고 있습니다. 도움이 됩니다. 하지만 이러한 솔루션은 지속적으로 모니터링되어야 한다는 사실을 인지하려고 노력합니다.
2개의 좋아요
플러그인과 관련된 컴퓨트 비용은 누가 부담하나요?
토큰 생성은 무료가 아니며, 클라우드에서 GPU를 임대하는 비용은 가장 저렴한 플랜 기준으로 월 약 250달러입니다(Google Cloud의 NVIDIA T4).
이 플러그인의 비용이 월 250달러인가요?
1개의 좋아요
대부분의 사용자가 주요 AI 서비스 제공업체 중 하나에서 유료 플랜을 사용한다고 생각합니다(지원되는 모델 목록은 문서의 여기에 있습니다).
불행히도 셀프 호스터를 위한 저렴한 옵션에 대해 제가 아는 바가 없습니다. 제가 아는 GPU 기반 서비스는 모두 언급하신 가격 범위에 속하며, 더 강력한 머신을 사용하더라도 CPU 기반 추론은 너무 느릴 것이라고 추측됩니다.
1개의 좋아요
셀프 호스팅된 Discourse AI를 사용하면 API를 통해 다양한 상용 모델에 연결할 수 있습니다. Gemini Flash 2.0을 사용하여 AI 트리아지, AI 스팸 방지, 그리고 일부 AI 야간 요약 기능을 사용하면서 월 약 0.03달러의 비용을 지출하고 있습니다.
4개의 좋아요
여기서 ‘셀프호스팅 AI’에 대한 이해가 서로 다른 것 같습니다. 제게는 로컬에서 실행되는 모델/서비스에 연결하는 것을 의미합니다. 말씀하신 방식도 가능하지만, 실질적으로 로컬 부분은 프록시에 불과하며 데이터가 서버를 벗어나 API 제공업체로 전송됩니다. 많은 분들에게는 괜찮을 수 있지만, 저나 저희 커뮤니티에게는 그런 옵션이 아닙니다.
1개의 좋아요
죄송합니다. 제가 언급한 것은 자체 호스팅 Discourse였습니다. 제 실수였습니다.
4개의 좋아요