정말 잘하는 것 같아요:
여기서 여러 기업이 망할 것 같아요! 
1개의 좋아요
제 생각에는 완전히 터무니없는 주장입니다.
우리가 가진 아름다운 언어들이 진화해 온 데 대해 인류 전체에게 보상을 해야 합니까?
하지만 이 주제에서 벗어났네요.
1개의 좋아요
반대하지는 않지만, 많은 소송은 피고 측에서는 완전히 터무니없다고 여겨지지만, 그럼에도 불구하고 막대한 비용이 든다고 생각합니다.
2개의 좋아요
인간이 검수한 질문과 답변(예: Discourse에서 해결된 주제)이 학습 데이터로서 경제적 가치를 가진다면, 이에 대해 보상을 요구하는 것은 불합리해 보이지 않습니다. 데이터에 대한 수요가 있으므로, 이는 일종의 윈-윈 상황이라 할 수 있습니다.
1개의 좋아요
지정된 작가의 문체로 글을 쓰게 하는 것이 목적인 글쓰기 대회가 적어도 두 가지 있습니다. (불러-리턴 대회와 헤밍웨이 대회)
하지만 유명 작가의 문체로 소설을 쓰도록 AI에게 요청하는 것은 해당 작가나 상속인들을 불편하게 할 수 있다고 생각했습니다. 식별 가능한 문체는 '지적 재산’으로 간주될 수 있으며, 적어도 어떤 변호사가 법정에서 그렇게 주장할 의향이 있을 수 있습니다.
2개의 좋아요
포럼에서 디스코러스 챗봇을 사용하게 된 사용자들의 뜨거운 반응을 본 적이 있으신가요? 저는 챗봇 관련 콘텐츠는 많이 보았고, ChatGPT, Perplexity, Claude, Bard 등을 매일 사용하고 있습니다. 하지만 포럼은 그런 것들로부터 안전지대라고 생각했었습니다. 어제 AI 포화 현상이 이 오래된 웹 플랫폼(웹 포럼)을 부활시킬 것이라 생각합니다라는 제목의 글을 썼습니다.
디스코러스 등으로 운영되는 토론 포럼을 방문하는 사용자들이 실제로 챗봇과 AI를 원하고 있는지 정말 궁금합니다. 만약 그렇다면, 저는 포럼에 대한 제 생각을 완전히 재편해야 하며, 이 같은 플러그인 도입도 진지하게 고려해야 할 것입니다. 이는 상당한 규모의 프로젝트가 될 것이며, 시간이 많이 걸릴 수도 있습니다. 늘 여러분이 해 주시는 일에 감사드립니다. 이 수요가 어떻게 형성되었는지 파악하여 상황을 정확히 이해하고 싶습니다.
3개의 좋아요
저는 직원들이 바쁠 때나 비수기에 쉽고 반복적인 질문을 빠르게 답변할 수 있도록 기술 지원 포럼에서 이 도구를 활용하는 방안을 검토하고 있습니다. 이러한 용도로는 매우 효과적일 것이라고 생각합니다.
5개의 좋아요
네, 최근에 호스티거(Hostinger) 지원 채팅 창을 열어 봤습니다. AI 챗봇이었죠. 이 챗봇은 정말 효과적이어서 제가 절대 알 수 없었을 환불 옵션에 대해 알려주었고, 심지어 환불 정책 링크까지 보내주더군요! ㅋㅋ
제가 무엇을 묻고 있는지 이해했고, 제가 이미 10가지 기본적인 것들을 시도해 봤는지 물어보지도 않았습니다. 그래서 네, 지원 사례에서 유용할 수 있다고 생각합니다.
바람직하게도, 그런 답변이 포럼에 저장되어 다른 사람들이 볼 수 있거나 토론에 추가할 수 있도록 해야 합니다. 대체하는 것이 아니라 말입니다.
1개의 좋아요
자신이 지원하는 소프트웨어를 사용해본 경험이 있는 숙련된 지원 담당자가 있다면, 그 경우도 마찬가지일까요?
1개의 좋아요
물론 그렇지 않습니다. 모든 사람에게 완벽한 선택지는 존재하지 않습니다.
GPT는 진화할 수 있습니다. 하지만 현재로서는 단순한 수학 연산조차 수행하지 못하는 저수준 옵션에 불과합니다. 3.5 버전은 기본적인 작업조차도 신뢰할 수 있게 수행하지 못합니다. 사실에 기반하거나 적어도 사실에 가깝게 답변해야 하는 상황에서 환각(Hallucination)은 정말로 큰 문제입니다.
영어 이외의 언어는 다루기 어렵습니다. 몇몇 거대 언어의 경우 잘 작동하겠지만, 저처럼 소수 언어를 사용하는 사용자, 특히 격조사가 아닌 구조를 사용하는 언어를 사용하는 경우에는 번역 품질이 결코 최고 수준이 될 수 없습니다.
GPT는 먼저 영어로 번역하고 프롬프트를 수정합니다. 그런 다음 영어로 된 답변을 다시 원어로 번역하면서 GPT가 또 다른 수정과 환각의 과정을 거치게 됩니다. 최종 산출물은 처음에 요청한 내용, 심지어 GPT가 처음에 제시했던 내용과도 크게 다를 것입니다.
그리고 학습이 '수백만 마리의 파리가 틀릴 수는 없다’는 개념에 기반하여 양이 질보다 우선시되기 때문에, 오류와 허위정보의 양은 단순히 ‘엄청나다’ 수준을 넘어서는 것입니다. 게다가 환각 현상으로 인해 그 상황에서도 더 많은 허구적 내용이 생성됩니다.
물론 상황이 그렇게 흑백으로만 나뉘지는 않습니다. 저는 엔트리 레벨 솔루션을 사용하고 있습니다. 하지만 예산이 있다면 자체 학습을 수행할 수 있으며, 그렇게 되면 활용 범위가 크게 달라질 것입니다.
그럼에도 불구하고 저는 이런 주장을 합니다. GPT는 분석을 수행하거나 변이가 많지 않은 특정 작업을 할 때 가장 잘 작동합니다. 또는 완전히 허구적인 ‘새로운’ 무언가를 생성할 때도 그렇습니다. 하지만 GPT가 사실과 신뢰할 수 있는 정보를 제공해야 하는 광범위한 중간 영역에서는… 그다지 그렇지 않습니다.
저는 매일 OpenAI의 GPT3.5를 '스테로이드를 맞은 검색 엔진’처럼 많이 사용합니다. 그리고 그다지 만족스럽지 않습니다. 저는 많은 부분을 확인하고, 재확인하며, 다시 작성해야 하지만, 대량의 텍스트를 생성할 때 GPT가 여전히 제 시간을 절약해 준다는 점은 부정하지 않습니다.
4개의 좋아요
최근 이 주제에 대한 흥미로운 연구가 발표되었습니다:
https://www.nature.com/articles/s41598-024-61221-0
생성형 AI가 온라인 지식 커뮤니티에 미치는 영향
생성형 인공지능 기술, 특히 ChatGPT와 같은 대규모 언어 모델(LLM)은 다양한 분야에서 정보 획득과 콘텐츠 제작 방식을 혁명적으로 바꾸고 있습니다. 이러한 기술들은 온라인 지식 커뮤니티의 참여도와 콘텐츠 생산에 상당한 영향을 미칠 잠재력을 지니고 있습니다. 우리는 이를 뒷받침하는 초기 증거를 제공하기 위해 2021년 10월부터 2023년 3월까지 Stack Overflow와 Reddit 개발자 커뮤니티의 데이터를 분석하고, 전자(Stack Overflow)에서 ChatGPT가 사용자 활동에 미친 영향을 기록했습니다. 특히 ChatGPT가 뛰어난 주제를 중심으로 Stack Overflow의 웹사이트 방문量和 질문 수가 현저히 감소하는 것을 관찰했습니다. 반면, Reddit 커뮤니티의 활동은 감소의 징후가 보이지 않아, LLM이 커뮤니티를 훼손하는 효과에 대한 완충재로서 사회적 유대감(social fabric)의 중요성을 시사합니다. 마지막으로, Stack Overflow의 참여도 감소는 신규 사용자에게 집중되어 있어, 사회적 연결이 약한 주니어 사용자들이 커뮤니티를 떠날 가능성이 특히 높다는 것을 보여줍니다.
7개의 좋아요
이 말은 내 행동 방식을 거의 그대로 설명하는 것 같습니다. 저는 여전히 Meta에서 질문을 하고 답변을 주고받으며, 이곳에서 사회적 연결을 유지하고 있습니다. 하지만 새로운 프로그래밍 언어와 프레임워크를 배울 때는 ChatGPT와 온라인 문서의 조합에 의존합니다.
LLM이 가진 가장 큰 장점은 아마도 항상 이용할 수 있다는 점일 것입니다. 저는 인간 전문가로부터 지침을 받는 것을 선호하지만, 아무도 제 모든 질문에 즉시 답할 만큼 시간이나 인내심이 충분하지는 않습니다.
공개 포럼에서 배우는 것과 달리 LLM을 통해 배우는 큰 단점은 생성된 정보가 비공개라는 점입니다. LLM을 통해 무언가를 배우는 것이 단순히 질문을 하나 던지고 올바른 답변을 받는 경우가 드뭅니다. 질문을 하고, 답변을 적용해 보고, 왜 답변이 작동하지 않았는지 파악하기 위해 문서를 읽고, 후속 질문을 LLM에 다시 던지는 과정이 반복됩니다. 그렇게 해서 마침내 조금씩 지식이 축적됩니다.
누구도 타인의 채팅 로그를 읽고 싶어 하지 않을 것이지만, 기술 포럼에서는 LLM에서 얻은 지식을 게시하는 문화를 장려할 수 있을지도 모릅니다.
LLM을 통해 배우는 또 다른 명백한 단점은 사회적 연결의 상실, 학습 동기가 되는 인간의 관심, 취업 기회 등의 손실입니다. 제 관점에서는 이것이 꽤 큰 문제입니다.
14개의 좋아요
지원 봇을 구축하는 주된 이유는 바로 이 가용성 때문입니다.
4개의 좋아요
이 기술에 대해 반은 설레고 반은 웹의 미래가 걱정됩니다.
구글(그리고 빙)을 포함한 기업들은 이제 웹사이트를 크롤링하면서 수집한 데이터를 활용해 검색 결과 페이지 상단에 AI 기반 Q&A를 제공하고 있습니다.
이것은 검색 결과를 페이지 아래로 밀어내며 출처의 중요성을 낮출 뿐만 아니라, 또 다른 우려스러운 동학을 만들어냅니다. 즉, 검색 서비스 제공업체들이 일부 주요 빅데이터 소스와 더 긴밀하게 통합하려는 유인을 강하게 만드는 것입니다.
예를 들어, 구글이 API 접근 권한을 얻기 위해 레딧과 계약을 체결했다는 보도가 있습니다.
제 생각에는 그 결과로 대형 플랫폼의 콘텐츠가 더 많이 부각되고, 소형 사이트에는 불이익이 돌아갈 가능성이 큽니다.
현재 구글의 “AI 개요” 기능으로 얻는 결과물의 품질을 둘러싸고 상당한 논란이 일고 있으며,该公司로서는 꽤 창피할 수 있는 웃기거나 그렇지 않은 사례들도 몇 가지 있습니다. 물론 기술은 개선될 것이라고 믿습니다.
아마도 소형 포럼은 전문성을 살려 AI의 로컬 활용을 최적화하는 데 더 유리한 위치에 있을 것입니다. 구글은 매우 범용적인 서비스를 제공하는 데 어려움을 겪고 있습니다.
시간이 말해 주겠지만, 주의를 끌기 위한 경쟁은 여전히 치열하게 진행되고 있습니다.
5개의 좋아요
이것은 제 아이디어 중 하나였습니다. BERT와 유사한 모델을 파인튜닝하여 게시물을 자동으로 카테고리로 분류하거나 태그를 자동으로 추가하는 것을 고려하고 있었습니다. ‘독성’ 게시물을 감지하는 것도 또 다른 사용 사례가 될 수 있습니다.
Discourse와 같은 시스템의 경우, 제가 평생 동안 해낼 수 있는 것보다 AI를 활용해 할 수 있는 일이 훨씬 많을 것입니다. 물론, AI가 구현을 돕는다면 평생 안에 해낼 수도 있겠죠…
3개의 좋아요
솔직히, 저는 이 문제가 모든 AI 관련 주제에 근본적으로 존재한다고 생각합니다. 그리고 순진한 저로서는 이 문제를 (오직) 커뮤니티가 소유하는 모델로만 해결할 수 있다고 생각합니다.
우리가 자발적으로 제공하고 관리하며, 단순히 제공된 라이선스를 준수함으로써 데이터를 학습하는 모델입니다. 그리고 우리의 모든 컴퓨터에서 계산되는 윤리적으로 학습된 모델입니다.
데이터의 피어 투 피어(P2P) 계산은 오랜 전통이 있으며, 특정 과학 분야에서는 이미 수십 년간 이렇게 해오고 있습니다.
제 생각에는, 장기적으로 AI를 사용하면서 우리의 원칙을 희생하지 않으려면 이 방법을 피할 수 없거나, 최소한 이에 필적하는 해결책이 필요합니다.
2개의 좋아요
LLM 기반의 검열은 훌륭할 것입니다. 커뮤니티와 관련된 다양한 임의의 기준에 따라 모든 게시물을 평가하고, 조치를 취하거나, 필터링하거나, 도움을 줄 수 있도록 요청할 수 있거든요.
여기서 이 기능들의 일부가 시작되고 있는 것 같지만, 구체적인 기능 목록은 명확하지 않습니다: Discourse AI Features | Discourse - Civilized Discussion
6개의 좋아요
찾고 계신 기능 세트는 Discourse AI - AI triage일 것입니다.
모든 AI 기능에 대해 맥락이 더 명확하도록 랜딩 페이지를 개편할 계획이 있습니다.
2개의 좋아요
페이스북, 인스타그램, 틱톡 등에서 널리 볼 수 있듯이 
1개의 좋아요
이것은 목표가 무엇인지에 따라 정말 달라집니다 - 공격적인 콘텐츠를 삭제하는 것, 사용자를 유도하는 것 등.
특히 제가 흥미를 느끼는 목표 중 하나는 질문이나 문제가 제출될 때 LLM을 사용하여 이를 분석하는 것입니다. 목표는 질문을 답변하는 것이 아니라, 사용자가 자신의 문제를 더 건설적인 방식으로 표현하도록 돕는 것입니다. 우리는 종종 첫 번째 답변이 "에러 로그를 올려주실 수 있나요?"나 "정확히 무엇을 하려 하시는 건가요?"인 것을 봅니다. LLM은 이러한 범주에 해당하는 주제를 파악하여 사용자가 해당 세부 정보를 제공하도록 유도할 수 있으며, 이는 전체 지원 프로세스를 가속화하고 미래의 독자를 위해 더 높은 품질의 주제를 만들어냅니다.
초기 작업은 유망한 결과를 보여주었으며, 약 60개의 주제로 구성된 데이터셋에서 약 93~95%의 정확도를 나타냈습니다. 부정확한 부분도 그렇게 나쁘지 않습니다 - LLM의 평가와 우리의 평가가 일치하지 않는 답변 중 절반은 애초에 매우 의심스러운 것이었습니다.
얼마나 자명해 보일지 모르지만, 제 주요 발견은 다음과 같습니다: LLM에 대한 쿼리의 범위를 줄일수록 그 답변은 더 정확해집니다.
9개의 좋아요