Seems very good at it:
there goes several businesses! 
1개의 좋아요
Utterly preposterous imho
Should we reimburse all of humanity for evolving the beautiful languages we have?
But I digress.
1개의 좋아요
I don’t disagree with you, but I suspect that many lawsuits are considered utterly preposterous by the defendants but costly nonetheless.
2개의 좋아요
If a human vetted question and answer (for example a Discourse solved topic) has economic value as training data, it doesn’t seem unreasonable to want to get paid for it. There’s a need for the data, so it would be kind of a win-win scenario.
1개의 좋아요
There are at least two writing competitions in which the object is to write in the style of some designated author. (Bulwer-Lytton and Hemingway)
But I could see where asking an AI to write a novel in the style of some well-known author might raise some hackles with that author or heirs, a recognizable style could be considered an ‘intellectual property’, or at least some lawyer might be willing to so claim in court.
2개의 좋아요
Has anyone had a lot of buzz from users excited to use Discourse Chatbot within their forums? I have seen all this chatbot stuff and I use ChatGPT, Perplexity, Claude, Bard, etc. every day. But I thought forums were a safe space from all of that. I wrote an article about that yesterday I Think AI Saturation Will Revive this Old Web Platform (web forums)
I’m really curious if forum users are desiring Chatbots and AI when they visit discussion forums powered by Discourse and others. If this is the case, I will really have to revamp my idea of forums and even consider a plugin like this. This seems like a big project, maybe time-consuming even. As always, I appreciate all you guys do. Trying to learn about the demand that produced this so that I’m in the loop as it were.
3개의 좋아요
I’m looking into using it in a technical support forum to help answer easy/repetitive questions quickly when staff is busy and during off hours. I think it will be great in that capacity.
5개의 좋아요
Yes, recently I opened a chat window with Hostinger support. It was AI Chatbot. And the chatbot was so effective it told me about an option for a refund I would have never known about and even sent me to link to the refund policy! lol
It understood what I was asking and didn’t ask me if I already tried 10 basic things. So yes, I can see with support cases, it being useful.
Hopefully, that is then saved to the forums, so others can see or even add to the discussion rather than replace it.
1개의 좋아요
Would that also be the case with a knowledgeable support person who had experience using the software they provide support for?
1개의 좋아요
Of course not. There is no such thing as perfect option for everybody.
GPTs can evolve. But now those are low level option even doing simple math. 3.5 can’t do even basics reliable right. Hallucination is really big problem when there should be facts right, or even close to right.
Other languages than english are hard. For few massive languages it will work good, but for me, and for everyone who’s speaking minor one and specially if the structure isn’t using prepositions, translations will never be top notch.
GPT will tranlate first to english, and is changing the prompt. Then answer will be translated back from english, and GPT will do other changes and hallucination round. The end product will be far away what was asked and even what GPT was offering in the beginning.
And because training is based on idea where million flies can’t be wrong and quantity is over quality, amount of mis- and disinformation is more than just huge. And even in that situation there will be even more fiction, because of hallucination.
Of course it is not that black and white. I’m using entry level solution. But if there is money to spend one can do own training and playground will change big time.
Still I make a claim: GPT works best when analyzing or doing something very is not too much variations. Or if it can create something ”new” totally fictive stuff. But the wide middle ground where a GPT should offer facts and realible information… not that much.
I’m using GPT3.5 by OpenAI a lot every day as… search with steroids. And I’m not too happy. I have to check, re-check and rewrite a lot, but I don’t deny that GPT is still saving my time when creating bulk text.
4개의 좋아요
최근 이 주제에 대한 흥미로운 연구가 발표되었습니다:
https://www.nature.com/articles/s41598-024-61221-0
생성형 AI가 온라인 지식 커뮤니티에 미치는 영향
생성형 인공지능 기술, 특히 ChatGPT와 같은 대규모 언어 모델(LLM)은 다양한 분야에서 정보 획득과 콘텐츠 제작 방식을 혁명적으로 바꾸고 있습니다. 이러한 기술들은 온라인 지식 커뮤니티의 참여도와 콘텐츠 생산에 상당한 영향을 미칠 잠재력을 지니고 있습니다. 우리는 이를 뒷받침하는 초기 증거를 제공하기 위해 2021년 10월부터 2023년 3월까지 Stack Overflow와 Reddit 개발자 커뮤니티의 데이터를 분석하고, 전자(Stack Overflow)에서 ChatGPT가 사용자 활동에 미친 영향을 기록했습니다. 특히 ChatGPT가 뛰어난 주제를 중심으로 Stack Overflow의 웹사이트 방문量和 질문 수가 현저히 감소하는 것을 관찰했습니다. 반면, Reddit 커뮤니티의 활동은 감소의 징후가 보이지 않아, LLM이 커뮤니티를 훼손하는 효과에 대한 완충재로서 사회적 유대감(social fabric)의 중요성을 시사합니다. 마지막으로, Stack Overflow의 참여도 감소는 신규 사용자에게 집중되어 있어, 사회적 연결이 약한 주니어 사용자들이 커뮤니티를 떠날 가능성이 특히 높다는 것을 보여줍니다.
7개의 좋아요
이 말은 내 행동 방식을 거의 그대로 설명하는 것 같습니다. 저는 여전히 Meta에서 질문을 하고 답변을 주고받으며, 이곳에서 사회적 연결을 유지하고 있습니다. 하지만 새로운 프로그래밍 언어와 프레임워크를 배울 때는 ChatGPT와 온라인 문서의 조합에 의존합니다.
LLM이 가진 가장 큰 장점은 아마도 항상 이용할 수 있다는 점일 것입니다. 저는 인간 전문가로부터 지침을 받는 것을 선호하지만, 아무도 제 모든 질문에 즉시 답할 만큼 시간이나 인내심이 충분하지는 않습니다.
공개 포럼에서 배우는 것과 달리 LLM을 통해 배우는 큰 단점은 생성된 정보가 비공개라는 점입니다. LLM을 통해 무언가를 배우는 것이 단순히 질문을 하나 던지고 올바른 답변을 받는 경우가 드뭅니다. 질문을 하고, 답변을 적용해 보고, 왜 답변이 작동하지 않았는지 파악하기 위해 문서를 읽고, 후속 질문을 LLM에 다시 던지는 과정이 반복됩니다. 그렇게 해서 마침내 조금씩 지식이 축적됩니다.
누구도 타인의 채팅 로그를 읽고 싶어 하지 않을 것이지만, 기술 포럼에서는 LLM에서 얻은 지식을 게시하는 문화를 장려할 수 있을지도 모릅니다.
LLM을 통해 배우는 또 다른 명백한 단점은 사회적 연결의 상실, 학습 동기가 되는 인간의 관심, 취업 기회 등의 손실입니다. 제 관점에서는 이것이 꽤 큰 문제입니다.
14개의 좋아요
지원 봇을 구축하는 주된 이유는 바로 이 가용성 때문입니다.
4개의 좋아요
이 기술에 대해 반은 설레고 반은 웹의 미래가 걱정됩니다.
구글(그리고 빙)을 포함한 기업들은 이제 웹사이트를 크롤링하면서 수집한 데이터를 활용해 검색 결과 페이지 상단에 AI 기반 Q&A를 제공하고 있습니다.
이것은 검색 결과를 페이지 아래로 밀어내며 출처의 중요성을 낮출 뿐만 아니라, 또 다른 우려스러운 동학을 만들어냅니다. 즉, 검색 서비스 제공업체들이 일부 주요 빅데이터 소스와 더 긴밀하게 통합하려는 유인을 강하게 만드는 것입니다.
예를 들어, 구글이 API 접근 권한을 얻기 위해 레딧과 계약을 체결했다는 보도가 있습니다.
제 생각에는 그 결과로 대형 플랫폼의 콘텐츠가 더 많이 부각되고, 소형 사이트에는 불이익이 돌아갈 가능성이 큽니다.
현재 구글의 “AI 개요” 기능으로 얻는 결과물의 품질을 둘러싸고 상당한 논란이 일고 있으며,该公司로서는 꽤 창피할 수 있는 웃기거나 그렇지 않은 사례들도 몇 가지 있습니다. 물론 기술은 개선될 것이라고 믿습니다.
아마도 소형 포럼은 전문성을 살려 AI의 로컬 활용을 최적화하는 데 더 유리한 위치에 있을 것입니다. 구글은 매우 범용적인 서비스를 제공하는 데 어려움을 겪고 있습니다.
시간이 말해 주겠지만, 주의를 끌기 위한 경쟁은 여전히 치열하게 진행되고 있습니다.
5개의 좋아요
이것은 제 아이디어 중 하나였습니다. BERT와 유사한 모델을 파인튜닝하여 게시물을 자동으로 카테고리로 분류하거나 태그를 자동으로 추가하는 것을 고려하고 있었습니다. ‘독성’ 게시물을 감지하는 것도 또 다른 사용 사례가 될 수 있습니다.
Discourse와 같은 시스템의 경우, 제가 평생 동안 해낼 수 있는 것보다 AI를 활용해 할 수 있는 일이 훨씬 많을 것입니다. 물론, AI가 구현을 돕는다면 평생 안에 해낼 수도 있겠죠…
3개의 좋아요
솔직히, 저는 이 문제가 모든 AI 관련 주제에 근본적으로 존재한다고 생각합니다. 그리고 순진한 저로서는 이 문제를 (오직) 커뮤니티가 소유하는 모델로만 해결할 수 있다고 생각합니다.
우리가 자발적으로 제공하고 관리하며, 단순히 제공된 라이선스를 준수함으로써 데이터를 학습하는 모델입니다. 그리고 우리의 모든 컴퓨터에서 계산되는 윤리적으로 학습된 모델입니다.
데이터의 피어 투 피어(P2P) 계산은 오랜 전통이 있으며, 특정 과학 분야에서는 이미 수십 년간 이렇게 해오고 있습니다.
제 생각에는, 장기적으로 AI를 사용하면서 우리의 원칙을 희생하지 않으려면 이 방법을 피할 수 없거나, 최소한 이에 필적하는 해결책이 필요합니다.
2개의 좋아요
LLM 기반의 검열은 훌륭할 것입니다. 커뮤니티와 관련된 다양한 임의의 기준에 따라 모든 게시물을 평가하고, 조치를 취하거나, 필터링하거나, 도움을 줄 수 있도록 요청할 수 있거든요.
여기서 이 기능들의 일부가 시작되고 있는 것 같지만, 구체적인 기능 목록은 명확하지 않습니다: Discourse AI Features | Discourse - Civilized Discussion
6개의 좋아요
찾고 계신 기능 세트는 Discourse AI - AI triage일 것입니다.
모든 AI 기능에 대해 맥락이 더 명확하도록 랜딩 페이지를 개편할 계획이 있습니다.
2개의 좋아요
페이스북, 인스타그램, 틱톡 등에서 널리 볼 수 있듯이 
1개의 좋아요
이것은 목표가 무엇인지에 따라 정말 달라집니다 - 공격적인 콘텐츠를 삭제하는 것, 사용자를 유도하는 것 등.
특히 제가 흥미를 느끼는 목표 중 하나는 질문이나 문제가 제출될 때 LLM을 사용하여 이를 분석하는 것입니다. 목표는 질문을 답변하는 것이 아니라, 사용자가 자신의 문제를 더 건설적인 방식으로 표현하도록 돕는 것입니다. 우리는 종종 첫 번째 답변이 "에러 로그를 올려주실 수 있나요?"나 "정확히 무엇을 하려 하시는 건가요?"인 것을 봅니다. LLM은 이러한 범주에 해당하는 주제를 파악하여 사용자가 해당 세부 정보를 제공하도록 유도할 수 있으며, 이는 전체 지원 프로세스를 가속화하고 미래의 독자를 위해 더 높은 품질의 주제를 만들어냅니다.
초기 작업은 유망한 결과를 보여주었으며, 약 60개의 주제로 구성된 데이터셋에서 약 93~95%의 정확도를 나타냈습니다. 부정확한 부분도 그렇게 나쁘지 않습니다 - LLM의 평가와 우리의 평가가 일치하지 않는 답변 중 절반은 애초에 매우 의심스러운 것이었습니다.
얼마나 자명해 보일지 모르지만, 제 주요 발견은 다음과 같습니다: LLM에 대한 쿼리의 범위를 줄일수록 그 답변은 더 정확해집니다.
9개의 좋아요