GPT와 다른 LLM 솔루션은 학습 데이터셋이 필요합니다. 커뮤니티의 콘텐츠가 이러한 모델의 학습에 사용되지 않도록 방지하려면 어떻게 해야 할까요? 이용 약관에 관련 내용을 추가해야 할까요?
Reddit이 자사의 데이터가 유료화 없이 모델 학습에 사용되지 않도록 일부 조치를 취했다는 뉴스를 읽고 이 문제를 고민하게 되었습니다:
https://www.nytimes.com/2023/04/18/technology/reddit-ai-openai-google.html
그 프로젝트들은 특정 사용자 에이전트를 알리는 하베스터를 사용하고 있나요?
비용 가격으로 선택할 수 있는 제공자가 10곳이나 있을 때, 그것이 정말 중요할까요?
인류의 집단적 저작물에서 배우는 것은 충분히 합리적이라고 생각합니다. 인간은 항상 그렇게 하니까, 기계도 왜 그렇게 못 하겠습니까?
레딧은 인간이 레딧에서 배운 것에 대해 돈을 받습니까?
이건 레딧의 이윤 추구처럼 보입니다.
그리고 레딧의 모든 콘텐츠가 사용자들에 의해 무료로 제공되었는데, 왜 레딧이 사용자들에게 돈을 주지 않느냐는 이야기는 하지 말자고 하죠.
그건 "도서관에서 빌려온 책을 읽을 수 있다면, 왜 복사해서 다른 사람들에게 팔 수 없겠는가?"에 더 가깝지, "책을 통해 배울 수 있다면 컴퓨터도 배울 수 있지 않겠는가?"와는 좀 다른 것 같아요. 제가 나이가 많아서 그런 걸 수도 있지만, 프로그램을 실행 중인 컴퓨터 무더기가 사람과 같은 존재라고 여기기에는 아직 이르다고 생각합니다.
하지만 대량 스크래핑을 방지하기 위한 장치가 이미 마련되어 있다고도 생각해요. 아니면 검색 엔진을 위한 사이트 인덱싱 자체가 스크래핑인 걸 수도 있고요.
정말 흥미로운 시대가 아닌가 싶습니다.
글쎄요, 인간 사회에서는 누군가가 타인의 집이나 직장에 들어가서 모든 것을 복사한 뒤, 이를 재창조하여 자기 이익을 위해 돈을 버는 것이 널리 받아들여지지 않습니다.
이것은 쉬운 질문이 아닙니다. 실제로 도덕, 윤리, 재정적인 큰 문제가 있으며, 이를 두 가지로 요약할 수 있습니다: 저작권과 특허는 허용되는 가상 재산인가, 아닌가.
저에게는 이 문제가 꽤 간단합니다. 아마도 제가 매우 작고 기본적으로 단순한 생각의 물고기이기 때문일 것입니다. 누군가의 사업체가 나에게 되팔고 싶어 할 때 그 사람에게 돈을 지불해야 한다면, 저는 즉시 반대합니다. 그래서 저는 모든 봇 트래픽을 깊이 싫어합니다.
다시 말하지만: AI 문제는 ChatGPT보다 훨씬 더 큽니다. 그리고 저는 그것을 알고 이해하고 있습니다. 하지만 언어 모델에 학습된 것이 왜, 혹은 왜 제가 돈을 지불해야 합니까?
핀란드 사회에서 저는 개 사료 주기에 관한 주제라면 정말 큰 영향력을 가진 인물입니다. 저는 이 일을 30년 넘게 소심하게 해왔으며, 많은 공개 텍스트를 작성했습니다. 실제로 제 사이트는 핀란드에서 가장 큰 정보 제공 사이트(가장 중요한 사이트라고 말하고 싶지만 
)입니다.
영어로 개 영양에 대해 아무 질문을 하든, ChatGPT는 오래되고 널리 부정확한 BARF 이론을 제시합니다. 핀란드로 같은 질문을 하면 제 자신의 텍스트가 나옵니다.
이것은 ChatGPT의 학습 방식이 수백만 마리의 파리도 틀릴 수 없다는 사고를 따르기 때문에 일어난 것입니다.
그것은 원문 그대로 복제하는 것이 아니기 때문입니다.
도서관에서 공산주의에 관한 책을 읽고 나서 정치 토론 프로그램에 나가서 공산주의를 옹호하는 사람에게 아무도 돈을 받지 않습니다.
봇들은 우리가 학습하는 것과 유사한 방식으로 패턴을 학습합니다.
또한 법원에서 학습 과정을 감독하지 않은 상태에서, 학습이 이루어졌는지 여부를 어떻게 알 수 있겠습니까?
저작권법에서는 누군가가 당신의 작품을 복제했는지를 증명하는 것은 비교적 명확하지만, 여기서는 복제도 아니고 접근했음을 입증하기도 어렵습니다.
그렇다면 결국 레딧에서 진정으로 새로운 것이 있는 것입니까?!?
미안하지만, 그렇게 생각하지 않습니다. AI는 패턴을 기억하고 어떤 관계를 형성하지만, 직관을 하거나 감정을 느끼거나 진정으로 창조할 수는 없습니다.
AI는 인간처럼 적절한 방식으로 사고하지 않으며, 시간, 감정, 삶을 인식하지도 않습니다.
그리고 당신의 나머지 관점에는 동의합니다. 협력에 더하여 사용 사례를 발견하고 공유하는 것은 모두에게 좋습니다(적어도, 감정을 느끼거나 직관하거나 창조하는 법을 배우지 못한 사람들에게는 피할 수 없어 보이는 대체를 피하는 데에는).
전체적인 상황은 산업 ‘혁명’과 일부 디스토피아 영화를 떠올리게 합니다 
https://medium.com/@sadievrenseker/ai-thinking-vs-human-thinking-bd40d34b629c
저는 당신의 논점을 놓치고 계신 것 같아 반박하고 싶습니다.
제가 "유사하다(similar)"는 용어를 사용한 것은 정당한 것이었습니다. 왜냐하면 AI는 데이터를 그대로 복제해서 저장하는 것이 아니라, 인간처럼 특징(feature)을 통해 사물을 식별하는 방식을 개발하고 있기 때문입니다. 제가 지적하는 것은 바로 이 차이이며, 이는 논리적으로도, 그리고 잠재적으로 법적으로도 매우 중요한 차이입니다.
여기서 감정이나 정서는 논의와 무관합니다: 주제는 지식의 저장과 재현입니다. 그리고 이 주제에 대해 말하자면, AI는 거의 확실히 인간 뇌와 유사한 기법을 사용하여 스스로 학습한 후 그 모델을 활용하고 있습니다.
그리고 이것이 바로 이 분야에서 기술이 발전해 온 방식입니다: 그들은 신경망이 우리 뇌에서 어떻게 작동하는지 보이는 것을 근사한 모델을 만들고, 그것을 확장했습니다. 그리고 놀랍게도, 그것은 인간과 매우 유사하게 행동하기 시작했습니다 - 이전의 어떤 자연어 모델보다도. 이는 제 주장을 거의 증명해 줍니다.
(그리고 아마 그것이 OP를 자극한 원인일 것입니다)
우리는 여전히 의견이 다를 수 있으며, 저는 더 이상 말을 잇지 않았습니다. 당신을 존중하며, 제 관점을 공유할 뿐입니다.
롤스로이스가 더 나은 차라고 주장하고 있지만, 결국 그것은 여전히 차입니다.
AI는 이제 인간과 매우 유사하게 행동하는 단계에 도달했습니다. 매우 정교한 행동이 나타나고 있지만, 이는 우연이 아닙니다. 과학자들이 인간의 학습 기법을 모방하도록 의도했기 때문입니다.
물론 고려해야 할 다른 층위들이 있으며, 감정은 그중 하나일 뿐입니다(또 다른 매우 큰 요소는 '자아’의 개념과 인간과 유사한 감각 정보, 특히 ‘자아’ 지각에 결정적이라고 여겨지는 전정 감각입니다). 그러나 이는 제 생각에는 여기서의 논점을 바꾸지는 않습니다.
아니요, 저는 AI가 인간처럼 배우지 못한다고만 했을 뿐입니다 (행동하는 것이 배우는 것이 아닙니다). 그것은 거의 불가능하며, 이 점을 염두에 두는 것이 중요하다고 생각합니다.
그리고 공개 데이터는 공개된 것이라는 데 동의합니다. 저에게 있어서는 차이가 있는 것이 아주 괜찮은 일입니다. 그것이 바로 우리를 인간(AI가 아닌)으로 만들어 주는 것이니까요 
저는 이것이 단순히 틀렸다고 생각합니다.
이 분야에서 우리가 이룬 진보는 거의 확실하게 AI가 인간처럼 (더) 배우고 있기 때문입니다.
개념적인 계층에서만 그런 것이며, 실제로는 훨씬 더 많은 것이 있습니다 (!)
@StephaneFe 왜 'AI 학습 과정’을 제한하려는 건지 여쭤봐도 될까요? (그건 인간의 공감 능력이에요
)
더 많은(!) 부분이 있다고 주장하지 않았다고 한 적이 있나요?
저는 하나의 핵심적인 구별을 하고 있을 뿐입니다:
바로 AI가 특징(features)에서 학습(우리가 하는 방식과 같이)하고, 정확한 정보를 그대로 복사하지 않는다는 점입니다. AI는 구분을 내기 위해 완전한 세부 사항에 의존하지 않고 일반화하는 법을 학습합니다.
그 때문에 AI는 고해상도로 원문 그대로 완전한 작품을 저장할 필요가 없습니다.
아직 반영되지 않은 수많은 다른 학습 기법들이 undoubtedly 존재하겠지만, 이 기법은 확실히 반영되어 있습니다.
‘왜’가 아니라 ‘어떻게’에 초점을 맞출 수 있을까요?
이 주제는 데이터를 무단으로 사용되지 않도록 막는 것이 정당화되는지 여부에 대한 논의가 아니라, 어떻게 그렇게 할 것인지에 관한 것입니다.
크롤링을 일반적으로 방지하는 효과적인 방법이 있을까요? 예를 들어 대부분의 콘텐츠에 접근하려면 로그인하도록 요구하는 것 같은 방법은요?
저는 도덕적으로도 기술적으로도 그것이 정당하다고 생각합니다.
1930년대에 작곡된 재즈 곡이 저작권의 대상이 되는 것은 정말 부끄러운 일이라고 생각합니다. 음악의 많은 특징은 본질적으로 인간의 현상이며 누구도 소유할 수 없어야 하기 때문입니다. 예를 들어 '5도 도’를 생각해 보세요. 이는 음악에 내재된 구조로, 1950년대 단순한 3코드 록 곡부터 매우 정교한 재즈 곡까지 많은 곡을 형성하는 데 도움이 됩니다.
제가 제안했듯이, 여기서 우리는 저작권 보호 자료를 그대로 저장하고 재생산하는 것에 대해 이야기하고 있지 않습니다.
대부분의 음악이 저작권 보호 대상이라는 이유만으로 AI가 5도 도와 같은 음악의 특징을 사용하는 것을 막는 것은 터무니없는 일입니다!
그 음악의 저자들이 인간이라는 조건에서 큰 이익을 얻었고 이미 풍족한 이익을 취했다고 주장할 수 있습니다. 조상의 작품에서 이익을 얻는 증손자가 그 작품 자체가 일반적 지식에 기반하고 있음에도 불구하고 돈을 벌어야 한다는 것은 저를 당황스럽게 만듭니다.
이 분야에 대한 전문가가 아니므로 확신은 없지만, 사이트가 공개적으로 보이지 않으면 크롤러가 콘텐츠에 접근할 수 없다고 생각합니다. 따라서 이 옵션이 가능하다면 가장 효과적인 방법이 될 수 있습니다.
전혀 그렇지 않습니다. 이러한 도구들은 어떤 측면에서는 생물학적 신경 개념에서 영감을 받았지만, 실제 구현 방식에서는 기능적으로 유사하지 않습니다. 이는 사소한 지적처럼 들릴 수 있지만, 이 논리는 철학적으로 설득력 있어 보이기 때문에 매우 중요하다고 생각합니다. 비유는 그런 면에서 매우 위험할 수 있습니다.
계산 신경망이 “우리가 하는 방식과 유사한 방법으로 패턴을 학습하지” 않는 몇 가지 구체적인 이유를 다음과 같이 제시합니다.
이것도 매우 유용한 읽을거리입니다: What Is ChatGPT Doing … and Why Does It Work?—Stephen Wolfram Writings
구체적으로 말하자면, AI가 일반화하는 법을 배우는 것은 분명히 아닙니다. 대신, 일반화된 것처럼 보이는 답변을 생성할 수 있는 능력이 있도록 만들어져 있는 것입니다.
하지만 실제로는 일반화를 전혀 하지 못합니다.
ChatGPT로 할 수 있는 흥미로운 실험 중 하나는 곱셈에 대해 물어보는 것입니다. AI는 장법(vertically) 알고리즘에 대한 이해가 있다고 진지하게 주장할 것입니다. 실제로 2자리 또는 3자리 숫자를 곱하라고 하면 올바른 답을 내놓을 가능성이 높지만(확실히 그렇다는 보장은 없지만!) 그렇습니다. 하지만 5자리나 6자리 숫자를 시도해 보세요. AI는 올바른 자릿수처럼 보이는 답을 내놓지만, 실제로는 올바르지 않은 답이 될 것입니다.
해석을 요청하면 알고리즘을 따랐다고 말할 것이고, 풀이를 보여 달라고 하면 보여 주겠지만, 그 내용은 올바른 답의 형태를 갖춘 무의미한 것입니다. 심지어 단계 안에서 완전히 잘못된 한 자리 숫자 곱셈을 발견할 수도 있습니다. 몇 분 전 자신감 있게 수행했던 한 자리 숫자 곱셈과 이 단계들이 동일한 것임을 AI가 실제로 “알지” 못하는 이유는, AI가 그 중 어떤 것도 실제로 일반화하지 않았기 때문입니다.
수학이 여기서 특별하게 취급되는 것은 아닙니다. 단지 커튼을 조금 들어 올리는 쉬운 방법일 뿐입니다. 시도해 보면 시를 쓰게 할 때에도 동일한 기본적인 일이 발생합니다.
오해하지 마세요! 현재 존재하는 형태의 AI로도 놀라운 일을 할 수 있다고 생각합니다. 하지만 비유를 바탕으로 정책을 수립하는 것은 자제해 주십시오.
아니요, 그렇지 않습니다. 봇들은 단어들이 어떻게 연결되는지 그 확률을 학습하는 것입니다. 그리고 그 결과 사실상의 복사&붙여넣기가 됩니다.
우리는 지식을 처리하는 방식을 학습합니다.
