자… 이 모든 것에 대해 저는 어떤 기분이 드는가?
물론, 저는 설렙니다. 우리는 놀이할 새 장난감 상자를 하나 얻었으며, 이 장난감들은 과거 우리가 가졌던 어떤 것들과도 다릅니다. 대부분의 기술과 마찬가지로, 이 기술은 선한 목적으로도, 악한 목적으로도 사용될 수 있습니다.
개인적으로 저는 AI 안개 속에 있는 것 같습니다. 예전에는 향후 3~4년 동안 기술이 어디로 향하는지 꽤 잘 파악하고 있었지만, LLM(대형 언어 모델)과 이 기술의 미래 진화는 그 흐름에 돌을 던져 버렸습니다. 불과 1년 후 기술이 어디에 있을지 저는 알 수 없습니다.
스테이블 디퓨전(Stable Diffusion)이 지난 몇 달 동안 얼마나 빠르게 발전했는지 좁은 시야로만 살펴봐도 숨이 멎을 정도입니다. GPT 3.5에서 4로 나아간 발전의 폭을 살펴봐도 역시 숨이 멎을 정도입니다.
새로운 AI 안개 속에서도 저는 몇 가지 매우 현실적인 우려가 있습니다:
-
지원 포럼이 LLM에 의해 수집되어 유용한 챗봇의 학습 데이터로 사용될 것임은 100% 명확합니다. 이로 인한 이점은 지원 업무의 많은 번거로움이 사라지고 즉시 답변을 받을 수 있다는 것입니다. 그러나 단점은 새로운 콘텐츠가 덜 생성되게 되어, 이를 완화하지 않으면 매우 빠르게 사망 나선(death spiral)으로 빠질 수 있다는 것입니다.
-
스팸과 기타 악의적 행위자들이 이 기술에 크게 의존하여, 지금까지 우리가 본 것보다 훨씬 정교한 공격을 감행할 것이라고 확신합니다. 주의하지 않으면 포럼을 완전히 무너뜨릴 수도 있습니다.
-
이러한 보조 기술은 신뢰를 훼손할 수 있습니다. 제가 쓴 글을 읽을 때, 그 글이 제게서 나왔을 것으로 기대합니다. 사람들은 AI를 교정 이상의 목적으로 사용할 수 있으며, 우리의 말을 완전히 다른 목소리로 재구성할 수도 있습니다. 말콤 글래드웰(Malcolm Gladwell)처럼 들리고 싶으세요? 문제없습니다, 할 수 있습니다. 책임감 있는 포럼 사용자들이 기대해야 할 라벨링 수준은 무엇일까요? 사람들이 더 이상 자신들이 사람들과 대화하고 있다는 신뢰를 잃고, 단지 컴퓨터 생성의 복제물과 대화하고 있다고 느끼기 시작하면 포럼을 떠날 것입니다.
말콤의 말투로 읽어 보기
오늘날, 보조 기술은 우리가 예상하지 못한 방식으로 신뢰를 훼손할 힘을 가지고 있습니다. 우리는 글의 소비자로서 특정 기대를 가지고 있으며, 즉 우리가 읽는 글이 진정성 있고 명시된 출처에서 나왔을 것이라는 기대입니다. 그러나 AI 기술의 등장으로, 개인들은 단순한 교정을 넘어선 방식으로 텍스트를 조작할 수 있게 되었습니다. 본질적으로, 그들은 메시지를 원하는 누구의 목소리로든 완전히 재구성할 수 있습니다. 따라서 만약 여러분이 말콤 글래드웰이나 기타 저명한 인물처럼 들리고 싶었던 적이 있다면, 이 기술은 쉽게 그것을 실현해 줄 수 있습니다. 그러나 이는 포럼 사용자를 위한 책임 있는 라벨링에 대한 질문을 제기합니다. 사람들이 더 이상 다른 사람들과 대화하고 있다는 신뢰를 잃고, 단지 컴퓨터 생성의 복제물과 대화하고 있다고 느끼기 시작하면, 포럼을 완전히 떠날 수도 있습니다. 온라인 담론에서의 신뢰를 유지하는 데 필요한 라벨링 수준은 심각한 고려가 필요한 시급한 우려 사항입니다.
- 우리는 과거에 SEO 공장 포럼을 본 적이 있습니다. 우리는 이보다 훨씬 정교하고 무서운 버전들을 볼 것입니다.
GPT 4가 가진 유사한 다른 우려 사항들
- 포럼에서 LLM의 사용은 AI 기술에 과도하게 의존하여 답변과 통찰을 제공받으려는 사용자들 사이에서 게으름의 문화를 조성할 위험이 있습니다. 이는 포럼 사용자들의 비판적 사고와 문제 해결 능력의 저하로 이어질 수 있습니다.
- 포럼에서 LLM의 사용은 데이터 프라이버시와 보안에 대한 윤리적 우려를 제기합니다. 특히 자신의 데이터가 어떻게 사용되는지 완전히 인지하지 못하는 경우, 사용자는 개인 정보와 상호작용이 AI 시스템에 의해 분석되고 처리되는 것에 대해 불편함을 느낄 수 있습니다.
- 포럼에 LLM을 통합하면 기존 편견과 불평등이 악화될 수 있으며, 특히 AI 기술이 포럼 사용자의 경험과 관점의 다양성을 포착하지 못하는 제한된 데이터셋으로 학습된 경우 더욱 그렇습니다.
- 포럼에서 LLM의 사용은 담론의 균질화로도 이어질 수 있습니다. 사용자는 다른 인간 사용자들로부터의 섬세하고 다양한 피드백보다는 AI 시스템이 생성한 표준화된 답변을 받을 가능성이 더 크기 때문입니다. 이는 포럼 대화에서의 창의성과 독창성을 억누를 수 있습니다.
- 포럼에 LLM을 통합하면 인간 모더레이터와 지원 직원의 대체로 이어질 위험이 있으며, 이는 사용자 지원의 품질과 고용 안정성에 부정적인 영향을 미칠 수 있습니다.
이러한 두려움과 그 이상에도 불구하고, 저는 여전히 설렘과 희망을 가지고 있습니다. 이 기술에는 놀랍고 매우 유용한 응용 프로그램들이 나올 것이며, 우리는 Discourse에서 그것을 탐구하기를 희망합니다.
불은 꺼졌지만, 여기서 우리가 할 수 있는 최선은 우리의 접근 방식과 실험에 매우 신중을 기하고 불을 가두는 것입니다. 저는 우리가 불을 가둘 수 있기를 바랍니다. 하지만 아시다시피… AI 안개…