이것은 AI에 관한 보다 심오한 질문 중 하나, 즉 내가 일반적인 사람, '증강’된 사람, 또는 인공지능과 소통하고 있다는 사실이 중요하며, 어떤 측면에서 중요한지에 대한 문제입니다. 이를 '대화 상대의 정체성 문제(interlocutor identity problem)'라고 부르겠습니다.
어떤 면에서 인간은 항상 대화 상대의 정체성 문제와 씨름해 왔습니다. 철학에서는 이것이 때때로 '타인의 마음의 문제(problem of other minds)'로 알려져 있습니다. 데카르트의 '악마(Evil Demon)'가 그 대표적인 예시 중 하나로, 이는 그의 '나는 생각한다, 고로 존재한다’의 맥락과 관련이 있습니다. 우리가 AI와의 관계에 대해 느끼거나 느끼어야 할 감정의 문제는 본질적으로 동일한 질문의 확장입니다.
포럼이라는 맥락에서 이 문제는 흥미로운 방식으로 나타납니다. 왜냐하면 대화 상대의 정체성에 대해 상당 수준의 불투명성을 이미 수용하고 있다고 생각하기 때문입니다. 우리가 대화 상대를 판단할 수 있는 기준은 그들의 말과, 어쩌면 자기 표현(즉, 아바타, 사용자명 등)뿐입니다. 더 나을 수도, 나쁠 수도 있지만, 많은 경우 우리는 대화 상대의 정체성에 대해 깊이 생각하지 않거나, 적어도 불투명성을 수용할 의향이 있습니다.
이러한 맥락은 포럼이 어떻게 영향을 받는지(혹은 어쩌면 질문일 수도 있지만) 보다 신중한 결론을 내리도록 이끕니다. 예를 들어, 스팸을 생각해 보겠습니다. 우리는 여러 이유로 스팸을 싫어하지만, 두 가지 관련 있는 이유에 초점을 맞춰 보겠습니다:
- 포럼의 매력을 떨어뜨리는 지저분한 노이즈이기 때문입니다.
- 우리가 조력하고 싶지 않은 상업적, 악의적 또는 기타 목적이 있기 때문입니다.
LLM이 '스팸’에 적용될 경우, 첫 번째 요인은 줄어들고 두 번째 요인에 대해서는 보다 정교한 접근이 가능해진다고 가정해 보겠습니다. 만약 LLM이 이것을 하지 못한다면, 기존 스팸 제거 방법이 이를 포착하는 데 충분할 것입니다. 어떤 면에서 이것을 스팸이라고 부르는 것은 잘못된 명명이며, 오히려 '정교한 자동화 마케팅’에 가깝습니다. 또는… ‘샘(Sam)’(참을 수 없었습니다).
그러나 일단 '샘’의 영역에 들어서면, 우리는 필연적으로 동일한 근본적인 대화 상대의 정체성 문제에 더 가까워집니다. 이미 일부 사람들은 포럼에서의 존재를 활용하여 정교하고 간접적인 방식으로 마케팅을 하고 있습니다. 문제는 행위자의 정체성에 대해 우리가 신경을 쓰는가입니다.
저는 노동 시장에 미치는 영향에 대한 여러분의 우려에 분명히 공감합니다. 그러나 관련된 이유로 인해, 이것이 더 둔하고, 게으르고, 지저분하거나, 더 상업적인 포럼 생태계를 초래할 것이라고는 확신하지 못합니다. LLM이 포럼에 이런 영향을 미친다면, 해당 포럼은 확실히 잘되지 않을 가능성이 높지만, 그때 기존 사용자들은 LLM의 영향을 받지 않거나, 더 정교한 LLM의 영향을 받는 다른 포럼을 찾을 것입니다.
포럼은 지식, 관심사, 그리고 인간적 연결의 시장을 촉진합니다. LLM이 이러한 시장에서 성공한다면 노동에는 undoubtedly 영향을 미칠 것이지만, 수요가 줄어든다고는 확신하지 못합니다. 오히려, 성공은 그 반대, 즉 수요의 증가를 의미합니다.
드문 존재들이죠. 여러분에게 모든 AI 기반 도구는 전문 업무와 취미의 일부이므로 새로운 놀이터나 장난감 같은 것입니다.
