AI 감정 통합 이후로, 특히 @maiki와 논의한 후 이 주제에 대해 좀 더 깊이 생각해 보게 되었습니다. 궁금한 점은 다음과 같습니다. 사용자의 사용자 이름 옆이나 프로필에 그 사람의 행동이나 소통 방식을 간략히 설명하는 내용을 표시할 수 있을까요? 가볍고 유머러스한 톤이 될 수도 있습니다. 예를 들어:
“데이브를 용서해 주세요. 가끔 다른 사람들보다 좀 더 직설적으로 말하지만, 항상 좋은 뜻에서 하는 말이니까요 :)”
또는 “시몬은 매우 친절한 사람입니다. 그의 핵심 메시지를 찾으려면 그 친절한 말투를 좀 파고들어야 할 수도 있습니다.”
이것들은 제 머릿속에서 바로 떠오른 몇 가지 예시일 뿐입니다. 이 기능의 주요 사용 사례는 다음과 같습니다. 우리는 모두 때로는 가장 친절한 방식으로 소통하지 않는 사람들을 알고 있습니다. 하지만 그들도 좋은 의도를 가지고 있는 경우가 많습니다. 혹은 어떤 사람은 단순히 말투가 조금 특이할 수도 있습니다. 그 사람의 스타일에 익숙하다면, 그 의미를 잘 이해할 수 있습니다. 하지만 그 사람을 잘 모르고 첫 만남이라면, 특정 소통 방식이 잘못 전달될 수 있습니다. 직설적인 말투가 무례하게 보일 수 있고, 지나친 친절함이 가짜로 보일 수 있으며, 어떤 특이한 말투는 독자에게 너무 낯설어서 의도를 파악하기 어려울 수도 있습니다.
사용자 자신의 감정 분석 결과를 보여줄 수 있게 하면, 특히 까다로운 사용자에게 생각할 거리를 줄 수 있지 않을까 하는 생각이 듭니다. 마치 고객 서비스 데스크 뒤에 거울을 놓는 그 트릭처럼 말이죠.
아마도 특히 까다로운 사용자를 위해, 그들의 의사소통 패턴을 변경해야 하는 이유와 방법에 대한 링크를 함께 제공할 수도 있을 것입니다. 예를 들어, 사용자가 공격적인 감정이 증가하고 있음을 보이고 있지만, 자신의 분석 결과에서 이를 확인할 수 있고, 더 나은 결과를 얻을 수 있는 대안적인 의사소통 방식을 설명하는 주제에 대한 링크를 제공받을 수 있습니다.
컴포저 내에서의 JIT 감정 분석
이것을 조금 더 확장하자면, 저는 Saif에게 컴포저 내에서 JIT 분석을 수행하는 아이디어도 언급했습니다. 적대적인 톤이 감지되는 경우, 컴포저가 먼저 식히고 나중에 다시 오라는 경고를 주는 것은 어떨까요?
사용자들이 자신의 행동에 대해 성찰하도록 장려하는 것은 현명한 실천으로 보입니다. Discourse의 FAQ와 이용약관은 이러한 훌륭한 토론 플랫폼을 사용하는 수많은 커뮤니티 내에서 환영하는 평등한 분위기를 조성하도록 매우 잘 설계되어 있습니다. 처음부터 모든 구성원이 서로를 존중하는 동일한 기준을 준수할 것으로 기대된다는 인상을 주는 커뮤니티에 합류하는 것은 고무적인 일입니다. 만약 감정 분석 시스템이 오히려 Dave와 같은 최초 게시글의 사용자에게 이러한 기준에서 벗어날 수 있는 면책을 주는 것처럼 잘못된 인상을 준다면, 반면에 Simon과 같은 친절한 사용자는 계속 친절하게 행동할 것을 기대받게 될 것이므로 이는 유감스러운 일이 될 것입니다.
개인 분석의 경우, 저는 개인적으로 “비공개” 쪽에 더 기울고 있습니다. 누군가를 “부정적”(또는 기타)으로 라벨링하는 것은 부당한 고정관념으로 이어질 수 있기 때문입니다. 물론 어떤 사람은 부정적일 수도 있고, 영어가 모국어가 아닐 수도 있으며, 혹은 AI가 특정 주류 문화적 규범에 편향되어 있을 수도 있습니다.
다만, 관리자가 이러한 도구를 사용한다면… 그 개인이 해당 도구가 자신에 대해 어떻게 평가하는지 볼 수 있는 것은 공정한 일이라고 생각합니다.
이 과정을 완전히 순환적으로 만들기 위해, 저는 이 토론에 대해 Chat-GPT에게 물어보았습니다… 그리고 합리적인 견해를 제시해 주었습니다:
AI 감성 분석의 주관적 성격과 맥락이나 문화적 뉘앙스를 오해할 가능성을 고려하는 것이 중요합니다. 또한 AI가 생성한 프로필을 기반으로 사용자를 라벨링하거나 고정관념으로 분류할 위험과 프라이버시 우려에 유의해야 합니다.
아마도 중간의 균형점을 모색해 볼 수 있을 것입니다. 공개적인 라벨링 대신, 사용자가 자신의 커뮤니케이션 패턴을 비공개로 확인하고 성찰할 수 있는 선택적 도구를 고려해 볼 수 있습니다. 이를 통해 공개적으로 분류하거나 판단하지 않으면서도 자기 인식(self-awareness)을 높이는 데 도움이 될 수 있습니다.
“긍정적”, “부정적” 등으로 라벨링하는 대신, "사용하는 표현이 다른 사람들에게는 때때로 부정적이거나 도움이 되지 않는 것으로 인식될 수 있습니다"라고 제시하고, 이러한 평가가 사용자의 관점에서 얼마나 정확한지에 대한 피드백을 제공하도록 할 수도 있습니다.
이 주제에 대해 할 말이 많지만, 여기서 유용한 대화를 이끌어내지는 못할 것 같습니다. 제가 (바라는 바와 같이) 일반적으로 도발적이지 않은 사용자라면, 제 프로필에 "소통 스타일"이나 AI가 생성한 감정 점수 같은 것이 게시되는 포럼에는 참여하지 않을 것입니다. 따라서 핵심으로 돌아가 보면, 일부 도발적인 사용자의 소통 스타일을 개선하려는 잠재적 이점을 위해, 일부 비도발적 사용자의 기여를 잃을 위험을 감수하게 될 수 있습니다.
저에게 이것은 더 나은 해결책처럼 느껴집니다. 사용자의 게시물 개선을 장려할 뿐만 아니라, 일상생활에서 타인과 소통하는 방식까지 개선하는 데 긍정적인 영향을 미칠 수 있습니다. 좋은 부수 효과일 것입니다.
아마도 이러한 피드백은 사용자의 주제가 커뮤니티의 다른 부분보다 현저히 더 독성이 있거나, 일반적으로 오해받기 쉬운 커뮤니케이션 스타일과 일치할 때만 표시되어야 할 것입니다.
그리고 당신의 반론은 매우 합리적인 톤으로 제시되었습니다. 현재 저는 이것이 정제(refinement) 문제라고 봅니다. 더 나은 AI라면 그 답변을 "일반적으로 반대하지만, 중립적인 톤으로"라고 볼 것입니다.
실제로 GPT4는 이렇게 합니다:
텍스트의 감정은 AI 기반 감정 분석의 신뢰성과 윤리적 함의에 대해 회의적이며 우려하고 있습니다.
텍스트의 톤은 신중하고 질문하는 태도로, AI 감정 분석에 대한 불안과 회의감을 반영합니다.
즉, '부정적’이라는 것은 무례하거나 해로운 의미의 부정적이 아니라, 찬성하지 않는다는 의미의 부정적입니다.
여기서 제시된 답변들을 살펴보면, 더 가치 있고 수용 가능한 해결책은 게시되기 전에 지나치게 독성이 있거나 오해의 전조가 있는 글에 대한 JIT(Just-In-Time) 개입이라고 생각합니다. 사용자는 여전히 원래 콘텐츠를 게시할 권리를 가지며, 우리는 단순히 현재 형태에서 글이 만들 수 있는 부정적인 영향에 대해 사용자가 충분히 인지하도록 돕고, 더 생산적일 수 있는 대안을 제시하는 역할을 수행하면 됩니다.
매우 생산적이고 좋은 대안인 것 같습니다 이 기능이 널리 제공된다면 이 포럼은 물론 다른 많은 포럼의 사용자들을 매우 잘 지원할 수 있으며, 사용자가 자신의 커뮤니케이션 스타일에 대한 숨겨진 전반적인 평가가 자신을 관리하는 데 사용되고 있다고 느끼는 위험을 피할 수 있습니다.
흥미로운 주제인 것 같습니다. 사람들이 자신의 의사소통 방식을 자신의 언어로 설명하는 것부터 시작하면 도움이 될 수 있을 것 같아요.
저는 텍스트로 소통하는 데 어려움을 겪습니다. "회의는 오전 10시 30분에 열립니다"와 같이 비교적 단순하고 짧은 소통은 가능하지만요.
대면 소통의 경우, 실제로 발화하거나 쓰인 단어만으로 정의할 수 있는 소통은 약 7%에 불과하다는 이야기를 들었습니다. 대면 회의나 전화 통화에도 한계가 있지만, Discourse 플랫폼은 검토에 시간이 더 걸릴 수 있는 더 긴 텍스트를 게시하는 데 주로 도움이 되며, 많은 사람이 서로를 방해하지 않으면서 동시에 소통할 수 있게 해줍니다.
오해를 피하기 위해, 사람들이 어디까지 진행되고 있는지 확인하고 쓰인 내용을 해석해 보려는 목적으로 최소한 주 1회 또는 월 1회 체크인 전화 회의를 가지는 것이 도움이 될 수 있습니다.
아마도 User Notes와 같은 플러그인이 어떨까요? 각 멤버가 자신만의 개인 메모를 적용할 수 있는 형태이거나, 아니면 모든 사람이 볼 수 있는 형태로 말이죠.
만약 외부 출처에 의해 프로필이 작성된 사용자에게 "공개"라고 표시되는 경우가 있으면 문제가 될 수 있습니다. 그들이 기분을 상할 수 있기 때문입니다. 물론 본인이 직접 선택한 내용이라면 모를까요.
유저가 평가하고 설정에 따라 리뷰를 남길 수 있는 User Feedback이라는 미유지(Discourse) 플러그인이 있습니다. 하지만 마찬가지로, 게시된 내용에 대해 사용자가 기분을 상하게 된다면 큰 혼란을 초래할 수 있는 같은 문제가 있습니다.
솔직히 말해, 성숙하지 않은 사용자가 반응 때문에 발작을 일으킨 적이 있었습니다.
오래전에 Discourse가 사용자 음소거 옵션을 추가하기 전에, 누군가가 Tampermonkey 스크립트를 만들어 사용자가 특정 사용자의 게시글을 숨길 수 있도록 했습니다. 재미로 라벨링 기능도 있었는데, 관리자, 모더레이터, 토픽 OP(원문 작성자)를 장식하고 사용자에게 라벨을 붙일 수 있었습니다. 각 사용자는 사실상 브라우저 테마 구성 요소를 가질 수 있었습니다. 이 스크립트를 찾아볼 수 있을지 시도해 볼 수 있을 것 같습니다. 테마 구성 요소로 변환하는 것이 그렇게 어렵지 않을 것 같아서요.
아마도 사용자 정의 사용자 필드(Custom User Field)를 사용하여 사용자와 라벨을 추가하는 방식을 사용할 수 있을 것입니다.
이러한 접촉 기회가 있는 팀이나 그룹에게는 훌륭한 해결책입니다. 그렇다면 대규모 환경에서 여러 시간대를 아우르며 이를 어떻게 적용할 수 있을까요?
우리에게는 전 세계 모든 시간대에 걸쳐 수많은 팀을 오가며 소통하는 수천 명의 동료들이 있습니다. 불행히도 이러한 통화는 불가능합니다. 설령 가능하더라도, 그러한 통화는 대화의 중요한 부분을 플랫폼 밖으로 꺼내어 다른 사람들이 그로부터 배울 수 없게 만듭니다.
매우 옳은 말씀입니다. 저는 이것이 사용자가 왜곡된 방식으로 묘사되었을 때 그로 인해 이익을 볼 수 없는 주체, 즉 AI와 같은 존재에 의해서만 수행될 수 있는 이유라고 봅니다.
더 깊이 생각할수록, 작성기(composer) 내의 JIT(Just-In-Time) 커뮤니케이션 코치가 원래 제안되었던 ‘커뮤니케이션 스타일’보다 훨씬 더 효과적이라는 느낌을 받습니다. 무엇보다 저는 이러한 커뮤니케이션 코칭이 외부 세계로까지 확장되는 모습을 매우 좋아합니다. ‘커뮤니케이션 스타일’만으로는 이를 달성할 수 없으며, 여러분이 지적했듯이 사용자가 어떤 식으로든 왜곡된 방식으로 묘사되었다고 느끼는 경우(그리고 그럴 가능성이 높습니다) 사람들이 정당하게 분노하게 될 것입니다.
이것은 실제로 여기 적용되는 GDPR 원칙, 즉 자동화된 의사결정에 관한 제22조를 언급할 수 있는 훌륭한 기회입니다.
게시물이나 프로필에 공개적으로 부정적인 라벨이 부여되는 것은 사용자가 정당한 이의를 제기하고 인간에 의한 평가를 요구할 수 있는 사항입니다.
따라서 소프트웨어는 공개적으로 표시할 내용을 결정하는 과정에 대해 관리자가 오버라이드할 수 있도록 허용해야 합니다.
OP에서 논의된 것과 같은 라벨은 관리자로 수동으로 적용하는 데 불편함이 없겠지만, 현재 감정 분석 기술에서 본 라벨들(이 사람은 부정적인 경향이 있다!)은 절대 그렇지 않습니다. 또한 기술이 부정적으로 판단하는 것과 사람들이 ‘부정적’이라는 판단을 볼 때 느끼는 것 사이의 주요한 메시지 전달 문제도 있습니다. “모델이 무엇을 하는지 설명하는 것”이 여전히 개방형 연구 분야인 점이 이를 더 어렵게 만듭니다.
이 기능이 널리 제공된다면 이 포럼은 물론 다른 많은 포럼의 사용자들을 매우 잘 지원할 수 있으며, 사용자가 자신의 커뮤니케이션 스타일에 대한 숨겨진 전반적인 평가가 자신을 관리하는 데 사용되고 있다고 느끼는 위험을 피할 수 있습니다.
반응 때문에 발작을 일으킨 적이 있었습니다.