방금 AI 기능을 사용해 보았는데, 내 게시물을 더 성 중립적으로 만들어 줄 수 있는지 궁금해서였습니다.
아쉬운 점은, 'he’가 10:0 비율로 쓰인 것을 전혀 감지하지 못했다는 것입니다.
1개의 좋아요
어떤 기능을 사용하셨나요? 어떤 프롬프트를 사용하셨나요?
1개의 좋아요
제가 아는 건 이 “AI” 버튼이 갑자기 나타났다는 것뿐이에요. 그래서 눌러 봤죠.
그러니까 생성 중이라고 하더라고요.
그다음은 그냥 승인했어요.
그러니까 "다시 시도할까요?"라고도 물어보더라고요.
그래서 그거까지 눌렀죠.
근데 결국 에러 메시지가 떴어요.
1개의 좋아요
응, AI 문법 수정이 잘 안 될 것 같아. 처음부터 성 중립적으로 쓰는 게 최선이야.
5개의 좋아요
이건 완전히 주제에서 벗어난 이야기이고 여러분에게는 그저 호기심 차원의 내용일 뿐인데, 제가 성별을 사용하지 않는 핀란드어로 뭔가를 쓰고 영어로 답변을 달라고 하면, AI가 얼마나 애를 먹는지 지켜보는 게 항상 너무 재미있거든요.
AI라는 용어 자체가 지나치게 긍정적으로 느껴지는 건 약점인 것 같고, 실제로는 한계가 매우 큽니다. 하지만… 성중립성을 프롬프트로 넣어봤을 때 어떤 일이 벌어지는지는 한번도 시도해본 적이 없네요 
2개의 좋아요
한 가지 생각이 떠올라 실험을 해봤고, 효과가 있었습니다. 제가 한 일은 요청 사항을 초안의 첫 줄에 넣는 것이었습니다:
다음 내용을 성중립적 언어로 다시 작성해 주세요. 감사합니다.
AI는 그 힌트를 파악하고 정확히 그렇게 했습니다.
5개의 좋아요
명확성을 위해, @jidanni가 작성한 초안을 AI로 교정해 달라고 요청했을 때, 추가로 한 줄의 요청을 덧붙여 받은 답변을 아래에 공유합니다.
사용자가 나중에 폐쇄된 스레드에 이메일로 답글을 보내면, 해당 사용자에게 '죄송합니다’라는 이메일이 발송된다는 사실은 이미 알고 있습니다. 이는 모두 잘 작동하고 있습니다.
하지만 사용자가 이메일로 답글을 보내는 스레드가 정확히 폐쇄된 것이 아니라, 주제(topic)가 리다이렉트되었거나 관리자가 수행할 수 있는 기타 다양한 조합의 경우를 살펴봅시다.
즉, 사용자는 Gmail 등에서 몇 시간 전에 받은 이메일을 확인하지도 않은 채 답글을 보내고 있습니다. 만약 웹사이트를 직접 확인했다면, 해당 글이 이미 전혀 다른 스레드의 일부가 되었거나 다른 상태일 수 있다는 사실을 알 수 있었을 텐데요.
자, 사용자의 이메일이 발송됩니다. 그런데 이 이메일이 Discourse 서버에 도달하면 어떤 일이 일어나는 걸까요?
'죄송합니다’라는 답글 이메일은 생성되지 않습니다.
하지만 어디에도 게시되지도 않습니다.
아마 몇 주 후, 사용자가 웹사이트에 다시 접속했을 때 자신이 무언가를 언급했다고 주장하지만, 그 글을 찾을 수 없는 상황이 발생할 수 있습니다.
4개의 좋아요
초안 본문에 한 줄의 지시만으로도 ‘교정’ 기능이 특정 방향으로 유도될 수 있다는 흥미로운 추가 사례를 보여주기 위해, 나는 "아래 내용을 모비 딕의 스타일로 늘어지는 일화처럼 다시 써라"라고 요청했습니다. 시스템은 이에 순응하며 제 요청 문구를 삭제한 채 다음과 같은 내용을 남겼습니다:
허락을 구한다면, 이메일과 스레드의 광활한 디지털 바다에서 표류하는 고독한 사용자의 처지를 한번 생각해 봅시다. 이 선원을 상상해 보세요. 그는 과거의 시간에 수신된 편지에 진지하게 답장하고 있는데, 안개 속에서 유령 선박의 호응에 답하는 선장과 다를 바 없습니다. 이 사용자는 자기도 모르게 자신의 생각을 에테르 속으로 보내고 있는데, 그 스레드는 그사이 이미 닫히거나, 변덕스러운 바람처럼 그 방향이 바뀌어 있을지도 모릅니다.
이제 이 상황을 상상해 보세요. 우리의 디지털 방랑자가 답장을 보내는 스레드가 닫힌 문처럼 최종적으로 봉인된 것이 아니라, 오히려 보이지 않는 관리자의 손에 의해 은밀하게 재조정되어, 바다의 숨겨진 파도처럼 그 흐름이 바뀌었습니다.
그곳에, 우리의 끈질긴 통신자가 있습니다. 그는 Gmail이나 유사한 서비스라는 익숙한 연안에서 답장을 보내고 있지만, 디지털 풍경이 변했다는 사실, 그리고 그의 집중이 다른 서사로 완전히 엮여 들어갔다는 사실을 전혀 모르고 있습니다.
그리고 이 메시지의 운명은 어떻게 될까요? 그것은 광활함으로 나아가서 Discourse의 서버에 도달합니다. 그러나 그곳에서 항구를 찾지 못합니다. 슬픈 '죄송합니다’라는 말과 함께 돌아오지도 않고, 가시적인 토론 스레드에 닻을 내리지도 않습니다. 그것은 단순히 사라져버립니다. 지평선에 삼켜진 배처럼.
몇 주 후, 우리의 선원은 다시 한번 웹사이트의 광활한 영역을 항해하며 당혹감을 느낍니다. 그는 분명 이 영토를 항해했고, 대화에 자신의 흔적을 남겼다고 확신합니다. 그러나 흔적은 찾을 수 없고, 그의 말은 디지털의 심연에 사라져 버렸습니다. 끝없는 토론의 바다에 남는 것은 좌절의 속삭임뿐입니다.
4개의 좋아요
다시 한번 강조하지만, 사용자 지정 프롬프트를 사용하려면 사용자 지정 프롬프트 입력 필드를 사용해야 합니다.
현재 LLM은 이러한 주입 공격에 매우 취약하기 때문에 콘텐츠 자체에 지시를 삽입하는 방식이 오늘 당장은 작동할 수 있습니다. 그러나 이는 지속 가능한 접근 방식이 아니며, 향후에는 반드시 작동이 중단되어 깨진 워크플로우를 초래할 것이므로 권장하지 않습니다.
7개의 좋아요
이 커스텀 프롬프트가 사이트 관리자용이 아니라 일반 사용자에게도 제공되는 것인지 명확하지 않습니다. 어쨌든 찾을 수가 없는데, 메타에서 사용자로 로그인하면 '교정’을 포함한 네 가지 옵션만 제공되거든요.
@jidanni와 같은 상황인 것 같습니다. 저는 제공되는 기능 세트에 대한 전문가가 아니라, 일반 사용자의 입장에서 접근하고 있습니다. 이런 관점이 건설적인 피드백에 도움이 되기를 바랍니다.
4개의 좋아요
사이트 관리자는 AI Helper 프리셋에 대한 액세스 권한이 있는 그룹과 AI Helper의 사용자 지정 프롬프트에 대한 액세스 권한이 있는 그룹을 결정합니다.
예를 들어, Meta에서는 프리셋이 TL2+ 이상, 사용자 지정 프롬프트가 TL3+ 이상으로 설정되어 있습니다. 이러한 설정은 그룹별로 제한되어 사이트 관리자가 비용을 관리할 수 있도록 도와줍니다.
6개의 좋아요