관련이 있는 또 다른 사안으로, 월스트리트저널(WSJ)의 한 칼럼니스트가 하디스(Hardee’s)의 챗봇 드라이브스루 주문 시스템을 30회 테스트했는데, 결과적으로 꽤 잘 작동한 것으로 나타났다. 3건만 인력으로 전환되어 응답을 받았다.
2개의 좋아요
공지사항 링크를 공유해 주실 수 있나요?
(초고속으로 돌아가는) 흐름에서 잠시 벗어나 있는 우리에게 약간의 맥락을 제공해 줄 것 같아서요 
1개의 좋아요
완벽합니다, @RGJ님 감사합니다
이것은 특히 다음 커밋에 관한 것인 것 같습니다:
따라서 저는 이것이 실제로는 기업들이 촉진해야 할 일이라고 생각합니다. 하지만 @merefield님이 위에서 언급했듯이 텍스트에 워터마크를 넣는 것은 사실상 불가능합니다.
이 경우 @MikeNolan님께서는 Discourse가 무엇을 해주기를 기대하시나요? 사용자가 단순히 AI가 생성한 텍스트를 복사해서 붙여넣는다면, Discourse가 그것을 알 수 있는 방법은 없습니다(스팸 및 AI 감지기를 실행하는 경우를 제외하고). 따라서 저는 이 특정 합의가 당분간 실제로는 아무것도 바꾸지 않는다고 봅니다.
1개의 좋아요
사용자가 붙여넣은 AI 생성 콘텐츠는 인간이 작성한 콘텐츠와 구별하기 어려울 가능성이 크기 때문에(아마도 더 잘 쓰여 있을 수는 있지만), Discourse가 크게 할 수 있는 일이 없을 것입니다. 하지만 공식 Discourse AI 플러그인을 사용한다면, Discourse가 생성한 콘텐츠에 워터마크를 추가하거나 다른 방식으로 표시할 수 있을까요?
4개의 좋아요
아, 그렇게 되면, 네, 왜 그런지 이해가 가네
1개의 좋아요
우리는 이 작업에 착수했습니다. 예를 들어, 이 주제 요약 자체가 워터마크가 적용되어 있습니다:
요약 UI 작업이 가장 많은 관심을 받았기 때문에, 이미 최종 형태에 가까운 상태이며 해당 설정이 완료되어 있습니다. 다른 기능들도 곧 뒤따라 올 것입니다.
3개의 좋아요
조금 의미론적인 문제일 수 있지만, 디지털 워터마크의 두 가지 특성은 일반 시청자에게 숨겨져 있다는 점과 제거하기가 어렵다는 점입니다.
2개의 좋아요
텍스트와 이미지 모두에 대해 AI 생성 콘텐츠라는 사실을 명확하게 밝히는 것이 중요하다고 생각합니다.
숨겨진 디지털 서명은 이미지 저작권 집행과 같은 용도에는 더 유용합니다.
저는 Ugly Hedghog 사진 포럼에서 활동하고 있는데, AI로 생성되거나 수정된 이미지가 사진으로 간주될 수 있는지에 대한 논의가 그 포럼에서 매우 뜨겁게 이루어지고 있습니다. (일부 AI 생성 이미지는 사진 대회에서 수상한 적도 있습니다.)
1개의 좋아요
지금 우리가 논의하고 있는 문제는 악의적인 의도를 가진 사람들이 AI를 이용해 콘텐츠를 생성한 후, 출처를 명시하는 표시를 제거하고 이를 인간이 만든 콘텐츠인 것처럼 위장하려 한다는 점입니다. 이는 제거하기 어려운 출처 '태그’가 필요함을 의미합니다.
2개의 좋아요
의도가 반드시 악의적인 것은 아니지만, 솔직하지 못한 측면이 있습니다.
잘라내기-붙여넣기 정도로도 쉽게 무너질 수 있는 방식으로 AI 생성 텍스트에 '태그’를 붙이는 방법을 찾는 일은 쉽지 않을 것입니다.
1개의 좋아요
그 용도로 영자폭 문자를 사용할 수 있을까요?
1개의 좋아요
아니요, 그건 일반 알파벳 문자만 유지하는 필터를 통해 콘텐츠를 통과시키면 쉽게 제거할 수 있습니다. 텍스트에 워터마크를 넣는 것은 매우, 매우 어렵습니다. 기본적으로 문자 표현 수준에서는 이를 수행할 수 없습니다.
스콧 애러슨(Scott Aaronson)의 이 블로그 글이 어떻게 작동할 수 있는지 약간의 설명을 제공합니다. “My Projects at OpenAI” 섹션까지 스크롤을 내려보세요. 거기에 제시된 방법은 복사/붙여넣기 방지입니다. @MikeNolan
2개의 좋아요
고맙습니다, 흥미롭네요:
지금까지 제 주요 프로젝트는 GPT와 같은 텍스트 모델의 출력을 통계적으로 워터마킹하는 도구였습니다. 기본적으로 GPT가 긴 텍스트를 생성할 때, 그 단어 선택 속에 나중에 이것이 GPT에서 나왔다는 것을 증명할 수 있는, 평소에는 눈에 띄지 않는 비밀 신호가 포함되어 있기를 원합니다. GPT의 출력을 가져와 마치 인간이 쓴 것처럼 위장하는 것이 훨씬 더 어려워지도록 하는 것이죠. 이는 당연히 학술적 표절 방지에 도움이 될 수 있을 뿐만 아니라, 예를 들어 선동적 콘텐츠의 대량 생성 방지에도 유용할 수 있습니다. 혹은 누군가의 글쓰기 스타일을 모방하여 그 사람을 유죄로 몰아세우는 행위도 마찬가지입니다. 이러한 것들은 모두 더 어렵게 만들고 싶은 것들이 아니겠습니까?
…
따라서 워터마킹을 위해, 다음 토큰을 무작위로 선택하는 대신, OpenAI만 알고 있는 키를 사용하는 암호학적 의사난수 함수를 이용해 의사무작위로 선택하는 것이 아이디어입니다. 최종 사용자가 의사난수를 진정한 난수와 구별할 수 없다고 가정하면, 최종 사용자에게는 감지할 수 있는 차이가 전혀 나타나지 않을 것입니다.
2개의 좋아요
AI가 생성한 글을 식별하려는 시도에 대해 내가 가진 우려 중 하나는, 실수로 잘 쓰인 인간의 글까지 표적이 될 수 있다는 점입니다.
2개의 좋아요
잘 쓴 인간이 생성한 텍스트는 많은 포럼에서 예외적인 경우가 되는 것 같습니다. :sigh:
3개의 좋아요
저는 단순히 동기로 돌아가서 판단합니다.
나쁜 의도가 식별되면, 차단하거나 정지 처리하면 됩니다.
잘 쓰인 글이고, 선의가 있으며, 사실도 입증된다면 그냥 두는 건 어떨까요?
만약 사용자의 모어가 영어가 아니라서 문법을 다듬기 위해 ChatGPT를 사용했다면 어떻게 해야 할까요?
2개의 좋아요
음, 제 게시물들을 표적으로 삼을 수 있다는 점이 걱정됩니다
그렇게 생각합니다. AI 생성 텍스트가 게시할 가치가 있는지 여부를 결정하는 것이 실제 인간이라면, 사람들이 글을 작성하는 데 AI를 사용하는 것에 대해 문제가 있다고 보지 않습니다.
1개의 좋아요
문법 개선을 도와줄 수 있는 도구가 매우 많습니다. ChatGPT가 그중 나머지 도구들보다 더 나은지 확신은 없습니다.
다만 문법을 개선하는 문제는 ‘원작’ 콘텐츠를 생성하는 문제와는 다소 다른 문제입니다. 콘텐츠 소유자들은 자신의 자료가 AI 엔진 학습에 사용된 것에 대한 보상을 요구하기 시작하면서, AI 엔진을 대상으로 한 법적 대응이 늘어나고 있습니다.
1개의 좋아요