그 관점은 이해하지만, 제게는 복잡한 감정을 줍니다. 여기서는 AI 입력이 "충분히 좋다"고 볼 수 없기 때문에 바람직하지 않다는 아이디어가 담긴 것 같습니다. 사실 AI가 이미 상당수의 인간보다 더 나은 텍스트를 생성할 수 있는지조차 확신하지 못합니다.
진정한 아이디어는 포럼이 "사람들을 위한 것"이며, 기계는 그 자체로 바람직하지 않다는 것 아닙니까? 네, 이는 일종의 차별로 볼 수 있지만, 우리는 사람에 대해 말하는 것이 아니라 기계에 대해 이야기하고 있습니다.
진정으로 의미 있는 논의를 하는 것이지 않나요? 그 논의의 일부가 AI에 의해 생성되었더라도, 잘 쓰이고 잘 조사된 내용이라면, 그것이 논의를 덜 의미 있게 만드는 것일까요?
예를 들어 이 포럼을 생각해 보세요. 우리가 직접 작성하는 답변과 동등하거나, 심지어 더 나은 답변으로 문제를 해결하는 데 AI가 도움을 준다면, 그것이 나쁜 일일까요?
AI 엔진이 라이시 배지를 만들거나 요청한 것은 아닐 겁니다. 
저도 곰곰이 생각해 보니 마찬가지입니다. 그리고 이것은 포럼의 목적에 따라 크게 달라질 것 같습니다. 서로를 지원하는 자조 모임은 한 경우이고, 제품 지원 사이트는 또 다른 경우니까요.
하지만 우리는 이미 약간 방황하는 개인, 스레드의 주제에서 벗어나거나 심지어 포럼 전체의 주제에서 벗어난 사람들을 다뤄야 합니다. 우리는 관리자로서 이런 상황을 마주해야 하니까요.
네, 그럴 가능성이 높습니다. 하지만 그것은 결국 "논의란 무엇인가"라는 질문으로 되돌아갈 수 있습니다. AI와 "의미 있는 논의"를 할 수 있을까요? 이미 많은 사람들이 ChatGPT와 "논의"하는 데 시간을 보낸 것 같습니다.
만약 다른 AI가 첫 번째 AI의 답변에 응답한다면? 그리고 만약 그들이 모두 함께 "의미 있는 논의"를 하고 있다면? 참여자의 다수만 AI인 경우에도 그것이 여전히 "논의"라고 할 수 있을까요?
글쎄요, 복잡한 질문과 답변은 관점에 따라 달라질 수 있는 것 같습니다. 내부 AI가 정보를 주입하는 것과 외부 AI를 참여자로 시작하는 것 사이에는 차이도 있습니다. 저에게 @Ed_S의 게시물과 그 위의 논의의 핵심은 “구분할 수 없는” 부분이었습니다.
"구분할 수 없다면, 그것이 무슨 상관인가?"는 첫 시즌 첫 화에서 "당신은 진짜인가요?"라는 질문에 대한 응답으로 제시된, 《웨스트월드》 TV 시리즈의 첫 대사 중 하나였습니다.
별개이지만 약간 관련이 있는 질문은 광고주들이 AI가 생성한 트래픽에 대해 문제를 제기할지 여부입니다.
봇이 직접 무언가를 구매하지는 않지만, 누군가가 그것을 사도록(또는 사지 않도록) 추천할 수는 있습니다.
티켓마스터나 GPU 판매자들은 여기에 동의하지 않을지도 모르겠네요 
좋은 지적이지만, 나는 이 문제에 대해 아마도 12년가량 생각해 왔다. 업계와 창작자들 중 일부가 규제 도입을 촉구하고 있는 것은, 그들이 이런 명백히 거부할 수 없는 유혹적인 것들로 테크놀로지 시장을 범람시키고 있는 상황에서, 아무리 봐도 이중적이다. 나는 그 판매 논리를 믿지 않으므로, 새로운 반짝이는 '장난감’을 보고 우와, 오오 하고 감탄하는 대신 앞으로 나아가겠다. 이건 분명히 크리스마스가 아니며, 반짝이는 것이 다 금은 아니니까.
눈이 있는 사람이라면 지금도 알 수 있다. AI가 인간처럼 텍스트와 이미지를 생성할 수 있는 사이버 세상에서는, 규제 당국이 인터넷 전체를 위한 보편적 디지털 ID를 위해 달려들 것이며, 갑자기 그 장난감들은 납으로 칠해진다.
약 30년 전, 이메일 스팸과 스푸핑/피싱이 막 골칫거리로 부상하기 시작했을 당시에도 보편적 ID에 대한 유사한 요구가 제기된 바 있습니다. 당시에는 실패했고, 다시 실패할 가능성이 크다고 생각합니다. 이를 안정적으로 작동시킬 기술이 아직 존재하지 않으며, 앞으로도 존재하지 않을 수 있기 때문입니다.
이와 관련된 출처가 있을까요?
저는 그런 일이 있었던 기억이 전혀 없습니다. 제 인식으로는 세상이 9/11 이후에야 비로소 “드디어” 미쳐가기 시작한 것 같습니다. 그 이전에는 가능한 모든 구실을 대며 모든 것과 모든 사람을 감시하고 신원 확인하려는 움직임이 있었다는 기억이 없습니다. 말씀하신 내용은 합리화처럼 들리지만, 틀렸다는 것을 입증해 주시길 기다리고 있습니다. 과거에 상황이 나빴더라도, 그것이 오늘이나 내일의 상황을 나쁘게 만드는 구실이 될 수는 없습니다.
이 시점에서 세부 사항이 많이 기억나지 않습니다. 처음에는 메일링 리스트 관리자 메일링 리스트에 있는 사람들이 위원회를 구성했고, 그중 일부는 ANSI 위원회에 소속되어 ANSI 위원회 구조 내에서 이를 검토하도록 후원할 의사가 있는 사람들이었습니다. 미국에서 두세 명, 스위스에서 한 명, 독일에서 한 명, 그리고 몇 명 더, 모두 약 열두 명 정도였다는 기억이 납니다.
우리는 ISP가 이메일 1통당 약 0.00001센트 정도의 요금을 부과받게 될 ‘보편적 ID 및 크레딧’ 시스템을 제안했습니다. 그러나 이 제안은 ANSI 위원회 구조를 통과하지 못했습니다. 보안 담당자들은 ID 시스템이 안전하지 않다고 했고, 다른 사람들은 중앙 크레딧 구조를 관리하는 것이 비용이 너무 많이 들고 정치적 논쟁의 대상이 될 것이라고 했으며, 또 다른 사람들은 정부가 이를 통해 사적인 이메일을 추적하는 데 사용할 수 있다고 우려를 표했습니다.
참고로, 암호학 전문가인 제 친구는 ID 시스템이 안전하지 않다는 합의에 동의했지만, 그는 충분한 컴퓨팅 파워가 주어지면 어떤 암호화 시스템도 안전하지 않다는 의견을 가지고 있었습니다.
솔직히 말해서, 그 "관계형 AI"가 일부 "개성"을 잃고 감정 자체를 흉내 내는 것을 멈추었을 때, 제가 "이상한 사람들"이라 부르는 수천 명의 사람들이(이 말이 당신에게 해당된다면 진정하세요… 저는 닌자 터틀을 수집합니다) 트위터와 레딧에서 그들의 가짜(페르소나) 접촉이 그들의 삶에서 완전히 사라져 버렸다고 미쳐 돌아가고 있었습니다. 그런데 이게 고작 두 달 정도밖에 안 됐을 때 일어난 일입니다. 이걸 어떻게 해석할지는 당신에게 달려 있습니다.
다만 대부분의 사람들이 포럼을 개인적인 우정 시뮬레이터로 사용한다고 생각하지는 않지만, 내가 틀릴 수도 있고, 어쨌든 이 모든 사람들이 불평을 하려고 메시지 보드 대체 도구로 달려갔다는 사실은 맞습니다..
맞아요, 이 도구 대부분은 기본 ChatGPT용으로 설계되었습니다. 좋은 프롬프트 엔지니어라면 이걸 아주 쉽게 우회할 수 있습니다.
예를 들어, 레이먼드 레드킹턴(Raymond Reddington)의 답변처럼요 (제공해주신 웹사이트에서 레이트 리밋(rate limit)에 걸렸지만, 거기서도 통과했습니다)
네, 저도 동의합니다. 문제는 ChatGPT가 AI 시장을 장악하고 있다는 점인데, 시장에는 무료 도구도 많이 있습니다.
하지만 포럼 개발자와 관리자가 실제로 가장 많이 필요로 하는 것은 API이며, 그것들은 거의 무료가 아닙니다. 자체 로컬 LLM을 실행하더라도 훨씬 더 높은 인프라 비용을 지불해야 합니다.
월스트리트저널(WSJ)은 FTC가 ChatGPT가 사람들의 허위 정보를 게시하여 피해를 주고 있는지 조사에 착수했다고 보도했습니다.
이 링크가 작동할지 확실하지 않습니다. 유료 콘텐츠(페이월)에 막혀 있을 수도 있습니다.
https://www.wsj.com/articles/chatgpt-under-investigation-by-ftc-21e4b3ef?mod=hp_lead_pos1
ChatGPT가 세상을 장악했습니다. 어디에나 있고, 우리는 그로부터 벗어날 수 없습니다.
지금은 모든 곳에서 사용되고 있습니다.
예를 들어:
Discourse AI
AI가 생성한 만화도 있습니다(예: ai_peter). 주제를 입력하면 AI가 대본을 작성해 줍니다.
그리고 더 많은 것들이 있습니다!
AI는 환각(hallucination)을 일으켜 잘못된 답변을 할 수 있으므로 사용에 위험이 따릅니다. 반드시 사실 확인을 해야 하며, 매우 주의해야 합니다. 잘못된 답변은 문제를 일으킬 수 있습니다.
대부분의 포럼 관리자들은 인간 게시자가 작성한 오류 있는 게시물들을 많이 목격해 왔습니다. AI가 생성한 게시물들은 처리하기가 더 어려울까요?
주요 AI 개발사들이 AI 생성 콘텐츠에 워터마킹 등을 요구하기로 한 최근 합의는 임베디드 LLM에 어떤 영향을 미칠까요? Discourse가 ChatGPT로 생성된 콘텐츠에 워터마크를 적용할 수 있을까요?
이것은 분명히 이미지, 비디오, 그리고 잠재적으로 음성을 가리키는 것이지, 텍스트는 아닐 것입니다. 콘텐츠의 무결성을 해치지 않으면서 텍스트에 워터마크를 어떻게 넣을 수 있을까요?
그것이 바로 과제입니다. AI가 생성한 텍스트에 워터마크를 넣는 실질적인 방법이 없을 수 있거든요. 즉, 우리는 여전히 "이건 진짜야, 아니면 AI가 만든 거야?"라고 궁금해하게 될 것입니다.
