블로그 게시물 감사합니다, 샘. 흥미롭게 읽었습니다 
이 주제는 인터넷 전체에서 화제가 되고 있지만, 공개되지 않은 진짜 혹은 주요 이유가 보안 위협(“우리의 모델이 너무 위험하다”) 때문일까요?
일부 사람들은 이것이 모델의 잠재적 강력함을 완전히 무시하는 것은 아니지만, PR 이벤트 성향이 더 강하다고 주장합니다. 하나의 예시: On Anthropic's Mythos Preview and Project Glasswing - Schneier on Security
저는 이러한 복잡한 주제들에 대해 아무것도 알지 못하지만, 모든 뉴스 사이트와 온라인 커뮤니티에서 빠르게 확산되는 기사를 읽을 때 주의 깊게 대합니다. 주장된 내용에는 몇 가지 주의할 점이 있다고 생각합니다. 즉, 사실일 부분도 있고, 명확히 해야 할 정보나 과장된 부분이 있을 수 있다는 것이죠.
모델들이 취약점을 매우 빠르게 발견하고 아마도 악용할 수 있다는 사실에 대해서는 의심의 여지가 없습니다. 또한 Discourse 코드 예시를 통해 이 점을 강조하기도 하셨죠.
기사 자체에 대해, 읽으면서 조금 어색하게 느꼈던 점을 지적하겠습니다:
클로즈드 소스는 사람들이 인정하고 싶어 하는 것보다 SaaS에 대해 항상 더 약한 방어책이었습니다. 웹 애플리케이션은 한 번 배포하고 숨겨두는 것이 아닙니다. 그 상당 부분이 모든 요청마다 사용자의 브라우저로 직접 전달됩니다: JavaScript, API 계약, 클라이언트 측 플로우, 검증 로직, 기능 동작 등입니다. 공격자는 이미 이 모든 것을 검사할 수 있으며, AI는 이러한 검사의 비용을 극적으로 낮춥니다. 저장소를 닫는 것은 일부 서버 측 구현 세부사항을 숨길 수는 있지만, 시스템을 보이지 않게 만들지는 않습니다. 그것이 대부분 하는 일은 전체 그림을 검사할 수 있는 방어자의 수를 줄이는 것입니다.
그리고 나중에:
클로즈드 소스는 약간의 불명확성(obscurity)을 살 수 있지만, 불명확성은 취약합니다. 코드는 유출되고, 바이너리는 역설계되며, API는 매핑되고, 공격자는 실행 중인 시스템을 질문하는 것만으로도 많은 것을 배웁니다. 진정한 방어는 코드를 영원히 숨기는 것이 아닙니다. 감시가 시작될 때에도 견딜 수 있는 소프트웨어와 운영 관행을 구축하는 것입니다.
두 번째 단락을 읽었을 때, 이미 읽은 것 같은 느낌이 들었습니다.
위쪽을 스크롤해보니 두 단락이 매우, 매우 유사하다는 것을 발견했습니다. 둘 다 다른 표현을 사용했지만 동일한 내용을 서술하고 있습니다.
요약할 필요성을 이해하지만, 이 경우 정말로 몇 단락 전에 기본적으로 같은 내용을 읽은 것 같은 느낌이 들었습니다.