로봇 확인으로 인해 원박스 기능이 차단되었습니다

특정 사이트에서 이 문제가 발생하고 있으며, 최근에 갑자기 시작되었습니다. Discourse가 해당 사이트에서 정보를 가져오려 하면 차단됩니다. 이전 버전에서는 정상적으로 작동했습니다.
예시로 링크를 첨부합니다.

Bloomberg - Are you a robot?

블룸버그의 레이트 리미팅(Rate Limiting)으로 보입니다. 한도를 추측하여 그 아래로 유지하도록 조치는 취할 수 있겠지만, 그 외에는 크게 할 수 있는 일이 없을 것입니다.

여기서 정확히 무엇을 원박스(Onebox)하려고 하는 건가요? URL이 꽤 이상합니다.

블룸버그 뉴스 기사입니다. 링크를 클릭하면 해당 기사를 볼 수 있습니다.

"Onebox Assistant", crawl for those previews reliably! 를 시도해 보세요.

기억이 정확하다면 블룸버그 링크에서도 작동합니다.

원본 링크가 무엇인가요? 위에 붙여넣은 링크는 기사 페이지가 아니라 리다이렉트된 목적지로 보입니다.

https://www.bloomberg.com/opinion/articles/2020-01-29/peer-review-is-science-s-wheel-of-misfortune

이것이 링크입니다.

알겠습니다, 링크입니다

http://www.bloomberg.com/opinion/articles/2020-01-29/peer-review-is-science-s-wheel-of-misfortune

http://www.bloomberg.com/opinion/articles/2020-01-29/peer-review-is-science-s-wheel-of-misfortune

메타데이터 헤더만 확인하는 것뿐인데, 꽤 공격적인 웹 스크래핑 방지 조치가 적용되어 있는 것 같습니다.

또한 이미지도 설명도 없는 경우 원박싱(oneboxing)을 아예 하지 말아야 하는 또 다른 사례입니다. cc @techAPJ @sam .. 다음 주에 해당 변경 사항이 적용되면 정말로 stable 버전에도 백포트해야 합니다.

방금 html 확장자로 끝나는 링크(뒤에 붙은 문자들을 모두 제거한 형태)를 Firefox를 사용하여 Discourse Onebox를 쓰지 않고 직접 테스트해 보았습니다. 오류가 확장된 오류 메시지는 해당 줄 아래에 있습니다. 첫 번째 링크(아래에 오류 메시지가 있는 것)는 여기에서 <>로 묶여 있습니다. 두 번째 링크는 <>로 묶이지 않았으며, 표시된 URL의 제목이 표시됩니다.
https://www.bloomberg.com/tosv2.html
Bloomberg - Are you a robot?


컴퓨터 네트워크에서 비정상적인 활동이 감지되었습니다

계속하려면 아래 상자를 클릭하여 로봇이 아님을 알려주세요.

왜 이런 일이 발생했나요?

브라우저가 JavaScript와 쿠키를 지원하고 있으며, 이들이 로드되는 것을 차단하지 않고 있는지 확인해 주세요. 자세한 내용은 이용 약관과 쿠키 정책을 검토하실 수 있습니다.

도움이 필요하신가요?

이 메시지와 관련된 문의 사항은 지원 팀에 문의하여 아래 참조 ID를 제공해 주세요.

차단 참조 ID: 13215fd0-4285-11eb-8faf-b7e9262e99b2