Forum topics are not indexed by Baidu

Hi. We have a Chinese version of our website, but unfortunately, topics of the forum are not indexed by Baidu. I noticed that this forum is indexed by Baidu without any problems. The question both for admins of this forum and community members who launched forum in Chinese. What have you done to make Baidu index topics?

How old is your forum? Indexing takes time, depending on the search engine. Have you blacklisted any specific crawlers through the blacklisted crawler user agents site setting?

The forum was launched in April, so I guess that’s not the reason. The blacklisted crawlers settings are the same as on your screenshot. Also, there are no restrictions in robots.txt for Baidu bot.

What does the Baidu search engine say about this? As far as I know, there used to be a section (ziyuan.baidu) in which you could get detailed information about the status of your site, added to Baidu.

Discourse does not require additional tuning for indexing. If the scanner is not blacklisted, then there should be no problems.

주제에 대한 업데이트입니다. ziyuan.baidu.com에 계정을 생성했습니다. 계정 자체에는 아무 문제가 없어 보입니다. 크롤러가 페이지 콘텐츠를 정상적으로 가져오고 있습니다. 또한 서버에 로그를 구현했습니다. Baidu는 매일 주제 페이지에 수십 개의 요청을 보내고 있으며, 서버 응답은 200 상태码를 반환하고 있습니다.

흥미로운 점은 우리가 혼자가 아니라는 것입니다. 해당 페이지에서 고객님의 Baidu 인덱스를 확인해 보니, 최소 4곳이 비슷한 문제를 겪고 있습니다:

혹시 아이디어가 있으시면 조언해 주십시오.

아마도 바이두는 중국에 호스팅된 사이트를 선호하는 것일 수 있습니다. 바이두는 물론 지역 검색 엔진이지만, 그는 다른 리소스를 찾고 있으며 그의 주요 임무는 고품질의 지역 검색입니다. 그래서 단정하기는 어렵습니다. 이 문제에 대해 조금 더 조사를 해보실 필요가 있을 것입니다. 지역이 이 부분에 어떤 영향을 미치는지 확인해 보세요. 아마도 바이두에는 다른 특별한 요구 사항이 있을 수도 있습니다.

바이두가 페이지를 수집하고, 말씀하신 대로 모든 것이 정상이라면, 내부 랭킹 메커니즘이 작용할 수 있습니다. 이는 소프트웨어에 종속적이지 않을 수도 있습니다.

우회 속도(크롤링 속도)도 많은 요인에 따라 달라집니다. 예를 들어, 정보의 관련성, 업데이트 빈도, 다른 사이트로부터의 백링크 게시 속도 및 그 빈도 등이 있습니다.

왜 바이두(Baidu)에 이 문제를 제기하지 않나요? 아마도 당신의 사이트 콘텐츠(그리고 필수적인 등록용 전화번호)가 중국어이기 때문일 것입니다. 그렇다면 예상했던 결과라고 할 수 있습니다.

당신의 사이트 URL을 알 수 없으므로 이는 단순한 추측이지만, 바이두가 다음 요소들을 우선시한다는 것은 알고 있습니다:

  • 다른 언어보다 간체 중국어
  • 중국 외부 호스팅보다 중국 내 호스팅된 사이트
  • 중국 TLD, 즉 .cn 도메인 사이트

이것이 영어로 작성되고, 중국 외부에 호스팅되며, 중국 TLD가 없는 Discourse 고객 사이트를 참고하는 것이 도움이 되지 않는 이유입니다.

@Stranik @Remah
답변해 주셔서 감사합니다.
웹사이트 URL은 비밀이 아닙니다 – https://forum.cuba-platform.cn/.
.cn TLD를 사용하고 있으며, 서버는 홍콩에 위치해 있고 중국어만 사용됩니다.

제가 해당 주제들을 검색해서 찾을 수 있으므로, 이제 문제가 해결되었을 것으로 추측합니다. 다만, 예상보다 검색 결과에서 조금 더 아래에 위치해 있습니다. 주제 제목의 정확한 텍스트로 검색해도 2페이지에 있었습니다.

따라서 가장 가능성이 높은 이유는 아직 바이두에서 해당 사이트의 신뢰도가 충분히 확보되지 않았기 때문일 것입니다. 아니면 바이두가 사이트가 충족하지 못한 추가적인 요구 사항이 있는 걸까요?

당사의 포럼이 검색 결과에 표시되도록 어떤 검색어를 입력하셨나요? 저는 다음과 같은 방식으로 확인합니다: 바이두 검색에 site:forum.cuba-platform.cn을 입력하는 것입니다. 현재는 링크 5개만 확인되며, 그중 어떤 것도 포럼 주제(토픽)로 연결되는 링크가 아닙니다.

한편, 바이두의 권고를 따라 cURL을 사용하여 새 URL을 바이두에 푸시하는 도구를 구현했습니다. 결과를 확인한 후 다시 알려드리겠습니다.

토픽이 인덱싱되지 않는다는 말씀이 맞습니다. 바이두(Baidu)는 토픽 목록 보기에서는 토픽 제목을 찾지만, 개별 토픽 보기에서는 찾지 못합니다.

왜 바이두는 토픽 목록은 인덱싱하는데 개별 토픽은 인덱싱하지 않는지 이해가 되지 않습니다. 이는 크롤러가 사이트에서 작동하고 있지만 토픽을 크롤링하지 않고 있음을 의미합니다. 따라서 먼저 사이트 설정을 확인해 보시는 것이 좋습니다.

저희도 같은 문제입니다.