Ошибки краулера рекламы AdSense

Используя официальный плагин для рекламы Discourse Advertising Plugin (Ads)

Страницы /new - /unread имеют проблему с краулером. Как это исправить?

Можете поделиться вашим URL? Требуется ли для входа на ваш сайт авторизация?

На самом деле это сайт нашего клиента. Для доступа к нему требуется вход в систему, но сам сайт, как и этот форум meta.discourse.org, доступен всем без авторизации.

Так что, если вы не вошли в систему, вы можете увидеть темы на mysterysite.com/new?

Нет, это не видно!

Ой! Эта страница не существует или закрыта.

Вот что видит Google. Я почти уверен, что перечислять контент, который недоступен, не одобряется, хотя сайты с платным доступом в некоторой степени так делают.

Редакция: Я ошибся в этом!

Чтобы определить, какой контент является «новым» или «непрочитанным», форуму необходимо знать, кто вы, поэтому требуется авторизованный пользователь.

Есть идеи, как это исправить?

AdSense будет работать нормально без доступа к этим двум страницам.

Разве эти два не должны быть исключены в robots.txt?

AdSense работает, но я не получаю дохода от рекламы, которая должна отображаться на этой странице. Какие значения нужно указать для URL страницы входа и метода входа?