Latest posts API pagination

Разработка
1

Hello everyone!

I’m getting latest posts from api using this endpoint: https://community.learnaboutgmp.com/posts.json

How can I get more results from latest posts? Is this possible?

I tried https://community.learnaboutgmp.com/posts.json?page=2 but it’s not working.

Thanks in advance!

2

When I figured that out before I followed the instructions in the “reverse engineering” topic. I thought that I’d done it in GitHub - pfaffman/discourse-downloader: Download a Discourse topic for offline analysis, but I don’t see it there.

3

You might have to hit /latest.json?page=2 instead of /posts.json and filter out the posts from the result.

https://meta.discourse.org/latest.json?page=2

EDIT: Ohh you want latest posts, not latest topics. Considering /posts by itself doesn’t have a UI, it probably is missing pagination, I’m sure a PR could be created for this. But to get what you want right now you could still parse the /latest.json endpoint and parse out the topic_id and the post number and fetch the post with /t/<topic_id>/<post_number>, but yea I can see why pagination on the /posts endpoint would be helpful.

4

Okay, now that I’ve looked at the controller for /posts:

def latest
  params.permit(:before)
  ...

there is a “before” parameter, not a “page” parameter, but using it like a “page” is a bit different because it filters out private posts and such. But I think roughly you can use it like this:

  • hit /posts.json and get the first post id (currently it is 22000)
  • subtract 50 (that endpoint only shows at most 50 at a time)
  • hit /posts.json?before=21950
  • repeat

Part of the issue which doesn’t make total sense to me is that we are limiting the sql query to 50 results, but then we do more filtering on it after the initial sql query which is why you will not always get 50 results.

5

Thanks guys! I’ll play with it.

6

as the API designer: it works this way to make things easier on the Discourse server; if the server had to do a bunch of work to always fill up 50 posts anything using the API might start being a perf problem.

Basically it forces the consumers to be “good neighbors”, in a weird sense of the term.

7

Вопрос об использовании API (я работаю через gem discourse_api, круто!) — он связан с пагинацией (я также хотел бы использовать endpoint для последних сообщений), но для моего текущего примера ниже я приведу что-то из пользователей, так как я начал работать с этим первым.

Я хочу получить всю активность пользователя (темы и ответы — это хорошо), поэтому пробую следующее:

vsoch = client.user_topics_and_replies("vsoch")

И при этом я постоянно получаю список из 30 элементов, независимо от того, что у пользователя, очевидно, их больше. Я попытался отредактировать исходный код, добавив переменную page:

# frozen_string_literal: true
module DiscourseApi
  module API
    module UserActions
      def user_replies(username, page=1)
        params = { "username": username, "filter": '5', page: page }
        response = get("/user_actions.json", params)
        response.body["user_actions"]
      end

      def user_topics_and_replies(username, page=1)
        params = { "username": username, "filter": "4,5", page: page }
        response = get("/user_actions.json", params)
        response.body["user_actions"]
      end
    end
  end
end

но это, похоже, ничего не меняет — всегда один и тот же список из 30 элементов, независимо от номера страницы. Возможно ли получить больше 30? Может, я пытаюсь сделать что-то не то? Любая помощь будет очень appreciated — если я смогу разобраться, как это сделать, я с радостью сделаю PR, чтобы другие тоже могли :slight_smile: