Pasé un tiempo intentando replicarlo, pero no pude hacerlo.
Revisé Chat::MessagesQuery, Chat::ListChannelMessages y la acción del controlador a través de nuestras especificaciones y manualmente en una instancia local también. El parámetro page_size se tiene en cuenta como se esperaba, así como el parámetro direction.
@Nima1 ¿estás seguro de que usas el endpoint correcto? Debería tener api en él, así: /chat/api/channels/3/messages?target_message_id=40&direction=past&page_size=5.
Otra cosa que no he comprobado es si se comporta de manera diferente en stable. ¿Está tu instancia actualizada con la rama tests-passed?