Есть ли какое-либо открытое API для получения похожих тем в Discourse?

Всё, что есть в Discourse, можно автоматизировать, поскольку Discourse — это JavaScript-приложение, а не традиционная «веб-страница». В данном случае вам нужно будет воспроизвести действия пользователя, выполняемые на странице расширенного поиска, следующим образом: