これがやはり最も怪しいです。親カテゴリをミュートすると、サブカテゴリもミュートされる可能性があると思います。あなたの設定でカテゴリがミュートされていないか確認しましたか?
フィルタリングされていない最新トピックで、表示されないサブカテゴリのいずれかでフィルタリングした場合、ドロップダウンにはどのようなトラッキング状態が表示されますか?

それを強制するにはミュートは適切な方法ではないと思います。代わりにカテゴリのセキュリティ設定を使用してみてください。親カテゴリでの閲覧のみを許可し、サブカテゴリでの閲覧、返信、作成を許可するようにすれば、親カテゴリへの返信を防げるはずです。default_subcategory_on_read_only_category を有効にすることも検討するかもしれません。(新しいトピックボタンが、投稿が許可されていないカテゴリで無効化されなくなったため、今となってはあまり重要ではないかもしれませんが。)
カテゴリをデフォルトのミュート設定から削除する際に、既存ユーザーの設定を変更するオプションを忘れないでください。