501 5.5.4 Отправка с этого адреса не разрешена

Это (вероятно) означает, что Thunderbird отправляет письма с адреса вроде user@example.com, а ваш форум — с адреса user@forum.example.com. Возможно, вам стоит изменить адрес notification_email.

Является ли используемая служба сервисом для отправки транзакционных писем?

См. Устранение неполадок с почтой при новой установке Discourse