Problema risolto: ho dimenticato di passare le variabili in Docker compose + avevo un errore di battitura. Ora funziona con queste variabili:
DISCOURSE_SMTP_HOST=smtp-relay.brevo.com
DISCOURSE_SMTP_PORT=587
DISCOURSE_SMTP_AUTH=plain
DISCOURSE_SMTP_USER=LOGIN DA BREVO
DISCOURSE_SMTP_PASSWORD= CHIAVE SMTP DA BREVO