Проблема решена: я забыл передать переменные в Docker Compose, а ещё допустил опечатку. Теперь всё работает с этими переменными:
DISCOURSE_SMTP_HOST=smtp-relay.brevo.com
DISCOURSE_SMTP_PORT=587
DISCOURSE_SMTP_AUTH=plain
DISCOURSE_SMTP_USER=ЛОГИН ОТ BREVO
DISCOURSE_SMTP_PASSWORD= SMTP-КЛЮЧ ОТ BREVO