Existem muitos posts sobre isso em Support, então agora que parece que encontramos a causa, pensei que seria bom criar um tópico Bug sobre isso contendo apenas o problema real descrito aqui Email Hostname Certificate Mismatch Causing sidekiq Queue Overload, Severe Site Instability - #47 by RGJ
Resumindo:
Desde a versão 2.9.0 beta 4, as configurações
DISCOURSE_SMTP_OPENSSL_VERIFY_MODE e DISCOURSE_SMTP_ENABLE_START_TLS não funcionam mais corretamente.
Isso parece estar relacionado à mudança para o Rails 7, que atualizou o net-smtp de 0.1.0 para 0.3.1, o que alterou os padrões para esses dois parâmetros de conexão.
A forma como a gem smtp chama o net-smtp não desabilita enable_starttls_auto e openssl_verify_mode, apenas os habilita quando habilitados.
Relatório relacionado para a gem smtp: SMTP: allow disabling starttls_auto since it's now true by default in Ruby 3 by jeremy · Pull Request #1435 · mikel/mail · GitHub
Tecnicamente, este bug está fora do código do Discourse, pois está ocorrendo na gem smtp, mas como ela está atualmente em fork para o Discourse, acho que isso justifica um tópico Bug. Se não puder ser corrigido facilmente, esses parâmetros podem ser removidos da documentação e talvez um aviso de depreciação possa ser exibido para que pelo menos toda a confusão desapareça.