SMTP-письма не отправляются и соединение не устанавливается, но openssl работает

Можете ли вы подключиться к порту 587 изнутри контейнера?

Похоже, что подключение к порту 587 работает с хоста, но, возможно, не работает изнутри контейнера. Это может указывать на проблему с сетью на вашем сервере.