Consegui fazer isso funcionar com um Google Group adicionando o endereço de e-mail de entrada da categoria à página de membros do grupo. Configurei o grupo apenas para testar isso, então concedi as permissões mais relaxadas possíveis. O problema que você está enfrentando pode estar relacionado às permissões do grupo.
Aqui está como a configuração da categoria se parece no meu site Discourse:
Observe que o valor completo do campo Endereço de e-mail de entrada personalizado é:
discourse-group-test@googlegroups.com|sc_email_test+scossar-mailing-list-5@discoursemail.com
O endereço de e-mail ‘de’ do Google Group e o endereço de e-mail de entrada da categoria são separados por um caractere pipe (|). O Discourse deve configurar isso automaticamente para você ao inserir o endereço de e-mail ‘de’ do grupo no campo de endereço de entrada da categoria e salvar a categoria. O endereço que usei para me inscrever no grupo é o endereço de e-mail de entrada da categoria (sc_email_test+scossar-mailing-list-5@discoursemail.com)
As conversas estão aparecendo na minha categoria:
Vou excluir o grupo e o site de teste em breve.