Se as regras proíbem nudez, então você tem um motivo para fiscalizar isso. Os usuários não podem realmente reclamar disso.
As mensagens não são ‘privadas’, são mensagens pessoais (sempre foram). Minha sugestão é lembrar os usuários das regras da comunidade e enfatizar que elas se aplicam às mensagens e que você as fará cumprir.
Você pode habilitar a configuração do site log personal messages views para ficar de olho em quais mensagens e usuários estão constantemente fazendo isso, para que você possa ficar de olho neles.
São apenas imagens ou há também texto na mensagem? Se houver, você pode selecionar as palavras mais usadas e adicioná-las a palavras observadas ou considerar o uso deste plugin
Fora isso, não consigo pensar em outra maneira de moderar efetivamente imagens em uma MP.