Le sous-dossier est, à mon avis, préférable (si votre configuration est un site principal avec une section forum) d’un point de vue purement SEO. Surtout s’il s’agit d’un site ancien et bien établi, beaucoup moins si c’est un site entièrement nouveau. Toutefois, si je devais configurer cette architecture, je la placerais probablement sur un sous-domaine de toute façon, car cela semble plus propre. Cela facilite également le déplacement du forum sur un serveur séparé si nécessaire.
Chaque sous-domaine est, dans une certaine mesure, traité comme un site distinct. Il semble qu’une certaine confiance soit transférée entre eux. Cependant, ce transfert est moins important que dans le cas d’un sous-dossier, qui ne nécessite aucun transfert d’autorité.
Par exemple, il n’aurait aucun sens que l’autorité de WordPress, Wix, Blogspot, Tumblr, etc., se transfère vers des sites créés par des utilisateurs qui n’ont pas attaché de domaine personnalisé à leur site. C’est-à-dire https://ponygeddon.wordpress.com/. Les moteurs de recherche semblent pouvoir, dans une certaine mesure, différencier ces usages. Mais honnêtement, je pense que nous sous-estimons souvent à quel point les algorithmes de recherche sont intelligents.
Cela dit, il semble vraiment que Google mène une croisade contre le contenu généré par les utilisateurs (à l’exception de YouTube). Je trouve rarement des résultats de contenu généré par les utilisateurs dans mes recherches, sauf si j’ajoute spécifiquement le nom du site. Cela va même jusqu’à nécessiter l’utilisation de ‘inurl:exemple.com’ et à obtenir tout de même des résultats minimaux. Beaucoup d’amis ont commencé à devoir faire de même. Peut-être que nous devenons tous fous. 
Donc, si c’est vraiment le cas, alors un sous-domaine pourrait être préférable pour le SEO également. Cela permettrait à votre sous-domaine principal de ne pas être directement considéré comme du contenu généré par les utilisateurs.
Quelques autres différences possibles :
- Les mises à jour des moteurs de recherche pourraient affecter vos sous-domaines différemment, ce qui constitue une stratégie de couverture entre les mises à jour.
- Certains ou la plupart des moteurs de recherche limitent le nombre de résultats de recherche provenant du même site ou sous-domaine. Ainsi, avoir des sous-domaines séparés peut vous offrir plus d’opportunités de classer plusieurs pages pour les mêmes requêtes.