Comment utiliser le serveur de stockage MinIO que vous gérez pour votre instance Discourse

Général
1

Utilizing MinIO server for S3 compatible object storage

MinIO is an S3-compatible object storage server solution that is cloud-native by default but easy to deploy on on-prem servers or VPSes or cloud servers for your use as an alternative to Amazon AWS S3 or other systems, and is compatible with Discourse when configured right.

This section presupposes that the following are true in your environment:

  1. You have a fully configured MinIO server instance
  2. You have Domain Support enabled in the MinIO configuration
  3. You have DNS configuration properly set up for MinIO so that bucket subdomains properly resolve to the MinIO server
  4. The bucket discourse-data exists on the MinIO server and has a “public” policy set on it
  5. The bucket discourse-backups exists on the MinIO server and is a private bucket for uploads to be put into (and not publicly reachable - the default policy for new buckets)
  6. Your S3 CDN URL is a properly configured CDN pointing to the bucket and cache requests, as stated earlier in this document.

If you have all of the above requirements available, then you should be good to go.

An example configuration would be like this:

DISCOURSE_USE_S3: true
DISCOURSE_S3_REGION: anything
DISCOURSE_S3_ENDPOINT: https://minio.example.com
DISCOURSE_S3_ACCESS_KEY_ID: myaccesskey
DISCOURSE_S3_SECRET_ACCESS_KEY: mysecretkey
DISCOURSE_S3_CDN_URL: https://discourse-data-cdn.example.com
DISCOURSE_S3_BUCKET: discourse-data
DISCOURSE_S3_BACKUP_BUCKET: discourse-backups
DISCOURSE_BACKUP_LOCATION: s3

This will provide you with a basic MinIO configuration with a MinIO server in place of Amazon S3.

4 « J'aime »
2

It’s great to know that MinIO now works fine with subdomain style buckets and is again compatible with Discourse.

Can you edit the Using Object Storage for Uploads (S3 & Clones) wiki to include MinIO instructions?

3 « J'aime »
3

It’s worked with both subdomain AND path style buckets for a while. However, the DNS configuration component is the most painful component - it needs special wildcard DNS rules to work, or a customized DNS server that is actively aware of all actual buckets or not. I’ve done that in bind9 with wildcard zones, but doing it in Cloudflare or others and the subdomain style bits barf hard.

IF you think the above is suitable to be in that section, I’ll be happy to. But it’ll include that ‘caveats’ section - and I’d appreciate any exits/reviews you’d like me to make first for wording, etc. (And note I didn’t include a CDN URL 'cause I don’t have a CDN in my deployment (because $$$ is not something I can experiment with).

3 « J'aime »
4

Users who run MinIO just for Discourse can also create the DNS entries for the 2 Discourse buckets manually too right?

The caveat in this topic should be enough. Configuring MinIO is completely out of scope for this forum, but given a working MinIO getting Discourse to use is a valid use case.

2 « J'aime »
5

Correct, but as you said config is out of scope, so I simply will state that the bucket subdomain paths have to resolve (and will leave DNS config to ${ADMINS} of the instance)

2 « J'aime »
6

Yep, and I"ve edited the wiki accordingly. However, MinIO doesn’t (to my knowledge) run a cloud service so I left the ‘Service Name’ in the wiki TOC at the beginning blank, adjust accordingly if you wish.

2 « J'aime »
7

Awesome! Thanks for the contribution!

1 « J'aime »
8

You’re welcome!

I also tweaked it, Provider is Self-hosted but the MinIO section is still linked to. That should solve the fact they don’t have a cloud provided solution that I could find at the moment. (You can close this thread now if you wish since it’s integrated into the wiki post)

3 « J'aime »
9

Also discovered (thank you open source code and decent documentation for MinIO!) that CORS is already by default on all MinIO HTTP action verbs - so no need to install the CORS rules, they’re already present. Also updated the self-hosted minio section as well, plus some grammar tweaks.

Thanks to @Falco for some help tracing the issue I had noticed during app build / rebuild time for this, and for the base guidance on CDN config with StackPath (because I wanted a fully functional test, and have StackPath CDN for something else anyways so using the CDN stack verified everything worked!)

2 « J'aime »
10

Je ne comprends pas comment définir le style de chemin de force. Lorsque j’ai configuré la version 2.6.8 avec Minio via les paramètres S3, il ajoute toujours le nom du bucket au début du point de terminaison S3, alors qu’il devrait l’ajouter comme chemin après le point de terminaison S3.

Il semble également, d’après l’exemple de configuration sur GitHub, que l’option s3_force_path_style ait été supprimée. Est-ce que je manque quelque chose ? Merci.

11

@ceelian

Discourse utilise le mode DNS et non le mode chemin pour S3. C’est comme ça depuis LONGTEMPS, c’est pourquoi je ne spécifie rien sur le mode chemin dans le guide OU la page du guide de stockage S3. Vous devriez également apprendre à créer de nouveaux fils de discussion plutôt que de déterrer un vieux fil pour quelque chose d’inapproprié.

1 « J'aime »
12

@teward Merci pour vos commentaires. Désolé pour le déterrage, j’ai l’habitude de la façon d’écrire sur les problèmes GitHub :slight_smile: Je vais lancer un nouveau fil de discussion sur la façon dont nous pouvons utiliser Discourse en mode chemin S3.

13

Pour information : vous ne pouvez pas. Je ne pense pas que le mode chemin soit encore pris en charge, c’est pourquoi l’option permettant de forcer le mode chemin pour Discourse a disparu. C’est aussi pourquoi la section que j’avais initialement ajoutée à la page de configuration du stockage d’objets compatible S3 indique maintenant sous les mises en garde et les exigences :

  1. Vous avez activé la prise en charge des domaines dans la configuration MinIO, pour les URL de compartiments pilotées par domaine. Ceci est obligatoire et non une option, il n’y a pas de prise en charge basée sur les chemins dans Discourse pour les chemins de compartiments.

Il y a longtemps, lorsque j’ai commencé à travailler avec Discourse, ils avaient cette option, puis elle a été supprimée, et j’ai dû arrêter d’utiliser MinIO comme backend. MAINTENANT, comme il existe une documentation dans MinIO sur la façon de faire fonctionner le mode DNS (c’est-à-dire les chemins bucket[.]server[.]com comme S3 le fait), cela fonctionne lorsque vous configurez correctement MinIO. (Merci au personnel/modérateurs/système d’avoir augmenté mon niveau de confiance pour modifier le wiki lui-même maintenant).

2 « J'aime »
14

Merci pour la clarification et l’indice sur la façon de résoudre le problème !

15

Ce sujet a été automatiquement fermé 24 heures après la dernière réponse. Les nouvelles réponses ne sont plus autorisées.