こんにちは、サマンサさん。
Discourse には、Discourse AI プラグインを通じて AI モデレーションがすでに提供されており、例えばスパムや NSFW (Not Safe For Work) の検出を設定できます。