# Benutzerdefinierte KI-Inhaltsmoderation **URL:** \ **Category:** Development\ **Created:** [9. Oktober 2020 um 15:31 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783 "2020-10-09T15:31:32Z")\ **Posts on this page:** 1\ **Showing post:** 1
**Author:** ![Razcle](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/razcle/32/196610_2.png) [@Razcle](https://meta.discourse.org/u/Razcle)\ **Post date:** [9. Oktober 2020 um 15:31 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783/1 "2020-10-09T15:31:32Z")
Hallo zusammen! Ich bin promovierter Forscher im Bereich Machine Learning und denke darüber nach, ein Tool zu entwickeln, mit dem jeder ein benutzerdefiniertes KI-System trainieren kann, um bei der Inhaltsmoderation auf Discourse-Foren zu helfen. Wäre das etwas für die Leute hier? Ich weiß, dass es die Google Perspective API gibt, aber sie ist sehr allgemein gehalten. Meine Idee ist ein Plugin, mit dem ihr Beiträge moderieren könnt, und das automatisch einen Textklassifizierer trainiert, der aus eurer Moderation lernt. Wenn ihr beispielsweise einen Beitrag als toxisch oder themenfremd markiert, lernt das System daraus und kann ähnliche Beiträge kennzeichnen oder sogar vor der Veröffentlichung moderieren. Was haltet ihr davon? --- _[View the full topic](https://meta.discourse.org/t/custom-ai-content-moderation/166783)._