Wir haben es mit Discourse Google Perspective API versucht, sind aber auf ähnliche Probleme gestoßen, wie in dem von dir verlinkten Artikel beschrieben … es hatte Schwierigkeiten mit nuancierterer Sprache und erkannte manchmal nicht-beleidigende Sprache fälschlicherweise als beleidigend … und diese Fehlalarme können ihrerseits bereits beleidigend sein!
Allerdings stießen die ersten Tests von Twitter auf einige Probleme. Die Systeme und Algorithmen hatten oft Schwierigkeiten, die Nuancen zu verstehen, die in vielen Gesprächen vorkommen. So konnte es beispielsweise nicht immer zwischen beleidigenden Antworten, Sarkasmus und manchmal sogar freundschaftlichem Gezänk unterscheiden. Auch konnte es Situationen, in denen Sprache von unterrepräsentierten Gemeinschaften zurückgewonnen und dann in nicht-schädlicher Weise verwendet wird, nicht immer angemessen berücksichtigen.