Nous avons expérimenté Discourse Google Perspective API, mais nous avons rencontré des problèmes similaires à ceux décrits dans l’article que vous avez lié… l’outil peinait à saisir les nuances de la langue et détectait parfois comme offensant un langage qui ne l’était pas… or, ces faux positifs peuvent en eux-mêmes être offensants !
Cependant, les premiers tests de Twitter ont rencontré certains problèmes. Leurs systèmes et algorithmes peinaient parfois à comprendre la nuance présente dans de nombreuses conversations. Par exemple, ils ne parvenaient pas toujours à distinguer les réponses offensantes de l’ironie ou, parfois, même de la taquinerie amicale. Ils éprouvaient également des difficultés à prendre en compte les situations où le langage est réapproprié par des communautés sous-représentées et utilisé de manière non nuisible.