Мы экспериментировали с Discourse Google Perspective API, но столкнулись с похожими проблемами, описанными в статье, на которую вы ссылаетесь… оно испытывало трудности с более тонкими языковыми нюансами и иногда воспринимало нейтральные выражения как оскорбительные… а эти ложные срабатывания сами по себе могут быть оскорбительными!
Однако ранние тесты Twitter столкнулись с рядом проблем. Оказалось, что его системы и алгоритмы иногда не справляются с пониманием нюансов, возникающих во многих диалогах. Например, они не всегда могли отличить оскорбительные ответы от сарказма или, в некоторых случаях, даже от дружеской подначки. Также возникли трудности с учётом ситуаций, когда язык восстанавливается представителями недостаточно представленных сообществ и используется в ненасильственных целях.