Abbiamo sperimentato Discourse Google Perspective API, ma abbiamo riscontrato problemi simili a quelli descritti nell’articolo che hai collegato… il sistema faticava con le sfumature linguistiche e a volte segnalava come offensivo anche un linguaggio non offensivo… e questi falsi positivi possono essere offensivi a loro volta!
Tuttavia, i primi test di Twitter hanno incontrato alcuni problemi. Ha rilevato che i suoi sistemi e algoritmi a volte faticavano a comprendere le sfumature presenti in molte conversazioni. Ad esempio, non riusciva sempre a distinguere tra risposte offensive, sarcasmo o, a volte, anche battute amichevoli. Inoltre, faceva fatica a tenere conto delle situazioni in cui il linguaggio viene riappropriato da comunità sottorappresentate e poi utilizzato in modi non dannosi.