我认为个人倾向于“不公开”用于个人分析,因为将某人标记为“负面”(或其他)可能会导致不公平的刻板印象。当然,也许某人是负面的,或者英语不是他们的第一语言……或者也许人工智能偏向某些主流文化规范。
不过,我认为如果管理员使用了这样的工具……个人可以看到它对他们的评价,这是公平的。
为了让事情完全循环,我问了 Chat-GPT 关于这次讨论……它提出了一个合理的观点:
必须考虑人工智能情感分析的主观性及其误解上下文或文化细微差别的可能性。此外,我们应该注意隐私问题以及基于人工智能生成的个人资料对用户进行标记或刻板印象化的风险。
也许可以探索一个折衷方案。与其公开标记,不如考虑提供可选的个人反思工具,让用户可以私下查看和思考自己的沟通模式。这可以在不公开分类或评判的情况下促进自我意识。
与其标记“正面”、“负面”等,不如将其表述为“您使用的措辞有时可能会被他人视为负面或无益”,甚至可以让用户就其准确性提供反馈。