Публичное раскрытие анализа тональности по каждому пользователю — это то, с чем я лично не готов согласиться. Я даже не уверен, комфортно ли мне то, что сотрудники могут это видеть, или же эта функция вообще должна существовать.
Моя главная проблема с «тональностью» заключается в том, что она по своей сути является мнением и суждением, основанным на интерпретации слов. Я не убеждён, что мы должны доверять это ИИ.
Не думаю, что у нас есть данные, показывающие, что именно и как используется для определения тональности. Насколько мне известно, это больше похоже на «чёрный ящик», но я могу ошибаться.
Некоторые проблемы, которые у меня возникают с анализом тональности:
-
Если человек склонен оспаривать идеи и приводить контраргументы, считается ли это негативной тональностью?
-
А как насчёт токсичного позитива?
-
Также зависит ли это от конкретного форума? Оценивается ли тональность на основе общего контекста форума в целом? Что, если существует закрытый форум для обсуждения идей, которые некоторые считают «неправильными»? Решит ли ИИ на основе анализа тональности, какая тема правильная, а какая нет? Или это определяется внутри сообщества?
-
Если ИИ часто галлюцинирует, постоянно выдавая небольшие неточности, как мы можем быть уверены, что он не будет галлюцинировать и при анализе тональности?