Я размышлял об этом уже какое-то время, особенно после внедрения интеграции тональности ИИ и обсуждения с @maiki. Меня интересует: возможно ли добавить рядом с именем пользователя или в его профиль краткое описание того, как этот человек обычно ведёт себя или общается? Это может быть легко и игриво, например:
«Извините Дэва, иногда он говорит чуть более прямо, чем другие (но у него всегда добрые намерения )»
Или: «Саймон чрезвычайно дружелюбен, возможно, вам придётся пробираться сквозь эту дружелюбность, чтобы найти его суть».
Это лишь несколько примеров, пришедших мне в голову на ходу. Основная идея здесь в том, что мы все знаем людей, которые иногда общаются не самым дружелюбным образом, хотя и имеют добрые намерения. Или, возможно, кто-то просто немного странен в том, как он это выражает. Если вы знакомы с их стилем, то сможете прочитать их сообщения с пониманием. Однако, если вы не знакомы с этим человеком и это ваше первое с ним взаимодействие, определённые стили общения могут быть восприняты неправильно. Прямолинейность может показаться грубостью, дружелюбие — фальшью, а некоторые странности просто слишком необычны для читателя, чтобы их понять.
Интересно, возможно ли реализовать что-то подобное и, если да, сработает ли это на практике?
В настоящее время мы экспериментируем с анализом тональности на профилях пользователей (это могут видеть только сотрудники). Я думаю, что в какой-то момент мы можем открыть эту возможность для всех пользователей.
Я полагаю, что в зависимости от моделей, такой анализ в будущем может стать возможным при рассмотрении всей истории тем/сообщений пользователя. Хотя это может быть в какой-то степени ограничено.
Я всё же думаю, что это может давать ложноположительные результаты, ведь как можно действительно знать, что кто-то имеет в виду хорошее, если не знать его лично вживую?
Если эта система будет внедрена, будут ли применяться разные стандарты к разным пользователям, исходя из различных результатов анализа их стиля общения, когда модераторы решают, подтверждать ли флаг, поданный против одного из их постов?
Пожалуйста, не воспринимайте этот вопрос неправильно. Скорее, рассматривайте его как дружеский, заданный в прямом стиле общения.
Мне интересно, не заставит ли возможность для пользователей видеть анализ своих эмоций задуматься тех, кто склонен к провокациям. Знаете, как тот трюк с зеркалом за стойкой обслуживания клиентов?
Возможно, это можно дополнить ссылками на материалы о том, как и почему стоит менять стиль общения, особенно для самых сложных пользователей? Например, если у пользователя наблюдается рост агрессивных эмоций, он сможет увидеть это в собственном анализе и получить ссылки на темы, где описаны альтернативные способы общения, которые обычно дают лучшие результаты.
Анализ эмоций в реальном времени в редакторе
Немного развивая эту мысль, я также упомянул Саифу идею внедрения анализа в реальном времени прямо в редакторе. Если в тексте прослеживается враждебный тон, редактор мог бы предупредить пользователя о необходимости успокоиться и вернуться к обсуждению позже.
Поощрение пользователей к самоанализу в отношении собственного поведения действительно кажется мудрой практикой. Разделы FAQ и Условия использования платформы Discourse очень грамотно составлены, чтобы задать приветливый и равноправный тон в многочисленных сообществах, использующих эту замечательную платформу для обсуждений. Приятно присоединиться к сообществу, когда с самого начала создаётся впечатление, что от всех участников ожидается соблюдение одних и тех же стандартов, включающих уважительное отношение друг к другу. Было бы жаль, если бы система анализа настроений, напротив, создала ошибочное впечатление, будто она даёт некоторым пользователям, таким как Дэйв из оригинального поста, разрешение отступать от этих стандартов, в то время как от дружелюбных участников, таких как Саймон, по-прежнему ожидается хорошее поведение.
Публичное раскрытие анализа тональности по каждому пользователю — это то, с чем я лично не готов согласиться. Я даже не уверен, комфортно ли мне то, что сотрудники могут это видеть, или же эта функция вообще должна существовать.
Моя главная проблема с «тональностью» заключается в том, что она по своей сути является мнением и суждением, основанным на интерпретации слов. Я не убеждён, что мы должны доверять это ИИ.
Не думаю, что у нас есть данные, показывающие, что именно и как используется для определения тональности. Насколько мне известно, это больше похоже на «чёрный ящик», но я могу ошибаться.
Некоторые проблемы, которые у меня возникают с анализом тональности:
Если человек склонен оспаривать идеи и приводить контраргументы, считается ли это негативной тональностью?
А как насчёт токсичного позитива?
Также зависит ли это от конкретного форума? Оценивается ли тональность на основе общего контекста форума в целом? Что, если существует закрытый форум для обсуждения идей, которые некоторые считают «неправильными»? Решит ли ИИ на основе анализа тональности, какая тема правильная, а какая нет? Или это определяется внутри сообщества?
Если ИИ часто галлюцинирует, постоянно выдавая небольшие неточности, как мы можем быть уверены, что он не будет галлюцинировать и при анализе тональности?
Я лично склоняюсь к тому, чтобы для индивидуального анализа использовать формулировку «не публично», поскольку присвоение человеку ярлыка «негативный» (или чего-то подобного) может привести к несправедливым стереотипам. Конечно, возможно, кто-то действительно настроен негативно, а может, английский для него не родной… или, возможно, ИИ предвзят в отношении некоторых общепринятых культурных норм.
Тем не менее, я считаю справедливым, что если администратор использует подобный инструмент, то сам пользователь должен видеть, что он о нём говорит.
Чтобы замкнуть круг, я задал этот вопрос Chat-GPT, и он выразил разумное мнение:
Крайне важно учитывать субъективный характер анализа тональности ИИ и его потенциальную способность неверно интерпретировать контекст или культурные нюансы. Также нам следует проявлять осторожность в вопросах конфиденциальности и риска навешивания ярлыков или стереотипизации пользователей на основе профилей, сгенерированных ИИ.
Возможно, стоит рассмотреть золотую середину. Вместо публичных ярлыков можно рассмотреть возможность использования опциональных инструментов для личной рефлексии, позволяющих пользователям в частном порядке просматривать и осмысливать свои собственные коммуникативные паттерны. Это могло бы способствовать самосознанию без публичной категоризации или осуждения.
Вместо ярлыков «позитивный», «негативный» и т. д. это можно сформулировать так: «используемая вами формулировка иногда может восприниматься другими как негативная или неконструктивная», и, возможно, даже предоставить пользователю возможность дать обратную связь о том, насколько это кажется точным с его точки зрения.
Полезно сразу обозначить саму проблему, которую нужно решить.
Мне есть что сказать по этому поводу, но я не думаю, что это приведёт к конструктивному обсуждению здесь. Возможно, самое полезное, что я могу сказать, — это то, что как человек, который (надеюсь) обычно не является вызывающим пользователем, я не стал бы взаимодействовать ни с каким форумом, который публикует на моём профиле что-то вроде «стиль общения» или сгенерированный ИИ балл за эмоциональную окраску. Таким образом, всё может свестись к главному: ради возможного улучшения стиля общения некоторых вызывающих пользователей вы рискуете потерять вклад от некоторых не вызывающих пользователей.
Возможно, мне стоит уточнить. Эта область всё ещё экспериментальная, и мы пытаемся понять и улучшить то, что можно и должно быть сделано. В частности, открытие этого для всех — дело далёкого будущего, если вообще когда-либо станет реальностью.
Мне кажется, это более подходящее решение. Оно не только побуждает пользователя улучшать свои сообщения, но и обратная связь может положительно сказаться на том, как он общается с другими в повседневной жизни. Это был бы приятный побочный эффект
Возможно, такую обратную связь стоит показывать только тогда, когда тема пользователя значительно токсичнее, чем остальные в сообществе, или если его стиль общения часто неправильно понимается?
Ваше несогласие было изложено в очень взвешенном тоне. На данный момент я рассматриваю это как вопрос доработки — более совершенный ИИ воспринял бы такой ответ так: «В целом выражение несогласия, но в нейтральном тоне».
На самом деле, GPT4 делает именно это:
Настроение текста скептическое, выражается обеспокоенность по поводу надёжности и этических последствий анализа настроений на основе ИИ.
Тон текста осторожный и вопрошающий, отражает тревогу и скептицизм в отношении анализа настроений с помощью ИИ.
Так что это «негатив» в смысле несогласия, а не в смысле грубости или вреда.
Ознакомившись с ответами здесь, я считаю, что более ценным и приемлемым решением будет вмешательство в режиме реального времени при написании чрезмерно токсичных сообщений или тех, которые содержат предпосылки к недопониманию, до их публикации. У пользователя всё ещё остаётся право опубликовать исходный текст, но мы со своей стороны можем убедиться, что он осведомлён о негативных последствиях, которые его текст может вызвать в текущем виде, и предложить альтернативу, которая может оказаться более продуктивной.
Это кажется отличной высокопродуктивной альтернативой — очень поддерживающей для пользователей этого форума и, возможно, многих других, если эта функция будет предложена широко, и избегает риска того, что они подумают, будто некая скрытая общая оценка их стиля общения используется для управления ими.
Это интересная тема. Я думаю, было бы полезно начать с того, чтобы люди могли описать свой собственный способ общения своими словами.
У меня возникают трудности с общением через текст, за исключением довольно простых и коротких сообщений, таких как «встреча состоится в 10:30 утра» или чего-то подобного.
Что касается личного общения, я слышал, что только около 7% коммуникации определяется фактическими словами, произносимыми или записанными. Хотя у личных встреч и телефонных разговоров тоже есть ограничения, платформа Discourse может быть полезна в первую очередь для публикации более развёрнутых текстов, на изучение которых может потребоваться время, а также для того, чтобы многие люди могли общаться одновременно, не перебивая друг друга.
Чтобы избежать недопонимания, может быть полезно проводить регулярные звонки для сверки хотя бы раз в неделю или месяц, чтобы обсудить текущее положение дел и попытаться разобраться в том, что написано.
Так, может быть, плагин вроде «Заметки о пользователях»? Где каждый участник может добавить свою собственную приватную заметку? Или что-то видимое всем?
Проблема с публичным отображением таких данных, если «помеченного» пользователя профилирует внешний источник. Они могут обидеться. Разве что это их собственный выбор.
Существует не поддерживаемый плагин для Discourse под названием «User Feedback», где пользователи могут ставить оценки и, при настройке, оставлять отзывы. Однако та же проблема: это может привести к катастрофе, если пользователи обидятся на написанное.
У меня был, скажем так, незрелый пользователь, который взбесился из-за реакции .
Давным-давно, до того как в Discourse добавили функцию «заблокировать пользователя», один коллега создал скрипт Tampermonkey, позволяющий добавлять людей в список скрытия постов и, ради забавы, добавлять метки. Он украшал профили администраторов, модераторов, авторов тем, и вы могли помечать пользователей. Каждый пользователь мог по сути иметь свой собственный компонент темы браузера. Я мог бы попытаться найти этот скрипт, так как, полагаю, не составит труда конвертировать его в компонент темы.
Может быть, использовать настраиваемое поле профиля пользователя для добавления имени и метки.
Это отличное решение для команды или группы, у которой есть такие возможности для общения. Но как применить это в масштабе и с учётом множества часовых поясов?
У нас будут тысячи коллег, общающихся во всех часовых поясах и в рамках множества команд. К сожалению, такие звонки невозможны. Даже если бы они были, они выносили бы важные части разговора за пределы платформы, и другие не могли бы учиться на них
Совершенно верно. Я вижу в этом причину, почему это может делать только сторона, которая не может извлечь выгоду из искажения образа пользователя — например, ИИ.
Чем больше я об этом думаю, тем больше убеждаюсь, что первоначальное предложение о «стиле общения» проигрывает идее коуча по коммуникации в режиме реального времени (JIT) прямо в редакторе сообщений. Больше всего мне нравится мысль о том, что такое обучение коммуникации может распространиться и на внешний мир. Простой «стиль общения» не достиг бы этого, и, как вы правильно заметили, люди справедливо возмутились бы, если бы почувствовали, что их образ был искажён каким-либо образом (а вероятность этого велика).
Встречи имеют ограничения по масштабу и не рекомендуются для разных часовых поясов.
Один из вариантов — проводить сессии вопросов и ответов, где люди могут заранее записать свои вопросы, а затем запись звонка будет доступна для прослушивания в удобное время.
На самом деле это отличная возможность поднять принцип GDPR, применимый здесь, — статью 22 об автоматизированном принятии решений.
Наличие публичной негативной метки, применённой к вашим сообщениям или профилю, — это то, с чем пользователь может разумно не согласиться и потребовать человеческой оценки.
Поэтому программное обеспечение определённо должно позволять администратору переопределять то, что оно решает отображать публично.
Метки, подобные тем, которые обсуждаются в исходном посте (OP), я бы счёл приемлемым применять вручную как администратор, но метки, которые я видел от текущих технологий анализа настроений («этот человек склонен к негативу!»), — абсолютно нет. Кроме того, существуют серьёзные проблемы с коммуникацией относительно того, что технология считает негативным, по сравнению с тем, что люди воспринимают как негативную оценку. Этому не способствует и то, что «объяснение того, что делает модель» остаётся открытой областью исследований.
Функция была несколько незавершённой — не поддерживала детализацию, поэтому метки казались очень случайными.
Функция по ошибке стала доступна публично из-за внутренней ошибки.
Мы даже не уверены, что функция приносит пользу.
Мы откатили это изменение и сейчас пересматриваем подход.
В целом мне нравится анализ тональности, но это очень сложная функция, которую трудно реализовать правильно. Вот несколько областей, где она может потенциально помочь в модерации:
Тональность на форуме на этой неделе крайне негативная — из-за того, что множество людей жалуются на темы X и Y.
Пользователь X, который обычно очень позитивен, в этом месяце крайне негативен — возможно, стоит с ним связаться?
И так далее…
Менее заинтересованы в простом присвоении меток, гораздо больше — в обнаружении «аномалий» или общих негативных тенденций.
)»
— очень поддерживающей для пользователей этого форума и, возможно, многих других, если эта функция будет предложена широко, и избегает риска того, что они подумают, будто некая скрытая общая оценка их стиля общения используется для управления ими.
.