He estado reflexionando sobre esto durante un tiempo, especialmente desde la integración de la opinión de la IA, y después de una discusión con @maiki. Me pregunto si sería posible tener, junto al nombre de usuario de una persona o en su perfil, una breve descripción de cómo tiende a comportarse o comunicarse. Podría ser alegre y caprichosa, por ejemplo:
“Perdonen a Dave, a veces habla un poco más directamente que otros (¡pero siempre tiene buenas intenciones!)”
O “Simon es extremadamente amigable, puede que necesites buscar entre la amabilidad para encontrar su punto.”
Esos son solo algunos ejemplos sacados de la nada. El principal caso de uso aquí es que todos conocemos personas que simplemente se comunican de una manera que no es la más amigable a veces, aunque tengan buenas intenciones. O quizás alguien que es simplemente un poco peculiar en cómo dice estas cosas. Si estás familiarizado con su estilo, puedes leerlo con comprensión. Sin embargo, si no estás familiarizado con esa persona, y es tu primera interacción con ella, ciertos estilos de comunicación pueden ser malinterpretados. La franqueza puede ser vista como grosera, la amabilidad puede ser vista como falsa, y algunas peculiaridades son simplemente demasiado extrañas para que el lector las entienda.
Me pregunto si algo así sería posible, y si es posible, ¿funcionaría en la práctica?
Actualmente estamos experimentando con el análisis de sentimientos en los perfiles de usuario (solo el personal puede verlo). Creo que en algún momento podríamos habilitar esto para que todos los usuarios puedan verlo.
Creo que, dependiendo de los modelos, este tipo de análisis podría ser posible en el futuro al observar el historial completo de temas/publicaciones de un usuario. Aunque esto podría estar limitado hasta cierto punto.
Creo que esto podría generar falsos positivos, ya que ¿cómo sabes realmente si alguien tiene buenas intenciones a menos que lo conozcas íntimamente en persona?
Si se implementa este sistema, ¿se aplicarían diferentes estándares a diferentes usuarios, basándose en los resultados variados de los análisis de sus estilos de comunicación, cuando los moderadores decidan si confirman o no una señalización que se ha planteado contra una de sus publicaciones?
Por favor, no malinterprete esta pregunta. Más bien, considere que se trata de una pregunta amistosa formulada con un estilo de comunicación directo.
Quizás esto podría venir con enlaces sobre el cómo y el porqué de cambiar sus patrones de comunicación para usuarios particularmente difíciles. Por ejemplo, un usuario muestra un aumento en el sentimiento agresivo, pero puede verlo en su propio análisis y se le pueden dar enlaces a algunos temas que describan formas alternativas de comunicarse que suelen obtener mejores resultados.
Análisis de sentimiento JIT en el Composer
Ampliando un poco esto, también le mencioné a Saif la idea de tener un análisis JIT en el composer. Si se percibe un tono hostil, ¿quizás el composer les da una advertencia para que se calmen primero y vuelvan más tarde?
Fomentar que los usuarios sean introspectivos con respecto a su propio comportamiento parece una práctica sensata. El FAQ y los Términos de Servicio de Discourse están bastante bien diseñados para establecer un tono igualitario y acogedor dentro de las numerosas comunidades que utilizan esta excelente plataforma para la discusión. Es alentador unirse a una comunidad cuando presenta desde el principio la impresión de que se espera que todos los miembros se adhieran a los mismos estándares que implican ser respetuosos entre sí. Sería lamentable que un sistema de análisis de sentimientos diera en cambio la impresión errónea de que podría ofrecer a algunos usuarios, como Dave, en la publicación original, licencia para apartarse de tales estándares, mientras que se esperaría que los amigables, como Simon, continuaran comportándose bien.
El análisis de sentimiento expuesto públicamente por usuario no es algo con lo que me sienta personalmente cómodo. Tampoco estoy seguro de si me siento cómodo con que el personal pueda ver esto / o si esto debería ser una característica en absoluto.
Mi principal problema con el “sentimiento” es que es inherentemente una opinión y un juicio basado en una interpretación de las palabras. No estoy convencido de que debamos darle eso a la IA.
No creo que tengamos datos que muestren qué y cómo se deriva el sentimiento. Hasta donde yo sé, es más una caja negra, pero podría estar equivocado.
Algunos problemas que tengo con el análisis de sentimiento:
Si alguien es una persona que desafía ideas y ofrece refutaciones, ¿es eso un sentimiento negativo?
¿Qué pasa con la positividad tóxica?
Además, ¿es específico de este foro? ¿Califica según el contexto general del foro en su conjunto? ¿Qué pasa si hay un foro cerrado para discutir ideas que algunos ven como “incorrectas”, la IA de sentimiento decide el tema correcto/incorrecto? ¿O eso se deriva dentro de la comunidad?
Si la IA alucina comúnmente, dándonos pequeñas imprecisiones todo el tiempo, ¿cómo podemos estar seguros de que no alucinaría también en su análisis de sentimiento?
Me inclino personalmente por “no público” para el análisis individual, porque etiquetar a alguien como “negativo” (o lo que sea) puede llevar a estereotipos injustos. Claro, tal vez alguien sea negativo, o tal vez el inglés no sea su primer idioma… o tal vez la IA esté sesgada hacia ciertas normas culturales dominantes.
Sin embargo, creo que es justo que si un administrador utiliza una herramienta como esta… el individuo pueda ver lo que se dice sobre él.
Para que las cosas sean completamente cíclicas, le pregunté a Chat-GPT sobre esta discusión… y plantea una opinión razonable:
Es crucial considerar la naturaleza subjetiva del análisis de sentimientos de la IA y su potencial para malinterpretar el contexto o los matices culturales. Además, debemos tener en cuenta las preocupaciones sobre la privacidad y el riesgo de etiquetar o estereotipar a los usuarios basándonos en perfiles generados por IA.
Quizás se podría explorar un punto intermedio. En lugar de etiquetas públicas, podríamos considerar herramientas opcionales para la reflexión personal, permitiendo a los usuarios ver y contemplar en privado sus propios patrones de comunicación. Esto podría fomentar la autoconciencia sin categorizar o juzgar públicamente.
En lugar de etiquetar “positivo”, “negativo”, etc., esto se puede plantear como “la forma en que te expresas a veces puede ser vista por otros como negativa o poco útil” y quizás incluso permitir al usuario dar su opinión sobre cuán precisa parece desde su perspectiva.
Es útil resaltar el problema real que se necesita resolver.
Hay mucho que podría decir sobre esto, pero no creo que conduzca a una conversación útil aquí. Quizás lo más útil que puedo decir es que, como alguien que (espero) es generalmente un usuario no desafiante, no participaría en ningún foro que publicara algo como “estilo de comunicación” o una puntuación de sentimiento generada por IA en mi perfil. Por lo tanto, podría reducirse a lo esencial: por el posible beneficio de mejorar el estilo de comunicación de algunos usuarios desafiantes, se arriesgaría a perder las contribuciones de algunos usuarios no desafiantes.
Quizás debería aclarar. Esta área todavía es experimental y estamos tratando de aprender/mejorar lo que se puede y se debe hacer. Específicamente, abrir esto está muy lejos si es que alguna vez es una realidad en el futuro.
Esta me parece la mejor solución. No solo anima al usuario a mejorar sus publicaciones, sino que la retroalimentación también puede extenderse a mejorar cómo se comunica con otros en su vida diaria. Sería un buen efecto secundario
Quizás dicha retroalimentación solo debería aparecer cuando el tema de un usuario es significativamente más tóxico que el resto de la comunidad, o si su estilo de comunicación coincide con uno que a menudo se malinterpreta.
Y tu desacuerdo se presentó con un tono muy razonable también. Actualmente, veo eso como un problema de refinamiento: una mejor IA vería esa respuesta como: “Generalmente oponiéndose a algo, pero con un tono neutral”.
De hecho, GPT4 hace esto:
El sentimiento del texto es escéptico y está preocupado por la fiabilidad y las implicaciones éticas del análisis de sentimientos impulsado por IA.
El tono del texto es cauteloso y cuestionador, reflejando inquietud y escepticismo sobre el análisis de sentimientos de IA.
Así que es negativo, en el sentido de que no está a favor, en lugar de negativo en el sentido de grosero/dañino.
Al revisar las respuestas aquí, siento que la solución más valiosa y aceptable sería una intervención Just-In-Time en escritos que son excesivamente tóxicos, o que contienen precursores de malentendidos antes de que se publiquen. El usuario todavía tiene derecho a publicar el contenido original, nosotros solo hacemos nuestra parte para asegurarnos de que estén adecuadamente informados sobre los aspectos negativos que su escritura puede crear en su forma actual, y presentamos una alternativa que puede ser más productiva.
Esa parece una buena alternativa muy productiva - muy solidaria con los usuarios de este foro y potencialmente de muchos otros, si esta función se ofrece ampliamente, y evita el riesgo de que piensen que se está utilizando alguna evaluación oculta general de su estilo de comunicación para gestionarlos.
Este es un tema interesante, creo que podría ser útil comenzar primero si las personas quisieran describir su propia forma de comunicarse en sus propias palabras.
Para mí, tengo dificultades para comunicarme por escrito, excepto para comunicaciones bastante simples/cortas como “la reunión será a las 10:30 de la mañana” o algo así.
Con la comunicación en persona, he oído que solo alrededor del 7% de la comunicación puede definirse por las palabras reales que se hablan o escriben. Si bien también existen limitaciones en las reuniones en persona / hablar por teléfono, la plataforma Discourse puede ser útil principalmente para publicar textos más extensos que pueden tardar en revisarse y para que muchas personas puedan comunicarse simultáneamente sin interrumpirse.
Para evitar malentendidos, puede ser útil tener reuniones de verificación al menos una vez por semana o mes para revisar en qué punto se encuentran las personas e intentar dar sentido a lo que se está escribiendo.
¿Quizás un plugin como User Notes? ¿Donde cada miembro pueda aplicar su propia nota privada? ¿O algo visible para todos?
Un problema al tener cosas que digan público si el usuario “etiquetado” es perfilado por una fuente externa. Podrían ofenderse. A menos que sea algo que ellos eligieron.
Hay un plugin de Discourse sin mantenimiento llamado User Feedback donde los usuarios pueden calificar y, si se configura, dejar una reseña. Sin embargo, el mismo problema podría causar calamidades si los usuarios se ofenden por lo que se publica.
Tuve, digamos, un usuario inmaduro que se alteró por una reacción de .
Hace mucho tiempo, antes de que Discourse agregara la opción de silenciar usuario, un compañero creó un script de Tampermonkey que permitía al usuario agregar personas para ocultar publicaciones y, por diversión, tenía etiquetado. Decoraba a los administradores, moderadores, el creador del tema y podías etiquetar a los usuarios. Cada usuario podría tener esencialmente un componente de tema del navegador. Podría intentar ver si puedo encontrar el script, ya que imagino que no sería muy difícil convertirlo en un componente de tema.
Quizás usando un campo de usuario personalizado para agregar usuario y etiqueta.
Esta es una gran solución para un equipo o grupo que tiene tales oportunidades de contacto. ¿Cómo lo aplicarías a escala y con múltiples zonas horarias?
Para nosotros, habrá miles de compañeros de trabajo comunicándose en todas las zonas horarias, entre muchos equipos. Desafortunadamente, tales llamadas no son posibles. Incluso si lo fueran, esas llamadas sacarían partes importantes de la conversación de la plataforma para que otros no pudieran aprender de ellas
Muy cierto. Veo esto como una razón por la que solo puede ser realizado por una parte que no puede beneficiarse de caracterizar erróneamente al usuario, como una IA.
Cuanto más lo pienso, más siento que la propuesta original de un estilo de comunicación se ve superada por un entrenador de comunicación JIT en el compositor. Más que nada, me encanta la idea de que tal entrenamiento de comunicación se filtre al mundo exterior. El “estilo de comunicación” simplemente no lograría eso, y como dices, haría que la gente se enfadara comprensiblemente si sintiera que se la caracteriza erróneamente de alguna manera (y lo más probable es que así sea).
Las reuniones son limitadas en escala y no se recomiendan para diferentes zonas horarias.
Una opción es tener llamadas de preguntas y respuestas donde las personas puedan escribir sus preguntas con anticipación, luego la llamada se graba para que puedan escucharla más tarde.
Esta es en realidad una gran oportunidad para mencionar un principio del RGPD aplicable aquí, el Artículo 22, sobre la toma de decisiones automatizada.
Tener una etiqueta negativa pública aplicada a tus publicaciones o perfil es algo a lo que un usuario podría objetar razonablemente y exigir una evaluación humana.
Por lo tanto, el software definitivamente debe permitir la anulación por parte del administrador de lo que decide mostrar públicamente.
Las etiquetas como las teorizadas en el OP me sentiría cómodo aplicándolas manualmente como administrador, pero las etiquetas que he visto de la tecnología actual de análisis de sentimientos (¡esta persona tiende a ser negativa!) no lo son en absoluto. También hay importantes problemas de comunicación en torno a lo que la tecnología considera negativo frente a lo que la gente piensa cuando ve negativo como un juicio. Esto no se ve ayudado por el hecho de que “explicar lo que hace el modelo” es un área de investigación abierta.
La función estaba algo inacabada: no admitía la desglosación, por lo que las etiquetas parecían muy aleatorias.
La función se filtró al público por error debido a un error interno.
Ni siquiera estamos seguros de que la función aporte valor.
Hemos revertido este cambio por ahora y estamos reagrupándonos.
En general, me gusta el análisis de sentimientos, pero es una función muy difícil de implementar correctamente. Algunos lugares donde potencialmente puede ayudar a la moderación:
El sentimiento en el foro esta semana es muy negativo: la causa es que mucha gente se queja de los temas X e Y.
El usuario X, que normalmente es muy positivo, es muy, muy negativo este mes: ¿quizás deberíamos contactarlo?
Etc…
Estoy menos interesado en etiquetar y mucho más interesado en la detección de “anomalías” o en tendencias generales negativas.
- muy solidaria con los usuarios de este foro y potencialmente de muchos otros, si esta función se ofrece ampliamente, y evita el riesgo de que piensen que se está utilizando alguna evaluación oculta general de su estilo de comunicación para gestionarlos.
.