¿Qué aporta la IA a las conversaciones entre humanos?

[hellekin]

Continuando la discusión de Discourse Versión 3.2:

@tobiaseigen

Inteligencia Artificial

Discourse AI se lanzó en abril de 2023 y está disponible para clientes empresariales bajo petición y para autoalojados. Para la v3.2, nuestro objetivo es aumentar la adopción y obtener más comentarios del mundo real para poder refinar y añadir a las funciones ya creadas. También seguimos desarrollando nuestro propio conocimiento en el espacio de la IA y estamos estableciendo patrones para integrar la tecnología de IA en Discourse que puedan ser aprovechados en el futuro.

Dado que el enfoque del próximo lanzamiento de Discourse se anuncia como IA, me gustaría aprovechar la oportunidad para cuestionar esta elección. Después de todo, Discourse está hecho para apoyar “la discusión reflexiva y las conexiones significativas”.

Dado que el campo de la IA está mayormente dominado por enormes corporaciones con bolsillos profundos, y dado que el entrenamiento de IA consume grandes cantidades de agua, pregunto genuinamente por qué esta característica es importante para Discourse, la comunidad de Discourse y el mundo en general. Me gusta la frase “construir software de foros para la próxima década”, pero no estoy seguro de querer vivir y conversar con IA en lugar de humanos — especialmente ya que los humanos parecen requerir menos agua con el tiempo para conversaciones mucho mejores.

El campo de la IA está lleno de mentiras para atraer inversores. Parece que Discourse AI se introdujo a petición de un cliente — probablemente algunas organizaciones que ejecutan enormes instancias públicas y tienen que lidiar con toneladas de basura. Claro, esto no es para todos, y probablemente sea apropiado si tienes millones de usuarios y debes lidiar con eso lanzando más potencia a ello…

@Falco

Descargo de responsabilidad

Somos muy conscientes de nuestra experimentación en torno a la IA. Los algoritmos en los que nos basamos solo son tan buenos como los datos con los que fueron entrenados. El sesgo, las imprecisiones y las alucinaciones son todas posibilidades que debemos tener en cuenta. Revisamos, probamos y refinamos regularmente nuestros módulos de IA.

Agradezco este descargo de responsabilidad. Pero, ¿qué pasa con el consentimiento? Muchas personas preferirían no alimentar sus publicaciones para el entrenamiento de IA, especialmente si están en comunidades confidenciales o en grupos restringidos. Existe un historial creciente de grandes corporaciones que se apropian de contenido para el entrenamiento de IA sin tener en cuenta las leyes de derechos de autor ni el consentimiento. ¿Es realmente una buena idea alimentarles con más contenido de alta calidad — y pagar por ello?

Si existiera la posibilidad de no consentir dicha adquisición de datos personales — y esta podría ser una demanda genuina bajo la Ley Europea GDPR —, ¿no anularía esto el propósito de tener IA vigilando un foro?

Realmente espero que esto siga siendo opcional para siempre, y que se muestre el consentimiento adecuado para ello. ¿Lo hará?

Bueno, he creado este tema separado de la discusión del plugin porque creo que merece una opinión más amplia y no quería descarrilar la discusión original…

---

Aquí hay una lista de títulos alternativos “sugeridos por IA”:

• La Ética del Enriquecimiento de IA en Discourse no, esto no es un ‘enriquecimiento’ del que estoy hablando, sino una preocupación por la degradación de la conversación humana…
• Discourse y la IA: Una Proposición Controvertida bueno, noooo… no se trata de controversia, ¡sino de conversaciones humanas!
• ¿Puede la IA Convertirse en el Futuro de las Discusiones en Discourse? ¿en serio… como en… bots hablando entre sí?
• Integración de IA en Discourse: ¿Amenaza o Innovación? bot, no estás listo para la sutileza del lenguaje.

[JammyDodger]

@hellekin

Aquí hay una lista de títulos alternativos “sugeridos por la IA”:

Las sugerencias de títulos de la IA pueden ser un poco entusiastas. Creo que claramente ha estado leyendo demasiadas revistas brillantes en su tiempo libre. Aunque creo que si pudiera bajarle un poco el tono, podría ser bastante útil para dividir temas (lo cual, aprecio, es más útil para los moderadores que para todos).

@hellekin

Dado que el enfoque para el próximo lanzamiento de Discourse se anuncia como IA, me gustaría aprovechar la oportunidad para cuestionar esta elección. Después de todo, Discourse está hecho para apoyar “debates reflexivos y conexiones significativas”.

Comencé bastante escéptico sobre el uso de la IA por razones similares. Me interesa más lo que la gente tiene que decir que lo bien que una IA puede pulirlo. En este momento (y estas cosas se mueven bastante rápido) también hay un cierto tono que genera y que creo que oscurece/homogeneiza la ‘voz’ del escritor.

Sin embargo, ha habido un par de herramientas de IA de Discourse que creo que han resultado bastante geniales. Me encantan los Temas Relacionados. Eso realmente ha tenido un impacto en cómo encuentro y me involucro con diferentes temas. Como ávido lector de foros, esto ha sido un tesoro. Lo he usado en un par de foros y los túneles de contenido conectado en los que me he perdido han sido asombrosos. También es muy bueno para encontrar respuestas y vincular temas.

Bert, el Bot de IA, también ha sido brillante. Especialmente ahora que tiene las personalidades de SQL Helper y Site Setting. Creo que estas están más orientadas al lado de la administración (y quizás a mi trabajo ), pero ha sido una gran ayuda (y creo que de hecho podemos ser amigos )

Creo que lo que me ha convencido es lo útil que ha sido usar las herramientas basadas en IA para ayudar con las cosas cotidianas. Todavía no creo que quisiera un filtro de IA en las contribuciones en sí, pero tener ayudantes ‘inteligentes’ ciertamente ha facilitado mi vida y me ha permitido concentrarme más en las cosas que me gusta hacer.

[Falco]

@hellekin

Dado que el enfoque para el próximo lanzamiento de Discourse se anuncia como IA, me gustaría aprovechar la oportunidad para cuestionar esta elección. Después de todo, Discourse está hecho para apoyar la “discusión reflexiva y las conexiones significativas”.

Si bien usamos la palabra enfoque allí, en mi opinión, más por razones históricas, estos son los equipos internos que creamos para trabajar en diferentes áreas del ecosistema de Discourse.

Tenemos un equipo centrado en IA desde marzo, donde soy el líder técnico. Realizamos un ciclo muy experimental durante Discourse 3.1, por lo que volvemos al ciclo 3.2 para pulir las características sobre las que recibimos buenos comentarios de nuestros usuarios.

La idea es mantener todo bajo DiscourseAI, lo que protege a cualquiera que no use el plugin de cualquier error introducido por él, y beneficia a todos los que usan Discourse a medida que creamos y ejercitamos la extensibilidad del software.

@hellekin

especialmente ya que los humanos parecen requerir mucha menos agua con el tiempo para tener conversaciones mucho mejores.

(se necesita cita)

@hellekin

Dado que el campo de la IA está dominado en su mayoría por grandes corporaciones con bolsillos profundos

Creo que te alegrará saber que para este ciclo dedicamos una gran cantidad de tiempo a hacer que todos los módulos sean compatibles con modelos de código abierto, por lo que incluso las características más potentes se pueden ejecutar en una GPU que puedes encontrar en una PC para jugadores.

Ese ha sido un gran punto para mí, que no crearemos características que dependan completamente de terceros, y estoy súper feliz con el progreso que hemos logrado aquí.

@hellekin

Claro, esto no es para todos, y probablemente sea apropiado si tienes millones de usuarios y debes lidiar con eso lanzando más potencia…

Eso es cierto, ¿por qué querrías moderación de IA para una instancia entre amigos? Pero puede ser un factor decisivo para una instancia donde un CM solitario intenta manejar una comunidad sobredimensionada con un equipo pequeño.

Discourse a escala es algo que también nos importa, de lo contrario, estamos dejando grandes franjas de la comunicación en línea para los jardines vallados, y eso no lo quieres.

@hellekin

Pero, ¿qué pasa con el consentimiento?

Nada cambia aquí: lo que publicas en una instancia de Discourse está sujeto a las reglas de esa instancia específica. Si dicha instancia imprime tus publicaciones y las envía como postales a abuelas desprevenidas, es posible que necesiten hacerlo explícito en sus términos. Lo mismo ocurre con la IA.

Para el plugin de IA, la mayor parte del flujo de “compartir con IA” es iniciado por el usuario. Puedes pedirle a la IA que revise, traduzca, etc. Puedes pedirle a la IA que resuma. Mientras tanto, las acciones masivas, como la computación de incrustaciones que potencian los temas relacionados semánticamente y la búsqueda semántica, se calculan, por defecto, utilizando modelos de código abierto que pueden alojarse en las mismas máquinas donde ejecutas Discourse y están a salvo de terceros.

@JammyDodger

Creo que lo que me ha convencido es lo útil que ha sido usar las herramientas basadas en IA para ayudar con las cosas cotidianas.

Y ese siempre ha sido mi plan en este proyecto. Se trata de construir herramientas para facilitar la conversación de las personas y reducir las tareas. No de hablar con máquinas.