Como objetivo para este año, estamos intentando aumentar la adopción de Discourse AI y sus características. Estoy tratando de comprender de manera integral qué les impide probar Discourse AI dentro de su comunidad.
Entiendo que podría haber aspectos específicos de las características que podrían ser molestos, pero en este caso, estoy tratando de obtener una idea general de cuáles podrían ser esas razones problemáticas.
Además, si está dispuesto a hablar conmigo al respecto en una llamada, agradecería enormemente cualquier comentario .
Abuso de la IA. Me refiero a que la gente está usando la IA para, como, escribir TODO. Hace que los humanos no valgan nada, pero eso es algo inevitable para toda la IA. ¡Pero pronto podría hacerlo (si pudiera pagar)!
Sí, lo entiendo, estamos pensando en hacer de Discourse AI un asistente útil dentro de tu experiencia en Discourse en lugar de depender de él para “escribir” todo; al mismo tiempo que hacemos que la gente sea consciente de que es contenido generado por IA lo que se muestra para la función GenAI.
En nuestra comunidad, los usuarios enviarán spam con respuestas o soluciones basura a tutoriales con la función que era muy común justo cuando se lanzó ChatGPT…
Todavía no estamos en Discourse (la evaluación aún está en curso), pero conceptualmente hablando, hay dos grandes obstáculos:
Nuestra comunidad son principalmente entusiastas de los juegos de rol de mesa y la creatividad humana es muy valorada; como resultado, hay una porción considerable de nuestros usuarios con una perspectiva negativa sobre la IA generativa. También hay mucha experimentación con las nuevas herramientas, pero en la práctica, cualquier uso de IA generativa debe considerarse cuidadosamente.
Somos autoalojados y tenemos un presupuesto limitado (aportado por algunos de nuestros usuarios); es suficiente para un servidor decente para alojar Discourse (o cualquier otro software de comunidad), pero el costo de las ofertas actuales de LLM como servicio y de los servidores dedicados con GPU es demasiado alto para incluirlo. Y el beneficio esperado también es demasiado bajo para justificarlo.
Me hago eco de algunos de los comentarios anteriores, especialmente del temor a que la gente escriba demasiado con IA y sea más difícil distinguir lo que un humano “escribió” y lo que no.
Sin embargo, creo que un temor mayor que tengo es el uso de una IA remota. A menudo he debatido sobre cuán públicos quiero que sean mis foros de Discourse y supongo que simplemente no tengo una heurística sobre cuán invasivas para la privacidad son las API de IA en estos días.
Creo que si hubiera LLM autoalojados o incluso en el dispositivo más potentes y baratos, me sentiría más cómodo. No estoy seguro de cómo un LLM en el dispositivo beneficiaría a Discourse, pero algo sobre el uso de un LLM remoto me causa vacilación en estos días.
¿Un LLM de código abierto alojado en Discourse te haría sentir más cómodo que otro proveedor externo? (¿aunque probablemente un poco menos que en el dispositivo?)
Quizás un poco, pero creo que preferiría más autoalojado o en el dispositivo (de nuevo, si eso pudiera funcionar para un foro autoalojado).
Quizás si fuera alojado por Discourse con la opción de autoalojado, tal como lo es Discourse ahora, sí, estaría más entusiasmado. En ese momento, creo que mi preocupación se centraría en la calidad de la salida del LLM y el costo de ejecución.
Sospecho que quieres escuchar de personas con comunidades más establecidas que la mía, pero lo lanzaré aquí.
No hay nada que me impida agregar algunas funciones impulsadas por IA a mi sitio de Discourse, pero estoy interesado en las funciones, no en el hecho de que estén impulsadas por IA.
Por ejemplo, la búsqueda semántica y la capacidad de marcar automáticamente las publicaciones (para que puedan ser revisadas posteriormente por un humano) son dos funciones que me encantaría usar. La capacidad de traducir publicaciones sobre la marcha también sería útil.
Algunos ejemplos de lo que quiero decir en términos de marketing:
Cuando traduces texto a través de Google, no dicen “traducir con IA”, simplemente ofrecen traducir el texto.
Cuando realizas una búsqueda en Google, no dicen “buscar con IA” a pesar de que la IA está involucrada en la devolución de los resultados de búsqueda (actualmente no muy buenos).
Cuando Soundcloud sugiere etiquetas para una pista subida, no dicen “etiquetar con IA”, la interfaz de usuario simplemente sugiere algunas etiquetas; no se anima al usuario final a pensar en la (increíble) tecnología que permite al sistema sugerir etiquetas apropiadas basadas en un análisis de la pista subida.
Algunas funciones relacionadas con la IA, en particular cualquier cosa relacionada con los chatbots, podrían ir en contra del espíritu de lo que son las comunidades en línea. Al agrupar todas las funciones relacionadas con la IA bajo el encabezado “Discourse AI”, se corre el riesgo de alejar a las personas de funciones que, casualmente, están impulsadas por IA, pero que también podrían ser increíblemente útiles para sus foros.
No soy un genio del marketing, así que toma todo lo anterior con cautela.
Herramientas Esenciales creadas con IA para ayudar a la moderación, está bien para mí. Veo que quiero una forma de generar imágenes, pero rechazo todas las formas de crear usando IA si no tuviera el riesgo de perder el espíritu de la comunidad.
Las redes sociales están muriendo por una razón, ese es el punto.
Lo estoy usando. En mi foro, la IA se utiliza para explicar cosas[1]. Pero no lo permito a los miembros en general porque es demasiado caro; estoy en una escala donde 50 dólares al mes es terriblemente caro ;)\n\nPero su principal problema para mí no es culpa de la IA, sino la cantidad de trabajo que se necesita para crear una base de conocimientos decente. Pero para mí, la mayor debilidad de la IA es lo mal que utiliza los embeddings y que el contenido creado por la comunidad no se utiliza lo suficientemente bien.\n\nSí, lo sé. Viene principalmente de las limitaciones de OpenAI. Y la tecnología no está tan lista para producción como se afirma. Además, existe una barrera del idioma.\n\nLa guinda del pastel: crear un buen prompting es realmente difícil. Y después de unas semanas, algo cambia y los prompts deben arreglarse de nuevo.\n\nPuede ayudar con algunos trabajos de fondo, algún día. Pero al ver al equipo luchando (y desde mi punto de vista, una gran pérdida de tiempo y dinero, lo siento ) con resúmenes diarios, etc., afirmo que requiere demasiado trabajo que en realidad no aumenta los ingresos, sin importar si se cuenta en dólares o en felicidad. No está disminuyendo la carga de trabajo de los administradores y desarrolladores, la aumenta.\n\nPero, por supuesto, las grandes corporaciones donde unos 10 mil dólares son menos que el llenado mensual de existencias de bebidas energéticas, pueden y deben automatizar cosas usando IA, incluido el foro de soporte de Diacourse. Ese es, y tiene que ser, el objetivo de CDCK, pero no sé cuántos de ellos están aquí expresando sus pensamientos.
es: explicar las reglas del béisbol y dar una suposición de por qué es un deporte tan popular, incluso si es tan lento e incluso aburrido ↩︎
Parece que el sentimiento general es que la IA generativa está causando problemas o tiene el potencial de causar estragos en las comunidades, restando valor al intercambio natural y a la creatividad humana. Creo que en Discourse AI estamos tratando de encontrar un equilibrio para que solo mejore tu escritura, no la escriba por completo.
@simon, un gran punto sobre “usar IA” en las funciones, ciertamente la marca detrás de esto puede alejar a algunas personas y, a la inversa, hacer que las personas aprecien la conciencia de que están interactuando con IA.
Administramos una pequeña comunidad creativa para fanáticos, creadores, autores y artistas de ficción interactiva. Normalmente no nos encontramos con problemas en los que las tareas de moderación sean excesivas, y nuestros moderadores y muchos de nuestra comunidad están contentos de responder preguntas. Por lo tanto, no usaríamos IA para “hacer trabajo de foro”.
Si bien a menudo discutimos la IA en el contexto de la “generación de texto” en lo que respecta a los juegos que creamos y muchas personas están interesadas en ella, hemos establecido una regla de que el contenido generado por IA real no puede publicarse en una situación en la que una construcción de IA esté “pretendiendo” ser un usuario real del foro y tratando de engañar a las personas en un intento de pasar la prueba de Turing. No queremos que nuestro foro se utilice como campo de pruebas para la IA ni que nuestro contenido histórico desde 2006 se utilice como campo para extraer contenido de texto.
Si las personas publican material generado por IA, ya sea para sus propios fines como asistente de escritura o como demostración para un juego que están construyendo, les pedimos que indiquen de qué se trata o lo citen como una fuente, ya que técnicamente no es material “suyo”. Hemos tenido varios spammers que intentaron participar y aumentar los niveles de confianza al (supongo) alimentar un tema a una IA como ChatGPT y publicar los resultados para que pareciera una participación legítima en el foro. Dado que todo nuestro género artístico consiste en crear una obra de texto que “responde” a la interacción de un usuario (piensa en aventuras de texto como Zork), la mayoría de las personas pueden identificar el contenido generado por máquinas con bastante facilidad y marcarlo.
Una IA o LLM no puede aceptar los Términos de Servicio y el Código de Conducta. Si ofende a alguien, no hay forma de moderarlo. Dado que esperamos que nuestros usuarios sean transparentes sobre este tipo de contenido, probablemente sería hipócrita que nuestro sitio utilizara cualquier tipo de generación de IA para contenido y respuestas del foro.
También tuvimos que sofocar una guerra de llamas que amenazaba con estallar porque muchos de nuestros usuarios son artistas gráficos que son muy sensibles a que sus obras en línea sean robadas como material de origen para arte de IA, y un tema sobre el uso de arte de IA en juegos rápidamente se convirtió en ataques personales contra personas que estaban de acuerdo con ello. Por lo tanto, la IA es uno de los temas que debemos vigilar de cerca para asegurarnos de que no se discuta en el contexto de plagio intencional.
TL;DR: La IA es un tema delicado sobre el que tuvimos que establecer reglas, por lo que probablemente no deberíamos usarla en el contexto de un foro poblado por muchos artistas y escritores.
Estamos hartos de la moda de la IA, cuando en su mayoría produce una montaña de basura y causa daños ambientales a cambio. No puedo esperar a que la burbuja explote y a que todos se obsesionen con la próxima estupidez que venga o, mejor aún, se centren en algo que sea realmente útil o simplemente mejoren la funcionalidad básica que todos están ignorando últimamente para meter basura de IA en todo porque todos los demás lo están haciendo y es en lo que los inversores perpetuamente ignorantes están invirtiendo dinero ahora mismo…
Probablemente no sea la respuesta que querías, pero esa es la verdad honesta.
Las principales barreras aquí son la navegación por las restricciones internas sobre herramientas de terceros y el acceso a datos (para obtener permiso para empezar), y la falta de un método claro para estimar los costos (uso de tokens, etc.) que nos impide obtener la aprobación del presupuesto para empezar a usar las nuevas herramientas.
Me encantaría empezar a usar algunas de ellas, en particular la generación de informes de análisis de sentimientos. Sin embargo, parece haber una brecha significativa entre la concienciación sobre las herramientas y su implementación.
También existen preocupaciones periféricas sobre la introducción de aún más contenido de GenAI en nuestra comunidad: es el tema más crítico que afecta a los miembros de nuestra comunidad y a sus medios de vida. También vemos muchas cuentas nuevas en el foro publicando resúmenes obvios de hilos generados por IA (y algunos intentos bastante inexactos de “responder” preguntas de publicaciones existentes), por lo que nuestros usuarios ya sienten que el elemento humano de la comunidad se está ahogando por las herramientas de IA, en lugar de ser apoyado o aumentado por ellas.
Veo muchos comentarios centrados en el contenido generado por IA. Hablando en nombre de nuestra comunidad empresarial, me gustaría ver una inversión continua en el lado administrativo de Discourse AI. Es decir, herramientas centradas en ayudarnos a mostrar el valor de nuestra comunidad a nuestros equipos de liderazgo. Debido a nuestra categorización y etiquetado (relativamente) limpios, utilizamos Discourse AI con bastante éxito en nuestras revisiones de negocio trimestrales para mostrar cosas como: “aquí está el sentimiento de este subconjunto de usuarios, en estas categorías, discutiendo este producto, a lo largo del tiempo”.
Graficar eso y mostrar a nuestra organización una visión más cuantificable del valor de la comunidad al ver un indicador de prueba como este obtuvo una respuesta increíble y una inversión continua. Más de esto sería genial, y nos permitiría profundizar.
Sobre el tema del bot de IA, realmente nos gustaría ver más personalización en la capacidad de intermediar la experiencia del bot de IA. Tenemos requisitos estrictos sobre cómo podemos abordar el envío de datos de usuario a servicios de IA, y como tal, hemos construido nuestro propio servicio AWS Lambda entre Discourse y AWS Bedrock. La capacidad de especificar el punto final con el que funciona el bot, junto con la documentación sobre el modelo de objetos, nos permitiría aprovechar al máximo el bot de IA existente en nuestra comunidad. Por ahora, hemos construido nuestra propia experiencia de bot utilizando mensajes privados y webhooks para simular una experiencia de caja por ahora.
Cualquier cosa que puedan hacer para acercar la IA a la administración y moderación de Discourse sería la mejor inversión, desde nuestra perspectiva. Necesitamos construir y mantener esta comunidad de manera escalable para el negocio, y creo que existen muchas oportunidades en torno a Discourse utilizando la IA para hacerlo posible.
Es una gran pena no tener habilitados los “temas relacionados” en tu sitio y esto está 100% alojado por nosotros (y ya incluido en todos los planes), por lo que no hay preocupaciones sobre datos, tokens o precios.
Del mismo modo, alojamos nosotros mismos los modelos de sentimiento y estaríamos encantados de explorarlos contigo. Sigo siendo un poco escéptico sobre el sentimiento, ya que estoy tratando de entender qué problemas específicos resuelve.
También estamos explorando la ejecución de modelos abiertos en nuestro hardware, Llama 3 es sorprendentemente capaz. Es posible que podamos potenciar funciones como resúmenes con nuestros propios modelos a largo plazo, especialmente si podemos hacer que los modelos de 7B los realicen con confianza.
Entiendo lo de los presupuestos, Discourse AI ya rastrea el uso de tokens por persona, tenemos la intención de añadir cuotas al plugin.
Esto está muy en nuestra hoja de ruta, estamos trabajando en ello ahora mismo, la capacidad de apuntar a una URL y especificar el “dialecto” que habla.
.
) con resúmenes diarios, etc., afirmo que requiere demasiado trabajo que en realidad no aumenta los ingresos, sin importar si se cuenta en dólares o en felicidad. No está disminuyendo la carga de trabajo de los administradores y desarrolladores, la aumenta.\n\nPero, por supuesto, las grandes corporaciones donde unos 10 mil dólares son menos que el llenado mensual de existencias de bebidas energéticas, pueden y deben automatizar cosas usando IA, incluido el foro de soporte de Diacourse. Ese es, y tiene que ser, el objetivo de CDCK, pero no sé cuántos de ellos están aquí expresando sus pensamientos.