Nos complace anunciar Discourse AI, un nuevo plugin y nuestra solución integral para integrar la Inteligencia Artificial y Discourse, que permite tanto nuevas funciones como la mejora de las existentes. Con este primer lanzamiento, enviamos 7 módulos diferentes de Discourse AI para ayudar a los gestores de comunidades, miembros y moderadores con diversas tareas, desde el análisis de sentimientos hasta la corrección automática y las sugerencias de edición. ¡Sigue leyendo y descubre más detalles sobre cada una de estas funciones, así como lo que vendrá próximamente en nuestra hoja de ruta!
Este es un impresionante cuerpo de trabajo, @Falco y equipo. Realmente emocionado de ver cómo funciona todo esto en la práctica y su impacto en la gestión de la comunidad en general.
Estas son el tipo de actualizaciones que se sienten como abrir un nuevo regalo de Navidad.
Nosotros (en el momento actual de este escrito) no tenemos un gerente dedicado para nuestra comunidad, y herramientas como esta nos permiten continuar escalando sin un rol dedicado.
Sin mencionar las funciones como el asistente de composición que simplemente elevan la experiencia del usuario.
Sí, estamos planeando explorar esta área. Lo complicado es que solo tenemos un pequeño número de ejemplos para alimentar a GPT-4 dados los límites de los prompts, cumplir con los límites de tokens es muy difícil. Sin embargo, hay bastantes otros enfoques que podemos tomar y exploraremos y le informaremos.
Incluso con muy poca afinación, GPT-4 no hace un trabajo terrible evaluando cosas:
¿Podrías probarlo con una publicación que contenga un bloque de código largo o una salida de syslog? Esos están siendo etiquetados como spam por akismet todo el tiempo en nuestro sitio.
Probablemente, pero sería muy caro ajustar un modelo. Algunas personas obtienen resultados realmente buenos simplemente usando incrustaciones (embeddings), eso es probablemente lo siguiente que hay que probar.
Cuando lo revisé, el ajuste fino es mucho más barato de lo que esperaba. Depende mucho de cuántos datos de entrenamiento planees usar, pero si la comparación es con el tamaño que puedes meter en un solo gpt 4, son céntimos.
No llegué a usarlo, así que es probable que me haya perdido algo, así que por favor corrígeme si me equivoco.
El entrenamiento puede ser muy, muy caro. En mi caso, para nuestros cálculos de entrenamiento, solo para el entrenamiento mínimo recomendado por OpenAI, estaríamos hablando de casi $200,000 para entrenar en un solo caso de uso.
¿Sigue siendo un problema que los nuevos usuarios se confundan con los límites de TL1?
Si es así, creo que la IA podría ser una buena solución para eso, permitiendo que los nuevos usuarios hagan más, pero con la IA prestandoles mucha atención y poniéndolo en la cola de moderación si no está segura de que esté bien.
No hay problema en absoluto @Falco estaba haciendo un análisis intensivo sobre esto hoy y parece muy prometedor, incluso una indicación trivial funciona sorprendentemente bien. El spam es simplemente demasiado spam.
Dejaré que Falco comparta los detalles.
Otro enfoque interesante que posiblemente podamos combinar es apoyarnos en la base de datos vectorial. Si publicas algo y el vector está cerca de otros 20 spams… bueno, probablemente sea spam. Este enfoque permite un ajuste fino.
Para ser honesto, veo el futuro de Akismet no muy brillante. Matt debe estar estresado por el largo plazo aquí.