# ¿Cuál es el próximo paso para la detección de Toxicidad en Discourse AI
**URL:** https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283
**Category:** Announcements
**Tags:** automation, ai, ai-toxicity
**Created:** [7 Agosto, 2024 16:03 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283 "2024-08-07T16:03:30Z")
**Posts on this page:** 9
**Page:** 1
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [7 Agosto, 2024 16:03 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/1 "2024-08-07T16:03:30Z")
Hoy anunciamos la despedida del módulo [Discourse AI - Toxicidad](https://meta.discourse.org/t/discourse-ai-toxicity/259215) 👋 en favor de [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227), aprovechando el poder de los Modelos de Lenguaje Grandes (LLMs) para ofrecer una experiencia superior.
### ¿Por qué hacemos esto?
Anteriormente, usar el módulo de Toxicidad significaba…
- Estar limitado a usar un único modelo predefinido
- Sin personalización para las necesidades específicas de tu comunidad
- Métricas de umbral confusas
- Rendimiento deficiente
Los LLMs han avanzado mucho y ahora pueden ofrecer una experiencia más personalizable y de mejor rendimiento.
### ¿Qué hay de nuevo?
[Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-post-classifier-automation-rule/281227) se puede usar para clasificar publicaciones por Toxicidad (entre otras formas) y hacer cumplir los códigos de conducta específicos de las comunidades. Esto significa…
- Múltiples LLMs compatibles para diferentes requisitos de rendimiento
- Fácil de definir qué y cómo se debe tratar el contenido
- Prompts personalizables para necesidades específicas de la comunidad
- Marcar contenido para su revisión
y mucho más.
Para ayudar con la transición, ya hemos redactado guías:
- [Configuración de la detección de toxicidad/código de conducta en tu comunidad](https://meta.discourse.org/t/setting-up-toxicity-code-of-conduct-detection-in-your-community/320257)
- [Configuración de la detección de spam en tu comunidad](https://meta.discourse.org/t/setting-up-spam-detection-in-your-community/300427)
- [Configuración de la detección de NSFW en tu comunidad](https://meta.discourse.org/t/setting-up-nsfw-detection-in-your-community/330196)
### ¿Qué pasa con Toxicidad?
~~Este anuncio debe considerarse **muy temprano** , hasta que estemos listos para desmantelarlo, puedes seguir usando Toxicidad. Cuando lo hagamos, desmantelaremos el módulo y eliminaremos todo el código del plugin Discourse AI y los servicios asociados de nuestros servidores.~~
👉🏾 **Actualización:** El módulo de Toxicidad ha sido eliminado oficialmente de Discourse, esto incluye todas las configuraciones y funciones del sitio relacionadas. Ahora instamos a los usuarios a migrar al uso de [Discourse AI - Clasificación de IA](https://meta.discourse.org/t/discourse-ai-ai-triage/281227) y seguir las guías mencionadas anteriormente.
Los clientes Business y Enterprise verán lo siguiente en `Novedades` en la configuración de administración de sus sitios, lo que les permitirá habilitar LLMs alojados por Discourse para potenciar la clasificación de IA sin costo adicional.
---
### Author:  [@putty](https://meta.discourse.org/u/putty)
#### Post date: [7 Agosto, 2024 16:46 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/2 "2024-08-07T16:46:00Z")
¿Hay una fecha límite para el módulo de Toxicidad?
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [7 Agosto, 2024 23:51 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/3 "2024-08-07T23:51:40Z")
> [@putty](#):
>
> ¿Hay una fecha límite para el módulo de Toxicidad?
No hemos elegido una fecha específica, pero actualmente estamos trabajando para que esto se haga pronto.
---
### Author:  [@Samantha\_Venia\_Logan](https://meta.discourse.org/u/Samantha_Venia_Logan)
#### Post date: [21 Agosto, 2024 00:54 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/4 "2024-08-21T00:54:08Z")
Esto es extremadamente relevante para un artículo que estoy escribiendo para el Community Leaders Institute en este momento, para mi doctorado sobre toxicidad, y más. ¿Estarían todos dispuestos a hacer una entrevista detrás de cámaras sobre este sistema para mi [canal de YouTube](https://www.youtube.com/@sociallyconstructedonline) como parte de mi serie sobre cómo inocular a las comunidades en línea contra la toxicidad? También está sirviendo como un esfuerzo académico para mi doctorado.
¿Están listos para eso?
---
### Author:  [@mae](https://meta.discourse.org/u/mae)
#### Post date: [21 Agosto, 2024 09:14 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/6 "2024-08-21T09:14:12Z")
¡Gracias por considerar Discourse para tu canal de YouTube! ¿Podrías enviar más detalles por correo electrónico a [mae@discourse.org](mailto:mae@discourse.org) sobre en qué consistiría exactamente la entrevista detrás de cámaras y qué se necesita de nuestra parte?
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [22 Agosto, 2024 02:47 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/7 "2024-08-22T02:47:11Z")
Para tu información sobre el siguiente cambio
> [@Saif](#):
>
> Solo hago un seguimiento aquí para señalar que el triaje de IA **ya no** necesita lo siguiente gracias al trabajo de @Roman\_Rizzi en la mejora de los prompts
>
> > [@sam](#):
> >
> > Debería contener un marcador de posición `%%POST%%` que será reemplazado con el contenido de la publicación.
---
### Author:  [@Samantha\_Venia\_Logan](https://meta.discourse.org/u/Samantha_Venia_Logan)
#### Post date: [26 Agosto, 2024 06:39 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/8 "2024-08-26T06:39:59Z")
¡Gracias Mae! ¡He hecho el seguimiento!
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [29 Octubre, 2024 20:29 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/9 "2024-10-29T20:29:01Z")
Como aviso, ahora estamos ocultando la configuración del sitio para habilitar/deshabilitar Toxicidad y NSFW. Este es nuestro esfuerzo continuo a medida que continuamos descontinuando las funciones.
Si tiene estas funciones activadas, seguirán funcionando con normalidad. AÚN NO hemos descontinuado completamente las funciones.
Si las tiene desactivadas y desea activarlas, ya no podrá hacerlo.
---
### Author:  [@Saif](https://meta.discourse.org/u/Saif)
#### Post date: [5 Diciembre, 2024 23:15 UTC](https://meta.discourse.org/t/whats-next-for-toxicity-detection-in-discourse-ai/320283/10 "2024-12-05T23:15:51Z")
Hola a todos, solo quería compartir esta actualización
> [@Saif](#):
>
> 👉🏾 **Actualización:** El módulo de toxicidad ha sido eliminado oficialmente de Discourse, esto incluye todas las configuraciones y funciones relacionadas del sitio. Ahora instamos a los usuarios a que hagan la transición al uso de [Discourse AI - AI triage](https://meta.discourse.org/t/discourse-ai-ai-triage/281227) y sigan las guías mencionadas anteriormente.
>
> Los clientes Business y Enterprise verán lo siguiente en `Novedades` en la configuración de administración de sus sitios, lo que les permitirá habilitar los LLM alojados por Discourse para potenciar la clasificación de IA sin costo adicional.
>
> 