Hola a todos!
Me gustaría sugerir algunas características útiles para el plugin Discourse AI:
-
Seguimiento del uso de tokens por usuario
Esto permitiría a los administradores monitorear cuántos tokens consume cada usuario al interactuar con la IA. Podría ayudar a prevenir el abuso y permitir el establecimiento de límites de tokens por usuario o por grupo. Ver un desglose detallado del uso de tokens por usuario proporcionaría una mejor visión de los patrones de uso y los costos.
El idioma ruso es utilizado por nosotros en nuestra comunidad para chatear con la IA, pero el tokenizador de OpenAI no funciona bien con el idioma ruso. Un token puede ser un símbolo, ¡y es muy caro para nosotros! -
Permitir a los usuarios crear personalidades de IA personalizadas
Permitir a los usuarios definir la personalidad de su asistente de IA (creando prompts personalizados) para interacciones más atractivas y personalizadas. Dar a los usuarios esta flexibilidad inspiraría usos más creativos de la IA en el foro. -
Establecer un número máximo predeterminado de publicaciones para incluir como contexto
Agregar una opción predeterminada para todas las personalidades para limitar el contexto a un cierto número de publicaciones recientes podría ayudar a mantener el uso de tokens bajo control, al tiempo que se proporciona a la IA suficiente contexto para responder adecuadamente. -
Capacidad de usar texto de fuentes de datos personalizadas
La integración de cargadores de documentos para fuentes como PDFs, páginas web, archivos de Google Drive, etc., facilitaría a los usuarios la interacción con la información y no parece muy difícil de implementar. Imagina poder tener la IA que hace referencia a información de un documento técnico cargado como PDF, o hechos de páginas web específicas, al participar en un tema. Esto es especialmente útil para comunidades académicas como la mía, que a menudo tratan con artículos en diferentes formatos. Esto podría potenciar las capacidades de la IA en discusiones especializadas. Herramientas de carga de documentos como LangChain podrían ser aprovechadas para esto: Document Loaders —
LangChain 0.0.146 -
Soporte para URLs base de API personalizadas para todos los modelos de IA
Actualmente, las URL de API personalizadas solo son compatibles con OpenAI. Extender esta capacidad a todos los proveedores de IA compatibles sería de gran ayuda para aquellos que necesitan usar un proxy inverso u otro punto final de API no estándar. Muchos de nosotros dependemos de proxies inversos por razones de seguridad, cumplimiento o gestión de costos, por lo que tener la flexibilidad de enrutar las solicitudes de IA a través de nuestra propia infraestructura facilitaría mucho la integración de este plugin en nuestros entornos. -
Generar títulos de chat localizados basados en el idioma del usuario
En este momento, la IA genera títulos de chat solo en inglés. Tener la capacidad de crear títulos en el idioma preferido del usuario proporcionaría una mejor experiencia de usuario, especialmente para las comunidades de habla no inglesa.
¡Por favor, házmelo saber lo que piensas!
