# \[Ai Bot\] Añadir user token tracking, custom AI personas, max context posts, document loading, custom API URLs y localized chat titles

**URL:** https://meta.discourse.org/t/ai-bot-add-user-token-tracking-custom-ai-personas-max-context-posts-document-loading-custom-api-urls-and-localized-chat-titles/300502
**Category:** Feature
**Tags:** ai, ai-bot
**Created:** [22 Marzo, 2024 09:05 UTC](https://meta.discourse.org/t/ai-bot-add-user-token-tracking-custom-ai-personas-max-context-posts-document-loading-custom-api-urls-and-localized-chat-titles/300502 "2024-03-22T09:05:01Z")
**Posts on this page:** 3
**Page:** 1

<div class="post-metadata">

### Author: ![Oniel](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/oniel/32/365830_2.png) [@Oniel](https://meta.discourse.org/u/Oniel)
#### Post date: [22 Marzo, 2024 09:05 UTC](https://meta.discourse.org/t/ai-bot-add-user-token-tracking-custom-ai-personas-max-context-posts-document-loading-custom-api-urls-and-localized-chat-titles/300502/1 "2024-03-22T09:05:01Z")

</div>

Hola a todos!

Me gustaría sugerir algunas características útiles para el plugin Discourse AI:

1. **Seguimiento del uso de tokens por usuario**  
Esto permitiría a los administradores monitorear cuántos tokens consume cada usuario al interactuar con la IA. Podría ayudar a prevenir el abuso y permitir el establecimiento de límites de tokens por usuario o por grupo. Ver un desglose detallado del uso de tokens por usuario proporcionaría una mejor visión de los patrones de uso y los costos.  
El idioma ruso es utilizado por nosotros en nuestra comunidad para chatear con la IA, pero el tokenizador de OpenAI no funciona bien con el idioma ruso. Un token puede ser un símbolo, ¡y es muy caro para nosotros!

2. **Permitir a los usuarios crear personalidades de IA personalizadas**  
Permitir a los usuarios definir la personalidad de su asistente de IA (creando prompts personalizados) para interacciones más atractivas y personalizadas. Dar a los usuarios esta flexibilidad inspiraría usos más creativos de la IA en el foro.

3. **Establecer un número máximo predeterminado de publicaciones para incluir como contexto**  
Agregar una opción predeterminada para todas las personalidades para limitar el contexto a un cierto número de publicaciones recientes podría ayudar a mantener el uso de tokens bajo control, al tiempo que se proporciona a la IA suficiente contexto para responder adecuadamente.

4. **Capacidad de usar texto de fuentes de datos personalizadas**  
La integración de cargadores de documentos para fuentes como PDFs, páginas web, archivos de Google Drive, etc., facilitaría a los usuarios la interacción con la información y no parece muy difícil de implementar. Imagina poder tener la IA que hace referencia a información de un documento técnico cargado como PDF, o hechos de páginas web específicas, al participar en un tema. Esto es especialmente útil para comunidades académicas como la mía, que a menudo tratan con artículos en diferentes formatos. Esto podría potenciar las capacidades de la IA en discusiones especializadas. Herramientas de carga de documentos como LangChain podrían ser aprovechadas para esto: [Document Loaders — 🦜🔗 LangChain 0.0.146](https://langchain-fanyi.readthedocs.io/en/latest/modules/indexes/document_loaders.html)

5. **Soporte para URLs base de API personalizadas para todos los modelos de IA**  
Actualmente, las URL de API personalizadas solo son compatibles con OpenAI. Extender esta capacidad a todos los proveedores de IA compatibles sería de gran ayuda para aquellos que necesitan usar un proxy inverso u otro punto final de API no estándar. Muchos de nosotros dependemos de proxies inversos por razones de seguridad, cumplimiento o gestión de costos, por lo que tener la flexibilidad de enrutar las solicitudes de IA a través de nuestra propia infraestructura facilitaría mucho la integración de este plugin en nuestros entornos.

6. **Generar títulos de chat localizados basados en el idioma del usuario**  
En este momento, [la IA genera títulos de chat solo en inglés](https://github.com/discourse/discourse-ai/blob/f3b3312ce04f53283dad5ca0ce967f204ac38f09/lib/ai_bot/bot.rb#L42). Tener la capacidad de crear títulos en el idioma preferido del usuario proporcionaría una mejor experiencia de usuario, especialmente para las comunidades de habla no inglesa.

¡Por favor, házmelo saber lo que piensas!

---

<div class="post-metadata">

### Author: ![JammyDodger](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jammydodger/32/254611_2.png) [@JammyDodger](https://meta.discourse.org/u/JammyDodger)
#### Post date: [22 Marzo, 2024 09:12 UTC](https://meta.discourse.org/t/ai-bot-add-user-token-tracking-custom-ai-personas-max-context-posts-document-loading-custom-api-urls-and-localized-chat-titles/300502/2 "2024-03-22T09:12:18Z")

</div>

Hola @Oniel 🙂

Como mencioné antes, necesitas crear un tema separado por cada solicitud de función en #Contribute > Feature request:

> [@JammyDodger](#):
>
> Para facilitar el seguimiento de las solicitudes de funciones y ver qué tan populares son, lo mejor es iniciar un nuevo tema en #feature::category para cada sugerencia. 👍 Si también puedes incluir tantos detalles como sea posible sobre por qué crees que cada idea debería ser desarrollada, eso también ayudará a fortalecer el caso para su adopción.

Cerraré este tema, pero lo dejaré visible para que puedas trabajar en dividirlo en temas separados. 👍

---

<div class="post-metadata">

### Author: ![JammyDodger](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jammydodger/32/254611_2.png) [@JammyDodger](https://meta.discourse.org/u/JammyDodger)
#### Post date: [22 Marzo, 2024 09:12 UTC](https://meta.discourse.org/t/ai-bot-add-user-token-tracking-custom-ai-personas-max-context-posts-document-loading-custom-api-urls-and-localized-chat-titles/300502/3 "2024-03-22T09:12:26Z")

</div>


