Habilitando el Bot de IA en Chat

Característica
, , ,
5

Entiendo, así que centrándonos aquí hay… con algunos detalles técnicos más.

  1. Mencionar @gpt3.5-bot seleccionaría la primera persona priorizada… que normalmente sería el ayudante del foro, pero podrías cambiarlo.
  2. También proporcionaríamos contexto (digamos 1000 tokens de mensajes de chat anteriores) para que estuviera alineado. (¿es esto configurable o no? ¿configurable por persona o no?)
  3. Claramente necesitamos restringir el grupo de personas que pueden @mention en el chat, por lo que necesitaríamos una configuración del sitio para ello.
  4. Necesitaríamos pensar en la auditabilidad, un mínimo fácil aquí sería proporcionar una consulta del explorador de datos.
  5. Dados los recientes refactors de chat, podemos abrir discusiones nuevas “ilimitadas” con un bot, así que seguro que podríamos diseñar algo allí.
  6. Si permitimos @mention en el chat… ¿por qué no permitirlo también en las publicaciones del foro al mismo grupo? ¿a un grupo diferente?

Considerando todo esto… mi sugerencia V0 sería:

  1. Añadir la configuración del sitio ai_bot_chat_enabled_groups
  2. Codificar 1000 tokens de contexto por ahora - elegir la primera persona priorizada
  3. Solo admitir @mention para V0

V1

  1. Soporte de streaming y cancelación

V2

  1. Añadir soporte opcional para “Mensajes directos grupales con bots de IA”
  2. Asegurarnos de que también tenemos una interfaz agradable para encontrar todo esto y minimizar la sobrecarga de hacerlo.

V3

  1. Opcionalmente, permitir que las personas también preparen un usuario dedicado con un avatar dedicado. Entonces puedes interactuar con múltiples bots en el chat. En este modo, la persona también tendría un usuario/modelo seleccionado.
  2. También mover parte de la configuración a la interfaz de usuario de la persona… ¿qué persona está habilitada para el chat?

V4

  1. Pensar en los límites - uso máximo de tokens por día por usuario, cosas así

V5

  1. Pensar en añadir también parte de esto a los temas estándar - (necesita configuración del sitio, etc…) por ejemplo: @summary_bot resume este tema hasta ahora

En general, me gusta mucho todo esto, solo necesito averiguar cómo alinear estas cosas en nuestra hoja de ruta.

8 Me gusta