Entendo, então focando aqui há… com um pouco mais de detalhes técnicos.
- Mencionar
@gpt3.5-botselecionaria a primeira persona priorizada… que geralmente seria o helper do fórum, mas você poderia mudar. - Também forneceríamos contexto (digamos, 1000 tokens de mensagens de chat anteriores) para que ficasse alinhado. (isso é configurável ou não? configurável por persona ou não?)
- Precisamos claramente restringir o grupo de pessoas que podem
@mentionno chat, então precisaríamos de uma configuração do site para isso. - Precisaríamos pensar sobre auditabilidade, um mínimo fácil aqui seria fornecer uma consulta no explorador de dados.
- Dadas as recentes refatorações de chat, podemos abrir discussões novas “ilimitadas” com um bot, então certamente poderíamos projetar algo lá.
- Se permitirmos
@mentionno chat… por que não permitir também em posts de fórum para o mesmo grupo? grupo diferente.
Considerando tudo isso… minha sugestão V0 seria:
- Adicionar configuração do site
ai_bot_chat_enabled_groups - Codificar 1000 tokens de contexto por enquanto - escolher a primeira persona priorizada
- Fazer apenas o suporte a
@mentionpara V0
V1
- Suporte a streaming e cancelamento
V2
- Adicionar suporte opcional para “DMs em grupo com bots de IA”
- Garantir que também tenhamos uma interface agradável para encontrar todas essas coisas e minimizar a sobrecarga de fazer isso.
V3
- Opcionalmente, permitir que as personas também criem um usuário dedicado com um avatar dedicado. Então você pode interagir com vários bots no chat. Neste modo, a persona também teria um usuário/modelo selecionado.
- Mover também alguma configuração para a interface da persona… qual persona está habilitada para chat?
V4
- Pensar em limites - uso máximo de tokens por dia por usuário, coisas assim
V5
- Pensar em adicionar parte disso também em tópicos padrão - (precisa de configuração do site, etc…) por exemplo:
@summary_bot resuma este tópico até agora
No geral, gosto de muito disso, só preciso descobrir como alinhar essas coisas em nosso roadmap.