Adoraríamos ter um bot de IA na função de chat. Nossos usuários usam o Chat intensamente.
Você pode detalhar como gostaria que funcionasse?
2 curtidas
Meus usuários o usariam assim:
- meu veterinário disse que cães podem obter vitamina D do sol
- não acho… todo mundo diz que temos que usar nutracêuticos
- sério? Oi
@helpful-botcães podem obter vitamina D do sol?
Algo assim. Significa que não preciso de personas diferentes. Mas para mim isso não é um impeditivo. Tenho outro chatbot em uso nos canais 
4 curtidas
Peço desculpas pela ambiguidade. Quis dizer que queremos que nossos usuários possam invocar o bot no canal de chat geral usando @nomedobot. Além disso, os usuários dentro do grupo elegível devem ter a capacidade de enviar mensagens diretas para o bot. como nas capturas de tela abaixo;
3 curtidas
Entendo, então focando aqui há… com um pouco mais de detalhes técnicos.
- Mencionar
@gpt3.5-botselecionaria a primeira persona priorizada… que geralmente seria o helper do fórum, mas você poderia mudar. - Também forneceríamos contexto (digamos, 1000 tokens de mensagens de chat anteriores) para que ficasse alinhado. (isso é configurável ou não? configurável por persona ou não?)
- Precisamos claramente restringir o grupo de pessoas que podem
@mentionno chat, então precisaríamos de uma configuração do site para isso. - Precisaríamos pensar sobre auditabilidade, um mínimo fácil aqui seria fornecer uma consulta no explorador de dados.
- Dadas as recentes refatorações de chat, podemos abrir discussões novas “ilimitadas” com um bot, então certamente poderíamos projetar algo lá.
- Se permitirmos
@mentionno chat… por que não permitir também em posts de fórum para o mesmo grupo? grupo diferente.
Considerando tudo isso… minha sugestão V0 seria:
- Adicionar configuração do site
ai_bot_chat_enabled_groups - Codificar 1000 tokens de contexto por enquanto - escolher a primeira persona priorizada
- Fazer apenas o suporte a
@mentionpara V0
V1
- Suporte a streaming e cancelamento
V2
- Adicionar suporte opcional para “DMs em grupo com bots de IA”
- Garantir que também tenhamos uma interface agradável para encontrar todas essas coisas e minimizar a sobrecarga de fazer isso.
V3
- Opcionalmente, permitir que as personas também criem um usuário dedicado com um avatar dedicado. Então você pode interagir com vários bots no chat. Neste modo, a persona também teria um usuário/modelo selecionado.
- Mover também alguma configuração para a interface da persona… qual persona está habilitada para chat?
V4
- Pensar em limites - uso máximo de tokens por dia por usuário, coisas assim
V5
- Pensar em adicionar parte disso também em tópicos padrão - (precisa de configuração do site, etc…) por exemplo:
@summary_bot resuma este tópico até agora
No geral, gosto de muito disso, só preciso descobrir como alinhar essas coisas em nosso roadmap.
8 curtidas
Enquanto isso, se você estiver auto-hospedado, sempre poderá considerar o Discourse Chatbot, que tem oferecido suporte ao Chat desde o início (e, de fato, foi o primeiro Chatbot de IA para Discourse).
4 curtidas
Isso soa como um plano muito sólido.
Talvez possamos começar com uma configuração para uma persona de chat padrão e, eventualmente, migrar para por canal?
100%
Eu acho que o chat é um bom lugar para começar, e depois portar o mesmo comportamento para os tópicos.
2 curtidas
Concordo bastante com seus pensamentos e os do @Falco aqui, a única coisa a acrescentar seria garantir que funcione com os Tópicos de Chat também, se não V0, então V1/V2
(Opcional) Uma coisa adicional que pode valer a pena adicionar no futuro é uma opção aqui para iniciar um chat com o bot, meu raciocínio é que alguns usuários podem nem saber que podem fazer isso!
4 curtidas
Parece bom para uma V0. Acho que ter uma interface de usuário melhor para criar bots e poder definir grupos permitidos a partir dessa interface seria muito melhor do que uma configuração de site a médio/longo prazo.
1 curtida
O editor de persona é como chegaremos lá, com certeza.
Já temos todos os ossos para anexar um novo usuário a uma persona.
2 curtidas
O bot de IA no chat será muito melhor do que a mensagem privada atual para IA…
espero que possam adicionar essa melhoria em breve…
aliás, parece que o uso da API do Gemini não será gratuito em breve… hmm…
1 curtida
Tenho experimentado isso, ele vem com várias limitações, dado que manter o histórico é difícil, o markdown não é tão completo e mais… Não é uma vitória fácil. No entanto, é fácil iniciar conversas, mas não é uma substituição completa.
Você pode expandir exatamente por que acha que é muito melhor?
Gemini 1.0 pro não é tão bom, eu o evitaria de qualquer maneira, se você está procurando um LLM barato, então Claude 3 Haiku é o caminho a seguir.
4 curtidas
Este tópico foi fechado automaticamente após 2 dias. Novas respostas não são mais permitidas.