Olá a todos!
Gostaria de sugerir alguns recursos úteis para o plugin Discourse AI:
-
Rastreamento do uso de tokens por usuário
Isso permitiria aos administradores monitorar quantos tokens cada usuário está consumindo ao interagir com a IA. Poderia ajudar a prevenir abusos e permitir a definição de limites de tokens por usuário ou por grupo. Ver um detalhamento do uso de tokens por usuário daria uma melhor visão dos padrões de uso e custos.
A língua russa é usada por nós em nossa comunidade para conversar com a IA, mas o tokenizador da OpenAI não funciona bem com a língua russa. Um token pode ser um símbolo, e isso é muito caro para nós! -
Permitir que os usuários criem personas de IA personalizadas
Permitir que os usuários definam a persona de seu assistente de IA (criando prompts personalizados) para interações mais envolventes e personalizadas. Dar essa flexibilidade aos usuários inspiraria usos mais criativos da IA no fórum. -
Definir um número máximo padrão de posts a serem incluídos como contexto
Adicionar uma opção padrão para todas as personas para limitar o contexto a um certo número de posts recentes poderia ajudar a manter o uso de tokens sob controle, ao mesmo tempo em que fornece à IA contexto suficiente para responder adequadamente. -
Capacidade de usar texto de fontes de dados personalizadas
A integração de carregadores de documentos para fontes como PDFs, páginas da web, arquivos do Google Drive, etc., facilitaria a interação dos usuários com as informações e não parece muito difícil de implementar. Imagine poder ter a IA referenciando informações de um whitepaper carregado como PDF, ou fatos de páginas da web específicas, ao se envolver em um tópico. Isso é especialmente útil para comunidades acadêmicas como a minha, que frequentemente lidam com artigos em diferentes formatos. Isso poderia turbinar as capacidades da IA em discussões especializadas. Ferramentas de carregamento de documentos como LangChain poderiam ser aproveitadas para isso: Document Loaders —
LangChain 0.0.146 -
Suporte para URLs de base de API personalizados para todos os modelos de IA
Atualmente, URLs de API personalizadas são suportadas apenas para OpenAI. Estender essa capacidade para todos os provedores de IA suportados seria muito útil para aqueles que precisam usar um proxy reverso ou outro endpoint de API não padrão. Muitos de nós dependemos de proxies reversos por motivos de segurança, conformidade ou gerenciamento de custos, portanto, ter a flexibilidade de rotear solicitações de IA através de nossa própria infraestrutura facilitaria muito a integração deste plugin em nossos ambientes. -
Gerar títulos de chat localizados com base no idioma do usuário
No momento, a IA gera títulos de chat apenas em inglês. Ter a capacidade de criar títulos no idioma preferido do usuário proporcionaria uma melhor experiência ao usuário, especialmente para comunidades que não falam inglês.
Por favor, me diga o que você acha!
