Minha equipe tem um fórum no Discourse rodando no serviço de hospedagem Discourse. Atualmente, assinamos o plano “business”, então minha pergunta é: podemos usar o plugin “Discourse AI Topic Summary”? Não tenho certeza se ele está incluído em nosso plano atual ou se teríamos que mudar para o “enterprise”.
Às vezes, a IA fica criativa demais, apesar da direção que estamos dando aqui, então você pode restringi-la ao conjunto de tags existentes.
Você pode criar rapidamente um usuário não administrador para esse fim a partir do console do Rails usando:
rake admin:create (não dê privilégios de administrador a este usuário!)
(Esta é uma solução alternativa um pouco improvisada porque a “API interna” atual do Discourse para marcação atualmente não permite que você especifique “sem novas tags”, então a única maneira de evitar isso facilmente no momento é criá-las como um usuário que não tem esse privilégio (ou seja, nível de confiança menor que min_trust_to_create_tag))
James, você (e outros) podem se interessar por isto:
Estou experimentando atualmente e irei mesclar em breve:
RECURSO: Adiciona a capacidade de usar o ChatGPT (mais rápido e barato) incluindo GPT-4
RECURSO: Adiciona a capacidade de especificar o nome do modelo para que você possa especificar um nome de modelo personalizado se ele existir no namespace do Open AI.
RECURSO: Adiciona configurações para afetar o estilo da resposta
(Apenas para resumos nesta fase, não para determinação de tags)
Isso foi principalmente motivado por esta comunicação:
Obrigado pela atualização. Vou verificar as mudanças.
A nova capacidade de função é algo que também estamos analisando. A ideia de poder obter dados estruturados consistentes de volta da chamada de API é muito empolgante! E quem poderia reclamar de um contexto mais longo
Voltando ao seu ponto original, o uso de gpt-3.5-16k é quase 7 vezes mais barato do que usar Davinci para este propósito, apesar do enorme aumento de contexto.
Já vi um “achatamento” da minha curva de preços nas últimas 24 horas.
O usuário neste plugin é usado apenas para restringir a escolha de tags… se você reutilizar o mesmo usuário AIBot, ele provavelmente terá permissão para criar novas tags porque provavelmente terá privilégios altos para postar em qualquer lugar. Não tentei, mas talvez você possa manter o AIBot em um TL baixo.
Se você não se importar que ele crie novas tags, tudo bem, mas os resultados geralmente são melhores se você o impedir de fazer isso.
Sim, eu criaria ou pegaria emprestado outro usuário que seja TL2 para usar isso. Bloquearia o nível de confiança deles. E restringiria a criação de novas tags para TL3.
Funcionará em tópicos antigos… mas é acionado por novas postagens.