Pode cada prompt de sistema das AIs ser editável?

Podemos editar, alterar e criar prompts de sistema, mas poderíamos ter acesso mais geral a todos os prompts? Estes precisam de ajustes de vez em quando.

A necessidade especial para essa solicitação são as explicações de IA. É bom que ela considere o contexto de uma postagem, mas agora está realmente preguiçosa — especialmente as baseadas em OpenAI. Ela copia o que já está escrito, mas deveria expandir essa explicação mantendo o contexto também.

Tenho um pouco de receio de que a funcionalidade seja codificada de forma bastante rígida (e algo venha do ecossistema OpenAI), mas a edição seria possível sem precisar refazer tudo o que já foi construído?

3 curtidas

Isso está em nosso roteiro para os próximos meses.

10 curtidas

Olá @Falco, há alguma atualização sobre um possível prazo para permitir a edição dos prompts do sistema? Presumo que isso seria para o Forum Helper e talvez para o prompt principal do sistema ao habilitar um LLM, que acredito que não é visível :cowboy_hat_face:

2 curtidas

Isso é algo muito difícil de fazer corretamente, pois os prompts do sistema controlam não apenas as instruções, mas também o formato de saída esperado.

Se permitirmos que os usuários personalizem agora, nos inscreveremos em uma enxurrada constante de usuários frustrados porque nossas atualizações quebrarão seus sites sempre que precisarmos atualizar o formato de saída esperado que é analisado para recursos como resumos, ajudantes, etc.

Uma maneira de contornar isso é mover tudo para formatos rigorosos, usando Guidance / chamadas de função / saídas estruturadas. No entanto, o ecossistema está apenas agora atingindo o nível de maturidade em que isso está disponível na maioria dos provedores e em opções auto-hospedadas. Isso é importante porque o Discourse AI não bloqueia comunidades no OpenAI; ele permite que as pessoas escolham entre milhares de LLMs compatíveis.

Tudo isso para dizer que é algo que queremos fazer, mas não podemos fazer uma implementação pela metade. Isso significa que precisamos que todo o ecossistema de IA alcance, e isso só está acontecendo agora.

4 curtidas

Agradeço o feedback @Falco. Na maior parte, as personas, que funcionam muito bem, oferecem uma flexibilidade muito boa. Entendo completamente do seu ponto de vista não querer um monte de fóruns bagunçados espalhados por aí. Isso é, na verdade, zelar pelo proprietário do fórum. Acho que os prompts funcionam muito bem como estão, mas seria bom poder influenciá-los um pouco com algum contexto para a comunidade individual. Faça isso ou não faça aquilo, esse tipo de coisa. Não mexa nos seus prompts de sistema porque eles funcionam muito bem como estão, mas talvez injete um pouco de contexto adicional em algum momento.

1 curtida