Depurando os Recursos de IA do Discourse: Quando a OpenAI Responde, mas o Fórum Não

Obrigado por desenvolver funções de IA para o Discourse! Acho que este será um recurso importante no futuro.

Tentei usar o plugin de IA em nosso fórum auto-hospedado (tff-forum.de). Após adicionar a chave da API OpenAI no painel de administração e ativar o modelo “gpt-3.5-turbo-16k” para as diferentes funções, posso ver os botões adicionais de IA em diferentes locais do fórum.

Quando clico em um dos botões, não recebo nada de volta ou recebo a mensagem de erro mostrada na seguinte captura de tela.

Posso ver as solicitações de API no painel de uso da OpenAI, mas parece que o Discourse não está recebendo a resposta.

Também tentei os outros modelos (gpt-35, gpt-4 etc.). O resultado é sempre o mesmo, que as funções não entregam nenhuma resposta.

O log de erros do Discourse não mostra problemas relacionados às funções de IA.

Você pode fornecer mais informações sobre como depurar ou analisar o problema?

Tente a instrução abaixo em seu servidor, por favor.

1 curtida

Obrigado pelo script para verificar a funcionalidade da API Open AI.

Iniciamos o script em nosso servidor e obtivemos a seguinte resposta do gpt:

...
 {
 "index": 0,
 "message": {
 "role": "assistant",
 "content": "In the heart of the coded rhyme,\nBehold, there’s a concept sublime.\nIt's recursion, an art, an ancient tradition,\nOf a function calling itself, that's the mission.\n\nA function so proud, will not heed the call,\nOf any other, it stands tall.\nIt opts to invoke itself anew,\nThus, weaving patterns that intrigue view.\n\nWhen it starts, you might suppose,\nWhere it ends, no one knows?\nBut fear, not the infinite loop,\nFor base case is our saving hoop.\n\nUpon reaching the base so divinely small,\nThe function at last does forestall.\nSo, it stops and does not bind,\nReturning what it's meant to find.\n\nWho would make such hearty appeal?\nAn elegant way to seal the deal.\nSolving mazes, or reversing strings,\nSee recursion spreading its wings.\n\nEach instance has its memory stack,\nTo trace its way, front to back.\nAnd as these instances grow,\nA tower of memory, they bestow.\n\nWhen done right, the harmony is pure,\nRecursion’s charm, quite the lure.\nIt’s elegance, it’s profound autonomy,\nA jewel in the crown of algorithms' ceremony.\n\nIt's a dance, it's a play, eternal reprise,\nIn the theater of codes, where recursion lies.\nBehold the beauty, behold the excursion,\nIn the vast realm of code, that's the recursion."
 },
 "logprobs": null,
 "finish_reason": "stop"
 }
 ],
 "usage": {
 "prompt_tokens": 39,
 "completion_tokens": 282,
 "total_tokens": 321
 },
 "system_fingerprint": null
}

Esta chamada parece funcionar. Mas quando ativo as funções de IA do Discourse (por exemplo, “assistente de IA do compositor”) usando a mesma chave de API Open AI, recebo nenhuma resposta ou a mensagem de erro mostrada na primeira postagem deste tópico.

Existem outras possibilidades para depurar as chamadas da API Open AI?

Você atualizou para a versão mais recente? Movemos a configuração do LLM para uma área própria.

1 curtida

Obrigado pelo seu apoio. Começamos uma reconstrução hoje e agora as funções baseadas na API Open AI parecem funcionar.

Agora percebi um novo problema. Após a reconstrução, não consigo mais alterar o modelo open AI nas configurações de administrador. A lista parece estar vazia, mas o Discourse ainda usa minha última configuração “gpt-4o”.

image

Este é um problema já conhecido? Você acha que outra reconstrução pode corrigi-lo?

Desculpe, encontrei a razão do meu problema. Como você mencionou, os LLMs agora têm uma área separada nas configurações de administrador.

Após definir os LLMs da Open AI, agora posso selecionar os modelos para as diferentes funções de IA.

1 curtida

This topic was automatically closed 30 days after the last reply. New replies are no longer allowed.