Ajuda para entender os modelos de linguagem do OpenRouter

Eu ia responder, mas acho que não deveria poder responder lá? (Ou talvez tenha sido outra coisa para a qual respondi que não deveria e, talvez, eu não tenha mais poderes especiais).

Continuando a discussão de Configurando modelos de linguagem OpenRouter:

Desculpe. Eu ainda não entendo, e sei muito mais sobre Discourse do que a maioria das pessoas para quem isso se destina (mas provavelmente sei menos sobre IA?). Esta é a primeira menção de “ferramentas XML neste tópico…”.

As ferramentas OpenRouter são ferramentas XML? Pessoas normais não se importam que XML se refira a alguns detalhes subjacentes de como a API funciona, mas estou curioso.

E “Ferramentas Nativas” se refere à configuração de chaves de API para Anthropic e OpenAI? Na página /admin/plugins/discourse-ai/ai-llms? E essas ferramentas XML, assim como as Ferramentas Nativas, permitem que você crie personas que usam alguns desses LLMs, certo?

2 curtidas

O Open Router tem alguns modelos com suporte nativo a ferramentas e alguns modelos que não têm suporte nativo a ferramentas. Isso é documentado em cada modelo.

Tentar fazer chamadas de ferramentas nativas para esses modelos não suportados fará com que a chamada falhe.

Felizmente, o Discourse implementa seu próprio sistema de ferramentas, então você acaba tendo acesso a recursos que um provedor de modelo não implementa nativamente.

2 curtidas

Vale também mencionar que as ferramentas afetam apenas o Discourse AI Bot atualmente. Para AI Helper, Resumir, Pesquisar e Automação, não usamos ferramentas, então você pode escolher um modelo com ou sem suporte e isso não fará diferença lá.

2 curtidas