Ayuda para entender los modelos de lenguaje OpenRouter

Iba a responder, pero creo que no se me permite responder allí. (O tal vez fue otra cosa a la que respondí que no debía y, tal vez, ya no tengo poderes especiales).

Continuando la discusión de Configurar modelos de lenguaje de OpenRouter:

Lo siento. Todavía no entiendo, y sé mucho más sobre Discourse que la mayoría de las personas para las que está esto (pero probablemente sé menos sobre IA). Esta es la primera mención de “herramientas XML en este tema”.

¿Las herramientas de OpenRouter son herramientas XML? A la gente normal no le importa que XML se refiera a algunos detalles subyacentes de cómo funciona la API, pero tengo curiosidad.

¿Y “Herramientas nativas” se refiere a la configuración de claves API para Anthropic y OpenAI? ¿En la página /admin/plugins/discourse-ai/ai-llms? ¿Y estas herramientas XML, al igual que las Herramientas Nativas, te permiten crear personas que utilizan algunos de estos LLM, verdad?

2 Me gusta

Open Router tiene algunos modelos con soporte nativo para herramientas y otros que carecen de él. Está documentado en cada modelo.

Intentar realizar llamadas de herramientas nativas a estos modelos no compatibles provocará un fallo en la llamada.

Afortunadamente, Discourse implementa su propio sistema de herramientas, por lo que terminas teniendo acceso a funciones que un proveedor de modelos no implementa de forma nativa.

2 Me gusta

También vale la pena mencionar que las herramientas solo afectan actualmente al Bot de IA de Discourse. Para Ayudante de IA, Resumir, Buscar y Automatización, no usamos herramientas, por lo que puedes elegir un modelo con o sin soporte y no importará allí.

2 Me gusta