Ajouter {username} comme paramètre de modèle dans les invites de système de personnalités IA

C’est ma première contribution. Je m’excuse si j’ai fait quelques bêtises, et je suis profondément reconnaissant pour votre patience et vos conseils s’il existe une meilleure façon de procéder.

Pour ce que cela vaut, je suis un client Pro.

J’avais besoin d’une méthode robuste pour savoir quel utilisateur interagit avec l’agent IA. Voici ce que j’ai imaginé. Merci beaucoup pour le temps que vous prenez pour examiner cela, et pour vos conseils.

Ajouter {username} en tant que paramètre de modèle dans les invites système de la persona IA

J’ai soumis la PR #41446 ( FEATURE: Add {username} template param to BotContext - Pull Request #41446 - discourse/discourse - GitHub ) ajoutant {username} à BotContext::TEMPLATE_PARAMS.

Le cas d’utilisation : une persona agissant comme pont vers un service externe a besoin que l’identité de l’utilisateur actuel soit résolue côté serveur, et non déduite par le LLM à partir du texte du message. Pour l’instant, il n’existe pas de méthode propre pour cela. {participants} ne se remplit que pour les messages privés, et demander au LLM de parser le nom d’utilisateur à partir des métadonnées du sujet est fragile et présente une surface d’injection.

Le changement est mineur (une nouvelle méthode, une chaîne ajoutée à la liste blanche) et additif. Les invites existantes ne sont pas affectées sauf si elles contenaient déjà la chaîne littérale {username}.

Merci encore !

1 « J'aime »

Oh, j’ai aussi rempli le CLA. Je pense avoir couvert tous les aspects. Merci encore.