Je suis très heureux d’annoncer que nous disposons désormais d’un support intégré pour les modèles de décision.
Les modèles de décision ont été promus et développés pour la première fois par TypeSafe.ai et ont depuis été implémentés par de nombreux fournisseurs, y compris CloudFlare (clef), Open AI (decisions api) et bien d’autres.
Ils permettent de classer des textes et des images en répondant rapidement, précisément et à moindre coût à des questions arbitraires sur les entrées.
Auparavant, nous pouvions compter sur les modèles de langage pour ce comportement, mais le rapport coût/vitesse et la précision n’étaient pas aussi bons.
Nous avons ajouté un support direct dans Discourse AI :
Cette nouvelle intelligence peut être utilisée pour une très grande quantité de workflows, car elle permet de classifier des textes (et des images) à l’aide de votre propre classifieur conçu sur mesure.
Modération automatique - être notifié lorsque les discussions s’enveniment
Notifier des membres spécifiques de l’équipe lorsque certains sujets sont discutés
Balisage et catégorisation automatiques
Et bien plus encore
Profitez-en, et n’hésitez pas à partager les workflows intéressants que vous aurez imaginés.
Je trouve ça formidable pour les agents de tri des réponses ; je suis déjà en train de faire mes premiers tests pour voir comment ça se passe. Je comprends que ces nouveaux modèles destinés à la prise de décision sont très précis et rapides, et je suis ravi que nous puissions les utiliser dans Discourse.
Je me demande s’il existe des plans et/ou si c’est techniquement possible de les intégrer également aux agents courants, afin de développer des « Senior Helpers » qui classeraient d’abord avant de déléguer. Ou est-ce que cela n’a tout simplement aucun sens ?
Il est probable que je n’ai pas encore pleinement saisi leur meilleur cas d’utilisation réel, et peut-être pose-je une question déplacée.
Je pense qu’il existe un grand nombre d’utilisations ici. L’idée de les utiliser comme une passerelle pour trouver le bon agent ou sous-agent capable de répondre est assurément quelque chose que je souhaite explorer.
un graphique partagé par un membre, examiné selon notre méthode publique
Aujourd’hui, le LLM parent lit les descriptions des sous-agents et en choisit un via spawn_agent. La porte (gate) prendrait cette décision à sa place :
Un paramètre porte sur l’agent, pointant vers un modèle de décision.
Les choix sont les descriptions de sous-agents existantes, plus « répondre soi-même ». Rien de nouveau pour les administrateurs à rédiger.
Seuls les sous-agents accessibles par l’utilisateur courant sont proposés.
Au-delà d’un seuil de confiance, le sous-agent s’exécute directement. En dessous, le résultat est transmis au LLM parent comme indice, et c’est le LLM qui décide, comme il le fait actuellement.
Comme les modèles de décision classifient les images, « un membre a partagé un graphique » provient de l’image elle-même.
La même porte, formulée comme une question oui/non, pourrait aussi servir de garde-fou avant l’exécution du LLM.
Nous sommes une communauté éducative et nous ne fournissons ni signaux, ni objectifs de prix, ni conseils en investissement, donc « est-ce qu’on demande un signal de trading ? » → réponse fixe. Aujourd’hui, cette règle figure dans chaque invite, mais les modèles s’en écartent sous pression.
Si vous y parvenez, nous serions ravis d’essayer une version préliminaire sur notre forum.
