Comment sélectionnez-vous les personas ? et qu’est-ce que les personas par rapport aux commandes de chat activées par bot IA ?
Plus précisément, comment faites-vous cela ?
1 « J'aime »
Les personas sont la meilleure façon que @sam a trouvée pour nous permettre de prendre en charge plus de commandes et de meilleures commandes. Au lieu d’un « bot unique » qui essaie de tout faire mais qui finit par oublier et échouer en raison des limitations bien connues des LLM, choisir la persona appropriée au début vous offre une bien meilleure expérience.
2 « J'aime »
Ah ! C’est génial. Je commençais moi-même mes discussions en tant que PM.
Cela explique aussi un bug. Si vous démarrez un PM et l’envoyez à un GPT, cela masque le sujet, vous ne pouvez donc pas envoyer le message. Personne qui utilisait le plugin de manière sensée ne ferait cela.
Pourquoi je n’ai jamais utilisé l’icône pour démarrer une discussion, je ne peux pas l’expliquer. J’ai même dit à un utilisateur qu’il pouvait démarrer une discussion de cette façon, mais je n’ai jamais pensé à le faire moi-même !?
Ma prochaine question est de savoir à quel point il est facile ou sera facile de créer de nouvelles personas. (Je vais ensuite regarder le code.)
Par exemple, j’ai créé un modèle (qui fonctionne avec le plugin de chatbot IA) comme ceci :
@AIBot
Vous êtes un tuteur amical et serviable. Votre travail consiste à expliquer un concept à l'utilisateur de manière claire et directe, à donner à l'utilisateur une analogie et un exemple du concept, et à vérifier la compréhension. bla bla bla
. . .
J’aimerais pouvoir en faire la persona.
EDIT : À première vue, il semble que seuls quelques fichiers doivent être modifiés pour ajouter une persona. La persona elle-même, puis entry_point.rb doit l’inclure et il doit y avoir un paramètre pour l’activer. Oh ! Ou peut-être pourrait-il y avoir une persona personnalisée qui prendrait l’invite comme paramètre du site. Je suppose que c’est une solution à plus long terme. Serait-il judicieux que j’essaie de faire une PR pour cela, ou devrais-je simplement créer ma propre version pour l’instant ?
3 « J'aime »
Nous prévoyons de rendre les invites personnalisables à l’avenir, mais il est encore trop tôt pour cela.
Je commencerais par un fork, dans cet état de « prévisualisation » du plugin, nous bougeons beaucoup et ne pouvons pas nous engager à maintenir la structure du code interne stable.
Si vous obtenez quelque chose qui, selon vous, est généralement utile et que vous pouvez le mettre au même niveau que les autres personas, vous pouvez ouvrir un sujet dans Feature pour discuter d’une PR.
6 « J'aime »
@pfaffman nous réfléchissons à tous les différents types de personas que nous pouvons avoir pour l’IA Bot. Jusqu’à présent, nous avons réduit la liste aux suivants, mais nous expérimentons toujours…
- Assistant de forum : Bot IA polyvalent capable d’effectuer diverses tâches. Peut rechercher dans votre instance Discourse actuelle et utiliser ces informations pour construire des réponses
- par ex. - Quels sont les meilleurs articles sur l’IA ?
- Assistant SQL : Bot IA spécialisé dans l’aide à la création de requêtes SQL sur cette instance Discourse (connaît votre schéma de base de données actuel)
- par ex. - Écrivez-moi une requête pour trouver tous les messages de l’IA Bot par un client/utilisateur spécifique
- Artiste : Bot IA spécialisé dans la génération d’images
- par ex. - Dessine-moi un chat
- Explorateur de paramètres : Bot IA spécialisé dans l’aide à l’exploration des paramètres du site Discourse. (connaît le code source de Discourse)
- par ex. - Comment activer Discourse AI sur mon site Discourse ?
- Chercheur : Bot IA avec accès à Google pour rechercher des informations pour vous
- par ex. - Combien de pattes a un dinosaure ?
Y a-t-il d’autres personas que vous aimeriez voir pour l’IA Bot ? Trouveriez-vous de la valeur à développer votre propre persona « personnalisé » (si vous n’aimiez pas ceux publiés ci-dessus) ?
1 « J'aime »
Mon idée, sur laquelle je n’ai fait aucun travail, est d’avoir une catégorie pour les personas où l’OP du sujet serait l’invite. J’imagine des invites personnalisées comme celle-ci qui créeront une invite à donner à un générateur d’images IA : ChatGPT Prompt Genius Engineering | MetricsMule, ou une invite de Now is the time for grimoires - by Ethan Mollick qui commence par
Je pense que les invites/personas personnalisés seront une fonctionnalité utile pour de nombreuses communautés et rendront trivial l’ajout de nouvelles invites au cœur (oh, mais cela pourrait aussi rendre plus difficile pour le cœur de mettre à jour ces invites car il serait difficile de savoir si elles ont été modifiées intentionnellement. . .)
Ou peut-être plutôt qu’un sujet, il suffirait d’avoir un paramètre qui inclurait un tableau d’invites, ce qui pourrait être une meilleure façon de les gérer que les sujets (ce qui fonctionne pour les réponses prédéfinies).
3 « J'aime »
Qu’est-ce que cette persona développe par rapport à l’intégration de Discourse, autre que l’utilisation de l’interface utilisateur de Discourse comme façade pour le LLM externe ?
Pour la plupart de nos personas, nous envisageons de faire du RAG, où nous pouvons créer quelque chose qui ne sera pas non plus donné par un LLM prêt à l’emploi.
3 « J'aime »
Oh. Euh. . .
Oui. C’est ce que je veux.
Mon cas d’utilisation est de créer des devoirs (comme le tuteur utile) qui guident les gens à travers une activité générée par l’IA. Discourse est mon marteau, donc je veux que tout soit dans Discourse. (J’ai passé environ 12 heures ce week-end à trouver et à installer un raccourcisseur d’URL/générateur de code QR - je pense que j’aurais pu le faire plus rapidement en tant que plugin Discourse !).
En regardant ce que mes étudiants et moi avons payé pour les appels API, il semble beaucoup moins cher d’utiliser Discourse pour utiliser GPT4 que de payer 20 $/mois pour utiliser leur interface.
Si quelqu’un d’autre écoute, je pense qu’il veut dire ceci : https://research.ibm.com/blog/retrieval-augmented-generation-RAG.
Oh, désolé. Oui, je suis loin de cela.
2 « J'aime »
Puis-je ajouter « tuteur socratique » à cette liste ? J’expérimente une application web qui exécute un ensemble d’invites structurées sur la dissertation d’un étudiant pour lui fournir des commentaires. J’aimerais pouvoir avoir un sujet caché qui fournit du matériel source pour un dialogue d’apprentissage basé sur RAG
Quelque chose comme : Vous êtes un enseignant sage et gentil qui veut aider les étudiants dans leur travail sans jamais donner de réponse directe. Vous voulez donner aux étudiants suffisamment d’informations pour résoudre leurs propres problèmes. Les documents sources dans [cette catégorie ou ces articles ou ce sujet unique] sont exacts et fournissent toutes les informations dont vous avez besoin pour répondre aux requêtes spécifiques des étudiants. N’utilisez que les informations provenant de ces sources pour répondre aux questions.
2 « J'aime »
Nous voulons certainement ajouter la prise en charge des « personas personnalisés » où vous pouvez choisir :
- Température
- Message système
- LLM
- Commandes
Nous devons créer une interface utilisateur pour cela, donc cela pourrait prendre un peu de temps à construire, cela dit, je vois cela comme une fonctionnalité très puissante et utile.
À l’extrême, les utilisateurs finaux devraient également être autorisés à créer des personas personnalisés, V0 serait probablement une fonctionnalité d’administrateur.
La vision à long terme serait que vous soyez également autorisé à définir des commandes personnalisées afin de pouvoir interagir avec les systèmes que vous avez (pensez-y comme à des webhooks, etc., et effectuez des appels API vers un système personnalisé pour fournir du contexte au bot)
Tout cela n’est encore que dans mon château mental pour l’instant, mais nous y arriverons… donc
Phase 0
- Les administrateurs peuvent définir des personas personnalisés et choisir des commandes/température/message système/llm
Phase 1
- Les groupes autorisés peuvent définir un « persona personnel » - Par exemple : je veux que mon persona créatif soit plus créatif / plus concis / etc… comme les instructions personnalisées d’OpenAI, mais plus puissantes
Phase 2
- Autoriser les commandes personnalisées, afin que vous puissiez vous intégrer à des systèmes tiers
8 « J'aime »
Tout cela semble intéressant.
Les phases 0 et 1 seraient cependant beaucoup plus puissantes si l’idée d’une persona était complétée par le concept d’une banque de mémoire. C’est-à-dire que vous pouvez écrire une petite esquisse de personnage pour décrire comment le bot se comportera, mais vous pouvez également utiliser un sujet, une catégorie de sujet, une catégorie ou un ensemble de balises pour définir ce que le bot sait.
Dans les forums où certaines personnes en savent beaucoup ou peuvent faire autorité sur un sujet, et où d’autres personnes posent des questions ou ont des discussions moins éclairées, cela fait une grande différence. Vous ne voulez pas que le bot rebatte de vieilles discussions confuses sur un sujet… vous voulez pouvoir le limiter à un ensemble de faits validés.
L’éditeur de persona est opérationnel !
Je vais clore ceci, n’hésitez pas à ouvrir de nouvelles demandes de fonctionnalités pour l’éditeur de persona.
4 « J'aime »