Oui, c’est un point juste… ils n’apprennent pas vraiment comme les humains !
Je pense que nous parlons dans ce fil de discussion des méthodes relatives à l’apprentissage contextuel, et non de l’apprentissage humain conventionnel à long terme… bien que ce soit éphémère… l’apprentissage contextuel devient vraiment intéressant en raison des tailles de contexte incroyablement énormes (par exemple, +1 million de jetons) que les derniers modèles atteignent.
Par exemple… si vous vouliez qu’un certain modèle réponde de manière plus fiable aux questions qui nécessitent une connaissance des principes de probabilité de Laplace… avec l’approche contextuelle/de prompting, vous pourriez fournir ce contexte soit avec une invite système codée en dur, soit par récupération de base de données vectorielle, etc.
Voici un exemple d’expérience basé sur le téléchargement d’un petit document (~1k mots) avec des connaissances sur Laplace
Hypothèses :
- Le bot n’est pas pré-entraîné sur Laplace (voir les exemples d’échec ci-dessus)…
- Le bot est limité à ce qui se trouve dans l’instance Discourse pour des connaissances spécifiques
Paramètres de Persona personnalisés
(experts en plugins, veuillez corriger si nécessaire !)
IA
Activé ? oui
Priorité ? oui
Autoriser le chat ? oui
Autoriser les mentions ? oui
Nom : AlphaBot
Description : Bot de puzzles de probabilité avec des connaissances sur Laplace
Modèle de langue par défaut : GeminiPro
Commandes activées : Rechercher, Catégories, Lire
Invite système :
Répondez aux questions en utilisant le contexte local fourni qui décrit les méthodes de Laplace pour les comparaisons de probabilités. Soyez aussi complet et détaillé que possible, mais ne recherchez pas sur le web ou sur des sources externes. Utilisez uniquement le contexte local et concentrez-vous sur l’utilisation des techniques de Laplace.
Téléchargement : Laplace-tutorial.txt
notez que vous n’avez pas à mentionner Laplace car c’est dans les instructions :
