J’ai essayé d’intégrer le résumé dans un flux de travail et j’ai découvert quelques points :
Il n’y a aucune raison de ne pas avoir de résumé dès le premier message, car le résumé évoluera au fur et à mesure que le sujet s’enrichira. Bien sûr, ces actualisations sont limitées par les paramètres.
Lorsque vous travaillez sur un sujet, le résumé est positionné en haut de la page, mais l’utilisateur sera toujours envoyé en bas (dernier message, dernier message lu). Ainsi, invariablement, le résumé ne sera jamais lu par ces utilisateurs. C’est une fonctionnalité vraiment intéressante, mais je soupçonne qu’elle ne sera jamais vue car l’utilisateur ne fera jamais / n’aura aucune raison de remonter jusqu’en haut pour voir ce que dit le résumé, même s’il est utile. Le résumé pourrait-il être positionné dans la colonne de droite sous la table des matières / la ligne de date ? Ainsi, il serait toujours visible ?
Sauf le coût et le fait d’avoir trop d’informations en double en même temps qui prennent de la place ?
Un résumé n’apporte-t-il pas le plus de valeur une fois que les choses ont vraiment démarré et que vous avez au moins plusieurs messages ?
Dans tous les cas, je suppose que vous pouvez simplement définir vos seuils comme vous le souhaitez ici, et que vous n’avez pas besoin de mon intervention ?
Êtes-vous sûr que les lecteurs existants prendront la peine de lire le résumé ? Je note que le résumé est probablement plus précieux pour les nouveaux lecteurs qui verront le résumé en premier et pourront l’utiliser comme guide pour lire plus loin ?
C’est une bonne idée, à condition que la largeur de la présentation soit suffisante pour rendre la lecture confortable ? Cela pourrait être un défi ?
Ma solution expérimentale consisterait à exploiter le plugin Layouts et à créer un widget compatible qui pourrait apparaître à droite ou à gauche d’un sujet (en effet, si nous ajoutons la prise en charge du haut, nous pouvons également le placer là, à l’emplacement d’origine !).
Notez qu’il existe d’autres moyens de gérer cela :
ajouter un bouton “déplacer vers le haut” (il existe un composant de thème). Vous pourriez même le modifier pour inclure une étiquette disant “aller au résumé” ?
Je l’ajouterai de toute façon à la feuille de route, mais faites-moi savoir ce que vous pensez de ce qui précède.
D’accord sur l’aspect coût, mais si cela devait être utilisé comme « extrait alternatif », un résumé devrait être généré. Je ne suis pas sûr d’avoir réussi à le faire fonctionner en mettant à jour les paramètres. Peut-être ai-je manqué quelque chose, je vais y retourner pour regarder.
Très bon point… Je suppose que le temps nous le dira. Mais si les utilisateurs commencent à s’habituer au résumé, je pense qu’avec le temps, ils y jetteront un coup d’œil rapide. En fait, si certains utilisateurs travaillent sur un certain nombre de sujets, je pense que c’est un bon moyen de se souvenir rapidement de ce qui s’est passé. Peut-être qu’à l’avenir, un utilisateur pourrait cliquer pour générer un résumé de ce qui s’est passé depuis sa dernière visite dans un sujet particulier ? (Encore une fois, le coût le permettant pour l’appel à l’API)
J’aime cette idée, oui. Mieux que le bouton pour aller en haut, car il faut ensuite revenir à l’endroit où l’on était avant (qui n’est peut-être pas le dernier message).
Sauf que je viens d’avoir un résumé qui contenait les détails d’un message interne « Whisper ». Y a-t-il une chance que ces messages soient exclus de ce qui est envoyé à OpenAI ?
Ne résumer que les publications des utilisateurs normaux (en ignorant les « actions du personnel » (comme « Sujet ouvert ») et les publications murmurées)
Permettre l’ingénierie de prompts via les paramètres de locale ai_topic_summary.prompt.* sur Admin → Personnaliser → Texte
Supprimer le paramètre de site désormais redondant
Rendre les liens vers openai dans les paramètres cliquables (merci @MarcP)
Faire de la sélection de modèle une liste déroulante plus agréable
Merci pour cela.
J’ai cependant une question : excluez-vous tous les messages d’administration ? Est-ce que cela signifie qu’il est de bonne pratique pour un utilisateur administrateur qui publie d’avoir 2 comptes séparés, l’un en tant qu’administrateur et l’autre pour publier et interagir avec la communauté ? Sur mon site, je publie souvent sur des sujets et j’aimerais que cela soit inclus dans le résumé (je suis administrateur du site).
Les publications « Admin », telles que « Sujet fermé », « Sujet ouvert », etc. Ce sont en fait des publications dans le flux de publications, croyez-le ou non.
Pas des publications régulières publiées par des utilisateurs qui se trouvent être des modérateurs ou des administrateurs.
Merci. J’ai essayé d’installer et de démarrer ce plugin, mais les tentatives de laisser un commentaire sur certains articles renvoient une erreur HTTP 500. Dans production.log, je vois le message :
StandardError (La longueur de contexte maximale de ce modèle est de 4097 jetons, cependant vous avez demandé 15682 jetons (15482 dans votre invite ; 200 pour la complétion). Veuillez réduire votre invite ; ou la longueur de la complétion.)
Assez, donc… vous devez réduire la quantité que vous résumez à l’aide des paramètres.
Je ne pense pas qu’il s’agisse d’un bug, vous êtes simplement trop gourmand
Vous devez ajuster les paramètres pour qu’ils correspondent à votre configuration. Il y a une limite de publication et une limite de caractères que vous pouvez contrôler. Un token correspond généralement à 4 caractères.
Il est possible que les paramètres par défaut soient un peu trop généreux… mais ils sont définis pour approximer la limite de tokens, donc c’est un peu étrange.
Pouvez-vous s’il vous plaît partager ces paramètres ? :
@merefield question rapide sur le modèle linguistique que vous utilisez pour cela. Pourquoi n’avez-vous pas décidé d’activer gpt-3.5-turbo ?
Nous avons testé nous-mêmes l’utilisation de gpt-3.5 pour les résumés de transcription d’e-mails et deโทรศัพท์ et il fait très bon travail. Le message e-mail / la transcription elle-même est placée dans le contenu utilisateur.
Pour la transcription deโทรศัพท์, par exemple, nous ajoutons ce qui suit dans le contenu ‘system’
Identifiez si cette transcription est une conversation téléphonique ou si l’appelant laisse un message vocal.
Si c’est une conversation téléphonique, alors vous devez fournir un résumé de la conversation téléphonique, puis créer les sections suivantes avec des éléments à puces
Accords conclus
Questions soulevées
Incohérences / préoccupations possibles
Score de sentiment : (pour chaque participant)
Revue du chef d’équipe : (Veuillez signaler si cet appel doit être revu par un chef d’équipe)
S’il s’agit d’un message vocal, vous devez fournir un titre ‘Message vocal laissé [à]’ et sur une nouvelle ligne résumer le message vocal en une phrase.
Parce qu’il était optimisé pour le chat et qu’à l’époque, Open AI recommandait toujours Davinci 003 pour la résumé. Je serai heureux de revoir cela lorsque les éléments GPT-4 seront plus largement disponibles.
Notez que ChatGPT et Davinci-003 sont de la même génération, donc je ne suis pas sûr qu’il y ait une grande différence entre eux en termes de résultats ?
Avez-vous analysé la possibilité de résumer le contenu d’un lien et de proposer le message avant qu’il ne soit envoyé ?
J’ai essayé de discuter avec le chatbot ChatGPT pour ce genre de tâches, mais il devenait fou et j’ai dû arrêter d’essayer ainsi.
Le flux de travail pourrait être complété à la fin par quelque chose comme
Contenu généré par ChatGPT
Je vois beaucoup de forums avec des problèmes autour des personnes qui utilisent ChatGPT dans leurs réponses littérales (donc beaucoup de gens sont presque des robots).
Voici une chose : deux fois la semaine dernière, j’ai lu une sorte de contribution, pour découvrir à la fin qu’elle provenait d’un LLM. Les deux fois, je me suis senti mal – j’avais investi pour comprendre le sens de quelque chose en pensant qu’il y avait quelqu’un derrière les mots.
Je recommanderais donc (fortement !) que la divulgation soit placée avant le texte.
Merci pour votre réponse. Je comprends que la fonctionnalité pourrait être incluse dans le futur.
Mais j’ai juste demandé à ChatGPT le contenu d’un lien et il a répondu (donc ça marche !) et tout le monde pourrait utiliser cette façon en mentionnant puis en modifiant/supprimant des messages.
