AI Summary Backfill gaspille des jetons à résumer les PMs

Résumé IA Backfill résume les MP ainsi que les sujets appropriés. Dans les MP, il n’y a pas de bouton de résumé, il n’y a donc aucun moyen de voir le résumé. Il faut soit ne pas résumer les MP, soit ajouter un bouton aux MP. Je vote pour ne pas résumer les MP.

Nous semblons avoir beaucoup plus de MP que de sujets appropriés, c’est donc une grande inefficacité.

EDIT : J’ai défini ai pm summarization allowed groups sur everyone. Cela affecte-t-il le backfilling ? Ou seulement qui est autorisé à appuyer sur le bouton ?

Comme vous l’avez constaté par vous-même, il existe un bouton si vous faites partie des groupes autorisés dans les paramètres.

Alors que nous prévoyons d’autoriser l’affichage des résumés courts dans la liste des MP, et d’utiliser les deux résumés pour aider notre future fonctionnalité de recherche IA, ceux-ci sont nécessaires pour plusieurs raisons.

Cela dit, nous pouvons introduire un paramètre pour ignorer les MP ici, de la même manière que nous l’avons fait pour les embeddings.

2 « J'aime »

Un dilemme très intéressant…. Je prédis que dans ma communauté, à l’avenir, la répartition sujet/MP sera de 50/50. Je comprends pourquoi pour certaines communautés, il serait très peu économique d’inclure les MP dans quoi que ce soit lié à l’IA, et pourquoi pour d’autres, ce serait inestimable. Peut-être serait-il idéal d’avoir une méthode par laquelle les administrateurs de discussion pourraient décider dès le départ s’il faut inclure ou non les MP ? Ainsi, une décision exécutive pourra être prise en fonction du type de communauté, car parfois l’IA n’a aucun rôle à jouer lorsqu’il s’agit de MP de questions/réponses de base, et d’autres fois, elle peut être essentielle si la communauté partage des informations consultables/précieuses via les MP.

Néanmoins, la recherche est la clé ici : votre type de communauté bénéficie-t-il de la génération d’embeddings pour les MP ou non ? En fin de compte, cela nécessite une décision ultime, je pense.

1 « J'aime »

Notre ratio est de 10 chefs de produit pour chaque sujet normal :

topic_type total_count
Messages privés 52130
Sujets normaux (réguliers) 5399

(Le code de l’Explorateur de données est gracieusement fourni par ChatGPT o1.)

Les sujets normaux utilisent souvent un peu plus de jetons d’entrée que les messages privés, ce qui atténue quelque peu le problème, mais tout de même.

2 « J'aime »