La première raison était en fait principalement que je ne savais pas vraiment quelles fonctionnalités Discourse AI pouvait offrir. J’en ai vu certaines sur Meta, mais je ne savais pas vraiment autre chose.
Mais cette page répond maintenant à ma question
Si je ne l’avais pas vue, je ne saurais pas ce qu’elle peut faire.
C’est peut-être le cas pour beaucoup d’autres personnes aussi, mais je ne sais pas.
La simple mention de « l’IA » rebute la plupart des gens de notre communauté, et polarise les autres. Dans notre cas, payer de l’argent à de grandes entreprises qui font passer les données massives au niveau supérieur avec des niveaux de consommation d’énergie et de surveillance mondiale insensés… va à l’encontre de toutes nos valeurs.
L’open source et l’auto-hébergement pourraient atténuer cela, mais encore une fois… Les principales fonctionnalités pour lesquelles nous l’utiliserions sont une meilleure recherche et de meilleures suggestions. Et avons-nous vraiment besoin de nous fier à « l’IA » pour cela ? N’y a-t-il pas des améliorations dans les bases de données de contenu et les algorithmes de recherche et de suggestion qui fonctionnent localement pour le même coût et la même consommation d’énergie, sans devenir un acteur actif du grand jeu de l’IA ?
Je pourrais utiliser l’IA si elle était uniquement utilisée comme outil de « relecture » intégré, par exemple. Ou peut-être même comme outil de traduction.
Rien ne m’empêche d’utiliser Discourse AI ; en fait, je pense que c’est maintenant l’une des parties les plus fantastiques de l’application entière.
Cependant, comme je suis éducateur et chercheur/ingénieur en IA, j’aimerais offrir ma modeste perspective sur cette question, car je travaille en étroite collaboration avec des personnes extérieures à cette “bulle de l’IA” proverbiale. D’après mon expérience, les gens hésitent à utiliser/mettre en œuvre l’IA pour trois raisons principales :
Ils ne peuvent pas gérer les hallucinations notoires des LLM ;
Ils ne trouvent tout simplement pas de cas d’utilisation adéquat pour justifier leur implication ;
Ils ont généralement une mauvaise compréhension de ses capacités et sont déçus.
En réalité, tous ces dilemmes peuvent être atténués par une ingénierie de prompt décente associée à une éducation sur le sujet, de sorte qu’il ne s’agit en aucun cas d’un défaut de la part de Discourse. Peut-être, cependant, si l’entreprise proposait un cours intensif “L’IA pour les nuls” spécifique au plugin Discourse AI, alors le taux d’adoption et le confort augmenteraient tous deux. L’IA fait beaucoup parler d’elle maintenant, donc beaucoup de gens veulent l’utiliser même s’ils ne savent pas comment ni pourquoi.
Néanmoins, mon intuition me dit que cet ensemble de fonctionnalités sera un moteur de la popularité de Discourse dans un avenir proche, car il est tout simplement ingénieux et si finement intégré au système. Vraiment beau travail !
Je trouve cette formulation assez étrange - et je la note non pas comme une critique, mais parce qu’elle fait écho au titre du fil de discussion : « Qu’est-ce qui vous empêche d’essayer Discourse AI ? »
Dans les deux cas, on a l’impression qu’il y a une présomption que l’IA est évidemment une chose bonne et précieuse, et que d’une manière ou d’une autre, quelqu’un ne le voit pas.
Mais je vois les choses différemment : l’« IA » d’aujourd’hui est une bulle de technologies fascinantes, très attrayantes pour ceux qui aiment les nouveautés pour elles-mêmes, et potentiellement utiles ici et là - mais en aucun cas intrinsèquement précieuses en soi.
La question doit porter sur les avantages - ce qui améliorera les choses, dans ce cas, pour les membres du forum ou peut-être pour les administrateurs du forum.
Ce qui m’amène à
Ou pour le dire autrement, le manque de fiabilité flagrant des offres actuelles. Bien qu’elles aident parfois, en résumant ou en suggérant, elles se trompent trop souvent. Un résumé peu fiable ? Une analyse de sentiment peu fiable ? Cela ne peut qu’empirer l’expérience !
J’ai un peu de sympathie pour quelqu’un qui est employé pour promouvoir l’IA, ou pour l’intégrer dans un produit - c’est la nature de l’emploi, parfois les rôles sont eux-mêmes malavisés.
Mais je ne vois vraiment pas la présomption que c’est une grande chose qui aidera tous les forums. Certains forums, peut-être. Dites-nous où est censée se trouver la valeur, et incluez les coûts de cette valeur livrée de manière peu fiable.
Mon propos est que l’IA peut améliorer de très nombreuses choses et, d’après mon expérience, certains de mes clients souhaitent améliorer leur entreprise ou leurs opérations d’une manière ou d’une autre, mais ne savent pas précisément comment le faire. Je ne pense pas du tout que tout le monde devrait essayer d’utiliser l’IA, car ce serait simplement tomber dans le piège de l’engouement actuel.
Certainement pas intrinsèquement précieuse, ce que je n’ai pas sous-entendu. Comme pour la plupart des technologies, elle peut être surutilisée et sous-performer, ou simplement carrément mal utilisée.
Je n’ai pas encore fait l’expérience de ce « manque de fiabilité ». Peut-être que cela dépend de ce que vous essayez d’accomplir ? Les tâches très générales et complexes peuvent encore conduire à des résultats peu fiables, c’est vrai. Encore une fois, une connaissance adéquate de l’ingénierie des prompts et des applications de cette technologie est indispensable pour atténuer cela — donc mon propos reste le même.
J’apprécie votre sympathie, cependant, je n’en ai pas besoin . Je suis travailleur indépendant, sans besoin d’essayer de « promouvoir » l’IA pour des personnes qui n’en ont pas besoin, et il est en effet assez présomptueux de votre part de présumer que quelqu’un ou son travail est malavisé simplement en raison d’une opinion largement infondée sur un sujet qui vous semble étranger, d’après la façon dont vous en parlez.
J’ai développé des systèmes d’IA qui détectent et segmentent automatiquement les tumeurs cérébrales et fournissent des analyses des risques de traitement. Je ne pense pas que les patients qui bénéficient de telles avancées conviendraient que ce rôle est « malavisé ». Certains d’entre nous font de la recherche sur l’IA pour le bénéfice de l’humanité et pas seulement pour gagner rapidement de l’argent.
Encore une fois, je n’ai pas présumé que cela aiderait tous les forums et je pense plutôt qu’il serait peut-être stupide pour les administrateurs de l’adopter « juste parce que » sans aucune connaissance du domaine et sans objectif final en tête.
Note annexe :
J’encourage humblement que vous soyez un peu moins discriminatoire et un peu plus informé dans vos futures réponses sur la question de l’IA, ou au moins que vous ne sortiez pas les réponses de quelqu’un d’autre de leur contexte, puis que vous les accusiez d’être malavisées et que vous essayiez d’offrir vos sympathies
EDIT :
J’ai oublié d’ajouter que Discourse ajoutant plus d’options de personnalisation (par exemple, la capacité de bien ingénierer le prompt du résumé de sujet) atténuerait de nombreux risques. Ils vont déjà dans cette direction via les personas et la capacité de choisir les modèles à utiliser, etc.
Mes excuses, j’ai ruminé sur ce fil de discussion depuis son début, et j’ai utilisé votre contribution comme point de départ. Je n’ai rien de spécifique ou de personnel dans mes observations.
Pour moi, utiliser l’IA dans un discours, comme @Saif souhaite le savoir, j’aurais besoin de connaître la proposition de valeur. Actuellement, mon forum fonctionne bien et les coûts sont maîtrisés. Pour ajouter quelque chose qui a un coût monétaire, j’aurais besoin de connaître le bénéfice. Ce n’est pas que quelque chose m’empêche d’essayer l’IA.
J’ai désactivé Akismet et je teste Discourse AI Spam and Persona en interne, mon LLM est Google Gemini Flash 2.0
Ma question est : apprendra-t-il avec les interactions et l’apprentissage approfondi grâce aux commentaires humains ? car seule la version pro permet de mettre en cache les données.
Je l’utilise, mais je surveille les coûts de près. Ma plus grande préoccupation est l’utilisation incontrôlée des jetons, du moins jusqu’à ce que je puisse exécuter les choses assez longtemps pour avoir une idée de mon utilisation moyenne de jetons. La possibilité de fixer des limites de coûts est bonne, mais je ne me sentirai pas personnellement à l’aise tant que je ne saurai pas quelle est l’utilisation moyenne de la communauté, et cela prend du temps.
Les problèmes de confiance des utilisateurs sont énormes. Peu importe les messages que je prépare ou ce que je dis en tant qu’administrateur du site, il y a une perception inébranlable que les LLM utilisent le contenu généré par les utilisateurs pour l’entraînement et que toute utilisation par le système Discourse signifie “vendre” des données utilisateur sans “permission”. C’est un problème qui, selon mon expérience, est systémique chez de nombreux commentateurs et impossible à éradiquer, car les gens “savent” ce que les entreprises d’IA “font réellement”. Permettre le triage basé sur l’IA sur un forum et dire que vous le faites signifie potentiellement faire face à un déluge de plaintes du type “JE NE CONSENS PAS À CE QUE VOUS ENVOYIEZ MES DONNÉES À UNE SOCIÉTÉ DE TECHBRO IA POUR QU’ILS GAGNENT DE L’ARGENT AVEC MES MOTS !”. Tout le monde ne s’inquiète pas de ce genre de choses, mais ceux qui s’en inquiètent sont furieux tout en étant totalement désintéressés par la discussion. Je n’ai pas de bonne réponse ici.
Je suis quelque peu mal à l’aise à placer l’état de la détection de spam de mon forum sur la façon dont une douzaine de modèles de différentes entreprises se sentent à un moment donné. Soyons honnêtes ici : la détection de spam par IA, le triage par IA et toutes les autres fonctionnalités d’IA consistent essentiellement à dire “Hé, faisons-en le problème de l’IA” et à essayer ensuite de codifier ce que nous voulons qu’elle fasse via l’ingénierie de prompt. Cela fonctionne, mais le processus est agaçamment non déterministe. Vous devez essentiellement espérer que les choses continuent de fonctionner comme elles fonctionnent. Je n’aime pas ça. Je n’aime pas ça du tout, et cela me rend anxieux. J’aime que mes outils soient correctement déterministes. Les LLM sont le polaire opposé de déterministe, et nous dépendons d’une partie de la fonctionnalité du forum de ce qu’OpenAI et al décident de nous lancer.
Cela dit, j’utilise à la fois l’anti-spam par IA et le triage de forum par IA. C’est utile. Mais j’essaie de rester conscient du fait que ces solutions doivent être continuellement surveillées pour leur efficacité.
Qui paie les coûts de calcul associés au plugin ?
La génération de jetons n’est pas gratuite, et la location d’un GPU dans le cloud coûte environ 250 $/mois pour le plan le moins cher (NVIDIA T4 de Google Cloud).
Je pense que la plupart des gens utilisent un plan payant avec l’un des plus grands fournisseurs de services d’IA (il y a une liste de modèles pris en charge ici dans la documentation).
Malheureusement, je ne connais aucune option abordable pour les auto-hébergeurs - tout ce qui est basé sur GPU que je connais est dans la fourchette de prix que vous avez mentionnée, et je soupçonne que l’inférence basée sur CPU sera trop lente, même sur des machines plus puissantes.
Discourse AI auto-hébergé vous permet de vous connecter à différents modèles commerciaux via API. Je constate que mes dépenses pour le triage IA, le filtrage anti-spam IA et quelques résumés nocturnes IA s’élèvent à environ 0,03 $/mois avec Gemini Flash 2.0.
Je pense que nous avons une compréhension différente de « l’IA auto-hébergée » ici. Pour moi, cela implique de se connecter à un modèle/service qui s’exécute localement. Ce que vous décrivez est possible, mais en réalité, la partie locale n’est qu’un proxy, et les données quitteront votre serveur/seront transférées au fournisseur d’API. Pour beaucoup de gens, cela conviendra, mais pour moi/notre communauté, ce n’est pas une option.