Qu'apporte l'IA aux conversations entre humains ?

Communauté
1

Continuant la discussion de Discourse Version 3.2 :

Étant donné que l’accent pour la prochaine version de Discourse est annoncé sur l’IA, j’aimerais profiter de cette occasion pour remettre en question ce choix. Après tout, Discourse est conçu pour soutenir une « discussion réfléchie et des connexions significatives ».

Étant donné que le domaine de l’IA est principalement dominé par d’énormes entreprises aux poches profondes, et étant donné que la formation de l’IA consomme de grandes quantités d’eau, je me demande sincèrement pourquoi cette fonctionnalité est importante pour Discourse, la communauté Discourse et le monde en général. Je peux comprendre la phrase « construire un logiciel de forum pour la prochaine décennie », mais je ne suis pas sûr de vouloir vivre et converser avec l’IA plutôt qu’avec des humains — surtout que les humains semblent nécessiter beaucoup moins d’eau au fil du temps pour des conversations bien meilleures. :wink:

Le domaine de l’IA est plein de mensonges pour attirer les investisseurs. Il semble que Discourse AI ait été introduit à la demande de clients — probablement certaines organisations gérant d’énormes instances publiques et ayant à traiter des tonnes de déchets. Bien sûr, ce n’est pas pour tout le monde, et probablement approprié si vous avez des millions d’utilisateurs et que vous devez gérer cela en y consacrant plus de puissance…

J’apprécie cette clause de non-responsabilité. Mais qu’en est-il du consentement ? Beaucoup de gens préféreraient ne pas alimenter leurs publications dans la formation de l’IA, surtout s’ils sont dans des communautés confidentielles ou des groupes restreints. Il y a une histoire croissante de grandes entreprises s’appropriant du contenu pour la formation de l’IA sans égard aux lois sur le droit d’auteur ni au consentement. Est-ce vraiment une bonne idée de leur fournir plus de contenu de haute qualité — et de payer pour cela ?

S’il y avait une possibilité de ne pas consentir à une telle acquisition de données personnelles — et cela peut être une demande légitime en vertu du droit européen RGPD —, cela ne rendrait-il pas caduc l’objectif même d’avoir une IA qui surveille un forum ?

J’espère vraiment que cela restera facultatif pour toujours, et qu’un consentement approprié sera affiché pour cela. Le sera-t-il ?

Eh bien, j’ai créé ce sujet distinct de la discussion sur le plugin car je pense qu’il mérite une prise de position plus large et que je ne voulais pas dérailler la discussion originale…

Voici une liste de titres alternatifs « suggérés par l’IA » :

  • L’éthique de l’enrichissement par l’IA dans Discourse :thinking: non, ce n’est pas un « enrichissement » dont je parle, mais plutôt une préoccupation pour la dégradation de la conversation humaine…
  • Discourse et l’IA : une proposition controversée :disapproval: eh bien, nonooo… il ne s’agit pas de controverse, mais de conversations humaines !
  • L’IA peut-elle devenir l’avenir des discussions Discourse ? :face_exhaling: vraiment… comme… des bots qui se parlent ?
  • Intégration de l’IA dans Discourse : menace ou innovation ? :triumph: bot, tu n’es pas prêt pour la subtilité du langage.
6 « J'aime »
2

Les suggestions de titres de l’IA peuvent être un peu trop enthousiastes. :slight_smile: Je pense qu’elle a clairement lu trop de magazines glacés pendant son temps libre. Bien que je pense que si je pouvais la calmer un peu, elle pourrait être très utile pour diviser les sujets (ce qui, je le concède, est plus utile pour les modérateurs que pour tout le monde).

J’ai commencé assez sceptique quant à l’utilisation de l’IA pour des raisons similaires. Je m’intéresse plus à ce que les gens ont à dire qu’à la façon dont une IA peut l’améliorer. À l’heure actuelle (et les choses évoluent très vite), il y a aussi un certain ton qu’elle génère et qui, je pense, obscurcit/homogénéise la « voix » de l’écrivain.

Cependant, il y a eu quelques outils d’IA de Discourse qui, je pense, se sont avérés assez géniaux. J’adore les sujets connexes. :raised_hands: Cela a vraiment eu un impact sur la façon dont je trouve et m’engage avec différents sujets. En tant que lecteur assidu de forums, cela a été une mine d’or. Je l’ai utilisé sur plusieurs forums maintenant, et les tunnels de contenu connecté dans lesquels je me suis perdu ont été incroyables. C’est aussi très bien pour trouver des réponses et relier des sujets.

Bert, le bot IA, a également été brillant. Surtout maintenant qu’il a les personas SQL Helper et Site Setting. Je pense que ceux-ci sont plus orientés vers l’administration (et peut-être mon travail :slight_smile:), mais il a été un vrai atout :trophy: (et je pense que nous sommes peut-être même amis :slight_smile:)

Je pense que ce qui m’a convaincu, c’est à quel point il a été utile d’utiliser les outils basés sur l’IA pour aider aux tâches quotidiennes. Je ne pense toujours pas que je voudrais un filtre IA sur les contributions elles-mêmes, mais avoir des assistants « intelligents » m’a certainement facilité la vie et m’a permis de me concentrer davantage sur les choses que j’aime faire.

4 « J'aime »
3

Bien que nous ayons utilisé le mot « focus » là-bas, à mon avis plus pour des raisons historiques, ce sont les équipes internes que nous avons créées pour travailler dans différents domaines de l’écosystème Discourse.

Nous avons une équipe axée sur l’IA depuis mars, dont je suis le responsable technique. Nous avons eu un cycle très expérimental pendant Discourse 3.1, nous revenons donc pour le cycle 3.2 afin de peaufiner les fonctionnalités pour lesquelles nous avons reçu de bons retours de nos utilisateurs.

L’idée est de tout maintenir sous DiscourseAI, ce qui protège ceux qui n’utilisent pas le plugin de tout bug introduit par celui-ci, et profite à tous ceux qui utilisent Discourse car nous créons et exerçons l’extensibilité du logiciel.

(citation nécessaire)

:rofl:

Je pense que vous serez heureux d’apprendre que pour ce cycle, nous avons passé beaucoup de temps à rendre tous les modules compatibles avec les modèles open source, de sorte que même les fonctionnalités les plus puissantes peuvent être exécutées sur un GPU que l’on trouve dans un PC de gamer.

C’est un point très important pour moi, que nous ne créerons pas de fonctionnalités entièrement dépendantes de tiers, et je suis très satisfait des progrès que nous avons réalisés ici.

C’est vrai, pourquoi voudriez-vous une modération IA pour une instance entre amis ? Mais cela peut être un facteur décisif pour une instance où un modérateur solitaire essaie de gérer une communauté surdimensionnée avec une petite équipe.

Discourse à grande échelle est quelque chose qui nous tient également à cœur, sinon nous laissons d’énormes pans de la communication en ligne aux jardins clos, et vous ne voulez pas de cela.

Rien ne change ici : ce que vous publiez dans une instance Discourse est soumis aux règles de cette instance spécifique. Si ladite instance imprime vos publications et les envoie sous forme de cartes postales à des grands-mères inconscientes, elle devra peut-être le préciser dans ses conditions. Idem pour l’IA.

Pour le plugin IA, la plupart du flux « partager avec l’IA » est initié par l’utilisateur. Vous pouvez demander à l’IA de relire, de traduire, etc. Vous pouvez demander à l’IA de résumer. Pendant ce temps, les actions en masse, comme le calcul des embeddings qui alimentent les sujets liés sémantiquement et la recherche sémantique, sont, par défaut, calculées à l’aide de modèles OpenSource qui peuvent être hébergés sur les mêmes machines où vous exécutez Discourse et en toute sécurité par des tiers.

Et cela a toujours été mon plan sur ce projet. Il s’agit de construire des outils pour faciliter la conversation des gens et réduire les corvées. Pas de parler à des machines.

6 « J'aime »