Je comprends le point de vue, mais cela me laisse un sentiment mitigé. Ici, l’idée serait que les contributions de l’IA sont indésirables parce qu’elles ne seraient pas « assez bonnes ». Je ne suis même pas sûr que ce soit vrai. L’IA produit peut-être déjà un meilleur texte que certains humains.
L’idée réelle n’est-elle pas que les forums sont « pour les humains », et que les machines sont indésirables dans l’ensemble ? Oui, cela pourrait être considéré comme une forme de discrimination, mais nous parlons de machines, pas de personnes.
La véritable idée n’est-elle pas d’avoir une discussion significative ? Si certaines parties de cette discussion sont générées par l’IA, bien écrites et bien documentées, cela rend-elle la discussion moins significative ?
Considérez ce forum même, par exemple. S’il y avait une IA aidant à résoudre des problèmes avec des réponses aussi bonnes, sinon meilleures, que celles que nous écrivons nous-mêmes, est-ce une mauvaise chose ?
Les moteurs d’IA n’ont peut-être pas créé le badge en réglisse, ni ne le demandent.
Moi aussi, avec le recul. Et je pense que cela dépendra beaucoup du but du forum : un groupe de soutien mutuel est un cas, un site de support produit un autre.
Mais, en tant que modérateurs, nous devons déjà faire face à des individus un peu égarés, qui ne restent pas tout à fait sur le sujet du fil de discussion, ou même sur le sujet du forum.
Oui, probablement. Mais cela pourrait revenir à la question « qu’est-ce qu’une discussion ? ». Peut-on avoir une « discussion significative » avec une IA ? Il semble que certaines personnes aient déjà passé du temps à « discuter » avec ChatGPT.
Et si une autre IA répondait aux premières ? Et s’ils avaient tous une « discussion significative » ensemble ? Quelque chose où même la majorité des participants sont des IA serait-il encore une « discussion » ?
Je ne sais pas, il semble que les questions et réponses complexes dépendent du point de vue. Il y a aussi une différence entre avoir une IA interne injectant des informations et commencer à avoir des IA externes comme participants. Pour moi, le véritable point du message de @Ed_S et au-dessus portait sur la partie « indiscernable ».
Bons points, mais j’y réfléchis depuis probablement 12 ans. Je pense que l’appel à la réglementation de la part de certains acteurs de l’industrie et des créateurs est au mieux duplicitaires alors qu’ils inondent la technologie avec ces gadgets clairement irrésistibles. Je n’achète pas leur discours, alors laissez-moi avancer au lieu de m’extasier devant les nouveaux « jouets » scintillants, car ce n’est certainement pas Noël et tout ce qui brille n’est pas de l’or.
Quiconque a des yeux peut voir maintenant que dans un cybermonde où l’IA peut générer du texte et des images comme des humains, cela signifie que les régulateurs se jetteront sur une identité numérique universelle pour l’ensemble d’Internet, et soudainement ces jouets seront peints au plomb.
Il y a environ 30 ans, lorsque le spam par e-mail et l’usurpation/hameçonnage commençaient à devenir des nuisances, il y a eu un appel similaire pour un identifiant universel. Cela a échoué à l’époque, je soupçonne que cela échouera encore, car la technologie pour le faire fonctionner de manière fiable n’existe toujours pas et pourrait ne jamais exister.
Je ne me souviens de rien de tel. Ma perception est que le monde a « seulement » commencé à devenir fou après le 11 septembre. Avant cela, je ne me souviens pas qu’il y ait eu une pression pour plus de surveillance et d’identification de tout et de tous en utilisant n’importe quelle excuse possible. Ce que vous dites sent la rationalisation, mais j’ai hâte d’être prouvé tort. Même si les choses étaient mauvaises avant, ce n’est pas une excuse pour les rendre mauvaises aujourd’hui ou demain.
Je ne me souviens pas de beaucoup de détails à ce stade. C’était un comité initialement mis en place par des personnes de la liste de diffusion des gestionnaires de listes, avec quelques membres qui faisaient partie de certains comités de l’ANSI et qui étaient disposés à le parrainer pour examen dans la structure du comité de l’ANSI. Je me souviens qu’il y avait deux ou trois d’entre nous des États-Unis, un de Suisse, un d’Allemagne, quelques autres, une douzaine au total.
Nous avons proposé un système « d’identification et de crédit universels » qui aurait facturé aux FAI quelque chose comme 0,00001 centime pour chaque e-mail envoyé. Il n’a pas été adopté par la structure du comité de l’ANSI, les experts en sécurité ont déclaré que le système d’identification n’était pas sécurisé, d’autres ont déclaré que l’administration de la structure de crédit centrale serait trop coûteuse et un sujet de discorde politique, d’autres encore ont déclaré qu’il pourrait être utilisé par les gouvernements pour suivre les e-mails privés, etc.
Pour information, un ami à moi, expert en cryptographie, était d’accord avec le consensus selon lequel le système d’identification n’était pas sécurisé, mais il était d’avis qu’aucun système cryptographique n’est sécurisé, compte tenu de suffisamment de puissance de calcul.
Je veux dire, vous aviez des milliers de ce que je décrirais comme des excentriques (si cela s’applique à vous, calmez-vous… je collectionne les Tortues Ninja) lorsque cette « IA relationnelle » a perdu une partie de sa « personnalité » et a cessé d’imiter les émotions, qui perdaient la tête sur Twitter et Reddit parce que leur pseudo-contact avait été torpillé de leur vie. Et ce, après quoi, environ deux mois ? Interprétez cela comme vous voulez.
Bien que je ne pense pas que la plupart des gens utilisent les forums comme simulateur d’amitié personnelle, bien que je puisse me tromper, et que toutes ces personnes se soient tournées vers des outils de remplacement de forums pour s’en plaindre…
Mais surtout, ce dont les développeurs et administrateurs de forums ont besoin, ce sont des API, et celles-ci sont rarement, voire jamais, gratuites : même si vous exécutez votre propre LLM local, vous devez payer des coûts d’infrastructure considérablement plus élevés.
Le Wall Street Journal rapporte que la FTC lance une enquête pour déterminer si ChatGPT nuit aux personnes en publiant de fausses informations à leur sujet.
Je ne suis pas sûr que ce lien fonctionne, il pourrait être derrière leur paywall
Des dessins animés générés par l’IA existent également (comme ai_peter) où vous donnez des sujets et une IA écrit un script.
et bien plus encore !
L’IA peut halluciner des réponses, ce qui rend son utilisation risquée, vérifiez toujours les faits. Vous devriez être très prudent, de mauvaises réponses peuvent causer des problèmes.
La plupart des administrateurs de forums ont vu de nombreux messages erronés de la part d’auteurs humains. Les messages générés par l’IA seront-ils plus difficiles à gérer ?
Comment l’accord récemment annoncé entre les principaux développeurs d’IA pour exiger des choses comme le filigrane du contenu généré par l’IA affectera-t-il les LLM intégrés ? Discourse peut-il apposer un filigrane au contenu généré par ChatGPT ?
Cela fait sûrement référence aux images, aux vidéos et potentiellement aux sons, mais pas au texte ? Comment marquer le texte au filigrane sans compromettre le contenu ?
C’est là le défi, il n’y a peut-être pas de moyen pratique de marquer à l’eau le texte généré par l’IA. Ce qui signifie que nous nous demanderons toujours : « Est-ce réel, ou est-ce de l’IA ? »
