GPT-4o mini est arrivé - sera-t-il supporté ?

Le titre dit tout : je me demandais simplement s’il y aurait un plan pour prendre en charge ce modèle et, si oui, y a-t-il une estimation approximative de quand il pourrait être implémenté ?

C’est une amélioration considérable pour quiconque utilise actuellement GPT 3.5 Turbo, car il est plus intelligent et plus de 60 % moins cher.

Plus d’informations sur ce modèle sur TechCrunch

1 « J'aime »

https://meta.discourse.org/t/discourse-chatbot/256652/899?u=aaron_walsh

4 « J'aime »

Il fonctionne déjà avec le plugin Discourse AI, il vous suffit de vous assurer d’utiliser gpt-4o-mini comme nom dans votre configuration LLM :

10 « J'aime »

C’est embarrassant. Merci patron :grin::robot:
Peut-être que je n’ai pas assez joué avec - note prise

2 « J'aime »

Nous verrons à quel point il est plus intelligent ou meilleur d’halluciner :smirking_face: Je me souviens du buzz qu’il y a eu quand GPT-4o est arrivé et maintenant il y a beaucoup de plaintes.

Mais c’est bien d’essayer.

Un peu hors sujet, mais je ne comprends pas totalement pourquoi nous avons deux endroits pour indiquer le modèle et l’API, les paramètres et la section LLM ?

1 « J'aime »

C’est un bon point. Je soupçonne que les problèmes d’hallucination n’ont pas pu s’améliorer avec ce modèle, cependant j’ai réussi à les atténuer en grande partie en plaçant un tas de contraintes dans l’invite système – bien que cela ait ses propres inconvénients, bien sûr.

Cela n’a de sens que pour la configuration manuelle du LLM. Je me pose donc la même question :sweat_smile:

L’idée est que vous configurez d’abord votre LLM, puis que vous choisissez ce LLM pour la fonctionnalité Discourse AI de votre choix, c’est pourquoi ils sont actuellement à deux endroits distincts.

Nous avons eu des discussions internes concernant la possibilité de regrouper ce processus en un seul endroit, c’est-à-dire qu’au moment de la configuration du LLM, vous pouvez également l’activer pour les fonctionnalités d’IA spécifiques, comme nous l’avons fait pour le bot IA.