[quote=“Neil_Evans2, post:45, topic:259599”]De backtrace laat zien dat Discourse mogelijk HuggingFace probeert te gebruiken - zijn dit de enige modellen die momenteel worden ondersteund?
[/quote]
Ja, de ondersteunde modellen zijn de modellen die in de OP worden vermeld.
We zullen uiteindelijk ondersteuning toevoegen voor het classificeren met LLM’s voor mensen bij wie de kosten geen probleem zijn.
[quote=“dylanb, post:46, topic:259599”]maar het lijkt erop dat het me meer zou kosten om het in te stellen dan mijn daadwerkelijke Discourse hosting.
[/quote]
Welnu, de hele functie is gebouwd rond het classificeren van berichten met ML-modellen, dus ja, je hebt ergens nodig om die te draaien.
En aangezien Discourse kan draaien op de allergoedkoopste VPS die er is, is het draaien van ML-modellen inderdaad duurder. Als je de functie op de goedkoopst mogelijke manier wilt hebben, is het goed te doen om deze op een server met slechts een handvol CPU-cores te draaien, zolang je maar genoeg RAM hebt om de modellen te laden.