Kosten und Funktionalität in KI-gestützten Foren ausbalancieren

Vielen Dank für Ihr durchdachtes Thema!

Ich verstehe, im Grunde ist mittelfristig ein Konzept von „Kontingenten“ erforderlich.

Wählen Sie LLM → Legen Sie ein Kontingent für die Gruppe fest (wie viele Token sind pro Tag erlaubt, da alles nach Token abgerechnet wird)

Dies ermöglicht es Ihnen, KI-Funktionen sicher für größere Gruppen zu öffnen, ohne sich Sorgen machen zu müssen, pleite zu gehen.

Ich denke, wir werden dorthin gelangen, aber es ist noch nicht ganz geplant.

Positiv ist jedoch, dass wir kürzlich viel Arbeit geleistet haben, um unsere LLM-Schnittstellen zu normalisieren. Dies wird daher in Zukunft viel praktischer und einfacher zu implementieren sein als bisher.

5 „Gefällt mir“