Debugging von Discourse's KI-Funktionen: Wenn OpenAI antwortet, aber das Forum nicht

[Thorsten]

Vielen Dank für die Entwicklung von KI-Funktionen für Discourse! Ich denke, dies wird in Zukunft ein wichtiges Feature sein.

Ich habe versucht, das KI-Plugin auf unserem selbst gehosteten Forum (tff-forum.de) zu verwenden. Nachdem ich den Open AI API-Schlüssel im Admin-Panel hinzugefügt und das Modell „gpt-3.5-turbo-16k“ für die verschiedenen Funktionen aktiviert hatte, sehe ich die zusätzlichen KI-Schaltflächen an verschiedenen Stellen des Forums.

Wenn ich auf eine der Schaltflächen klicke, erhalte ich entweder keine Antwort oder die Fehlermeldung, die auf dem folgenden Screenshot zu sehen ist.

Ich kann die API-Anfragen im Open AI Usage Dashboard sehen, aber es scheint, dass Discourse die Antwort nicht erhält.

Ich habe auch die anderen Modelle (gpt-35, gpt-4 usw.) ausprobiert. Das Ergebnis ist immer dasselbe, dass die Funktionen keine Antwort liefern.

Das Discourse-Fehlerprotokoll zeigt keine Probleme bezüglich der KI-Funktionen.

Können Sie bitte zusätzliche Informationen zur Fehlersuche oder Analyse des Problems bereitstellen?

[Falco]

Bitte probieren Sie die folgende Anweisung auf Ihrem Server aus.

@Falco

Was ist die Ausgabe von:

curl https://api.openai.com/v1/chat/completions   -H "Content-Type: application/json"   -H "Authorization: Bearer $OPENAI_API_KEY"   -d '{
    "model": "gpt-4",
    "messages": [
      {
        "role": "system",
        "content": "You are a poetic assistant, skilled in explaining complex programming concepts with creative flair."
      },
      {
        "role": "user",
        "content": "Compose a poem that explains the concept of recursion in programming."
      }
    ]
  }'

auf Ihrem Discourse-Server? Vergessen Sie nicht, Ihren API-Schlüssel in den Befehl einzufügen.

[Thorsten]

Vielen Dank für das Skript zur Überprüfung der Open AI API-Funktionalität.

Wir haben das Skript auf unserem Server gestartet und die folgende Antwort von gpt erhalten:

...
 {
 "index": 0,
 "message": {
 "role": "assistant",
 "content": "In the heart of the coded rhyme,\nBehold, there’s a concept sublime.\nIt's recursion, an art, an ancient tradition,\nOf a function calling itself, that's the mission.\n\nA function so proud, will not heed the call,\nOf any other, it stands tall.\nIt opts to invoke itself anew,\nThus, weaving patterns that intrigue view.\n\nWhen it starts, you might suppose,\nWhere it ends, no one knows?\nBut fear, not the infinite loop,\nFor base case is our saving hoop.\n\nUpon reaching the base so divinely small,\nThe function at last does forestall.\nSo, it stops and does not bind,\nReturning what it's meant to find.\n\nWho would make such hearty appeal?\nAn elegant way to seal the deal.\nSolving mazes, or reversing strings,\nSee recursion spreading its wings.\n\nEach instance has its memory stack,\nTo trace its way, front to back.\nAnd as these instances grow,\nA tower of memory, they bestow.\n\nWhen done right, the harmony is pure,\nRecursion’s charm, quite the lure.\nIt’s elegance, it’s profound autonomy,\nA jewel in the crown of algorithms' ceremony.\n\nIt's a dance, it's a play, eternal reprise,\nIn the theater of codes, where recursion lies.\nBehold the beauty, behold the excursion,\nIn the vast realm of code, that's the recursion."
 },
 "logprobs": null,
 "finish_reason": "stop"
 }
 ],
 "usage": {
 "prompt_tokens": 39,
 "completion_tokens": 282,
 "total_tokens": 321
 },
 "system_fingerprint": null
}

Dieser Aufruf scheint zu funktionieren. Aber wenn ich die Discourse AI-Funktionen (z. B. „composer ai helper“) mit demselben Open AI API-Schlüssel aktiviere, erhalte ich entweder keine Antwort oder die Fehlermeldung, die im ersten Beitrag dieses Threads gezeigt wird.

Gibt es andere Möglichkeiten, die Open AI API-Aufrufe zu debuggen?

[sam (Sam Saffron)]

Haben Sie auf das Neueste aktualisiert? Wir haben die LLM-Konfiguration in einen eigenen Bereich verschoben.

[Thorsten]

Vielen Dank für Ihre Unterstützung. Wir haben heute mit einem Rebuild begonnen und jetzt scheinen die Funktionen, die auf der Open AI API basieren, zu funktionieren.

Jetzt habe ich ein neues Problem festgestellt. Nach dem Rebuild kann ich das Open AI-Modell in den Admin-Einstellungen nicht mehr ändern. Die Liste scheint leer zu sein, aber Discourse verwendet immer noch meine letzte Einstellung “gpt-4o”.

Ist dies ein bereits bekanntes Problem? Glauben Sie, dass ein weiterer Rebuild es beheben könnte?

[Thorsten]

Entschuldigung, ich habe den Grund für mein Problem gefunden. Wie Sie erwähnt haben, haben die LLMs jetzt einen separaten Bereich in den Admin-Einstellungen.

Nachdem ich die Open AI LLMs definiert habe, kann ich nun die Modelle für die verschiedenen KI-Funktionen auswählen.