GPT3-ähnliche Bots integrieren?

Entwickler
21

Ich habe mir das kurz angesehen, aufgrund meines historischen Engagements/Interesses an :robot:'s im Discourse-Bereich.

Die Autorisierung der API-Aufrufe an das webbasierte ChatGPT ist derzeit ziemlich kompliziert (und nervig, da man zum Beispiel einen Webbrowser nachahmen muss) und einige zwischenzeitliche Open-Source-API-Wrapper-Lösungen sind inzwischen fehlgeschlagen, da sie dies verschärft haben.

Ich vermute, dass sie vorerst aktiv versuchen, das Reverse-Engineering der offiziellen Website-API-Aufrufe zu erschweren[1], und es könnte sich lohnen, auf die offizielle API für ein vollständig konversationsfähiges ChatGPT zu warten, die sicherlich kommen wird, um diese Komplexität und jeglichen Missbrauch der Nutzungsbedingungen, den Sie riskieren könnten, zu vermeiden? Wenn man sich OpenAIs Discourse (:+1: ) ansieht, scheinen andere das auch zu denken.

Aber fragen wir den Bot direkt?:

image
image799×568 30.9 KB

Es gibt bereits eine offizielle OpenAI API, aber diese unterstützt keine fortlaufenden Konversationen auf so bequeme Weise (man muss anscheinend die gesamte Historie jedes Mal in einer context-Variablen senden! Das ist mir im Moment zu verschwenderisch (und letztendlich zu teuer), um mich damit zu befassen! :sweat_smile: ).

image
image798×274 16.8 KB

Hoffentlich werden sie irgendwann bald eine offizielle API mit einer einfachen Gesprächsreferenz veröffentlichen. Zweifellos wird ein Preis dafür anfallen! :sweat_smile:

  1. Ich vermute, das liegt teilweise daran, dass sie auch eine Moderations-API verwenden, die derzeit von den Bot-Aufrufen getrennt ist? ↩︎

5 „Gefällt mir“
22

@philip_rhoades oder sonst jemand hier – habt ihr einen Discourse-Bot mit GPT-3 implementiert?\n\nIch stelle mir Bots vor, um die Community-Aktivität anzukurbeln, die so konfiguriert werden können, dass sie auf unterschiedliche Weise auf Kommentare von Besuchern oder untereinander reagieren. Als Eingaben hättest du das Hauptforum, das Thema des Threads und den ersten Beitrag darin. Der Bot würde die API verwenden, um Text zu generieren und sicherzustellen, dass er sich ausreichend von den anderen Bots unterscheidet. Jeder würde einen anderen Aspekt des ursprünglichen Beitrags diskutieren. Dann würde er die menschliche Diskussion zulassen. Wenn niemand eine Woche lang auf einen Thread antwortet, kann ein Bot diesen Thread wiederbeleben, indem er erneut antwortet, diesmal auf einen der vorherigen Beiträge.\n\nDie Bots werden nicht wirklich auf externe Artikel verlinken können, aber das kommt noch, das kann ein anderer Prozess sein, um das zu tun.\n\nUm ethisch zu sein, müsste jeder Bot ein Profil haben, das besagt, dass es sich um einen Bot handelt, der von GPT-3 angetrieben wird.\n\nHat jemand Interesse, ein Discourse-Plugin dafür zu schreiben? Ich würde dafür von unserer Firma bezahlen. Wenn es um KI geht, ist dies ein Bereich, in dem wir es aus Angst vor Missbrauch vorziehen, Dinge NICHT Open Source zu machen (obwohl es für jemand anderen ziemlich trivial ist, es zu tun und Open Source zu machen).\n\nGibt es Discourse-Plugins, die die Erstellung von synthetischen Konten erleichtern, die Cron zum Posten verwenden? Wie funktionieren sie?

4 „Gefällt mir“
23

Ich wäre definitiv interessiert, würde aber eine Pause vorschlagen, wenn Sie einen konversationellen Bot wünschen, bis sie die vollständige offizielle konversationelle API bereitstellen (jeder Hack wird wahrscheinlich gegen die AGB verstoßen).

Wenn es Ihnen nichts ausmacht, eine einfache Ein- und Ausgabelösung zu haben, könnte die Arbeit definitiv bald beginnen. Fühlen Sie sich frei, mir eine PM zu senden.

4 „Gefällt mir“
24

Okay, ich möchte eigentlich nicht einmal ChatGPT. Nur GPT-3. Gibt es irgendetwas, das gegen die Nutzungsbedingungen verstößt, was ich vorgeschlagen habe… es wäre nicht interaktiv, sondern nur ein Beitrag pro paar Tage von jedem Bot. Es ist kein „Astroturfing“, da die Bots nur in unserem Forum sind und in ihren Profilen klar gekennzeichnet sind:

https://www.technologyreview.com/2020/10/08/1009845/a-gpt-3-bot-posted-comments-on-reddit-for-a-week-and-no-one-noticed/amp/

1 „Gefällt mir“
25

Um es klarzustellen: Sie können es ein wenig interaktiv gestalten, aber im Moment ist es ziemlich unhandlich.

Die aktuelle Open-AI-API für GPT3 wäre für diesen Anwendungsfall wahrscheinlich in Ordnung.

Ich bin mir nicht sicher, wie wir den Bot dazu bringen würden, zu prompten (vielleicht eine Art Job), aber lassen Sie uns darüber sprechen, definitiv interessiert, zögern Sie nicht, hier eine DM zu senden.

1 „Gefällt mir“
26

Moment mal, wie das oft passiert, wenn ich anfange zu schreiben, fällt mir etwas ein! Da wir nicht wollen, dass andere Forenbesitzer den Code in diesem Fall kopieren oder weiterverkaufen, können wir einfach einen Closed-Source-Dienst entwickeln, der Konten in Discourse erstellt und deren Profile ausfüllt und dann periodisch als diese Konten postet! Hat Discourse eine Art Whitelist für Konten, um zu verhindern, dass sie aufgrund der Tatsache, dass sie alle von derselben IP-Adresse stammen, oder so etwas, shadow-banned werden?

1 „Gefällt mir“
27

Schlagen Sie einen Bot vor, der sich auf externen Discourse-Instanzen (die Ihnen nicht gehören) registriert und sich als echter Benutzer ausgibt?

1 „Gefällt mir“
28

Hallo @merefield und @EGreg,

Ich bin ebenfalls an einer GPT-Integration über die KI-API interessiert.

Wäre es eine Idee, uns zusammenzutun und zu sehen, ob wir etwas Ähnliches für die Meta-Community schaffen können? Ich bin bereit, mich finanziell zu beteiligen.

1 „Gefällt mir“
29

Okay … schick mir eine E-Mail

greg

bei der Domain

qbix.com

3 „Gefällt mir“
30

Die Preise für GPT-3 können teuer sein, meine Community konnte mit einem Chat GPT-Bot in 15 Minuten Credits im Wert von 2,00 $ aufbrauchen.

1 „Gefällt mir“
31

Zur Information

Dies ist keine Empfehlung; ich weise nur auf eine Website im Zusammenhang mit Transformatoren, dem T in GPT (Generative Pre-trained Transformer), hin, die einen Blick wert ist. :slightly_smiling_face:

Obwohl ich die Konzepte von neuronalen Netzen, Transformatoren und GPT verstehe, habe ich persönlich aufgrund der hohen Kosten nicht die Ressourcen, sie weiter zu trainieren, verfolge sie aber. Außerdem bin ich mir dessen bewusst, was ich als einige ihrer Achillesfersen [1] betrachte. Das soll nicht heißen, dass ich sie nicht mag, ich finde nur, dass sie out-of-the-box nicht einsatzbereit sind, wie ich es brauche.

[1] Dr. Vaughan Pratts Qs to Evaluate Cyc von 1994, gestellt an ChatGPT (ref )

3 „Gefällt mir“
32

Ich habe Ihnen eine E-Mail geschickt, aber bisher keine Antwort erhalten?

33

Zur gefälligen Kenntnisnahme

Von OpenAI-Tutorials

Website-Fragen und Antworten mit Embeddings

Erfahren Sie, wie Sie eine KI erstellen, die Fragen zu Ihrer Website beantworten kann.

Dieses Tutorial führt Sie durch ein einfaches Beispiel zum Crawlen einer Website (in diesem Beispiel die OpenAI-Website), zum Umwandeln der gecrawlten Seiten in Embeddings mithilfe der Embeddings API und zum Erstellen einer einfachen Suchfunktion, die es einem Benutzer ermöglicht, Fragen zu den eingebetteten Informationen zu stellen. Dies soll ein Ausgangspunkt für anspruchsvollere Anwendungen sein, die benutzerdefinierte Wissensdatenbanken nutzen.

OpenAI hat ein Discourse-Forum!!!, das nicht so leicht zu finden ist.

Sie machen es einfach, die Discord-Seite zu finden, aber diese meide ich wie die Pest.

34

Besonders, wenn du meinen Beitrag :wink: nicht gelesen hast.

1 „Gefällt mir“
35

Hier ist eine großartige Implementierung eines GPT-Bots, der den gesamten Website-Kontext nutzen kann, der auf Supabase (Open Source) aufbaut:

Ich vermute, Discourse und Supabase wären hier eine großartige Kombination. Ein Plugin, das Foren-Embeddings mit dem Ansatz aus dem obigen Video durchführt und dann einen darauf basierenden Benutzer erstellt, wäre erstaunlich.

Ich wäre auf jeden Fall interessiert. Aber leider denke ich, wenn es nicht im Open-Source-Bereich angesiedelt ist, werden wir unsere Zeit und Mühe verschwenden, da das am besten gepflegte Plugin das Open-Source-Plugin sein wird. Und wenn Sie eine Closed-Source-Version erstellen und verwenden, bleiben Sie mit einer Wartungsbelastung zurück.

Wenn Sie beide bereit sind, sich finanziell zu beteiligen, bin ich in der Lage, dies zu realisieren. Und zwar bald, wenn gewünscht. Aber es müsste unter der Apache-2.0-Lizenz stehen.

Ich vermute auch, dass dies dem Unternehmen Discourse ernsthaft helfen würde, wenn ein solches Plugin ein offizielles Plugin sein könnte. Ist das etwas, an dem das Unternehmen Discourse interessiert wäre?

Ich könnte eine staatliche Fördermittelzusage von der Regierung meines Wohnortes erhalten, um die Erstellung zu unterstützen. Wenn Sie bereit sind, sich finanziell zu beteiligen, lassen Sie es mich wissen. Ich werde die Hosting-Infrastruktur gerne betreiben, und jeder, der sich anfangs finanziell an der Plugin-Erstellung beteiligt, kann einen erheblichen Rabatt auf die nahtlose gehostete Lösung erhalten, die Ihr Forum indiziert und intelligente GPT-Bots für Ihr Discourse erstellt.

3 „Gefällt mir“
38

Simon,

Ich habe versucht, auf die Discourse-E-Mail zu antworten, aber eine Servermeldung erhalten (die ich separat untersuchen werde), aber das ist, was ich gesagt habe:

„Ich habe dem Kerl eine Notiz geschickt, ob er mir bei meinem Anwendungsfall hier helfen könnte:

https://forum.phirho.org

– es wäre schön, wenn er helfen könnte. .

Phil.“

39

Das ist sehr interessant, danke fürs Teilen!

Hallo, es gibt gute Neuigkeiten von unserem Team hier bei Discourse.

Für den nächsten Release-Zyklus haben wir bei Discourse KI als eine unserer Prioritäten für neue Funktionen und Plugins gewählt. Das bedeutet, dass wir jetzt ein engagiertes Team haben, das an Funktionen wie der LLM-Integration arbeitet und diese bald hier auf Meta präsentieren wird.

18 „Gefällt mir“
40

Ausgezeichnete Neuigkeiten! – dann, wenn Sie sich einen persistenten Speicher für frühere Gespräche hinzufügen könnten. .

5 „Gefällt mir“
41

Das sind großartige Neuigkeiten! :slight_smile: Danke für die Info, ich möchte das Rad wirklich nicht neu erfinden, wenn ihr etwas Erstaunliches entwickeln werdet :slight_smile:.

Viele Grüße,
Simon

3 „Gefällt mir“
42

Das scheint eine kluge Entscheidung zu sein. Ich habe durch die Nutzung von ChatGPT und das Feedback von Benutzern ohne technisches Wissen schnell gelernt, dass sie mit dem Konzept des Prompt Engineering nicht vertraut sind. Daher möchte ich diese Ressource teilen:

Wenn Sie nach Personen suchen, die frühe Versionen testen und Feedback geben, nehmen Sie mich bitte auf und ich helfe Ihnen gerne, wenn ich verfügbar bin.

2 „Gefällt mir“