Kann ich andere AWS Bedrock Modellanbieter als benutzerdefinierte LLMs hinzufügen?

Unterstützung
1

Ich verwende derzeit AWS Bedrock mit den Anthropic-Anbietern, und es funktioniert großartig, aber ich frage mich, ob es eine Möglichkeit gibt, auch die anderen von AWS angebotenen Anbieter wie Titan und Llama hinzuzufügen. Ich sehe, dass es eine benutzerdefinierte LLM-Option gibt, aber ich bin mir nicht sicher, was ich in einige der Textfelder eingeben soll, wie API-Schlüssel und URL, da diese für AWS Bedrock etwas anders sind.

Wenn mir jemand diesbezüglich Klarheit verschaffen kann, wäre das großartig!

1 „Gefällt mir“
2

Wir arbeiten daran, unsere LLM-Konfiguration flexibel genug zu gestalten, dass sie jedes bestehende Modell unterstützt, sofern es mit einer der unterstützten APIs kompatibel ist. Wir haben bereits vor einigen Wochen einen Teil dieser Bemühungen abgeschlossen, um die Verwendung jeder OpenAI-kompatiblen API zu ermöglichen, aber wir sind noch nicht so weit, dass dies auch mit anderen APIs wie Bedrock funktioniert.

2 „Gefällt mir“