# Opzioni per un provider AI alternativo?

**URL:** https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790
**Category:** Development
**Tags:** ai
**Created:** [14 Marzo 2024, 8:23pm UTC](https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790 "2024-03-14T20:23:25Z")
**Posts on this page:** 4
**Page:** 1

<div class="post-metadata">

### Author: ![jordan-violet](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jordan-violet/32/281428_2.png) [@jordan-violet](https://meta.discourse.org/u/jordan-violet)
#### Post date: [14 Marzo 2024, 8:23pm UTC](https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790/1 "2024-03-14T20:23:25Z")

</div>

@Falco @sam ci sono opzioni se vogliamo usare il nostro provider AI al di fuori di quelli disponibili nelle impostazioni? ad es. se stiamo ospitando il nostro, se stiamo usando un servizio come [mendable.ai](https://mendable.ai), ecc.

---

<div class="post-metadata">

### Author: ![Falco](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/falco/32/179432_2.png) [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [14 Marzo 2024, 8:26pm UTC](https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790/2 "2024-03-14T20:26:26Z")

</div>

Supportiamo sia le API [vLLM](https://github.com/vllm-project/vllm) che [TGI](https://github.com/huggingface/text-generation-inference) per l’inferenza LLM, inoltre qualsiasi API che imiti OpenAI dovrebbe funzionare impostando `ai openai gpt4 url` puntando ad essa.

---

<div class="post-metadata">

### Author: ![jordan-violet](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/jordan-violet/32/281428_2.png) [@jordan-violet](https://meta.discourse.org/u/jordan-violet)
#### Post date: [14 Marzo 2024, 8:47pm UTC](https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790/3 "2024-03-14T20:47:57Z")

</div>

Sembra che non sia _esattamente_ 1:1 per OpenAI, ma ci si avvicina molto:

> **[Mendable Chat API - Docs](https://docs.mendable.ai/mendable-api/chat)**
>
> Mendable API chat allow you to have a chat with the Mendable AI assistant.

---

<div class="post-metadata">

### Author: ![sam](https://sea3.discourse-cdn.com/meta/user_avatar/meta.discourse.org/sam/32/102149_2.png) [@sam](https://meta.discourse.org/u/sam)
#### Post date: [14 Marzo 2024, 10:11pm UTC](https://meta.discourse.org/t/options-for-using-an-alternative-ai-provider/299790/4 "2024-03-14T22:11:48Z")

</div>

Leggendo l’API, specialmente dato che dobbiamo chiamare `newConversation` e memorizzare lo stato, ci vorrebbero alcuni giorni di lavoro per implementare un endpoint dialect/API per discourse AI.

Totalmente fattibile da quello che posso dire, ma è un lavoro personalizzato. Possiamo farlo se desiderate sponsorizzare.

Personalmente non sono sicuro che questi animali personalizzati vinceranno a lungo termine sui modelli frontier, purtroppo per mendable potrebbero essere a solo una release di GPT-5 di distanza dall’essere piuttosto obsoleti.

Anche cose come GPT-4 / Claude Opus oggi, se affinate con cura, potrebbero probabilmente superare questo.

@Roman sta lavorando per permetterti di iniettare contesto esterno aggiuntivo tramite file in una persona.

Possiamo già fare cose piuttosto sorprendenti con una persona personalizzata oggi, potresti facilmente adattare l’helper di GitHub per essere specifico per SailPoint, ad esempio:

> **[Integrating SailPoint Identity with Algolia Search](https://meta.discourse.org/discourse-ai/ai-bot/shared-ai-conversations/hEMSaY1kNJBzMhf735a9Tg)**
>
> sam: Looking at GitHub - sailpoint-oss/developer.sailpoint.com: The codebase that makes up developer.sailpoint.com, including developer documentation. This codebase is open source and welcomes contributions. 
> Can you give me some tips on how to integrate sailpoint into algolia?
