Suporte para o1-preview & o1-mini

https://openai.com/index/introducing-openai-o1-preview/

https://openai.com/index/openai-o1-mini-advancing-cost-efficient-reasoning/

Tentando contatar o modelo retornou este erro: { "error": { "message": "Valor não suportado: 'messages[0].role' não suporta 'system' com este modelo.", "type": "invalid_request_error", "param": "messages[0].role", "code": "unsupported_value" } }

Parece que esses novos modelos não suportam uma função de sistema. O o1-mini é 80% mais barato que o modelo principal, pode ser útil para tarefas complexas.

1 curtida

Além disso, sem suporte para ferramentas ou streaming; veremos se conseguimos hackear algo enquanto a OpenAI trabalha para adicionar os recursos que faltam.

7 curtidas

Isso não deveria ser acessível via API, a menos que no nível 5. É beta.

1 curtida

Correto, atualmente requer o nível 5, mas isso é apenas temporário, eventualmente todos terão acesso.

1 curtida

Dos e-mails da OpenAI que recebi ontem;

Estes modelos não estão disponíveis na API para sua conta enquanto estivermos neste curto período beta. (Desenvolvedores no nível de uso 5 terão acesso, mas expandiremos o acesso a mais níveis.) Estamos continuando a melhorar o1 e entraremos em contato assim que ele estiver disponível para você na API.

1 curtida

Tenho que admitir que o 4o tem sido uma salvação para mim. Com isso sendo um adicional de 80% em cima do atual, funcionará muito melhor do que pagar £18,99 por mês ao ChatGPT.

Eu o uso manualmente para adicionar scripts de CCS ao fórum e criar meus próprios designs. É incrível o que ele pode fazer.

Mas também é perigoso para os desenvolvedores que ele possa superar o trabalho deles.

Embora eu entenda o motivo de adicionar ou streaming, muitos podem não entender. Pode ser benéfico para os presentes ter uma pequena explicação de por que o streaming foi observado. :slightly_smiling_face:

1 curtida

Podemos esperar que este modelo permaneça bastante caro mesmo bem depois do lançamento completo da API, então esperamos que possamos implementar alguns limites de uso do usuário para personas de IA :face_holding_back_tears::heart:

O Discourse usa o recurso de streaming (imprimindo a resposta assim que ela chega, semelhante à interface web do ChatGPT) para mostrar a resposta em tempo real. Os modelos o1 não suportam isso, então o Discourse precisa alterar sua lógica para funcionar com modelos não-streaming.

4 curtidas

Um uso interessante para o o1 pode ser como uma ferramenta personalizada, para conversar com GPT-4 e modelos mais baratos, e então ter o modelo entrando em contato com o o1 em casos onde fica claro que ele precisa de algum raciocínio personalizado.

2 curtidas

Implementei algo muito básico aqui:

Suporta o uso geral do LLM em uma persona sem ferramentas.

Nossa reunião de equipe é na próxima semana, então quero minimizar as mudanças.

4 curtidas