Isto é fantástico, mal posso esperar para experimentar!
Existem taxas a pagar, ou limites para o tamanho da comunidade antes que enviem muitas solicitações e as taxas precisem ser pagas para mantê-lo operacional?
Percebo que é um assunto delicado, mas os provedores de serviços de IA estão gravando as respostas e, se sim, há alguma informação sobre o que eles estão fazendo com os dados?
Há algo que você pode verificar em askym mas você provavelmente quer auto-hospedar ou tentar usar suas APIs para manter seus dados seguros por conta própria
É provável que haja cobranças de API no futuro para algum destes, ou uma política de uso justo se um grande fórum estiver enviando muitas solicitações?
Alguns módulos usam APIs pagas (como o chat gpt). Outros usam recursos de código aberto que você pode auto-hospedar. Não há cobrança para esses, exceto o poder computacional para executá-los (e talvez alguém para instalá-los e gerenciá-los).
Obrigado @pfaffman. Dei uma olhada e seria útil se pudéssemos iniciar uma discussão sobre isso, pois não está claro quantas solicitações cada um provavelmente enviará, e imagino que as pessoas que os usam queiram saber quanto provavelmente custará se eles o fornecerem para seus usuários.
Entendo que isso é complicado, pois alguns deles têm várias opções para escolher. Eu apenas não vi ninguém falando sobre isso.
O ChatGPT 3 custa atualmente US$ 0,002 por 1000 tokens ou aproximadamente 750 palavras, de acordo com o Google.
Alguém calculou quantas chamadas de API um usuário médio em seu site está fazendo por meio desses plugins?
Com uma multidão de 10/50 pessoas usando a API, você provavelmente gasta US$ 5/10 por mês (ou muito menos), mas isso depende totalmente do uso específico.
Não acho que haja muita margem para adivinhação. Existem muitas funções diferentes de IA. É impossível adivinhar se os usuários descobrirão que podem usá-la e passar o dia todo brincando com ela ou não. Você precisaria experimentá-la e acompanhar de perto o quanto ela foi usada e estar preparado para desativá-la (ou limitar a um conjunto menor de usuários) se você estourasse o orçamento.
Acho que você paga adiantado pelo chatgpt, então poderia simplesmente deixá-lo zerar sem se preocupar em estourar o orçamento.
Alguns dos módulos podem ser auto-hospedados, então não custariam nada além da hospedagem da VM.
Obrigado. Não é o ideal, pois estou tentando enviar custos para uma proposta de financiamento, mas não parece haver uma resposta específica ainda, pois as ferramentas são muito novas.
Nesse caso, pela minha experiência limitada vendo e revisando subsídios para a NSF, peça o máximo de dinheiro que você acha que pode conseguir.
Você pode fazer alguns cálculos rápidos, então começaria com
(Você pode querer obter seus preços do ChatGPT para a proposta )
Então, se uma coisa de 750 palavras custa US$ 0,0002, quantas delas você precisa para fazer o que quer que esteja propondo? A menos que você esteja propondo “ligar o chatGPT em um fórum e ver o que acontece”, então você deve ter alguma ideia do que espera. Mas se você está apenas fazendo algo exploratório, então você descobre quanto as diretrizes dizem que você pode gastar em recursos de computação (por exemplo, orçamento total menos pessoal e despesas gerais) e usa esse número.