Оценка затрат на использование LLM для Discourse AI

Документация Управление сайтом
, ,
3

Недавно мы поделились следующей информацией с клиентом, который спрашивал об использовании поиска на базе ИИ в Meta и о том, сколько это нам стоило:

В прошлом месяце мы выполнили 1104 запроса в Meta

  • Стоимость с использованием GPT-4o-mini составила бы 0,25 доллара США
  • Использование Haiku обошлось бы в 0,53 доллара США
  • Gemini Flash обошлась бы в 0,06 доллара США

Нам необходимо обращать внимание на request tokens (токены запроса), которых было около 85 868, и response tokens (токены ответа), которых было около 408 417 от LLM.

3 лайка