Привет! Рад помочь ![]()
На сегодняшний день вот стоимость от самой низкой к самой высокой за 1 миллион токенов:
Gemini 1.5 Flash
Ввод: $0.075
Вывод: $0.30
Claude 3.5 Haiku
Ввод: $0.80
Вывод: $4.00
Claude 3.5 Sonnet
Ввод: $3.00
Вывод: $15.00
GPT-4o
Ввод: $2.50
Вывод: $10.00
DeepSeek-R1
Ввод: $0.55
Вывод: $2.19
Здесь цены на токены не учитывают кэширование промптов, которое может значительно снизить затраты. Кроме того, сообщество ИИ последовательно сообщает, что Claude 3.5 Sonnet генерирует код лучше, чем модели OpenAI, хотя, по моему мнению, их качество часто колеблется.
Тем не менее, DeepSeek-R1 является явным победителем, так как он не только предлагает лучшее соотношение цены и качества, но и просто лучший выбор в целом. Это подтверждается и лидербордом Chatbot Arena, где он занимает более высокие позиции, чем o1:
Вчера DeepSeek подвергся мощной кибератаке, что, вероятно, делало их API неработоспособным, но я только что снова протестировал его, и он работает. Я также создал тему по этому вопросу:
Что касается конфиденциальности, DeepSeek четко указывает в своей политике, что данные хранятся в Китае (что полностью нарушает, например, законодательство ЕС), и не секрет, что КПК имеет доступ ко всем данным компаний в Китае. Но если все данные общедоступны, то кто вообще беспокоится, ведь ваш сайт теоретически все равно можно скрапить или анализировать.
К счастью, эта модель полностью с открытым исходным кодом, и провайдеры больших языковых моделей об этом знают. Например, fireworks.ai уже предоставляет эту модель, хотя, по моему мнению, они завышают цену: $8.00 за ввод / $8.00 за вывод. Таким образом, API DeepSeek определенно более экономичен.
В моем сообществе я использую GPT-4o-mini с RAG (модель вынуждена читать соответствующую тему перед ответом, чтобы предоставить более фактический и полезный ответ) и строгую инженерию промптов. Она меня еще ни разу не подвела, и она очень дешевая: $0.15 за ввод / $0.60 за вывод. Однако я бы не стал доверять ей в вопросах программирования — это лучше доверить o1-mini или DeepSeek-R1. Обычно от 1/3 до 1/2 всех токенов, используемых в моем сообществе, кэшируются (это можно увидеть в /admin/plugins/discourse-ai/ai-usage), что дополнительно снижает мои затраты, так как кэшированные токены стоят на 50% дешевле.
Таким образом, если мое сообщество использует 2 миллиона токенов ввода и 100 000 токенов вывода каждый день, мои примерные затраты составляют:
Ежедневная стоимость ввода: ~$0.22
Ежедневная стоимость вывода: ~$0.06
…умножить на 30 дней = ~$6.60 за ввод и ~$1.80 за вывод = $8.40 в месяц.
Это даже не стоимость обеда.