Вопрос к тем, кто использует OpenAI для добавления функций на свой форум Discourse: сколько вы тратите на доступ к API?
Было бы полезно видеть эту сумму в пропорции к затратам на хостинг — крупный форум дороже в обслуживании, но и активнее использует API. Маленький форум обходится недорого в обоих случаях.
Это просто моё любопытство, но такие данные могут помочь тем, кто размышляет о внедрении функций OpenAI.
Сегодня я только начал изучать возможность внедрения ИИ. Если я что-то упускаю (что вполне возможно), то затраты для небольшого форума при использовании OpenAI — $0,01 на вход и $0,03 на выход за 1 тыс. токенов — кажутся совсем незначительными. Сейчас я не могу понять, как мне должны начисляться платежи, учитывая, что в аккаунте нет данных для оплаты. Очевидно, я что-то упускаю.
Я установлю плагин и посмотрю, насколько близко смогу подойти к пониманию ситуации.
Очень маленький форум, всего около 8 пользователей ежедневно используют Discourse AI и примерно 20 — чатбота. DAI генерирует несколько изображений в день и, возможно, 5 более длинных текстов, а чатбот отвечает на короткие вопросы. В основном DAI использует модель 3.5-turbo, теперь уже 4-turbo, а чатбот работает на 3.5-turbo-16k или, как сейчас называется эта модель, на какой-то другой версии.
Мне это обходится почти в 50 долларов в месяц. Для сравнения: VPS стоит около 24 евро, а S3 — примерно 15 долларов. Таким образом, OpenAI оказывается довольно дорогим решением, и я совершил ошибку, внедрив модели GPT для своих активных пользователей 
Мне очень-очень-очень хотелось бы иметь возможность настраивать групповые ограничения на то, какие модели могут использовать пользователи.
Для более крупных сообществ открытый доступ ко всем моделям GPT может оказаться действительно дорогим.
На данный момент я анализирую свои данные: я управляю активным форумом с почти 8 000 пользователей, из которых примерно 2 000–3 000 активны ежедневно. Я внедрил эту функцию ещё в августе, потратив 24,00 доллара, но, согласно графикам, я использовал только 1,07 доллара.
Значит, никто им не пользуется. Можете догадаться, почему?
Не уверен, что всё настроено правильно, включая сводку, фильтры и так далее. Похоже, я единственный, кто использует это на форуме, хотя я специально представил это там, даже с тестом. Но hey, экономия копеек сильно поможет мне самому в использовании 
Для новых аккаунтов они предоставляют что-то вроде 5 долларов «бесплатного кредита».
Спасибо. Этого, вероятно, хватит мне на довольно долгое время. 
Я немного поиграю и буду разбираться по ходу дела. Это не критический элемент, так что никому не помешает.
Возможно, вас заинтересует это изменение, которое я внес, чтобы помочь вам управлять затратами, монетизировать доступ к боту и т. д., позволяя изменять модель и тип бота в зависимости от группы:
https://meta.discourse.org/t/discourse-chatbot-now-smarter-than-chatgpt/256652/687?u=merefield
Спасибо @Aizada_M за эту отличную идею.
