Это фантастика, я не могу дождаться, чтобы попробовать!
Есть ли какие-либо платы или ограничения на размер сообщества, прежде чем они начнут отправлять слишком много запросов, за которые нужно будет платить, чтобы поддерживать работу?
Я понимаю, что это деликатная тема, но фиксируют ли поставщики AI-сервисов ответы и, если да, есть ли какая-либо информация о том, что они делают с этими данными?
Вы можете проверить это в askym, но, вероятно, вам стоит разместить его самостоятельно или попробовать использовать их API, чтобы обеспечить безопасность ваших данных самостоятельно
Вероятно ли, что в будущем за использование API будет взиматься плата, или будет введена политика разумного использования, если крупный форум отправляет много запросов?
Некоторые модули используют платные API (например, Chat GPT). Другие используют ресурсы с открытым исходным кодом, которые вы можете разместить самостоятельно. За них не взимается плата, за исключением затрат на вычислительную мощность для их работы (и, возможно, услуг специалиста по установке и управлению).
Спасибо, @pfaffman. Я немного посмотрел, и было бы полезно начать обсуждение этой темы, так как неясно, сколько запросов каждый из них, вероятно, отправит. И я полагаю, что люди, использующие эти сервисы, захотят узнать, сколько это, скорее всего, будет стоить, если они предоставят их своим пользователям.
Понимаю, что это сложно, поскольку у некоторых из них есть несколько вариантов на выбор. Я просто не видел, чтобы кто-то вообще об этом говорил.
Согласно Google, ChatGPT 3 в настоящее время стоит $0,002 за 1000 токенов, что примерно соответствует 750 словам.
Кто-нибудь подсчитал, сколько вызовов API в среднем делает пользователь на их сайте через эти плагины?
При такой аудитории, когда API используют 10–50 человек, вы, вероятно, тратите 5–10 долларов в месяц (или даже меньше), но всё зависит от конкретного сценария использования.
Не думаю, что здесь можно что-то угадать. Существует множество различных функций ИИ. Невозможно предсказать, найдут ли пользователи возможность использовать их и проведут ли весь день, экспериментируя, или нет. Вам нужно будет попробовать это в действии, внимательно отслеживать уровень использования и быть готовым отключить функцию (или ограничить доступ меньшему кругу пользователей), если вы превысите бюджет.
Я полагаю, что вы предоплачиваете ChatGPT, поэтому можете просто позволить балансу истощиться до нуля, не беспокоясь о перерасходе бюджета.
Некоторые модули можно разместить на собственном хостинге, поэтому они не будут стоить ничего дороже, чем хостинг виртуальной машины.
Спасибо. Это не совсем идеально, так как я пытаюсь предоставить смету для заявки на финансирование, но похоже, что конкретного ответа пока нет, поскольку инструменты очень новые.
В таком случае, исходя из моего ограниченного опыта рассмотрения грантовых заявок для NSF, просто запросите столько денег, сколько, по вашему мнению, сможете обосновать.
Вы можете сделать приблизительные расчёты. Для этого начните с:
(Возможно, вам стоит взять актуальные цены на ChatGPT прямо из самого сервиса для вашей заявки )
Итак, если задача объёмом в 750 слов стоит $0,0002, сколько таких задач вам потребуется для реализации вашего предложения? Если только вы не планируете просто «включить ChatGPT на форуме и посмотреть, что получится», у вас должно быть представление о том, чего вы ожидаете. Но если вы занимаетесь чем-то исследовательским, просто выясните, сколько средств, согласно руководству, можно выделить на вычислительные ресурсы (например, общий бюджет за вычетом расходов на персонал и накладные расходы), и используйте эту сумму.