이건 정말 대단한데요!
아래 세부 내용에서, 이는 그룹 내 모든 사용자가 총 토큰 수와 요청 수를 공유한다는 의미인가요, 아니면 그룹의 각 사용자가 설정된 한도를 개별적으로 사용할 수 있다는 의미인가요?
이 시스템은 관리자가 그룹별로 총 토큰 수와 요청 수에 대한 한도를 정의할 수 있도록 하여 LLM API 사용에 대한 세밀한 제어를 제공합니다.
이건 정말 대단한데요!
아래 세부 내용에서, 이는 그룹 내 모든 사용자가 총 토큰 수와 요청 수를 공유한다는 의미인가요, 아니면 그룹의 각 사용자가 설정된 한도를 개별적으로 사용할 수 있다는 의미인가요?
이 시스템은 관리자가 그룹별로 총 토큰 수와 요청 수에 대한 한도를 정의할 수 있도록 하여 LLM API 사용에 대한 세밀한 제어를 제공합니다.