안녕하세요, 이 권장 사항들을 따르셨나요?
사용량 그래프가 분명히 우려스럽네요. 이 데이터 탐색기 쿼리를 시도해 보실 수 있을까요:
SELECT
a.id,
a.language_model,
LENGTH(p.raw) as raw_length,
a.response_tokens,
a.raw_request_payload,
a.raw_response_payload,
a.topic_id,
a.post_id
FROM ai_api_audit_logs a
LEFT JOIN posts p ON p.id = a.post_id AND p.deleted_at IS NULL
LEFT JOIN topics t ON t.id = a.topic_id AND t.deleted_at IS NULL
WHERE a.created_at > CURRENT_DATE - INTERVAL '1 days'
AND p.deleted_at IS NULL
AND t.deleted_at IS NULL
AND p.user_deleted = false
AND a.feature_name = 'translation'
AND LENGTH(p.raw) < 1000
AND a.response_tokens > 10000
ORDER BY a.created_at DESC
LIMIT 100
이 쿼리는 게시물의 원본 길이(raw length)에 기반한 응답 토큰 사용량을 보여줄 것입니다. 이상적으로는 유사한 수치가 나와야 하며, 토큰 수가 1.5배를 초과하지 않아야 합니다. AiApiAuditLog를 통해 무슨 일이 일어나고 있는지 파악하는 데 도움이 될 것입니다.
추가로 다음 사항들도 공유해 주세요.
- 어떤 모델을 사용하고 계신가요?
- 백필 시간당 처리량은 얼마인가요? 처음에는 50과 같이 낮은 값으로 유지하는 것을 권장합니다.
- 몇 가지 언어를 지원하고 계신가요? 선택한 모델이 해당 언어들을 지원하는가요?