Использование не отображает модели LLM

[RBoy]

Как следует из заголовка, вкладка «Использование» должна помогать нам определять, какие функции используют какие модели. Однако вместо перечисления названий настроенных LLM там указываются идентификаторы моделей.

Посмотрите на этот пример: в разделе «Использование» под пунктом «Все модели» отображаются gemini-flash-latest и gemini-flash-lite-latest.

Если же я перехожу на страницу «Настроенные LLM», то таких названий там нет.

Теперь я даже не уверен: информация об использовании относится к настроенным LLM или к идентификаторам моделей LLM? Цель использования нескольких настроенных LLM (с разными ключами и проектами) заключается в том, чтобы избежать перегрузки LLM: если одна функция потребляет слишком много запросов или токенов, это не должно нарушать работу других функций.

[sam (Sam Saffron)]

Это должно охватывать все функции, но я понимаю, о чём вы сообщаете.

Вы создаёте дублирующиеся LLM, указывающие на одну и ту же модель, и хотите разделить их по этому признаку. Интересный кейс. Счётчики будут верными, но вы можете не получить нужного разделения.

Мы подумаем, как это можно улучшить.

[sam (Sam Saffron)]

Я уже разобрался с этим, отчёты теперь должны быть Обновите до последней версии.

Тем не менее, ранее у нас не было надлежащего хранения данных (мы не сохраняли llm_id в журнале аудита), поэтому отчёт будет на 100% корректным для вас только начиная с этого момента.