Ресурс-группы
Ресурс-группа — это набор серверов, выделенный для запуска ML-сервисов для определенных аккаунтов. Каждый сервис запускается в какой-либо одной ресурс-группе. Они бывают публичными и приватными.
Публичные ресурс-группы
Публичные ресурс-группы доступны сразу многим аккаунтам. При этом каждому аккаунту может быть назначена только одна публичная ресурс-группа.
Ресурсы публичных ресурс-групп ограничены лимитами аккаунта. Сервисы в публичной ресурс-группе могут подвергаться вытеснению — принудительной остановке в случаях, если:
- Сервис неактивен в течение двух дней.
- В системе не хватает ресурсов для запуска других сервисов, в том числе в других аккаунтах.
Приватные ресурс-группы
Приватные ресурс-группы выделяются для конкретного аккаунта. Если у аккаунта есть приватные ресурс-группы, то публичные ему недоступны.
Ресурсы приватных ресурс-групп ограничены только физическими мощностями выделенных или облачных серверов. Использование GPU также возможно только в приватных ресурс-группах.