Типы сервисов в Caila

Простой сервис

Простой сервис выполняет одну операцию predict. Его можно либо вызвать по API, если вы внешний пользователь, либо запустить на своих серверах, если вы разработчик сервиса.

Прототип

Сервис-шаблон, готовый к развертыванию на вашем или арендованном сервере. При развертывании в своем аккаунте у вас будет возможность модифицировать настройки сервиса и настраивать параметры его масштабирования. Подробнее в разделе Создание ML-сервиса из прототипа.

Обучаемый сервис

Это сервисы, которые требуют обучения на пользовательских данных. Например, классификатор интентов (коротких текстов) или файнтюнинг LLM. В результате обучения (или использования фабрики) будет создан новый производный сервис в рабочем пространстве пользователя.

Базовый

Базовым называется сервис, с которого начинается обучение. Базовые сервисы находятся в Каталоге.

Производный

Производным называется сервис, полученный в результате обучения. Производный сервис создаётся в аккаунте пользователя в Моём пространстве.

Композитный сервис

Композитный сервис — сервис, который выполняет вызовы к другим сервисам внутри своей логики. Вызовы могут происходить как во время операции predict, так и во время fit.

Простейшим примером композитного сервиса выступает классификатор интентов text-classifier-logreg-caila-roberta. Этот классификатор использует модель BERT из другого сервиса vectorizer-caila-roberta.

Приложение

Это отдельные веб-приложения со своим интерфейсом. Обычно они предназначены для демонстрации возможностей ML-сервисов, их тестирования или для выполнения каких-либо прикладных задач.