Создание собственного приложения в Caila
Приложение — это ML-сервис с пользовательским веб-интерфейсом. Пример приложения, которое можно запустить из прототипа: jupyter-app.
Развертывание вашего приложения на платформе Caila в целом аналогично развертыванию сервиса, но имеет некоторые особенности.
Для создания приложения, как и для любого ML-сервиса, требуется роль MLP_DEVELOPER.
Последовательность действий:
- Разработка п риложения
- Загрузка Docker-образа
- Подготовка ресурс-группы
- Создание ML-сервиса
- Запуск и использование приложения
Разработка приложения
Приложение может быть разработано как на основе MLP SDK для Python или Java, так и без использования MLP SDK. Приложение должно включать веб-сервер.
Пользовательский веб-интерфейс должен быть размещен по корневому пути (/).
Если приложение разработано на основе MLP SDK, оно предоставляет стандартный gRPC-интерфейс для взаимодействия с платформой Caila. В ином случае необходимо предусмотреть в приложении метод для проверки работоспособности, который в ответ на запросы платформы возвращает HTTP-статус 200, когда приложение готово к работе. Это может быть как корневой путь, так и отдельный.
Загрузка Docker-образа
Создайте Docker-образ, опубликуйте его в любом Docker-репозитории и добавьте в свое пространство в Caila.
Подготовка ресурс-группы
Определите, какие аппаратные ресурсы необходимы вашему приложению. Создайте ресурс-группу и выберите серверы для аренды.
Создание ML-сервиса
При создании ML-сервиса в списке настроек раскройте группу Настройки приложения и укажите параметры:
- Вкл/выкл — включите.
- Порт — укажите порт, который слушает веб-сервер.
- Healthcheck endpoint — путь для проверки работоспособности. Обязательное поле, если у приложения нет gRPC-интерфейса.
- Только HTTP — включите, если у приложения нет gRPC-интерфейса. Обратите внимание: при включенной опции недоступна оптимизация потока запросов (перепосылка, батчеризация, кэширование, приоритетная очередь).
Запуск и использование приложения
На странице вашего сервиса перейдите в раздел Тестирование и нажмите Тестировать приложение. Дождитесь запуска сервиса и загрузки веб-интерфейса.