MLOps ML Dev Ops
실제 머신러닝 환경에서는 ML CODE비중이 적고 데이터 수집/전처리 workflow관리 등 요소가 너무 복잡해 ai개발자의 모델개발 집중이 어렵다. 이러한 데이터 준비, 모델 개발, 운영/모니터링까지 모든 단계를 지원.
Kubeflow Kubernets + ML flow
복잡한 모델개발, 학습, 배포 과정을 Kubernets 에서 지원하는 플랫폼
Kubernets 의 특징 컨테이너 자동복구, 부하시 AUTO scaling 등 안정성, 유연성이 제공
AI&MLOps Platform
SCP의 MLOps를 구현해주는 서비스
관리자가 콘솔에 접속해 셀프 프로비저닝, 몇가지 설정만 하면 ML의 환경을 구축할 수 있음.
Jupyter Notebook 기반 모델개발/튜닝/학습/추론 모델관리 ML Workflow자동화
- 다양한 머신러닝 개발 및 학습환경제공 Rstudio, vscode...
- 목표, 탐색범위, 알고리즘, 최대시도 등 설정하여 모델튜닝 툴 제공
- 추론서비스 구축을 위한 모델서빙 제공
- ML Workflow 생성과 실행관리를 위한 파이프라인 제공
- 딥러닝 분산 학습시 Job UI를 통해 분산 Job 실행/관리 제공
- GPU Job Scheduler 기능을 내장해 GPU자원 극대화
- 모델 서빙 및 추론시 Serving UI를 통해 추론결과 로깅/분석 제공
- 인증연계 및 관리자 환경을 제공해 안정적으로 관리할 수 있도록 함.
CloudML Notebook
Kubernetes기반으로 머신러닝 모델구축을 위한 Jupyter Notebook 환경을 제공하는 상품
https://standout.tistory.com/661
CloudML Studio
Kubernetes 기반으로 머신러닝 모델을 구축하고 학습하기 위한 IDE 워크플로우제공
CloudML Pipeline
Kubernetes 기반으로 머신러닝 모델의 학습 및 실행을 파이프라인 형태로 관리하는 상품
CloudML Experiments
Kubernetes 기반으로 머신러닝 모델의 학습 및 실험정보를 비교, 챔피언 모델을 관리하기 위한 상품
AI&MLOps Platform 신청 - scp kubernetes engine에서 배포 새 클러스터에 배포 - 다음 - 상품명, 이메일, 비밀번호지정 - 배포할 클러스터 생성정보입력 - 신청확인
Kubeflow 상세정보 - 접속가이드 - 접속 - ML작업수행
* 대시보드 접속을 위해서는 미리 해당 VPC Security Group과 IGW Firewall에서 방화벽을 개방해야한다.
AI Service
AICR
딥러닝 기반의 이미지 인식기술을 통해 이미지 문자 데이터를 추출해주는 상품
api를 통해 바로 이용할 수 있다.
*한글, 라틴 56개 국어, 키릴 11개 국어, 중국 2개국어, 일본, 태국, 아랍 25개 국어 조건 결합
Text API
문장 및 텍스트 의미를 이해하고 분석, 뉴스/논물/회의록 등에서 활용
200~1000자의 문장요약
Vision API
이미지 내의 정보를 인식하고 분석해주는 API