●머신러닝(ML)
- 데이터에서 패턴을 학습하는 알고리즘을 사용하여 자동으로 규칙을 발견하고 예측
- 이미지, 음성, 텍스트, 숫자 데이터 등 다양한 데이터 분석
- 분류, 예측, 이상 탐지 등 다양한 문제 해결에 활용
- 사람이 특징(feature)을 정의하여 모델이 학습하도록 설계
●딥러닝
- 머신러닝의 한 종류로 신경망(Neural Network)를 활용하여 패턴을 추출하고 학습하는 방식
- 신경망이 특징을 자동 추출
- 대량의 데이터와 고성능 GPU필요
●LLM(대형언어모델)
- 머신러닝의 한 분야인 딥러닝(Deep Learning) 을 기반으로 하는 모델
- 주로 텍스트 데이터 기반의 자연어 처리에 특화
- 텍스트 생성, 요약, 번역, 질문 응답 등에 활용
- ex)GPT-4, Gemini, Claude, Llama 등
●MLOps
- 소프트웨어 개발의 DevOps 개념을 머신러닝에 적용한 것
- 머신러닝 모델을 개발, 배포, 운영, 모니터링하는 프로세스
- AI서비스는 보통 머신러닝/딥러닝으로 모델을 만들고 해당 모델을 이용한 restAPI를 만들어서 서비스를 하는데, 이 과정을 편하게 해주는 솔루션이 MLOps입니다.
- MLOps주요 기능
| 1.데이터 수집 및 전처리 2.데이터를 정제하고 학습 가능한 형태로 준비 3.모델 개발 및 학습 4.머신러닝 모델을 학습하고 검증 5.모델 배포 6.학습된 모델을 API, 클라우드, 온프레미스 환경에 배포 7.모니터링 및 유지보수 8.모델 성능 추적, 데이터 드리프트 감지, 재학습 자동화 9.자동화 및 CI/CD 10.모델을 지속적으로 개선하고 자동 배포 (ML 파이프라인) |
●LLMOps
- LLM에 특화된 MLOps
- 주요기능
| 1.파인튜닝(Fine-tuning) & 프롬프트 엔지니어링 2.모델이 최신 정보를 반영하도록 재학습(Continual Learning) |
=>최근 기업에서 MLOps, LLMOps 솔루션을 많이 도입하고 있고, 그에 따라 관련 솔루션업체도 우후죽순 생겨나고 있습니다.
MLOps솔루션은 기업의 AI서비스 IT운영을 위해 도입하고 있고, LLMOps는 텍스트기반 여러 서비스를 개발 및 운영하기 위해 도입하고 있습니다.
댓글