AI 서버 구축하기 GPU 다루기

- 사내 GPU를 어떤식으로 구축했는가?

- 도커 다루는 법

- comfyui 다루는 법

등등.,,,,

 

 

2️⃣ Docker Compose의 역할

Docker란?

각 서비스를 격리된 컨테이너에 넣는 기술

┌─────────────────────────────────────┐
│          Ubuntu 24 (Linux)          │
├─────────────────────────────────────┤
│
│  ┌──────────────────┐  ┌──────────────────┐
│  │ 사용자 서비스    │  │ 주문 서비스      │
│  │ ┌──────────────┐ │  │ ┌──────────────┐ │
│  │ │ Python 3.10  │ │  │ │ Python 3.10  │ │
│  │ │ Flask        │ │  │ │ FastAPI      │ │
│  │ │ SQLite       │ │  │ │ PostgreSQL   │ │
│  │ └──────────────┘ │  │ └──────────────┘ │
│  └──────────────────┘  └──────────────────┘
│
│  ┌──────────────────┐  ┌──────────────────┐
│  │ 결제 서비스      │  │ AI 모델 서비스   │
│  │ ┌──────────────┐ │  │ ┌──────────────┐ │
│  │ │ Go 1.21      │ │  │ │ CUDA 12.1    │ │
│  │ │ Redis        │ │  │ │ PyTorch 2.2  │ │
│  │ └──────────────┘ │  │ │ GPU 메모리   │ │
│  └──────────────────┘  └──────────────────┘
│
└─────────────────────────────────────┘

각 서비스는:
✅ 격리된 환경
✅ 독립적인 라이브러리/언어
✅ 자신의 포트에서 실행

Docker Compose의 역할

"여러 Docker 컨테이너를 한 번에 조율하는 오케스트레이터"

## 4️⃣ 마이크로서비스의 장단점

### ✅ 장점