본문 바로가기
AI에서 살아남기(to. Android Developer)/AI 만져보기

VS Code Remote SSH로 GPU 서버에 편하게 접근하기

by 개발자 인민군 2026. 1. 14.

나는 처음 GPU 서버에 접근 권한을 받고 시스템 운영(사내 서버 관리)팀에게 터미널로 접근할 수 있는 방법에 대해서 간단히 전해 들었다. 

그런데 나는 터미널을 싫어하는 개발자이고 또 딱 봐도 Python 을 만질거같다는 느낌도 들고 폴더형식을 한눈에 볼수있으면 좋다고 생각이 들어(nano 로 하면 되긴 하는데 엄청 불편할 거 같다 ㅜ). 그래서 IDE 로 접근 가능하지 않을까 생각에 클로드에게 물어봤고 한번에 알려주었다. 오늘은 Visual Studio Code의 Remote SSH 를 활용해 어떻게 GPU 서버 에 VS Code로 접속하는 방법 을 했는지 작성해보겠다.


일단 내 기본 정보는 아래의 기준으로 한다. (예시임!)

  • 서버 IP: 211.000.00.000
  • 사용자명: admin
  • 포트: 22

1. 일단 VS Code 에서 Extensions(확장) 프로그램으로 Remote - SSH 를 설치한다.

설치가 완료되면 VS Code 좌측 하단에 >< 아이콘이 나타난다.

2. 접근을 편하게 하기 위해 SSH 설정 파일에 정보를 기입한다.

2-1. Mac 터미널에서 

nano ~/.ssh/config
 

2-2. 파일에 다음 내용을 추가한다.

# GPU 서버 (AI231)
Host ai-server
    HostName 211.000.00.000
    User admin
    Port 22
    IdentityFile ~/.ssh/id_rsa (id_rsa 파일을 찾아서 사용하겠다, 없으면 자동으로 비밀번호 인증으로 전환)
2-3. 파일 저장 (Ctrl + X → Y → Enter)

2-4. 확인하기

cat ~/.ssh/config # ai-server 섹션이 보이면 성공

 

 

3. VS Code에서 원격 서버 연결하기

3-1. VS Code 좌측 하단 >< 아이콘 클릭

3-2. Command Palette에서 Connect to Host... 선택

3-3. 호스트 목록에서 ai-server 선택

4. 비밀번호 입력

4. 연결 성공

 
하단에 다음 메시지가 나타난다.
Setting up SSH Host ai-server: Initializing VS Code Server

1~2분 정도 기다리면 연결이 완료된다. 이후 연결이 성공 하면 좌측 하단에 다음과 같이 표시된다.

SSH: ai-server