이 글이 끝나면 이 그림이 전부 읽힌다. 왼쪽부터 오른쪽으로 하나씩 채워 간다.
서버란 무엇인가
서버는 특별한 기계가 아니다. 그냥 24시간 켜져 있고, 다른 컴퓨터의 요청을 받아 일을 해주는 컴퓨터다.
식당에 비유하면 이렇다. 손님(내 노트북, 스마트폰)이 "김치찌개 주세요"라고 요청하면, 주방(서버)이 만들어서 내어준다. 손님이 자리를 떠나도 주방은 계속 영업한다. 유튜브 영상을 볼 때, 카톡을 보낼 때, 이 글을 읽을 때 항상 어딘가의 서버에 요청을 보내고 결과를 받고 있는 것이다.
요청을 보내는 쪽이 클라이언트, 받아서 처리하는 쪽이 서버다. 역할 이름이지 기계 종류가 아니다.
그러면 "내 컴퓨터도 서버가 될 수 있나?"라는 질문이 나오는데, 답은 "그렇다, 24시간 안 끄고 외부 요청을 받게 설정하면 서버다"이다. 다만 노트북은 뚜껑을 닫으면 잠들고, 집 인터넷은 외부 접속이 막혀 있는 경우가 많아서 불편하다. 그래서 대부분 아래 두 가지 중 하나를 쓴다.
첫째, 클라우드 서버(VPS)다. AWS, 구글 클라우드, 국내 업체(네이버클라우드, 카페24 등), 해외 저가 업체(Hetzner, Vultr, DigitalOcean 등)에서 "컴퓨터 한 대를 월 단위로 빌리는" 서비스다. 실제 기계는 데이터센터 어딘가에 있고, 인터넷으로 접속해서 쓴다.
둘째, 집에 있는 작은 컴퓨터다. 흔히 "홈서버"라고 부른다.
어느 쪽이든 결국 손에 쥐게 되는 것은 "원격으로 조종할 수 있는, 항상 켜져 있는 리눅스 컴퓨터 한 대"다.
SSH란 무엇인가
서버는 보통 모니터도 키보드도 없이 데이터센터에 있다. 그런데 어떻게 조종할까? 여기서 SSH가 등장한다.
SSH(Secure Shell)는 멀리 있는 컴퓨터의 터미널을 내 컴퓨터에서 안전하게 여는 방법이다. 원격 데스크톱처럼 화면을 통째로 가져오는 게 아니라, 검은 화면에 글자로 명령을 치는 창(터미널) 하나만 연결한다. 그래서 가볍고 빠르다.
비유하자면, 서버라는 집에 들어가는 열쇠 달린 뒷문이다. 문 자체는 인터넷에 열려 있지만, 열쇠(비밀번호 또는 SSH 키)가 있어야만 들어갈 수 있고, 들어가서 주고받는 모든 말은 암호화되어 도청이 안 된다.
실제 화면은 이렇게 생겼다. 한 줄 치고 나면 그다음부터는 서버 안에 있는 셈이다.
# 내 노트북에서 utomo@macbook $ ssh [email protected] Welcome to Ubuntu 24.04 LTS Last login: Tue Aug 18 09:12:07 2026 from 121.xxx.xxx.xxx # 여기서부터 치는 건 전부 서버 안에서 실행됨 utomo@my-server $ uptime 09:14:31 up 41 days, 3:02, 1 user, load average: 0.08, 0.05, 0.01 utomo@my-server $
uptime은 "이 컴퓨터가 얼마나 켜져 있었나"를 보여주는 명령이다. 위 예시의 41일이 서버의 본질이다. 노트북은 그 사이 수십 번 껐다 켰지만, 서버는 한 번도 꺼지지 않았다.
자율형 에이전트란 무엇인가
ChatGPT나 Claude 같은 챗봇은 물어보면 답하는 도구다. 답을 받은 뒤 실제로 파일을 옮기고, 메일을 보내고, 코드를 실행하는 것은 여전히 사람 몫이었다.
자율형 에이전트는 이 실행까지 AI에게 맡기는 소프트웨어다. "이번 주 매출 데이터 받아서 정리하고 슬랙에 올려줘"라고 하면, 에이전트가 스스로 파일을 열고, 계산하고, 결과를 올린다. 중간에 막히면 다른 방법을 시도하고, 끝나면 보고한다. 사람은 지시하고 감독하는 역할로 물러난다.
챗봇
- 질문 → 답변, 여기서 끝
- 실행은 사람이 직접
- 대화창을 닫으면 잊음
- 내가 켜져 있을 때만 존재
자율형 에이전트
- 지시 → 계획 → 실행 → 보고
- 파일·터미널·브라우저를 직접 조작
- 기억(메모리)이 세션을 넘어 이어짐
- 서버에서 24시간 대기
여기서 중요한 구분이 하나 있다. 에이전트는 AI 모델 자체가 아니다. 에이전트는 "몸"이고, 모델(Claude, GPT, Gemini 등)은 "뇌"다. 에이전트 프로그램을 설치한 뒤 어떤 모델을 뇌로 쓸지 API 키를 넣어 연결해야 작동한다.
같은 에이전트라도 어떤 모델을 붙이느냐에 따라 능력과 비용이 달라진다. 뇌를 갈아 끼울 수 있다는 뜻이다.
2026년 기준으로 가장 많이 언급되는 오픈소스 에이전트 두 가지를 소개한다.
OpenClaw(왼쪽)와 Hermes Agent(오른쪽) 모두 오픈소스 에이전트다.
OpenClaw(오픈클로)
오스트리아 개발자 페터 슈타인베르거가 만든 오픈소스 에이전트로, 처음엔 Clawdbot이라는 이름이었다가 Moltbot을 거쳐 OpenClaw가 되었다. 특징은 메신저를 인터페이스로 쓴다는 점이다. 텔레그램, 디스코드, WhatsApp, 시그널 같은 채팅 앱에 봇으로 들어와 있어서, 평소 친구에게 카톡 보내듯 지시하면 에이전트가 서버에서 일을 처리한다. 스킬(SKILL.md 파일 묶음)이라는 방식으로 기능을 확장하고, 설정과 대화 기록을 로컬에 저장해서 세션이 바뀌어도 이어진다.
my-agent봇 · 서버에서 실행 중- 결정사항 3건, 액션아이템 5건 정리
- 노션 페이지 링크: notion.so/…
위는 실제 화면이 아니라 흐름을 보여주기 위해 재구성한 예시다. 실제 UI는 사용하는 메신저를 따른다.
다른 에이전트보다 권한을 넓게 주는 편이라 강력한 만큼, 중요한 파일이 있는 메인 컴퓨터보다는 별도 서버에서 돌리라는 조언이 따라붙는다.
Hermes Agent(헤르메스 에이전트)
Nous Research가 2026년 2월에 공개한 오픈소스 에이전트다. 내세우는 강점은 자가 개선이다. 작업을 하면서 반복되는 패턴을 스스로 스킬로 만들어 저장하고, 세션을 넘어 사용자의 프로젝트와 선호를 기억한다. 그래서 "오래 돌릴수록 똑똑해진다"는 표현을 쓴다.
Hermes Agent의 학습 순환
이 순환이 서버에서 계속 돌기 때문에 "오래 돌릴수록"이라는 조건이 붙는다.
역시 텔레그램·디스코드·슬랙 등 여러 메신저에 연결할 수 있고, 리눅스·macOS·WSL2에서 설치 스크립트 한 줄로 설치된다. MIT 라이선스이고 데이터를 외부로 보내지 않는다는 점도 강조한다.
두 도구 모두 공통점이 있다. "어딘가에 항상 켜져 있어야" 제 역할을 한다는 것이다. 에이전트가 텔레그램 메시지를 기다리고, 아침 7시에 자동으로 브리핑을 만들고, 밤새 크롤링을 돌리려면 그 프로그램이 돌아가는 컴퓨터가 꺼지면 안 된다. 노트북 뚜껑을 닫는 순간 에이전트도 잠든다. 이 지점에서 앞의 두 개념이 연결된다.
서버를 구축하면 뭐가 좋은가
세 개념을 합치면 그림이 나온다. 서버(항상 켜진 컴퓨터)에 SSH로 들어가서 에이전트를 설치해두면, 내 노트북을 끄고 나가도 AI가 일하고 있는 상태가 된다.
위아래 두 줄이 어긋나는 시간이 서버의 가치다. 없는 시간에도 일이 진행된다.
- 언제 어디서나 지시할 수 있다
서버에서 돌아가는 에이전트에 텔레그램으로 말을 걸면 된다. 지하철에서 폰으로 "어제 회의록 정리해서 노션에 올려줘"라고 보내면, 사무실 컴퓨터가 꺼져 있어도 처리된다.
- 반복 작업을 스케줄로 걸어둘 수 있다
매일 아침 뉴스 요약, 매주 월요일 경쟁사 가격 수집, 매시간 재고 확인 같은 일을 한 번 설정하면 계속 돌아간다. 예전에는 개발자가 크론(cron)이라는 스케줄러에 스크립트를 짜서 올려야 했던 일을, 이제는 에이전트에게 말로 시킬 수 있다.
- 내 컴퓨터가 안전해진다
에이전트는 파일을 지우고 명령을 실행할 권한을 가진다. 이런 프로그램을 개인 사진과 회사 문서가 있는 메인 컴퓨터에서 돌리는 것보다, 사고가 나도 서버 하나만 날리면 되는 별도 공간에서 돌리는 편이 훨씬 마음 편하다.
- 데이터가 내 손에 있다
내 서버에서 에이전트를 돌리면 대화 기록, 메모리, 작업 결과가 전부 관리하는 디스크에 남는다. 필요하면 백업하고, 필요 없으면 지우고, 다른 모델로 갈아탈 때 그대로 들고 갈 수 있다.
- 비용이 예측 가능해진다
서버는 월 몇 천 원~몇 만 원 고정, AI 모델 비용은 쓴 만큼 API로 지불한다. 무엇을 얼마나 썼는지 명세가 남는다.
시작하기 전에 알아둘 것
좋은 점만 쓰면 공정하지 않으니 현실적인 진입 장벽도 적어둔다.
터미널이 처음이면 첫 일주일은 낯설다. cd, ls, sudo 같은 명령어 열 개 정도는 알아야 한다. 다만 요즘은 막히면 AI에게 "지금 이 에러가 났는데 뭐야"라고 물어보면 되기 때문에, 예전만큼 높은 벽은 아니다.
에이전트는 토큰을 많이 쓴다. 스스로 여러 번 생각하고 시도하기 때문에 챗봇에게 질문 하나 던질 때보다 비용이 몇 배로 나온다. 처음에는 저렴한 모델이나 무료 티어로 감을 잡고, 어떤 작업에 얼마나 드는지 확인한 뒤 모델을 올리는 순서가 안전하다.
보안은 처음부터 챙겨야 한다. SSH는 키 인증으로, 방화벽은 필요한 포트만, 에이전트에게는 필요한 권한만 주는 습관을 첫날부터 들이면 나중에 후회할 일이 줄어든다.
정리
서버는 항상 켜져 있는 컴퓨터, SSH는 그 컴퓨터에 안전하게 들어가는 문, 자율형 에이전트는 그 안에서 대신 일해주는 AI 직원이다. 셋을 합치면 "자는 동안에도 일이 진행되는" 환경을 월 커피 몇 잔 값으로 만들 수 있다.
전부를 이해하고 시작할 필요는 없다. 가장 싼 클라우드 서버 하나를 빌려서 SSH로 한 번 들어가 보는 것, 그 경험 하나면 이 글의 나머지가 몸으로 이해된다. 다음 글에서는 실제로 서버를 하나 빌려 SSH로 접속하고 에이전트를 설치하는 과정을 단계별로 따라가 본다.