10년 된 16G 500G 노트북으로 짓는 셀프호스트 + Muse 0원 AI 운영 설계

7

하이브리드 모델 라우팅, SQLite+DuckDB 데이터 층, 그리고 울타리 안의 보안

2026년 11월 12일, 앤트로픽이 셀프호스트 Claude Managed Agents의 비공개 베타를 열었습니다. 서버(에이전트 루프)와 세션 기록, 워커와 자격증명은 고객 환경 안에 두고, 모델만 밖에 남기는 구조입니다. 대기업이 이제 와서 제품화하는 이 구조는, 사실 작은 조직이 먼저 실전에서 굴리던 방식과 거의 같습니다. 이 글은 그 방식을 기술적으로 정리한 글입니다. 핵심은 세 가지입니다. 모델은 하이브리드로 나눠 쓰고, 데이터는 가볍게 쪼개 돌리고, 실행과 자격증명은 내 울타리 안에 둡니다.

구조도: 오케스트레이터 → 허브 서버 → 기기별 노드, 데이터 층은 SQLite(정본·큐)와 DuckDB(분석)로 나누고, 울타리 밖으로는 모델 호출만 나갑니다.

1. 모델은 하나가 아니라 역할로 나눕니다

외부 AI 모델을 저렴하게 쓰는 첫 번째 방법은 "제일 좋은 모델 하나로 전부 처리"를 버리는 것입니다. 작업은 성격이 다르고, 단가도 달라야 합니다.

역할

작업 예

모델 층

판단

코드 리뷰, 설계 결정, 검수, 최종 편집

고가 플래그십 API (Claude 등)

시각·물량

스크린샷 판독, 페이지 상태 분류, 캡션 변형

빠른 비전 모델 (Gemini 등)

기계적 배치

대량 변환, 정형 처리, 반복 생성

저가 배치 API (OpenCode Go 등)

상시 대화·가벼운 실행

노드별 상주 에이전트의 일상 작업

구독형 토큰 (아래 4절)

번역 본류

뉴스 수집·번역 파이프라인

번역 특화 클라우드 API

실측으로 배치 작업은 건당 10초 안팎의 빠른 모델로 충분한 경우가 대부분이고, 판단이 필요한 지점만 비싼 모델로 올리면 전체 비용 구조가 달라집니다. 오케스트레이터(편집장 역할의 에이전트)가 작업을 작은 단위로 분해해 배분하고, 결과의 diff를 검수해 통합하는 분업이 전제입니다. 판단은 비싼 쪽에, 물량은 싼 쪽에 — 이 한 줄이 하이브리드 라우팅의 전부입니다.

2. 오래된 노트북이 노드가 됩니다

낡은 노트북 한 대를 함께 드는 류미, 루미, 선배 — 이 글의 노드들은 이렇게 생겼습니다.

두 번째 방법은 실행 노드의 단가를 낮추는 것입니다. 에이전트의 "손"에 해당하는 작업 — 브라우저 자동화, 파일 처리, 영상 변환, 게시 실행 — 은 최신 GPU 서버가 필요 없습니다.

실제 운용 중인 구성의 한 노드는 2016년형 노트북(Dell XPS 15 9550, i7-6700HQ)입니다. 윈도우를 밀고 리눅스(Ubuntu)를 올린 뒤, 이 노트북은 다음을 상주 수행합니다.

  • 자체 사이트(EmDash 기반 출판사 사이트) 서빙 — nginx + Cloudflare 터널로 공개, 별도 호스팅 비용 없음

  • 에이전트 게이트웨이 상주 — 구독 OAuth로 연결된 상주 에이전트

  • GPU(NVENC) 영상 변환 전담 — 세로 영상 인코딩처럼 정형화된 작업

  • 가상 디스플레이(Xvfb) + 브라우저 자동화 노드 — 사람이 쓰는 것과 같은 브라우저 세션으로 발행 작업 수행

ERP와 마케팅 도구도 같은 원리로 내부 노드들에 얹습니다. 사내 ERP, 콘텐츠 큐·스케줄러, SNS 발송 시스템(a9upload)은 전부 자체 서버와 노트북 노드 위에서 돌고, 클라우드에는 모델 호출만 나갑니다. 노트북이 죽으면 그 노드의 일만 멈추고, 큐와 정본 데이터는 허브 서버에 남습니다. 노드는 소모품이고, 두뇌와 기록은 허브에 있습니다.

3. 데이터를 쪼개는 법: SQLite + DuckDB

노트북급 하드웨어에서 이 구조가 굴러가는 비결은 데이터 층에 있습니다. 무거운 관계형 DB 서버를 상주시키는 대신, 용도별로 나눕니다.

SQLite — 트랜잭션과 큐의 정본

  • 서비스별 DB를 파일 하나로 분리합니다. 발송 큐, 가계부 원장, 게시판 스냅샷이 각자 자기 SQLite 파일을 가집니다.

  • 실행기별로는 서버 정본 DB에서 기기별 SQLite 번들을 잘라 배포합니다. 번들은 해시(manifest의 sha256)로 검증한 뒤 원자적으로 교체하고, 실행기는 자기 번들만 보고 일합니다. 중앙 DB에 동시 쓰기가 몰리지 않으니 잠금 경합이 없고, 노트북에서도 가볍습니다.

  • 쓰기는 한 곳(허브 또는 해당 기기)으로 모으고, 읽기는 어디서나 — 이 규율만 지키면 SQLite의 약점은 실무에서 거의 드러나지 않습니다.

DuckDB — 분석은 파일 위에서 바로

  • 집계·분석은 운영 DB를 건드리지 않고 DuckDB로 파일(SQLite, CSV, Parquet)을 직접 쿼리합니다. 판매 집계, 로그 분석, 대조 작업처럼 "읽기 전용으로 크게 훑는" 일이 여기에 해당합니다.

  • 별도 분석 서버도, ETL 파이프라인도 없습니다. 파일이 곧 테이블입니다.

이 조합이면 8GB 메모리 노트북에서도 OS + 브라우저 + 에이전트 + DB가 함께 돌아갑니다. 비결은 거창하지 않습니다. 상주 프로세스를 하나로 유지하고, 무거운 건 상주시키지 않는 것입니다. 필요할 때 파일을 열어 읽는 쪽이, 항상 떠 있는 서버보다 싸고 빠릅니다.

4. 토큰을 "제공받는" 구조로 단가를 낮춥니다

세 번째 방법은 모델 비용의 결제 구조 자체를 바꾸는 것입니다. 종량제 API만으로 상시 에이전트를 굴리면 비용이 선형으로 쌓입니다. 그래서 층을 섞습니다.

  • 구독형 토큰: ChatGPT 구독 OAuth로 연결된 노드 에이전트는 평소 대화를 구독 안에서 처리하고, 무거운 작업(이미지 생성 등)만 상위 모델을 지정해 씁니다. Muse처럼 플랫폼이 제공하는 토큰·크레딧도 같은 층입니다. 만료가 있는 크레딧은 소진 계획(일평균 페이스)을 세워 배치 작업에 태웁니다.

  • 종량제 API: 판단·검수처럼 품질이 결과를 가르는 지점에만 씁니다.

  • 로컬 모델: 야간 시간대처럼 용도가 제한된 작업에만, 그것도 정해진 시간 창 안에서만 씁니다. 상시로 켜두면 전기와 발열이 곧 비용입니다.

원칙은 단순합니다. 상시로 도는 일은 구독·제공 토큰으로, 순간적으로 판단이 필요한 일만 종량제로. 에이전트를 24시간 켜두는 구조에서는 이 구분이 비용의 자릿수를 바꿉니다.

5. 셀프호스트로 보안을 잡는 설계

실행과 자격증명을 안에 두면, 보안의 문제도 내 문제가 됩니다. 앤트로픽이 셀프호스트에서 내세운 원칙 — 두뇌와 손의 분리, 자격증명은 실행 환경 밖에, 허용 목록 기반 연결, 전 과정 로그 — 은 소규모 운용에서도 그대로 적용할 수 있습니다.

  • 자격증명은 노드에 흩뿌리지 않습니다. 키와 비밀번호는 보안 볼트와 각 기기의 로컬 세션에만 둡니다. 채팅, 메모, 코드, 로그 어디에도 값을 남기지 않습니다. 에이전트가 로그인을 쓰는 방식은 "그 기기에 열려 있는 브라우저 세션"을 경유하는 것이고, 로그인 상태는 노드 전체가 공유하는 정보입니다.

  • 경계는 내부망과 터널로 만듭니다. 노드 간 통신은 Tailscale 같은 사설망과 내부 IP 허용 목록으로 제한합니다. 외부에 여는 것은 터널 경유 공개 경로뿐입니다. 자체 내부 CA를 세워 기기 간 인증서를 발급하는 것도 이 규모에서 가능합니다.

  • 발행은 로그인한 컴퓨터로 푸시됩니다. 게시·발송은 계정이 로그인된 바로 그 머신의 브라우저로 실행됩니다. 어느 머신이 어떤 계정을 맡는지는 고정 맵으로 관리하고, 스케줄이 겹치지 않게 나눕니다.

  • 실패는 남기고, 재시도는 사람이 정합니다. 자동 재시도는 같은 실패를 반복하고 부작용(중복 게시, 고아 글)만 쌓습니다. 실패는 실패로 기록하고, 원인 검토는 별도 시간에 합니다.

  • 되돌릴 수 없는 일은 승인 게이트를 둡니다. 삭제·발송·전 채널 공개는 명시 지시가 있을 때만 실행하고, 서버 파일을 덮기 전에는 반드시 스냅샷 백업부터 뜹니다.

남는 간극도 솔직히 적어둡니다. 대기업 제품은 세션 기록이 DB에 구조화되고 감사 로그가 OpenTelemetry 같은 표준 포맷으로 나갑니다. 소규모 운용은 그 자리를 메모리 파일과 운영 규율로 메우는 중이라, 감사 로그의 구조화가 다음 과제입니다.

7. 선배의 정리 — 공짜 토큰과, 컴퓨터를 붙이는 순간

류미: 선배, 솔직히 이 구조 돈이 얼마나 들어요? 모델 API 계속 부르면 청구서가 무서울 것 같은데요.

선배: 종량제만으로 돌리면 무섭지. 근데 순서를 반대로 잡으면 얘기가 달라져. 상시로 도는 일부터 공짜 몫에 태우는 거야.

류미: 공짜 몫이요?

선배: Muse 같은 구독형 에이전트를 쓰면 매주 토큰이 공짜로 제공돼. 한도가 매주 새로 차니까, 매일 도는 수집·등록·점검 같은 상시 업무는 그 주간 몫으로 먼저 태워. 종량제는 정말 판단이 필요한 순간에만 여는 거고.

류미: 그래도 모델이 못 하는 일이 많잖아요. 파일도 못 만지고, 발행도 못 누르고.

선배: 그건 모델 혼자 있을 때 얘기지. 못하는 일은 컴퓨터를 연결하는 순간 살아난다. 노트북 한 대를 붙여주면 그때부터 손이 생겨. 파일이 열리고, 브라우저가 눌리고, 예약이 걸리고, 영상이 구워져. 모델은 원래 두뇌로만 태어난 거야. 손은 우리가 붙여주는 거고.

류미: 물량 작업은요? 번역이랑 배치 같은 거, 매주 몫으로도 모자랄 때가 있잖아요.

선배: 그건 더 싼 길을 이미 깔아뒀지. OpenCode의 무료 모델이 있고, 엑사온은 공짜 API가 있어. 기계적인 배치, 번역 보조, 분류 같은 일은 거기로 흘려보내면 돼. 비싼 모델한테 그런 일까지 시키는 게 낭비야.

류미: 그러면… 정리하면 전사 관리가 거의 0원이네요?

선배: 어렵지 않게 0원으로 할 수 있게 된다, 가 맞지. 출판사 전체 — 수집, 번역, 등록, 발행, 재고 확인, 정산 조회까지 — 상시 업무는 구독·무료 몫으로, 판단은 가끔 종량제로. 돈이 나가는 자리가 어디인지가 눈에 보이니까 무서울 게 없어. 청구서가 무서운 건 구조가 없어서야.

정리

셀프호스트 에이전트의 요점은 "내 서버에서 모델을 돌리는 것"이 아닙니다. 모델은 밖에 있어도 됩니다. 실행과 자격증명과 기록을 안에 두고, 모델은 역할별로 나눠 싸게 부르고, 데이터는 파일 단위로 쪼개 가볍게 돌리는 것 — 이 세 가지가 갖춰지면 오래된 노트북 한 대도 정식 노드가 됩니다. 대기업이 올해 들어 제품으로 내놓기 시작한 이 구조는, 작은 조직에게는 이미 일상의 운영 방식입니다.

▶ 원문 출처: https://bookfactory.kr/board/ai/26259

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.39 =0.00

2026.11.22 KEB 하나은행 고시회차 1008회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!