안녕하세요
최근에 맥미니 M4 64GB를 구입해서 Openclaw 돌려 보고 있습니다.
설치한지는 약 2주일 정도 되었고요
환경은 맥미니 M4 64GB 지만 왜 16GB 모델을 많이 쓰는지 알 것 같습니다.
너무 느려서 답답해서 못쓰겠어요...
처음에는 ollama에 qwen3.5 35b 쓰다가 설정이 꼬였는지 응답을 하지 않고
무한 루프를 돌길래 최근에 나온 샤오미의 MIMO V2 API를 결제해서 약 일주일 정도 사용해봤습니다.
로컬LLM을 계속 쓰고 있었다면 아마 오늘 앱을 만들 생각을 안했을 것 같아요
아래는 제가 부리고 있는 봇들입니다.
맨위가 처음에 만든 봇입니다. 두뇌를 담당하고(mimo v2 pro) 성격(soul)구현을 chatgpt한테 물어서 잘 붙여 놨습니다.
이틀전에 링크(봇 이름)를 통해서 우선 간단한 cron job을 이용한 주가 및 국제 뉴스 알리미 서비스를 만들었습니다.
계속 일을 시키다 보니 기다리는 시간이 지루해서 브리핑용 봇을 따로 만들었습니다.
링크 브리핑은 llm은 연동되어 있지 않고 openclaw에서 시간되면(cron job) 증시나 국제 뉴스 등을 전달하기만 하는 봇입니다.
12시에는 두 명의 진행자(여자, 남자) 가 진행하는 대화 형식의 팟캐스트 2분짜리도 만들어 보냅니다 (구독자는 저와 와이프)
이런 것 처음 하다 보니 실시간 자료를 가지고 오는게 얼마나 대단한 건지 알게 되었네요 하나의 브리핑 자료를 만들기 위해 몇 개의 api를 붙인건지...
마리오는 deepseek api를 연결해서 deepseek chat 모델을 붙여 놨습니다.
주로 일정이나 메모할 영상이나 문서가 있으면 전달해서 자동으로 캘린더, 노션, 옵시디언에 분류해 넣어줍니다. 원래 메모하는 성격이 아닌데 너무 편해서 사용하고 있습니다. 자동으로 요약도 하고 정리도 하고 태그도 달아 줍니다.
마리오는 링크한테 텔레그램 봇 api만 받아 던저주고 몇 가지 역할 말해주면 soul.md랑 지금까지 구현했던 스크립트(구글 캘린더 api 등 있는) 알아서 만들어주고 llm 연결까지 해주니 쉽더라고요
그러다가 오늘 시간이 좀 생겨서 기존에 AWS 위에 만들어뒀던 Teslamate (테슬라 차량과 연동해서 데이터를 쌓아 보여주는 웹 서비스 입니다)를 맥미니로 옮겨 놓고
chatgpt와 협업하여(제 돈은 소중하니까요...) 앱을 하나 만들어 봤습니다.
처음에는 아이폰용 앱으로 만들다가 배포는 하지 않고 개인적으로만 쓸꺼라 웹 인터페이스로 전환 했습니다. (쿨하게 받아 들입니다 진짜...)
개발 경험이 전혀 없어서 뭐라고 하는지 다 이해 못하지만
지금까지 일 시킨거 잘하는 것을 보면(mimo v2 pro) 믿음이 갑니다.
불과 10분도 안되서 전환하고 테스트까지 끝마치내요...
그렇게 나온 앱
깔끔한 UI... 그냥 프롬프트만 넣었는데 이정도 까지 해주네요
간단한 기능 테스트...
처음에 상세히 말하지 않고 그냥 채팅으로 요청하면 teslamate에 연동된 DB 조회해서 결과 던저 주는 앱을만들고 싶다고 chatgpt에게 말한 것을 프롬프트로 넣어서 그런지 결과는 좀 엉망이네요
그래서 처음 생각한 데로 로컬 LLM을 붙이자고 말해 봅니다.
제 PC에 있는 모델을 확인해서 추천해 줍니다.
약 15분 만에 완료하고 테스트까지 완료 하네요
결과 나온 것을 보니 제가 생각한 것 보다 훌륭 합니다.
(실제 주행 거리는 더 많은데 데이터를 백업 후 이전하면서 뭔가 꼬였나 봅니다.)
응답 속도도 10초 내로 만족하네요 처음에는 17초 인가 걸려서 왜 그런거냐 했더니
알아서 최적화 하고는 테스트까지 끝냈습니다.
정말 대단합니다.
개발 경험은 전무하고 학교 다닐때 과제로 네트워크 프로그래밍 정도
회사에서 서버용 스크립트 정도 개발해 본 것이 전부인데요
예전에 아이디어는 있어도 개발 능력이 없고, 돈이 없고 실행하기 귀찮아서 안했는데
api 비용 50달러 결제 해서 이 중에 10달러 들여서 만든게 이정도라니
너무 재미 있어서 시간 가는줄 모르고 하고 있습니다. (도파민 장난 아닙니다.)
여기에 이제 어떤 기능을 달지... 테슬라가 움직이는 컴퓨터라 데이터를 마구 전달해줘서
할게 매우 많네요 ㅎㅎ
간단한 결론
메모리 구매에 돈 들이지 말고 똑똑한 모델 api 비용에 돈을 쓰자
openclaw 설정은 귀찮고 어렵지만 똑똑한 모델 붙이는 순간 다 해결된다.
차는 역시 테슬라다
긴글 읽어 주셔서 감사합니다.