Postingan ini belum diterjemahkan ke Bahasa Indonesia. Menampilkan teks asli.
예전에 dgx spark (gx10) 을 잘 사용하다가, 중고로 처분하고 opencode go 구독제를 이용하고 있었습니다.
현재 steamdeck 에 harness 를 구축하여 사용중입니다.
그러던 중, muse.ai 소식을 듣고 잘 망치질해서 harness 를 관장하는 메인 에이전트로 사용중입니다.
steamdeck tailscale 에 등록하고 ssh 연결하여 muse.ai 로 서버를 제어중입니다.
strata 소식을 듣고 구석에서 외면받던 저의 machine 같은 노트북.. area 51m r2 에 모델 서빙을 해봤는데요.
프리필 200tps, 디코드 25~40tps 정도 뽑아주네요.
노트북은 자기전에 절전모드로 돌리고, 아침에 일어나서 웨이크업시켜서 사용중입니다.
이것도 harness 기반으로 하는 우리 가족이 사용하는 어플에서 딸깍으로 하고 있습니다.
노트북 idle 상태에서는 전력이 cpu+gpu 15w 이하이고, 모델 연산중에는 cpu+gpu 110 w 정도 나오네요.
참고로 area 51m r2 노트북은 240 w, 330 w 2개의 어댑터를 꽂아서 사용합니다.
데스크탑용 cpu 와 gpu 를 사용하는 괴물같은 노트북입니다..
근데 모델 연산중에도 전력이 낮아서 그냥 240 w 하나만 꽂아서 쓰고 있습니다.
다만 프리필이 너무 느려서 문제긴한데, 그래도 그냥 스페어 용으로는 둘만합니다.
