최근에 맥스튜디오 M2 울트라 64GB 업어 왔습니다. (128GB 모델은 너무 비싸네요.)
기존 M1 Max 32GB는 코딩 및 툴 작업용으로 쓰고 M2는 모델 및 몇 가지 필요한 것만 딱 올려 쓸 겁니다.
다른 거 안 띄우니까 기본 OS 빼고 메모리 LLM에게 다 줄 수 있습니다.
장비를 분리해야지 했는데 최근에야 했습니다. 뭐든지 분리를 해놔야 좋은 것 같습니다.
성능을 생각하면 그냥 유료 쓰는 게 나은데 당분간 성능 낮은 local로 마구 굴릴 일이 있거든요.
Qwen 예전을 생각하면 로컬도 많이 좋아지고 있어서 앞으로도 기대됩니다.