로컬 LLM 전용으로 M2 ultra 64GB 를 최근에 마련해서 잘 쓰고 있습니다.
제 환경에서 분리는 당연했습니다.
요즘 와선 코딩 업무용 쓰고 있는 M1 max 32GB 도 살짝 부족하다는 느낌입니다.
메모리 줄이려고 VS code 쓰는데 말이죠.
CPU 는 괜찮은데 메모리만 64GB 였으면 좋겠네요.
Saya baru-baru ini menyiapkan M2 ultra 64GB khusus untuk LLM lokal dan menggunakannya dengan baik.
Pemisahan di lingkungan saya sudah pasti terjadi.
Belakangan ini, saya merasa M1 max 32GB yang saya gunakan untuk pekerjaan pengkodean berbasis kabel sedikit kurang.
Saya menggunakan VS code untuk mengurangi memori.
CPU nya bagus, tapi sayang hanya punya memori 64GB saja.
I recently got an M2 ultra 64GB for local LLM use and it's working well.
Separation in my environment was inevitable.
These days, I'm using my M1 max 32GB for wired coding work, but it feels a little insufficient.
I use VS code to reduce memory.
The CPU is fine, but I wish I had 64GB of memory.