며칠 전에 3090을 구매하면서 함께 딸려온(?) 시스템으로 업그레이드를 했습니다.
dual 3090을 시도하려고 했는데 막상 검색해보니 효과가 그리 크지 않고, 쓸일도 별로 없다고들 하셔서 일단 보류하기로 했습니다.
파워도 1000w로는 dual 돌리는게 힘들것 같기도 해서 일단 하나만 달았습니다.
다만 전에 쓰던 cpu와 ram이 5700x와 2666 96G였는데, 이번에 딸려온 시스템은 5900x와 3600 64G 였습니다.
ssd 이전설치를 마치고 hermes agent를 활용해서 측정해보았는데
그전에 45 tps정도 나오던게 52 tps정도 나옵니다.
약 10%정도 빨라졌다고 하는데 체감으로는 답변 시작이 약간 빨라진 느낌이 가장 큽니다.
local llm은 llama.cpp-server에서 구동하고 Qwen3.6-27b-MTP 모델입니다.
cpu와 메모리가 큰 폭을 성능이 향상되었는데 역시 llm은 GPU가 거의 다 차지하는 것 같습니다.
