파라미터는 클로드코드가 알아서 올려줘서 잘 모르겠습니다.
일단 thinking(reasoning) 모드는 껐습니다.
q8과 q6를 다운 받았는데 q8만 돌려보았습니다.
mtp없이 약 50tps정도 나옵니다.
mtp켜니까 150-160 나옵니다. 놀랍습니다.
동네 형 qwen3.6-27b과 1:1 매칭을 시켜봤습니다.
qwen도 mtp 켜고 약 55tps정도 나옵니다.
제 파워유닛(psu)가 1000w밖에 안되서 둘다 풀로 못돌리고 280w 제한걸은 상태로 쓰고 있습니다.
gemma4가 확실히 빠릅니다. 작업속도는 3배 이상 차이가 나는 것 같습니다.
그러나 퀄리티는 qwen에게는 못당합니다. 같은 프롬프트로 일을 시켜보았는데 qwen이 토큰 사용량이 2배 이상 더 많이 쓰는 경우도 많습니다. gemma는 시험시간에 제일 먼저 풀고 엎드려 자는 아이 같다면 qwen3.6-27b는 시험시간 끝까지 푸는 아이 같습니다.
마침 head to head video가 올라왔군요.
