Strix Halo (AI MAX) 쓰시는 분들 추천

183.157.***.***
94

https://github.com/Nathanw1014/strix-halo-llamacpp

해당 개발자가 Strix Halo 와 llamacpp 사이에 뭔가 비효율적인 동작을 수정한 버전 입니다

llamacpp에 머지 신청 했다는데 뭐 증명이 제대로 안되서 아직 안되는거 같은데,

저는 상당히 개선 됩니다.

Qwen 3.6 27B Q6K 기준. 180K Prefill에 130t/s 에 그 상태로 10tps 가량 나오고 정상 수행 됩니다.

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.82 0.01

2026.08.24 KEB 하나은행 고시회차 479회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!