https://github.com/HawkBearPig/dgpp
nvidia 포럼에서 dgx spark 게시판에서 눈팅 하는데 이런툴이 있다고 해서 사용해 봤슴미다
아직 몇가지 모델만 지원하는거 같은데 마침 qwen3.8-flash-next가 1스파크 2스파크 지원이 되서 1스파크로 세팅해 봤슴미다
대략 이정도 tps가 나옴미다
단독으로 40tps정도가 나오는데 이정도면 실사용 20~26 정도 나올거라 기대 됨미다
이전에 vllm으로 했을땐
1스파크는 20 중반 tps가 나왔었고
2스파크가 지금 새로 나온 툴보다 조금 더 잘 나왔슴미다
2스파크로 지금 툴 사용하면 이론적으로는 70~80정도 나올 수 있을거 같슴미다????
아직 모르겠어요
