Postingan ini belum diterjemahkan ke Bahasa Indonesia. Menampilkan teks asli.
이번에 dgpp가 새버전이 나와서 사용해 봤는데 기존 42토큰 나오던게 갑자기 65토큰이 나왔슴미다
원래 이건 2노드 했을때 나오던 tps인데 단독으로 이게 돼?? 하면서 그러면 2스파크라면 잘 하면 100까지 나오는거 아닌가???? 하면서 진행해 봤슴미다
거의 변화가 없슴미다
왜 1스파크와 2스파크 속도가 오차범위인지... ngram도 램에 올리고 다시 측정해 봤는데 별 차이가 없슴미다
그래서 에이전트들에게 물어 봤는데 cx7의 통신속도와 램대역 문제일거 같다는 소리만 함미다 2노드로 나눠서 계산을 해도 이걸 다시 합산해서 아웃풋으로 내보내는데 속도가 느려진다고 함미다
1노드로 했을땐 kv캐시 256k였지만 2노드는 512k로 사용가능 함미다 남은 램 보면 1m도 될거 처럼 보이는데 일단 불안해서 1m까지는 안 하고 있슴미다
dgpp가 좀더 발전하면 2노드 속도가 더 오를 수 있을거라고 믿슴미다 80~90까지는 올라갔으면 해요
