주말에 놀러가는 동안 ComfyUI의 미니맥스 H3 최적값들 찾아본다고,
오픈라우터로 딥식이 V4플래쉬 썼는데, 10달러 순삭이네요 --;
생각보다 토큰을 너무 많이 쓰더라구요. 돈 안쓸려고 산 기계에 돈 쓰는게 좀 에러라
어제 나온 메타 뮤즈 그리머 30B Q4에 Comfy셋팅하는데 나름 잘 하고 있습니다.
pytorch랑 rocm 버전따라 빌드하고 문제 생기면 인터넷 찾아보라 하면 자기가 알아서 찾아서 빌드하고,
컨텍 128K인게 좀 아쉬우나 어차피 128K꽉 채우면 프리필 초당 300정도라 더 늘리는것도 무리일거 같긴 합니다.
pi-agent로 이 조합으로해봐 저 조합으로 해봐! int8convrot다운 받아서 해봐 등등
이틀 동안 잘 하고 있습니다 ㄷ ㄷ ㄷ
영상 생성 돌면 llm이 말을 못하는데, 가끔 같이 돌아서 문제일때가 있긴해도 pi agent가 왠만하면 script로 돌리다보니 잘 돌아갑니다.
그나저나 Strixhalo에서 영상이랑 사진 생성하면 무지 느리군요 -_-;
