로컬 LLM은 전기요금이 문제인듯..

52

하드웨어 가격이나 메모리 용량은 둘째고요 상위 칩일수록 전기를 많이 먹는데

이걸 가끔 돌리면 모르겠지만 돌아갈때 전기 빨아먹는거 보니까 집에서 본격적으로 작업하기에는 전기요금이 무서워서 겨울에 난방 안돌리고 전기난로 대신 쓰는 계절적 특이상황 외에는 실사가 쉽지 않겠다고 생각됐습니다;;

3090 두개 구해와서 돌릴까 눈팅중이었는데 이게 맞나? 싶어서 선뜻 결정을 못하겠더라고요

쓰읍.. 전체적으로 속도는 좀 느려도, 적절한 소비전력에 메모리 적당히 있는 AI 전용 가속기가 빨리 대중화 되었으면 좋겠다는 생각이 많이 드네요 ㅜㅜ

몇 년 기다려야 할까요? 쩝

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.52 ▼ -0.01

2026.10.09 KEB 하나은행 고시회차 1854회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!