AI당이 있었군요. O,,O) 인사드릴 겸 Gemma4 모델을 간단히 테스트한 내용을 공유해봐요.
테스트 환경은 hp zbook ultra g1a (대략 5060 수준의 깡성능, 128GB 통합메모리, Ollama) 에서 해봤고요.
먼저, 모델 로딩 후에, "너는 누구인가" 라는 질문에 대한 초기 반응 속도는 아래와 같습니다.
Gemma4:e2b (2.3B) : 3.8초 정도
Gemma4:e4b (4.5B) : 7.0초 정도
Gemma4:26b-A4b (26B) : 15.9초 정도
Gemma4:31B (31B) : 65.7초 정도
간단한 삼단논법 평가에 걸리는 속도는 아래와 같습니다. ("다음 삼단논법을 평가하라. '인간은 언젠가 죽는다.' '옆집 김씨는 인간이다.' '옆집 김씨도 언젠가 죽는다.'")
Gemma4:e2b (2.3B) : 8~14초 정도
Gemma4:e4b (4.5B) : 15~17초 정도
Gemma4:26b-A4b (26B) : 34초 정도
Gemma4:31B (31B) : 157초 정도
그리고 속도보다 중요한 출력 결과의 질은, 정말 놀라울 정도입니다.
가장 작은 모델은 e2b도 다국어 텍스트를 지원하고요. text-to-text 에서 출력해주는 결과가 매우 만족스럽습니다.
이전 버전인 Gemma2나 Gemma3는 기본 모델에서 미세 조정 안하면 쓰기가 민망한 수준이었다면요.
Gemma4는 기본 모델에서 프롬프트만 잘 넣어줘도 괜찮은 성능이 나올 것 같습니다.
제가 주로 다루는 text-to-text 분야의 문서 분류 성능이 어느 정도 보장될 것으로 예상되어 기대가 되네요.
LLM 언어모델이 처음 나올 때는 클수록 성능이 좋았는데요.
에지 디바이스 용으로 나오는 언어모델도 상당한 수준(체감상 ChatGPT 4버전 보다 좋은 것 같아요.)을 보여주고 있어요.
지금도 일부분 Local AI가 MCP로 작동하고 있지만요. 조금만 더 있으면 Local AI 로 굉장한 성능을 보여주는 프로그램(혹은 패키지 서비스)가 출연할 것 같아 기대됩니다. O..O)b
