보다 보니 별게 다있군요 -_-
GOD 가사 프롬프트로 넣으면서 '어머님이 자장면이 싫다고한 이유는?'
이라고 질문을 쳐서 문맥을 이해하는가 하는 테스트 입니다 ;;;;
Qwen3.6 35B A3B IQ2M 인데
가사적 맥락
어머니가 숨겨둔 비상금을 마지못해 꺼내서 자장면을 시켜주셨지만, 정작 본인은 드시지 않으셨습니다.
실제 자장면이 싫어서가 아니라, 아들이 맛있게 먹도록 자신의 밥을 아끼며 자신을 희생하려는 마음이 숨어 있는 것으로 해석됩니다.
이는 가난한 환경에서도 아들에게 맛있는 것을 먹여주고 싶은 어머니의 전형적인 사랑과 정열을 잘 보여주는 부분입니다. (가사 특성상 실제로 싫어하셨는지, 아들을 위해 싫다고 거짓말을 하셨는지는 명시되지 않았으나, 문맥상 희생과 배려가 핵심 이유임을 알 수 있습니다.)
인데 희안하게 글올리신 분은 Q8로 돌린것도 답변이 좀 깨지던데, IQ2M이 멀쩡;
참고로 현 시점에선 BC250은 ollama보다 llama cpp가 월등하게 좋습니다
컨텍스트 96K에 스왑까지 엄청 쳐묵쳐묵하는데도 속도 괜찮습니다
가끔 대답을 덜하는게 문제지만 -_-