LM Studio 0.4.x 대응 모드 추가
이제 LM Studio API (https://lmstudio.ai/docs/developer/rest) 및 API Key를 이용 Stateful Chats (https://lmstudio.ai/docs/developer/rest/stateful-chats) 사용할 수 있습니다.
프론트엔드 서버에 MCP 서버 추가
사용할 LLM 모델이 Tool에 대응해야 합니다.
MCP서버 기능추가
- 사용자 메모리를 사용할 수 있습니다. 웹 설정에서 사용여부를 선택할 수 있습니다.
-- *평문으로 PC에 저장됨으로 사용에 주의하여야 합니다. - MCP서버가 실제 날자와 시간을 LLM에게 알려 줍니다.
- 텍스트 기반의 LLM모델의 Tool Call 사용을 위해 Go 서버가 일부 처리합니다.
*Tool 사용에 권장하는 모델은 qwen/qwen3-vl-30b, openai/gpt-oss-20b 순입니다.
프론트엔드 서버 관리창 관련
- LM Studio의 Require Authentication 사용시 프론트엔드 서버 관리창에도 API키를 입력해야 합니다.
- 사용자 API키는 USER MANAGEMENT 섹션의 사용자를 클릭해서 입력해야 합니다.
-- *LM Studio API키 형식에 :이 들어가 있어 iOS에서 계속 소문자 형식으로 저장을 시도합니다.
채팅 화면 관련
- LM Studio 모드 사용시 SSE가 적용됩니다. 모델 로딩, 프롬프트 새성, 리즈닝 진행사항이 표시됩니다.
https://github.com/DINKIssTyle/DINKIssTyle-Local-LLM-Gateway-with-TTS/releases
