Penambahan Mode Kompatibel LM Studio 0.4.x
Sekarang Anda dapat menggunakan LM Studio API (https://lmstudio.ai/docs/developer/rest) dan Stateful Chats menggunakan API Key (https://lmstudio.ai/docs/developer/rest/stateful-chats).
Menambahkan Server MCP ke Server Frontend
Model LLM yang ingin digunakan harus mendukung Tool.
Penambahan Fitur Server MCP
- Anda dapat menggunakan memori pengguna. Anda dapat memilih apakah akan digunakan dalam pengaturan web.
-- *Simpan di PC dalam teks biasa sehingga perlu berhati-hati saat digunakan. - Server MCP memberitahu tanggal dan waktu aktual kepada LLM.
- Server Go menangani beberapa pemrosesan untuk penggunaan Tool Call dari model LLM berbasis teks.
*Model yang direkomendasikan untuk penggunaan Tool adalah qwen/qwen3-vl-30b dan openai/gpt-oss-20b secara berurutan.
Terkait Jendela Manajemen Server Frontend
- Saat menggunakan Require Authentication LM Studio, Anda juga harus memasukkan API key di jendela manajemen server frontend.
- Kunci API pengguna harus dimasukkan dengan mengklik pengguna di bagian USER MANAGEMENT.
-- *Format kunci API LM Studio berisi ":", jadi iOS terus mencoba menyimpan dalam format huruf kecil.
Terkait Layar Chat
- Saat menggunakan mode LM Studio, SSE diterapkan. Pemuatan model, pembuatan prompt, dan kemajuan penalaran ditampilkan.
https://github.com/DINKIssTyle/DINKIssTyle-Local-LLM-Gateway-with-TTS/releases
