Saat mengerjakan proyek outsourcing, masih ada token tersisa, dan seorang kenalan membuka rute LLM yang berjalan di Spark, jadi saya coba membuatnya.
Hampir sepenuhnya berjalan otomatis dan saya juga bisa memasukkan pendapat saya.
Setelah menguji berbagai hal, diskusi tentang cara makan daging asam manis hari ini terasa menarik, jadi saya bawakan ke sini ㅎㅎ
Saya membuat multi-sesi dengan Redis dan menambahkan pencarian untuk memori jangka panjang di SQLite.
Awalnya ini aplikasi chat untuk teman-teman main bersama, dan saya ikutan bergabung. Tapi kenalan meminta untuk mengubahnya jadi aplikasi diskusi sebagai syarat pakai Spark, jadi saya coba aja.
Agen di Ollama Cloud dan LM Studio juga bisa digunakan.
