Beberapa waktu lalu saya melihat di Reddit bahwa ada versi beta, jadi saya mencobanya.
Ini hanya paket yang berisi llamacpp, SDF, embedding, layanan kompilasi, OpenWebUI, Hermes, dan lainnya.
Dasbor webnya juga cukup lancar sehingga saya ingin mencoba beralih dari Lemonade, tetapi... ada bug...
Saya telah memperbarui beberapa kali, tetapi masalah kronis tidak teratasi, jadi saya menundanya dan kembali menggunakan Lemonade.
Yang bagus adalah comfyui sudah terintegrasi, jadi saat Anda menjalankan comfy, inferensi akan berhenti dan tersambung.
Mudah diakses, tetapi karena mencoba melakukan terlalu banyak hal,
layanan systemd menjadi kacau, dan llamacpp juga dipaksa menggunakan ROCmFPX sehingga hari ini terjadi konflik dan semua model tidak dapat dimuat;
Saya rasa saya sudah menginstal dan menghapusnya lebih dari 10 kali. Saya akan menyerah untuk sementara dan menggunakan Lemonade.
Apakah ada yang menggunakan alternatif serupa?
▶ Sumber asli: https://hal0.dev/