Saya tidak tertarik dengan AI, dan bidang yang saya geluti adalah bidang di mana AI tidak dapat menembus, bahkan jika memegang pisau.
Kami masih menggunakan PowerBuilder.. dan warisan berbasis net 1.0 hingga saat ini. Tentu saja, seiring berjalannya waktu, jika produk yang lebih baik muncul yang dapat mencakup warisan, itu mungkin terjadi.
Namun demikian, kami sering menerima proposal penjualan atau POC dengan produk LLM lokal dan produk alur kerja berbasis agen.
Dan kepuasan meningkat setelah beberapa produk dikirim ke beberapa departemen.
Baru-baru ini, proposal POC masuk, jadi saya menginstal versi demo dan melihatnya. Saat saya memasang paket di server yang saya uji, terjadi kesalahan sehingga open webui yang saya buat tidak berfungsi.
Saya terpaksa memeriksa melalui terminal, dan ternyata saya dapat melihat layanan produk tersebut. Ternyata itu berbasis ollama dan open webui. Dengan kata lain, mereka hanya mengubah desain open webui. Saya dapat menemukan kemiripan dalam kemampuan untuk mengatur model LLM lokal secara internal, cara menghubungkan ke LLM eksternal, dan fungsi RAG.
Saya bertanya kepada perusahaan tentang fitur tertentu yang tidak tersedia, dan mereka mengatakan bahwa itu belum didukung. Saat itulah saya yakin. Versi ollama meningkat sehingga perlu memeriksa kompatibilitas driver GPU dan CUDA, tetapi saya tidak tahu banyak tentang hal itu.
Setelah itu, saya melihat kembali semua brosur yang pernah saya terima, dan ternyata sebagian besar konfigurasi dan fungsinya mirip.
Sepertinya saya perlu memeriksa kebijakan lisensi ollama dan open webui terkait elemen komersial.
Setelah mengalami ini, saya teringat apa yang dikatakan instruktur ketika saya mengikuti pelatihan LLM di musim semi.
“Apa yang kalian pelajari bukan hanya teknologi, tetapi juga cara menghemat keuangan perusahaan”
Intinya adalah ada perusahaan yang memproduksi produk pada tingkat proyek praktis dan mendapatkan uang darinya.
Saat ini, saya menyadari bahwa beberapa produk AI yang diadopsi secara internal menggunakan open source apa adanya dan menjualnya dengan harga mahal. Saya tidak keberatan jika mereka menggunakan open source untuk menyediakan layanan yang baik. Namun, saya bertanya-tanya apakah masalah lisensi dan open source dapat diselesaikan dan apakah pemeliharaan akan berjalan lancar.
