Benar-benar luar biasa..
MacBook M5 base 32G + Workstation 3060 infrastruktur.
Karena perusahaan saya melakukan pekerjaan yang sama sekali berbeda, sebagian besar situasi saya adalah mobile, jadi saya telah menginstal Hermes+Olamas+LLM+Telegram di kedua sisi.
Setelah mencari model yang tepat, sepertinya QWEN3.6-35B-A3B di MacBook dan GEMMA4:LATEST di Workstation adalah batasnya..
Tapi perbedaan keduanya benar-benar sangat besar.
Apakah saya membuat prompt dengan buruk? Saya mengikuti panduan Geminai, tetapi Gemma terus menghindari dan malas secara logis sehingga membutuhkan waktu lama untuk mengoreksinya.
Dengan ini, sepertinya akan sulit untuk melangkah lebih jauh.. Saya ingin menggunakan CloudAPI, tapi sayang sekali MacBook yang saya beli dengan susah payah terasa sia-sia..
Saya benar-benar bingung ㅜ.ㅜ