https://localrig.com
Situs yang saya temukan secara kebetulan lewat pencarian Google, tetapi penyusunannya sangat rapi.
Anda bisa mengetahui berapa token per detik yang dihasilkan saat menjalankan berbagai model dengan GPU kartu grafis Anda saat ini,
dan apakah model LLM tersebut bisa dijalankan dengan kartu grafis Anda.
Bagus karena saat awal hendak membeli kartu grafis untuk menjalankan model LLM, Anda bisa tahu seberapa cepat hasilnya.
Mac M4 dan M5 bisa menjalankan model berkapasitas besar, tetapi kecepatannya di luar dugaan lambat.
Intel A770 16G saya dibeli karena murah, tetapi di luar dugaan kecepatannya lumayan sehingga saya merasa terhibur. :)
▶ Sumber asli: https://localrig.com
