Kapan hardware yang cocok untuk LLM lokal akan tersedia dengan harga terjangkau?

40

Membuat yang seperti GPU dengan spesifikasi tinggi mahal, dan komunikasi CPU dengan PCI secara struktural kurang menguntungkan, jadi CPU+iGPU sepertinya adalah jawabannya. Apakah ini seperti Mac mini yang menggunakan chip M?

Harga jujur masih sangat mahal ㄷㄷㄷㄷ Semoga AMD dan Intel segera meningkatkan kemampuan mereka.

Akan lebih baik jika ada perangkat dock seperti smartphone dengan Linux dan Android yang khusus untuk AI.

Saat ini harga RAM mahal dan investasi infrastruktur menjadi prioritas, jadi pasar akan stabil jika model apa pun tersedia dalam 6 tahun, secara realistis mungkin sekitar 10 tahun lagi.

Tentu saja, perangkat yang dijual dengan harga tinggi seperti Mac mini yang menggunakan chip M sudah ada, tetapi masih mahal.. dan performanya sedikit mengecewakan.

Semoga era di mana smartphone menjadi populer dan semua produsen memproduksinya segera tiba.

Sampai saat itu, saya rasa menggunakan model API yang gratis seperti Frontier akan menjadi solusi terbaik. Kita bisa dengan mudah mengabaikan GPU 32GB yang mahal.

Namun, saya tidak bisa begitu saja menyerah pada mimpi untuk menjalankan sesuatu secara lokal. ㅜㅜ

로그인한 회원만 댓글 등록이 가능합니다.

개발한당

KR | ID | EN
  • IDR
  • KOR
7.52 ▼ -0.01

2026.10.09 KEB 하나은행 고시회차 1858회

다가오는 한인 행사일정

  • 등록 된 일정이 없어요!