Peluncuran massal platform AI generasi berikutnya Nvidia, Vera Rubin, menekan rantai pasokan NAND TLC, sehingga harga spot 512Gb TLC yang turun pada Juni kembali pulih ke level $21.
Seiring dengan semakin besarnya model AI, manajemen KV Cache* menjadi isu penting, dan Nvidia memperkenalkan CMX (Context Memory eXtension) sebagai lapisan penyimpanan menengah baru di platform Rubin untuk mengatasinya.
* Key-Value Cache adalah ruang memori yang menyimpan informasi yang telah dihitung oleh model AI untuk digunakan kembali.
CMX terletak di antara HBM (High Bandwidth Memory) dan penyimpanan jaringan backend yang ada, dan berfungsi sebagai pool memori flash TLC berkecepatan tinggi.
* Server CMX 2U dapat menampung 600TB memori flash TLC.
Ini diharapkan akan memperluas manfaat bagi pemasok semikonduktor memori (seperti Samsung Electronics dan SK Hynix).
- Kemungkinan besar tren kenaikan harga pasar HBM, serta pasar NAND TLC kinerja tinggi dan eSSD akan dipercepat.
Oleh karena itu, posisi pemasok memori yang memiliki kemampuan untuk menyediakan server CMX dengan tingkat kesulitan teknis tinggi dan chip TLC kepadatan tinggi untuk SSD perusahaan kemungkinan akan semakin kuat.
Meskipun hipotesis bahwa "Nvidia sedang menaikkan harga NAND TLC" cukup meyakinkan, namun masih diperlukan verifikasi lebih lanjut. Silahkan dicatat!
▶ Sumber asli: https://wccftech.com/nvidias-vera-rubin-production-ramp-up-is-now-squeezing-tlc-nand-supply-driving-512gb-spot-prices-to-21-after-the-june-slump/
