Pengujian DiffusionGemma 26B-A4B-it Q4_K_M GGUF di RTX 3090 24GB.
Prompt: "Jelaskan DeepMind."
TPS baku tertinggi adalah 222.8 tok/s pada max_steps=4 tetapi outputnya rusak.
Titik penggunaan praktis yang dapat digunakan berdasarkan bahasa Inggris diukur sekitar 49,5 tok/s pada max_steps=24.
Pengaturan kualitas konservatif max_steps=48 adalah 42,9 tok/s.
Saya pikir bahasa Inggris akan keluar lebih baik, tetapi terlihat serupa.
Ringkasan sampel:
max_steps=4:
DeepMind is a British artificial intelligence (AI) research laboratory based in London
subsidiary of subsidiary of subsidiary subsidiary parent parent...
max_steps=12:
DeepMind is a British artificial intelligence research laboratory based in London. It is a
subsidiary of Alphabet Inc...
...
AlphaZero ... playing playing against itself ... surpassing surpassing...
max_steps=24 memiliki jawaban bahasa Inggris yang cukup dapat digunakan. Namun, ada fenomena pengulangan paragraf yang sama.
max_steps=48 juga paling stabil tetapi tidak sepenuhnya bersih.
