Awalnya saya membuat game dengan AI dan memilih tower defense karena terlihat mudah, jadi saya melanjutkan dengan itu.
Setelah memastikan bahwa permainan berjalan cukup baik, saya merasa malas untuk terus menyeimbangkan permainan saat memainkannya, jadi saya mulai membuat bot otomatis.
Saya memerintahkan bot otomatis untuk langsung terjun dan mempelajari keseimbangan permainan. Karena ini bukan makro, bot tidak tahu apa pun dan harus belajar dari awal. Saya mengajarkannya dengan game Ping Pong dan seterusnya.
Saya berpikir untuk melakukan sesuatu yang lebih produktif, jadi saya mencoba menyesuaikan model untuk membuat laporan saham. Saya mengunduh beberapa model lokal dan menggunakannya, tetapi perlu dilakukan fine-tuning dengan data berkualitas tinggi. Saya juga perlu mengajarkan model tentang korelasi antara berita, harga saham, dan peristiwa.
Saya memilih model phi4 14b sebagai model utama dan melatihnya dengan sekitar 12.000 data. Masalahnya adalah model ini memiliki konteks 16k, sedangkan ada model 32k yang menyebabkan bahasa Korea menjadi rusak. Saya mencari alternatif lain dan menemukan model qwen3 14b dengan konteks 128k. Namun, setelah saya melakukan fine-tuning ulang, kualitasnya menurun dibandingkan phi4.
Saya berpikir bahwa saya perlu meningkatkan jumlah data berkualitas tinggi untuk mengimbangi penurunan kualitas. Phi4 dilatih dengan 12.000 data, sedangkan qwen3 ditargetkan dengan 22.000 data. Saat ini saya sedang melakukan pembersihan dan penyaringan data.
Bot terus bermain game, tetapi masalahnya adalah saya harus terus menyesuaikan reward secara manual. Saya mencoba mengotomatiskan proses ini dengan AI, tetapi model lokal saat ini tidak mampu menanganinya. Ketika saya menggunakan model cloud untuk fine-tuning, hasilnya bagus. Jadi kesimpulannya, baik bot maupun model lokal adalah AI, jadi saya bisa melatih model lokal dengan data reward dan jika hasilnya bagus, saya bisa menggunakannya untuk melatih bot juga.
Saya sedang memerintahkan agen AI saya untuk melakukan semua itu.
Ini akan memakan waktu lama.
