Aku baru menemukan sesuatu yang menarik dan ingin membagikannya 😇 ㅎㅎ Semoga hari kalian menyenangkan!

Ada artikel penelitian yang menarik di arXiv minggu lalu (2026-05-07). Tim peneliti dari Washington University in St. Louis menerbitkan "Nonsense Helps: Prompt Space Perturbation Broadens Reasoning Exploration”, atau dalam Bahasa Indonesia "Yang Tidak Bermakna Membantu: Mengganggu Ruang Prompt untuk Memperluas Eksplorasi Penalaran”.

Penemuan inti dalam satu kalimat: Jika kita menambahkan teks Lorem Ipsum (Latin) yang tidak berarti sebelum soal matematika yang sulit selama tahap pembelajaran RL, model akan lebih mudah menyelesaikannya(!?)

Awalnya terdengar aneh, tapi mekanismenya ternyata cukup jelas. Berikut adalah ringkasannya.

Masalah - Jebakan "Zero-Advantage" pada GRPO

Saat ini, LLM dilatih dengan metode pembelajaran penguatan seperti GRPO (Group Relative Policy Optimization) setelah menyelesaikan tahap pretraining. Model yang fokus pada penalaran seperti DeepSeek-R1 dan Qwen3 diketahui menggunakan metode ini.

Sederhananya, cara kerja GRPO adalah:

1. Untuk satu soal, model menghasilkan n jawaban (misalnya: 8).

2. Jawaban yang benar diberi reward, jawaban yang salah diberi penalti.

3. Gradient dihitung berdasarkan skor relatif.

Di sinilah jebakannya. Untuk soal yang sulit, model mungkin akan menghasilkan n jawaban yang salah → semua kandidat mendapat skor yang sama → tidak ada advantage relatif → tidak ada gradient → tidak ada sinyal pembelajaran.

Ini disebut sebagai "zero-advantage problem”. Model mencoba untuk membandingkan 8 jawaban untuk satu soal, "apakah ini benar atau salah" untuk belajar. Ini adalah metode evaluasi relatif. Soal yang paling sulit dijawab model (soal yang berada di batas kemampuan model) seharusnya menjadi fokus pembelajaran. Namun, jika semua 8 jawaban salah, tidak ada yang bisa dibandingkan. Semua mendapat skor 0, jadi "siapa yang lebih baik" tidak bisa ditentukan. Model akan langsung menyerah dengan mengatakan "Aku tidak bisa menyelesaikan soal ini". Padahal, itu adalah saat di mana model seharusnya belajar.

Solusi Lama - Meningkatkan Jumlah Sampel

Solusi yang biasa digunakan adalah "menambahkan lebih banyak jawaban". Untuk soal yang sulit, model akan menghasilkan 24 atau 48 jawaban. Harapannya, setidaknya satu jawaban akan benar.

Masalahnya adalah jika menggunakan kebijakan yang sama untuk menyelesaikan soal yang sama, hasilnya akan serupa. Seringkali terjadi bahwa model salah 24 kali berturut-turut.

Ide LoPE - Mengguncang Distribusi Output dengan Noise Tanpa Arti

Hipotesis utama dari penelitian ini: "Jika kita menambahkan gangguan (perturbation) yang tidak relevan dengan tugas pada prompt, distribusi output model akan cukup terganggu sehingga membuka jalur penalaran yang ortogonal."

Untuk menguji hipotesis ini, diperlukan noise yang "tidak mengandung makna yang berarti". Oleh karena itu, mereka memilih Lorem Ipsum. Teks placeholder yang terlihat seperti bahasa Latin tidak memiliki arti sebenarnya, tetapi masih mempertahankan bentuk "seperti bahasa". (Para pengembang front-end pasti sering menggunakannya).

Cara Kerja

Dalam GRPO standar, jika model gagal menjawab semua G jawaban untuk soal yang sulit:

Aslinya:
[Soal]: Hitung integral x^2 dari 0 hingga 3

→ 8 kali percobaan → semuanya gagal → tidak ada sinyal pembelajaran → diabaikan

LoPE tidak berhenti di situ. LoPE akan:

[Lorem ipsum dolor sit amet, consectetur adipiscing elit. 
sed do eiusmod tempor incididunt ut labore et dolore... 
(dipotong, 100-300 token)]
[Soal]: Hitung integral x^2 dari 0 hingga 3

→ 24 kali percobaan lagi (dengan prompt yang diganggu)
→ beberapa jawaban benar muncul
→ sinyal pembelajaran dipulihkan

Hasil - Benar-benar Berfungsi(!?)

Pada model Qwen3-4B-Base:

3 model (1.7B, 4B, 7B) semuanya menunjukkan peningkatan yang konsisten. Model 7B (Qwen2.5-Math-7B) menunjukkan peningkatan yang lebih besar dengan rata-rata +6.20.

Hasil Terbaik - "50 Soal Hanya Bisa Diselesaikan Oleh LoPE"

Poin utama yang diangkat dalam makalah: Dalam kumpulan 352 soal yang sulit, terdapat 50 soal yang hanya bisa diselesaikan oleh LoPE. Metode lain (GRPO standar, resampling naif, sampling suhu tinggi) semuanya mencapai 0%, sedangkan LoPE berhasil menyelesaikannya.

Ini bukan peningkatan marginal, melainkan hasil dari "menyelesaikan soal yang sebelumnya tidak pernah bisa diselesaikan".

Mengapa Latin Hanya Bekerja?

Makalah ini membandingkan secara sistematis 8 jenis gangguan. Skor rata-rata Qwen3-1.7B-Base:

Ada dua pola utama:

1. Keunggulan Kosakata Latin - 4 jenis perturbation berbasis Latin menduduki peringkat teratas. Perturbation yang dibuat dengan kata-kata bahasa Inggris menyebabkan "gangguan dengan konteks penalaran bahasa Inggris model", mengakibatkan penurunan kinerja.

2. Perplexity Rendah adalah Kunci - Perplexity di rentang 25-50 adalah sweet spot. Jika terlalu tinggi (token acak, perplexity hanya 46), model menganggap input sebagai "kebisingan yang tidak dapat dipahami", justru menurunkan kinerja.

Menurut ungkapan makalah:

"Dua karakteristik perturbation yang efektif: (i) mencegah gangguan konteks penalaran bahasa Inggris dengan kosakata pseudo-Latin, (ii) mempertahankan kualitas rollout dengan perplexity rendah."

Jika Dipahami Secara Intuitif

Model memiliki internal state saat melakukan penalaran. Dengan masalah yang sama dan internal state yang sama, jawaban yang serupa akan dihasilkan. Jika menambahkan Lorem Ipsum di depan:

• Dari perspektif model, diperlakukan sebagai "ada bahasa Latin di sini" (karena terlihat seperti bahasa yang dapat dipahami)

• Namun karena tidak memiliki makna, tidak mempengaruhi jalur penalaran

• Tetapi internal state sedikit terguncang

• Guncangan itu mendorong model ke jalur penalaran yang berbeda

Analogi dalam makalah adalah "memberikan dorongan kecil kepada pendaki yang terjebak. Meskipun didorong ke arah mana pun, jalan yang tidak terlihat bisa menjadi terlihat."

Tiga Poin Bermakna

1. Eksplorasi masih merupakan masalah yang belum terpecahkan

Saat membahas pelatihan LLM, "mari kumpulkan lebih banyak data" dan "perbesar model" adalah arus utama, tetapi "bagaimana membuat model melakukan eksplorasi" adalah area yang kurang diteliti. LoPE adalah "kami sedang membiarkan kinerja hilang begitu saja" buktinya.

2. Sensitivitas Prompt bukan Bug melainkan Fitur

Fakta bahwa menambahkan prefix yang tidak bermakna pada masalah yang sama membuka jalur penalaran yang sama sekali berbeda adalah petunjuk mendalam tentang cara model menavigasi latent space. "Jawaban yang benar berada di tempat yang dapat dicapai, hanya titik awal yang perlu berbeda" ini juga dapat dilihat sebagai bukti.

3. Metode Sederhana Dapat Mengalahkan Metode Kompleks

Implementasi LoPE sangat sederhana sehingga memalukan. Tidak ada perubahan arsitektur, tidak ada modifikasi model reward. Hanya tambahkan Lorem Ipsum di depan saat melakukan resampling. Jika Anda melakukan fine-tuning RL (Reinforcement Learning), ini hampir merupakan eksperimen zero-cost.

Keandalan dan Batasan

Aspek Keandalan

• Preprint arXiv (diposting 2026-05-07). Belum melewati peer review (belum diverifikasi dengan baik oleh pihak ketiga)

• Namun salah satu penulis, Jiaxin Huang, adalah PhD Fellow di Microsoft Research dan penerima AAAI 2026 New Faculty Highlight. Tim peneliti tidak ringan dalam penilaian

• Kode telah dibuka: https://github.com/shrango/LoPE

• Format pengiriman COLM 2026 (Conference on Language Modeling). Kemungkinan peer review sedang berlangsung

Aspek Keterbatasan

• Hanya menangani waktu pelatihan. Makalah tidak mengatasi apakah menambahkan Lorem Ipsum pada waktu inferensi efektif (verifikasi terpisah diperlukan)

• Fokus pada penalaran matematika. Belum diverifikasi apakah digeneralisasikan ke pembuatan kode dan penalaran umum

• Hanya model seri Qwen. Terpisah dari apakah pola yang sama muncul dalam model dasar seri Llama, GPT, Claude

• Pernyataan etika menarik, penulis secara langsung menyatakan "jika perturbation terlalu kuat, model dapat menghasilkan output yang tidak kohesif atau nonsensical, dalam beberapa kasus termasuk konten yang tidak diinginkan/berbahaya". Artinya, kapan dan risiko keselamatan apa yang ada masih belum terkontrol

Kesimpulan

Makalah dalam satu baris: "Jika kebisingan yang tidak bermakna masuk dengan cara yang tepat, kinerja model dapat ditingkatkan tanpa menambahkan informasi."

Ini tampaknya menjadi pola yang cukup sering terjadi di bidang pembelajaran AI. "Melakukan lebih sedikit adalah melakukan lebih banyak" seperti paradoks. Dropout memiliki intuisi serupa (mematikan neuron secara acak untuk meningkatkan generalisasi), dan beberapa bagian dari augmentasi data (pemotongan acak, penambahan kebisingan) juga mengikuti prinsip yang sama. LoPE dapat dilihat sebagai kasus penerapan prinsip yang sama pada tingkat prompt.

Alasan saya tertarik pada makalah ini lebih karena kesederhanaan metodologi daripada hasilnya. Seorang peneliti berpikir "semua jawaban salah sehingga pembelajaran tidak bekerja... hmm... mengapa tidak hanya menambahkan bahasa Latin yang tidak bermakna di depan?" dan benar-benar mencobanya. Itu benar-benar "jika itu berhasil, lakukan saja" ㅎㅎ

Artikel asli (ringkasan bagus tersedia): https://dev.to/ww-w-ai/lorem-ipsum-makes-llms-smarter-no-seriously-1j8l Makalah asli: https://arxiv.org/abs/2605.05566 Kode: https://github.com/shrango/LoPE

Sumber

• Makalah: Huang, Huang, Li, Cai, Yang, Huang. (arXiv:2605.05566, 2026-05-07)

• Semua angka dan kutipan dalam tulisan ini diambil dari teks makalah (bagian 1-5) + data lampiran

• Tulisan asli di dev.to meringkas inti makalah dengan akurat, jadi silakan dirujuk.

  ---