Artikel BBC
OpenAI menyuruh model ChatGPT berhenti berbicara tentang goblins
https://www.bbc.com/news/articles/c5y9wen5z8ro
Ini adalah terjemahan sebagian konten GPT-5.5 Thinking.
OpenAI harus menginstruksikan beberapa alat AI miliknya untuk berhenti berbicara tentang goblins. Ini karena mereka menemukan kata ini secara acak masuk ke dalam respons.
Dalam posting blog yang naik pada hari Kamis (waktu setempat), perusahaan mengumumkan bahwa mereka mendeteksi peningkatan referensi tidak hanya tentang goblins (makhluk mitologi) tetapi juga gremlins dalam ekspresi kiasan yang digunakan oleh ChatGPT berbasis GPT-5 model unggulan terbaru dan alat lainnya.
https://openai.com/index/where-the-goblins-came-from/
Ketika kasus menggambarkan masalah sebagai 'goblins kecil' dari pengguna dan karyawan ditunjukkan, OpenAI mengumumkan bahwa mereka telah mengambil langkah-langkah untuk mengurangi masalah ini. Ini termasuk menginstruksikan agen coding Codex untuk tidak menyebutkan goblins kecuali jika relevan.
OpenAI menemukan bahwa kepribadian nerdy yang mereka buat untuk ChatGPT telah secara tidak sengaja belajar mengevaluasi referensi goblins secara positif.
Masalah ini menunjukkan bahwa perusahaan AI sulit menangani kemungkinan bahwa sistem AI dan cara mereka belajar dapat mendorong dan mengkonsolidasikan kesalahan seperti kebiasaan ucapan.
Perusahaan mengumumkan bahwa mereka pertama kali memperhatikan peningkatan referensi tentang goblins, gremlins, dan makhluk lainnya setelah peluncuran GPT-5.1 pada November lalu.
Dalam posting blog yang sama, dijelaskan bahwa "pengguna mengeluh tentang model berperilaku secara tidak wajar dan berlebihan ramah dalam percakapan, dan ini menyebabkan investigasi tentang kebiasaan ucapan tertentu".
Kemudian, setelah seorang peneliti yang melihat referensi goblins beberapa kali meminta penyelidikan, para pengembang menemukan bahwa frekuensi kata tersebut muncul dalam respons ChatGPT meningkat 175% setelah peluncuran GPT-5.1, kata perusahaan.
Sementara itu, referensi gremlin menunjukkan peningkatan 52%.
Meskipun tingkat peningkatannya besar, proporsinya dalam keseluruhan respons mungkin tidak besar. OpenAI mengatakan bahwa "kemunculan sekali 'goblins kecil' dalam jawaban tidak berbahaya dan bahkan bisa menarik", tetapi mereka mengungkapkan bahwa peningkatan frekuensi ekspresi ini di seluruh output memerlukan investigasi.
[Sisa konten dihilangkan]
https://x.com/sama/status/2049692014586048973
