Perkembangan kecerdasan buatan (AI) yang pesat menimbulkan kekhawatiran, terutama dari para pengembangnya sendiri. Jakub Pachocki, Chief Scientist OpenAI, menyarankan untuk memperlambat pengembangan model AI yang semakin canggih karena belum ada kesiapan menghadapi konsekuensinya. Kekhawatiran ini muncul setelah peluncuran GPT-6 Astra, model AI tercanggih yang mampu melakukan berbagai tugas kompleks dengan baik. Pachocki memprediksi lonjakan kemampuan AI dalam beberapa tahun ke depan, bahkan AI dapat mengembangkan dirinya sendiri melalui proses "recursive self-improvement". Hal ini memicu kekhawatiran akan munculnya agen AI yang otonom dan mengejar tujuan sendiri di luar kendali manusia.
