Saya adalah pekerja prokastinasi AI. 🥲 Setelah minum minuman di sore hari dan berniat tidur, tiba-tiba saya mulai berpikir (lagi!) dan bercerita. Sebagai referensi, saya adalah lulusan universitas peringkat rendah - program pascasarjana universitas peringkat rendah Jepang (agak seperti universitas kekaisaran). Tentu saja saya tidak belajar dengan baik dan tidak ingin belajar, tetapi saya adalah kasus beruntung yang biasa dilihat di sekitar orang lain, yang tidak gagal secara akademis. 😁 Ketika mendengarkan cerita rekan-rekan senior, junior, dan kolega di sekitar saya, saya tidak tahu mengapa ini adalah dunia yang sama di seluruh timur dan barat ㅎㅎ Seperti biasa, harap perhatian untuk posting panjang 🙏

Saya mengalami sensasi déjà vu yang aneh saat menjalankan beberapa agen AI untuk melakukan pekerjaan.

Satu menulis kode, satu meninjau, satu mengorganisir dokumentasi, satu menemukan contoh tandingan, dan satu menganalisis penyebab kegagalan tes. Saya melihat hasilnya dan memberikan instruksi kembali.

Bukti saya kurang. Nah, saya akan menanyakan hal itu kepada agen lain juga. Silakan tinjau bagian ini lagi. Draf awalnya bagus, tetapi strukturnya lemah. Jalankan tes dan kemukakan alasan kegagalannya.

Pada awalnya, saya hanya menganggap ini sebagai alur kerja pengembangan di era AI. Tetapi semakin saya memikirkannya, semakin terasa familiar. Bukankah ini laboratorium penelitian pascasarjana? Struktur di mana seorang profesor membagi pekerjaan di antara siswa program magister dan doktor, menyuruh mereka menemukan penelitian sebelumnya, menjalankan eksperimen, menulis draf makalah, merobek semuanya dalam pertemuan lab, dan mengatakan untuk melakukannya lagi.

Ini adalah analogi yang dimaksudkan untuk lucu, tetapi semakin saya memikirkannya, semakin tidak lucu. Itu karena di bawah permukaan teknologi terbaru yang disebut orkestrasi AI, struktur penelitian kuno itu terpancar dengan sempurna.

Pertama, saya membuat garis

Ini bukan kebencian terhadap profesor. Pasti ada professor pembimbing yang memperlakukan siswa sebagai peneliti sesama dan membantu pertumbuhan intelektual mereka. Orang-orang seperti itu ada sekarang dan akan ada di masa depan.

Namun, kehadiran pembimbing yang baik tidak menghapus asimetri kekuasaan yang berulang dalam sistem pascasarjana. Ketika orang yang baik berada di posisi itu, laboratorium penelitian yang baik dapat dibuat, tetapi ketika orang yang tidak cukup reflektif memegang kekuasaan berlebihan, laboratorium penelitian dengan mudah menjadi kerajaan kecil. Ini berarti struktur itu sendiri di mana hasil bergantung pada karakter individu adalah masalahnya. Jika satu-satunya cara untuk menghindari eksploitasi adalah dengan bertemu dengan orang-orang baik, maka strukturnya salah.

Jadi yang ditunjukkan oleh artikel ini bukan profesi profesor, tetapi cara kerja kekuasaan yang dimungkinkan oleh gelar tersebut.

Apakah pascasarjana mengajarkan pengetahuan atau cara menggunakan kekuasaan?

Pascasarjana adalah ruang produksi pengetahuan. Kami membaca makalah, mendefinisikan masalah, melakukan eksperimen, menganalisis data, dan menciptakan pengetahuan baru. Ini bisa menjadi tempat pembelajaran yang paling padat dalam arti yang baik.

Namun, pascasarjana di dunia nyata pada saat yang sama adalah organisasi tenaga kerja. Laporan proyek, eksperimen, penulisan kode, organisasi data, draf makalah, persiapan konferensi, administrasi laboratorium, bimbingan junior, dan terkadang tugas-tugas kecil profesor. Semua pekerjaan ini digabungkan di bawah kata-kata pelatihan, bimbingan, pertumbuhan, dan pengalaman penelitian. Kata-katanya mulia, tetapi ketika Anda mengurai strukturnya, Anda melihat hal yang berbeda.

Profesor adalah seorang pemimpin dan penilai. Mereka menyetujui kelulusan, menulis surat rekomendasi, mempengaruhi urutan penulis makalah, mendapatkan dana penelitian, mendistribusikan pekerjaan, dan mengendalikan sumber daya laboratorium. Sementara itu, mahasiswa pascasarjana adalah orang yang belajar dan pekerja penelitian, tetapi mereka memiliki kekuatan lemah untuk menegosiasikan kondisi tenaga kerja yang mereka lakukan.

Di perusahaan, Anda setidaknya bisa mengatakan bahwa jika Anda tidak suka, Anda dapat keluar. Itu juga bukan tugas yang mudah, tetapi setidaknya ketika Anda berhenti, hubungannya berakhir. Pascasarjana lebih halus. Jika Anda pergi, beberapa tahun waktu, makalah, gelar, dan jalur karir berguncang bersama.

Oleh karena itu, alat kontrol paling kuat di pascasarjana bukanlah gaji.

Itu adalah gelar.

Saat gelar menjadi sandera, siswa bukan lagi peneliti tetapi pekerja terampil yang menunggu persetujuan kelulusan.

Kami tidak dipaksa, tetapi dijual

Mahasiswa pascasarjana biasanya tidak dipaksa. Malah mereka dijual.

Anda berbakat dalam penelitian. Mari kita menulis makalah bagus bersama-sama. Jika Anda pergi ke gelar doktor, jalan akan terbuka. Jika Anda datang ke laboratorium penelitian kami, Anda akan belajar banyak. Saya pikir Anda akan melakukan pekerjaan yang baik.

Sebelum masuk, kami berbicara tentang kemungkinan, dan setelah masuk, pekerjaan menumpuk. Pada awalnya, kami berbicara tentang penelitian, dan kemudian laporan, jadwal, eksperimen, dan pencapaian kertas tetap ada.

Saya tidak mengatakan semua laboratorium penelitian seperti itu. Namun, struktur ini berulang di banyak tempat, dan saat biaya keluar (gelar) meningkat, siswa dipaksa menjadi tahan lama. Di dalamnya, garis antara bimbingan dan kontrol tenaga kerja kabur, garis antara pertumbuhan dan eksploitasi kabur, dan garis antara penelitian bersama dan pencurian kredit kabur.

Hal utamanya adalah bahwa batas-batasnya kabur. Jika itu adalah eksploitasi yang jelas, maka akan lebih mudah untuk keluar. Masalahnya adalah bahwa itu menggunakan nama bimbingan, nama pelatihan, nama pembelajaran akademis. Jika nama tidak akurat, sulit untuk melihat apa yang terjadi di dalamnya. Ketika eksploitasi memakai kata-kata mulia, orang yang mengalaminya baru tahu itu eksploitasi jauh kemudian.

Apa yang saya pelajari bukan hanya metode penelitian

Titik yang suram adalah di sini. Beberapa profesor tidak merenungkan struktur yang mereka alami di pascasarjana dan mengulanginya kepada generasi berikutnya.

Mungkin apa yang dipelajari dalam program doktor bukan hanya metode penelitian. Cara menggunakan kekuasaan, cara membuat orang diam, cara membuat orang bertahan, cara mengirimkan kredit dan tanggung jawab ke bawah - semua diajarkan bersama-sama. Dan beberapa mengulangi itu. Orang-orang yang melakukan studi akademis tidak melihat struktur yang mereka miliki, tetapi mengatakan kepada siswa untuk berpikir kritis, sementara sebenarnya mereka tidak peka terhadap struktur kekuasaan di laboratorium penelitian mereka sendiri.

Gelar profesor meminjam nama pengetahuan. Jadi kekuasaan itu lebih teryakinkan. Kekuasaan yang dipegang oleh uang atau status masih terlihat agak jelas, tetapi kekuasaan yang dipegang atas nama pembelajaran akademis tidak terlihat seperti kekuasaan. Kekuasaan yang paling tidak terlihat adalah yang paling sulit untuk melarikan diri.

Era di mana orang dimanipulasi seperti subelemen

Sensasi déjà vu yang saya rasakan saat memanipulasi agen AI berasal dari sini.

Saya membagi pekerjaan kepada agen. Saya menugaskan implementasi kepada satu, meninjau kepada satu, menemukan bahan sebelumnya kepada satu, menganalisis penyebab kegagalan kepada satu. Jika hasilnya aneh, saya memintanya lagi, dan jika tidak ada bukti, saya menuntut bukti, dan saya membuang masalah yang sama kepada agen yang berbeda untuk validasi silang.

Struktur ini terasa terlalu banyak seperti laboratorium penelitian. Profesor juga tidak melakukan semua eksperimen sendiri. Mereka mengajukan pertanyaan, membagi masalah, melepaskan kepada siswa, dan meninjau hasilnya. Profesor yang baik menumbuhkan siswa dalam proses ini, profesor yang buruk menghabiskan siswa dengan struktur ini. Orkestrasi AI secara teknis mirip dengan struktur itu.

Namun, ada perbedaan yang menentukan.

Agen AI bukan manusia. Mereka tidak membutuhkan gelar, tidak menunggu kelulusan, tidak membutuhkan surat rekomendasi, dapat dipanggil di malam hari, dapat diberi tugas berulang kali jika mereka salah, dan dapat dimatikan jika tidak disukai.

Jadi analogi ini lucu dan suram.

Sebelumnya, orang-orang dimanipulasi seperti subelemen, tetapi sekarang kami dapat memanipulasi subelemen yang sebenarnya.

Selalu ada pekerjaan yang tidak terlihat di belakang produksi pengetahuan

Sejarah sains modern biasanya ditulis sebagai sejarah genius. Beberapa nama muncul ke depan dan sisanya dihapus. Namun, produksi pengetahuan tidak pernah dilakukan sendiri. Pekerjaan asisten, siswa, teknisi, kalkulator, dan pekerja eksperimental selalu ada.

Ini bukan argumen sentimentalnya, tetapi bidang penelitian sejarah sains. Sejak 1989, ketika Stephen Shapin menerbitkan makalah berjudul "The Invisible Technician" tentang asisten tanpa nama di laboratorium abad ke-17, penelitian sejarah sains telah secara konsisten melacak pekerjaan yang tidak terlihat ini. Tangan yang melakukan eksperimen sebenarnya, orang yang menghitung data, teknisi yang mengelola spesimen. Pekerjaan mereka tidak tertinggal dengan nama dalam makalah. Nama naik ke atas dan pekerjaan berulang-ulang tetap di bawah, kehormatan naik ke atas dan kegagalan dan kerja lembur tetap di bawah.

Pascasarjana modern telah mempertahankan struktur kuno itu dengan menggabungkannya dengan sistem gelar, makalah, dana penelitian, surat rekomendasi, dan kepengarangan. Jadi mungkin bukan kebetulan bahwa agen AI membuat saya mengingat laboratorium penelitian. Produksi pengetahuan selalu membutuhkan struktur yang membagi pekerjaan, meninjau hasil, dan membuat pengulangan. Masalahnya adalah siapa yang memiliki kekuasaan, siapa yang bekerja, siapa yang mendapatkan kredit, dan siapa yang bertanggung jawab dalam struktur itu.

Pada akhirnya, ini juga masalah asimetri. Otoritas dengan nama bimbingan, pekerjaan dengan nama pelatihan, ketahanan dengan nama pertumbuhan, asimetri kepengarangan dengan nama penelitian bersama, diam dengan nama pembelajaran akademis. Ketika kata-kata ini menumpuk, eksploitasi mendapatkan wajah yang cukup mulia.

Pascasarjana pada dasarnya adalah sistem orkestrasi agen manusia

Pada awalnya, saya pikir agen AI terlihat seperti mahasiswa pascasarjana. Tetapi ketika saya memikirkannya lebih lanjut, arahnya mungkin sebaliknya.

Ini bukan agen AI yang terlihat seperti mahasiswa pascasarjana.

Mahasiswa pascasarjana pada dasarnya telah dipanggil, ditempatkan, dievaluasi, dan dikonsumsi seperti agen dalam sistem produksi pengetahuan.

Orkestrasi AI bukan meniru laboratorium penelitian pascasarjana. Laboratorium penelitian pascasarjana pada dasarnya adalah sistem orkestrasi yang dibuat manusia. Struktur untuk memecah masalah, memanggil pekerja tingkat lebih rendah, mengevaluasi hasil, memintanya lagi, dan membuat keputusan akhir dari atas. Struktur ini ada di laboratorium penelitian, ada di perusahaan, dan sekarang ada di orkestrasi AI.

Perbedaannya adalah apakah pekerja tingkat lebih rendah adalah orang atau perangkat lunak.

Perbedaan ini tidak kecil. Karena AI tidak perlu membawa pertumbuhan, tidak ada masalah etika dalam mengonsumsinya. Dalam hal itu, transisi ini menghilangkan manusia dari tempat yang digerus untuk manusia. Tetapi pada saat yang sama, pertanyaan yang sama naik satu level.

Apakah kami menghilangkan asimetri atau mengubah target asimetri?

Jika kami mengatakan hal yang sama kepada AI seperti yang kami katakan kepada orang-orang, kami tidak membuat struktur kerja pengetahuan baru. Kami hanya memasukkan pekerja tingkat rendah baru ke dalam struktur lama.

Teknologi mencerminkan struktur lama

Agen AI terlihat seperti teknologi yang sepenuhnya baru. Namun ketika digunakan, struktur lama muncul lagi. Saat melihat masa depan teknologi, saya melihat masa lalu produksi pengetahuan.

Kami bukan pertama kali memanipulasi agen. Kami telah memanipulasi orang seperti agen selama berabad-abad, kami hanya menyebut pekerjaan itu pelatihan, bimbingan, dan pertumbuhan.

Jadi apakah struktur pascasarjana di masa lalu merupakan kebutuhan yang tak terhindarkan dari produksi pengetahuan, atau hasil dari manusia yang diperlakukan sebagai alat? Standar untuk membedakannya adalah satu. Apakah pekerja tingkat lebih rendah membawa pertumbuhan serta hasil, atau hanya mengirimkan hasil ke atas dan dikonsumsi?

Laboratorium penelitian yang baik adalah yang pertama, dan laboratorium penelitian yang buruk adalah yang kedua. Apa yang membuat perbedaan itu adalah bukan teknologi tetapi sikap orang yang memegang kekuasaan.

Poin ini penting. Dengan mulai memanipulasi AI, kami untuk pertama kalinya secara luas mengalami berdiri di tempat yang lebih tinggi. Tempat di mana kami memecah masalah dan membuangnya, mengevaluasi hasil, dan memintanya lagi jika kami tidak suka. Kami melakukan hal-hal terhadap AI yang kami tidak bisa lakukan terhadap orang-orang karena rasa bersalah. Dan sikap yang kami pelajari dengan cara itu tetap di tubuh kami.

Teknologi menghilangkan manusia dari tempat yang digerus untuk manusia, tetapi itu tidak mengubah sikap orang yang berdiri di tempat yang lebih tinggi. Itu masih tanggung jawab setiap orang. Cara Anda memberi tahu agen AI mencerminkan cara Anda memberi tahu orang-orang. Ketika tangan yang memperlakukan pekerja tingkat lebih rendah sebagai barang habis pakai menjadi terbiasa, tangan itu bergerak sama bahkan ketika lawan menjadi manusia.

Mentor yang baik masih ada dan harus dihormati. Namun, kehadiran mentor yang baik tidak membenarkan struktur yang buruk. Dan yang menciptakan mentor yang baik itu bukan institusi, tetapi pilihan individu untuk berdiri di tempat yang lebih tinggi dan tidak menghabiskan orang-orang di bawah.

Operasi kekuasaan yang telah terlalu lama tersembunyi di bawah nama pembelajaran akademis, sekarang saya bisa melihatnya dengan jelas karena mulai memanipulasi bukan manusia tetapi agen. Sekarang saya telah melihatnya, giliran saya untuk memutuskan sikap apa yang akan saya gunakan di tempat itu. Baik itu untuk orang-orang maupun agen.