Ini adalah terjemahan dari artikel luar negeri, jadi mungkin ada kesalahan terjemahan.
https://hothardware.com/news/instagram-issues-warning-over-ai-content-and-calls-out-camera-makers
Instagram Mengeluarkan Peringatan tentang Konten AI dan Mengkritik Produsen Kamera
Pemimpin Instagram Adam Mosseri melalui postingan Threads menunjukkan bahwa AI telah terintegrasi begitu dalam dalam pembuatan media sehingga mencapai titik kritis di mana menjadi hampir tidak mungkin untuk membedakan konten palsu dari yang asli.
https://www.threads.com/@mosseri/post/DS76UiklIDf
Alih-alih mengejar piksel yang dihasilkan AI yang terus mengalir, masa depan kepercayaan digital mungkin terletak di bahu produsen (OEM) yang harus memberi watermark pada konten atau merekam metadata pada saat gambar difoto.
Karena alat generatif menjadi fitur standar di ponsel, PC, dan perangkat lunak pengeditan, garis batas antara foto nyata dan foto AI menjadi sangat kabur sehingga menjadi tidak berarti. Jika seorang fotografer menggunakan AI untuk menghilangkan kabel yang berantakan atau menyesuaikan pencahayaan matahari terbenam, hasilnya secara teknis dimanipulasi tetapi masih menampilkan peristiwa nyata.
Mosseri berpendapat bahwa karena AI ada di mana-mana, industri harus memusatkan energi pada memverifikasi media yang ditangkap manusia. Ini dapat mencakup tanda air digital atau sistem tanda tangan terenkripsi yang terjadi pada saat tombol kamera ditekan, yang dapat membantu menciptakan jejak audit untuk memverifikasi keaslian.
"Perusahaan kamera bermain dengan estetika yang salah. Mereka bersaing untuk membuat semua orang terlihat seperti fotografer profesional dari masa lalu. Setiap tahun saya melihat kamera ponsel membanggakan megapiksel yang lebih tinggi dan pemrosesan gambar. Kami memromantisir masa lalu," kata Mosseri.
Dia mengkritik cara mode potret dari teknologi kamera modern secara buatan mengaburkan latar belakang, dan menambahkan bahwa meskipun ini mungkin terlihat bagus, "gambar yang membuat sesuatu menonjol murah untuk diproduksi dan membosankan untuk dikonsumsi." Dia juga mengatakan bahwa sama seperti AI membuat menambahkan kecanggihan menjadi murah, kamera ponsel juga telah melakukan hal yang sama untuk fotografi tingkat profesional, dan "kedua tren ini menurunkan nilai estetika."
Shrimp Jesus: Sebuah contoh AI slop
Pendekatan berbasis sumber adalah kebalikan dari proses "deteksi dan pelabelan" saat ini. Sampai saat ini, platform media sosial telah berjuang untuk mengembangkan algoritma yang dapat menemukan deepfake atau propaganda yang dihasilkan AI, tetapi ketika model AI menjadi lebih canggih, deteksi menjadi permainan "petak umpet" yang sudah pasti kalah.
Dengan mengalihkan fokus ke cara melekatkan sidik jari pada media nyata, Mosseri menyarankan bahwa konten yang diposting di platform tanpa sidik jari manusia yang terverifikasi, meskipun belum tentu palsu, akan memiliki bobot kurang dari konten yang dapat ditelusuri kembali ke lensa nyata dan titik waktu tertentu.
Karena itu, jika beban pembuktian bergeser menjadi "nyata," kami mungkin memasuki era di mana media yang tidak terverifikasi menjadi subjek keraguan instan. Ini dapat membantu melawan misinformasi, tetapi juga menimbulkan kekhawatiran tentang aksesibilitas. Misalnya, tidak semua saksi di tempat kejadian breaking news akan memiliki perangkat dengan tanda tangan digital tingkat perangkat keras. Ada risiko bahwa kebenaran menjadi fitur premium yang hanya dapat dinikmati oleh mereka yang memiliki teknologi terbaru, dan output visual dari seluruh dunia akan jatuh ke laut kebisingan yang tidak terverifikasi.
Dia juga mendeklarasikan bahwa feed media sosial hari ini pada dasarnya sudah mati.
"Jika Anda bukan pengguna Instagram di bawah 25 tahun, Anda mungkin menganggap aplikasi ini sebagai umpan foto persegi. Estetika itu canggih. Banyak makeup, kulit halus, foto berkontras tinggi, dan pemandangan indah. Umpan itu mati. Orang-orang sebagian besar berhenti berbagi momen pribadi di umpan beberapa tahun yang lalu," kata Mosseri.
"Cerita masih hidup karena menyediakan cara yang kurang tertekan untuk berbagi dengan pengikut, tetapi cara utama orang berbagi foto dan video adalah melalui DM (Pesan Langsung). Konten itu tidak dipoles. Ini adalah foto yang buram dan video yang bergetar yang menangkap pengalaman sehari-hari orang. Pikirkan tentang foto kaki atau foto jujur yang tidak terlihat sangat bagus," dia menambahkan.
Pada akhirnya, perspektif Mosseri mencerminkan penyerahan pada realitas AI (dan AI slop). Kami tidak lagi dapat memperlakukan AI sebagai penyusup ke ruang digital; sekarang ia adalah fondasi ruang itu sendiri. Pemimpin teknologi mencoba membangun infrastruktur baru untuk kepercayaan dengan memprioritaskan perlindungan yang nyata daripada menegakkan yang palsu. Apa pendapat Anda?
▶ Sumber artikel asli: https://hothardware.com/news/instagram-issues-warning-over-ai-content-and-calls-out-camera-makers
