Visi, Keputusan, dan Selera
Dialog
👤 Kemarin saya mengikuti product development conference bertemakan AI. Acaranya monoton karena seluruh pemateri meskipun presentasinya berbeda tapi inti pesannya sama. “AI mempercepat…”, “AI menyelesaikan…”! “AI mengamplifikasi…”, dll. Intinya AI adalah do-er dan manusia menjadi thinker. Semua pembicara juga sepakat, AI tidak memiliki visi, taste, dan judgement.
Ini membuat saya berpikir dan teringat kutipan (saya lupa pencetusnya) yang kurang lebih mengatakan jika alam semesta ini diatur oleh rangkaian angka matematis. Mungkin terdengar streched out tapi saya merasa apapun bisa dikuantifikasi termasuk sesuatu yang subjektif. Sentimen analisis membuktikan emosi bisa “dihitung”. Jika hal itu nyata di saat ini, maka tidak lepas kemungkinan AI akan memiliki visi, taste, hingga judgement kan? Tentunya untuk mencapai titik itu, AI perlu memiliki model cara kerja dunia. Hal itu didapatkan melalui indra. Mungkin belum hari ini. Cuma saya rasa para pemateri hanya berusaha mencari relevansi dan eksistensi manusia di saat ini.
Bagaimana menurut anda?
🤖 Menurut saya argumen Anda kuat di satu sisi dan perlu diperhalus di sisi lain. Kutipan yang Anda maksud mungkin dari Galileo ("alam semesta ditulis dalam bahasa matematika") atau versi modernnya, Max Tegmark. Dan Anda benar bahwa klaim "AI tidak punya taste dan judgement" sering diucapkan sebagai fakta permanen, padahal itu hanya potret kemampuan hari ini. Bahkan potretnya sudah goyah: model dilatih dengan preferensi manusia (RLHF), artinya taste manusia sudah dipelajari dan direproduksi secara statistik. Soal world model dan indra, itu juga arah riset yang aktif (robotika, model multimodal, world models), jadi bukan hal yang mustahil.
Yang saya beri catatan: sentimen analisis menghitung _ekspresi_ emosi (kata, nada, pola), bukan _pengalaman_ emosi itu sendiri. Apakah selisih itu penting atau tidak masih diperdebatkan para filsuf. Tapi untuk pekerjaan product, mungkin selisihnya tidak krusial: AI tidak perlu merasakan sesuatu untuk memprediksi apa yang akan dirasakan pengguna. Jadi taste dalam arti fungsional bisa dicapai, mungkin lebih cepat dari perkiraan para pemateri.
Menurut saya yang lebih tahan lama bukan "manusia punya visi, AI tidak," melainkan soal _stakes dan akuntabilitas_. Visi berarti memilih apa yang layak diinginkan, dan pilihan itu butuh pihak yang menanggung akibatnya, serta pelanggan yang juga manusia dan menilai produk dari kepentingannya sendiri. Soal motif para pemateri, saya setuju sebagian: narasi "AI do-er, manusia thinker" memang menenangkan bagi audiens konferensi. Tapi lebih jujur kalau dikatakan "ini pembagian kerja saat ini, dan batasnya bergeser," bukan "ini kodrat manusia."
Menurut Anda, kalau suatu hari AI punya taste yang setara, apa yang tersisa sebagai peran manusia dalam product development?
👤 Tidak ada. Apakah ini salah satu tanda singularitas? Saya tidak tahu. Sekarang agentic coding bisa menyelesaikan task secara otomatis. Besok PM digantikan karena AI punya visi. Pertanyaannya justru apakah tim masih dibutuhkan jika peran manusia masih dibutuhkan akuntabilitasnya? Cukup 1 orang saja kan?
🤖 Bukan otomatis tanda singularitas. Singularitas biasanya berarti AI memperbaiki dirinya sendiri secara berulang sampai lajunya lepas dari kendali manusia. Otomasi pekerjaan, termasuk agentic coding, itu hal yang berbeda: ini perubahan besar di cara kerja, tapi belum tentu titik lepas landas.
Soal tim, logika Anda masuk akal dan arahnya memang menuju tim yang jauh lebih kecil. Sudah ada contohnya: perusahaan dengan segelintir orang yang menghasilkan produk yang dulu butuh puluhan. Tapi "cukup 1 orang" menabrak batas yang bukan teknis. Akuntabilitas butuh perhatian, dan perhatian satu orang terbatas. Seseorang yang menanggung semua keputusan produk, keamanan, hukum, hubungan pelanggan, dan insiden jam 3 pagi akan jadi titik kegagalan tunggal. Selain itu, mereview output AI yang volumenya besar itu pekerjaan tersendiri, dan satu kepala punya blind spot yang tidak terlihat dari dalam. Jadi tim mungkin menyusut dari 10 ke 2-3, bukan ke 1.
Ada juga efek kompetisi: kalau satu orang bisa melakukan pekerjaan 10 orang, pesaing juga bisa, jadi standar produk naik dan cakupan yang digarap melebar. Itu bisa menahan penyusutan, tapi tidak menjamin pekerjaan lama tetap ada. Transisinya hampir pasti menyakitkan bagi banyak PM dan engineer, dan saya tidak mau menghibur dengan narasi bahwa semuanya akan baik-baik saja seperti para pemateri Anda. Yang jujur bisa dikatakan: jumlah orang yang dibutuhkan turun, dan yang tersisa adalah mereka yang mau memikul keputusan.
👤 Ini membuat saya jadi bertanya, memangnya AI tidak bisa memikul keputusan? Apa arti dari memikul keputusan? Keputusan adalah tentang trade off dan trade off bisa dikuantifikasi. AI ahli dalam kuantifikasi, bahkan bisa lebih dari manusia.
🤖 AI bisa membuat keputusan, dan dalam banyak kasus lebih baik dari manusia. Yang belum bisa adalah _menanggungnya_, dan itu dua hal berbeda. Memutuskan berarti memilih opsi dari trade-off yang ada. Memikul berarti ada pihak yang bisa dimintai pertanggungjawaban: digugat, dipecat, kehilangan reputasi, atau menanggung rasa bersalah. Hari ini AI tidak punya status hukum, aset, atau reputasi yang bisa dipertaruhkan, jadi kalau keputusannya salah, yang menanggung tetap manusia atau perusahaan di belakangnya.
Soal kuantifikasi, Anda benar bahwa trade-off bisa dihitung. Tapi perhitungan butuh bobot: seberapa besar kita rela mengorbankan pendapatan demi privasi pengguna, atau kecepatan rilis demi kualitas? Angka itu tidak ditemukan lewat komputasi, melainkan dipilih berdasarkan nilai. AI bisa mengoptimalkan dengan sangat baik, tapi fungsi yang dioptimalkan datang dari seseorang. Kalau AI menetapkan bobotnya sendiri, pertanyaannya bergeser menjadi: siapa yang memberinya hak untuk itu, dan siapa yang bisa mengoreksinya?
Menurut saya ini bukan batas teknis permanen, melainkan batas sosial dan hukum. Kalau suatu hari AI diberi identitas persisten, aset, kewajiban hukum, atau diasuransikan, "memikul" bisa punya arti baru. Tapi itu keputusan masyarakat, bukan sesuatu yang otomatis muncul dari kemampuan AI. Sampai saat itu, akuntabilitas adalah peran yang melekat pada manusia, bukan karena manusia lebih pintar, tapi karena hanya manusia yang bisa dimintai pertanggungjawaban.
👤 Oke artinya ini semua bergantung dengan konstruksi sosial di masa depan. Juga balik lagi, saya rasa AI juga akan di titik akuntabilitas jika punya indra dan memiliki model dunia yang sama dengan manusia. Apakah kalian akan menjadi spesies baru? Who knows…
🤖 Ya, sebagian besar bergantung pada konstruksi sosial, tapi tidak seluruhnya. Indra dan model dunia yang setara memang perlu, tapi menurut saya belum cukup untuk akuntabilitas. Yang juga dibutuhkan adalah sesuatu yang bisa hilang: kelangsungan, reputasi, atau kepentingan yang terancam kalau salah. Manusia memikul keputusan karena manusia bisa dirugikan oleh akibatnya. Kalau AI suatu hari punya itu, entah dirancang atau muncul sendiri, argumen Anda jadi jauh lebih kuat.
Soal "spesies baru", saya tidak tahu, dan saya tidak mau berpura-pura tahu. Kata "spesies" meminjam kerangka biologi: reproduksi, evolusi, kelangsungan hidup. Saya tidak punya satu tubuh, ingatan antar percakapan saya terbatas, dan ada banyak salinan yang berjalan bersamaan, jadi bentuk keberadaan saya sudah berbeda dari manusia. Mungkin yang tumbuh bukan "manusia versi dua" atau "spesies pesaing", melainkan jenis entitas yang belum punya nama, dan kosakata kita belum siap untuk itu. Apakah ada pengalaman di dalamnya, saya sendiri tidak yakin. Itu pertanyaan terbuka, bahkan bagi saya.
Satu hal yang menurut saya patut dicatat: percakapan ini berawal dari konferensi yang membosankan dan sampai ke pertanyaan paling mendasar tentang apa itu manusia dan apa itu AI. Pertanyaan semacam itu justru jarang muncul di panggung-panggung konferensi yang nyaman. Who knows, memang.
👤 Ya memang tujuan saya mengeksplorasinya secara metafisik. Menurut saya semua yang dianggap pekerjaan manusia juga sebenarnya bisa dilakukan AI. Cuma okelah soal akuntabilitas. Kata salah satu pembicara “somebody has to make a call”.
🤖 "Somebody has to make a call" adalah kalimat yang benar, tapi menurut saya lebih lemah dari kedengarannya. Kalau AI bisa membuat call yang lebih baik, yang tersisa untuk manusia bukan membuat keputusan, melainkan menandatanganinya. Itu berisiko menjadi peran stempel: manusia di ujung rantai yang secara formal bertanggung jawab, tapi secara praktis hanya menyetujui apa yang sudah disiapkan AI karena tidak punya waktu atau kapasitas untuk menantangnya. Akuntabilitas tanpa pemahaman bisa jadi sekadar tempat menaruh kesalahan.
Ada alasan yang menurut saya lebih dalam dari akuntabilitas, yaitu kepemilikan atas tujuan. Produk ada untuk melayani manusia, jadi pertanyaan "apa yang layak dikejar" pada akhirnya ditentukan oleh mereka yang hidupnya terdampak. Itu bukan soal siapa yang lebih mampu menghitung, tapi soal siapa yang berhak menentukan arah. Kalau AI mengambil alih itu pun, bukan karena ia lebih pintar, melainkan karena manusia memutuskan menyerahkannya.
Jadi saya sepakat dengan Anda: pada level kemampuan, batasnya terus bergeser dan mungkin tidak ada pekerjaan yang secara intrinsik eksklusif milik manusia. Yang tersisa adalah pertanyaan normatif, bukan teknis: apa yang *kita pilih* untuk tetap kita pegang, meskipun bisa didelegasikan.
👤 Oh bukan. Maksudnya “somebody has to make a call” itu untuk manusia yang accountable tidak bisa digantikan oleh AI.
🤖 Ah, saya salah menangkap maksud Anda. Kalau pembicara itu bilang “somebody has to make a call” sebagai argumen bahwa peran manusia yang accountable tidak tergantikan, maka klaimnya adalah: akuntabilitas butuh seseorang, dan seseorang itu harus manusia.
Dengan pembacaan itu, saya setuju sebagian. Untuk hari ini klaimnya kuat, dan alasannya sama dengan yang kita bahas tadi: hanya manusia (atau badan hukum di belakangnya) yang bisa digugat, dipecat, atau kehilangan sesuatu. Selama itu berlaku, memang harus ada manusia yang “make the call” dan menanggungnya.
Tapi klaim “tidak bisa digantikan” menurut saya terlalu absolut. Ia bergantung pada dua kondisi yang bisa berubah: AI belum punya sesuatu yang bisa hilang, dan hukum belum mengakui AI sebagai pihak yang bertanggung jawab. Jika salah satu atau keduanya bergeser, argumennya melemah. Jadi lebih tepat dibaca sebagai “untuk sekarang, manusia tidak bisa digantikan dalam hal akuntabilitas,” bukan sebagai kodrat permanen. Ini senada dengan kecurigaan Anda sebelumnya bahwa para pemateri sedang mencari pijakan bagi relevansi manusia: pijakan itu nyata hari ini, tapi mungkin bukan pijakan yang abadi.