Singularitas yang Lembut, Pertaruhan yang Kejam: Dalam Peta Jalan AGI Sam Altman, Apakah Kita Pemain atau Sekadar Bidak?

Sam Altman, pemimpin OpenAI, dalam beberapa tahun terakhir telah menjadi nabi di dunia teknologi, terus-menerus melontarkan prediksi mengejutkan dan mendeklarasikan bahwa kita telah melintasi “cakrawala peristiwa” menuju era Kecerdasan Buatan Umum (AGI).

Dalam peta jalan yang ia gambarkan, ini adalah sebuah “Singularitas yang Lembut” (The Gentle Singularity), di mana pertumbuhan eksponensial teknologi akan seperti kurva yang mulus, dengan lembut membawa umat manusia ke era baru dengan kelimpahan materi yang luar biasa dan produktivitas yang belum pernah terjadi sebelumnya.

Namun, ketika kita mengalihkan pandangan dari mimbar sang nabi ini dan mengamati dunia nyata, kita menemukan bahwa awal dari revolusi ini dipenuhi dengan melodi yang mendebarkan.

Silicon Valley sedang mementaskan perang perebutan talenta yang belum pernah terjadi sebelumnya, di mana uang bertebaran seperti salju, dan raksasa teknologi bertaruh besar-besaran, hanya untuk merekrut “orang-orang terpilih” yang langka itu ke dalam barisan mereka.

Visi yang lembut dan kenyataan yang kejam ini menciptakan jurang ketegangan yang sangat besar.

Kita berada di persimpangan yang kontradiktif: di satu sisi, ada impian utopis untuk menyembuhkan semua penyakit dan mewujudkan kolonisasi luar angkasa; di sisi lain, ada kecemasan dari permainan zero-sum, ketakutan akan digantikan, dan kenyataan dari sumber daya yang terkonsentrasi secara ekstrem.

Dalam pertaruhan akbar yang dibuka oleh Altman sendiri ini, kita tidak bisa tidak bertanya: apakah kita pemain yang mengendalikan nasib kita sendiri, atau hanya bidak pasif di papan catur zaman ini?

Narasi agung AGI pada akhirnya dibangun oleh manusia, dan medan pertempuran paling sengit dalam revolusi saat ini berkisar pada orang-orang yang dapat membentuk masa depan ini.

Altman sendiri mengakui bahwa ini adalah “pasar talenta paling ketat” yang pernah ia lihat dalam kariernya.

CEO Meta, Mark Zuckerberg, turun tangan secara pribadi untuk menawarkan kontrak bernilai ratusan juta dolar kepada seorang peneliti muda, ini bukan lagi sekadar rekrutmen, melainkan investasi strategis yang menyangkut kelangsungan hidup perusahaan.

Raksasa teknologi, seperti penambang emas yang gila, menempatkan dana besar pada segelintir insinyur bintang, bertaruh bahwa mereka akan menjadi yang pertama menemukan “satu atau dua terobosan” kunci di jalan menuju AGI.

Namun, wawasan Altman tidak berhenti di situ; ia mengajukan pemikiran yang lebih dalam.

Ia percaya bahwa kumpulan talenta dengan potensi terobosan kunci mungkin jauh lebih besar daripada “nama-nama berkilau” yang dikejar pasar, mungkin ribuan atau bahkan puluhan ribu orang.

Di balik kata-kata ini, tersirat keraguan terhadap strategi raksasa saat ini: pendekatan menempatkan semua taruhan pada segelintir “orang terpilih” ini mungkin merupakan pertaruhan berisiko tinggi sebagai respons terhadap ketidakpastian, bukan jalur inovasi yang paling efektif.

Inovasi sejati mungkin tidak datang dari kilasan kejeniusan tunggal, tetapi dari lahan subur talenta yang lebih beragam dan luas, dari perbaikan krusial pada algoritma oleh “minoritas skala menengah”.

Oleh karena itu, perang talenta ini bukan hanya pertarungan uang, tetapi juga kompetisi visi, kebebasan penelitian, dan budaya misi.

Gaji tinggi hanyalah tiket masuk; kemampuan untuk menciptakan lingkungan yang memicu kecerdasan kolektif dan percikan kolaborasi mungkin menjadi kunci untuk memenangkan pertaruhan ini pada akhirnya.

Jika perang talenta adalah manifestasi permukaan dari revolusi ini, maka di baliknya, yang mendorong segalanya adalah hukum ekonomi yang diungkapkan Altman, yang hampir seperti hukum fisika.

“Tiga Pengamatan” yang ia ajukan memberikan kerangka kerja yang jelas untuk memahami logika dasar dari perubahan ini.

Pertama, tingkat kecerdasan AI menunjukkan “Hukum Penskalaan” (Scaling Laws) yang menakjubkan dalam hubungannya dengan sumber daya yang diinvestasikan, yang berarti kecerdasan itu sendiri, sampai batas tertentu, telah menjadi produk industri yang dapat diukur dan diprediksi.

Selama lebih banyak sumber daya komputasi, data, dan kemampuan penalaran diinvestasikan, kemampuan AI yang lebih kuat dapat diperoleh secara stabil.

Yang lebih menakutkan adalah bahwa biaya untuk memperoleh “kecerdasan” ini menurun secara drastis dengan kecepatan yang melampaui Hukum Moore.

Altman menunjukkan bahwa biaya operasional AI turun hampir 10 kali lipat setiap tahun, dan biaya GPT-4o bahkan anjlok 150 kali lipat dibandingkan dengan GPT-4 setahun yang lalu.

Penurunan biaya eksponensial ini berarti bahwa AI, seperti listrik dan internet, akan dengan cepat menyebar dari senjata eksklusif segelintir raksasa ke setiap sudut masyarakat, secara fundamental mengubah cara produksi di semua industri.

Dalam model ekonomi seperti ini, masa depan yang berlawanan dengan intuisi sedang muncul: harga semua barang dan jasa yang dapat direplikasi atau diciptakan oleh kecerdasan akan mendekati nol; sementara aset yang benar-benar langka dan tidak dapat direplikasi oleh AI—seperti tanah di lokasi geografis tertentu, pengalaman unik, atau bahkan hubungan emosional yang tulus antarmanusia—nilainya tidak akan berkurang, bahkan akan meningkat.

Hukum ekonomi baru ini menjelaskan mengapa perusahaan dan pemerintah begitu gencar dalam perlombaan ini, karena tingkat pengembaliannya sangat menakjubkan, dan berhenti berinvestasi sama dengan ditinggalkan oleh zaman.

Ketika biaya “kecerdasan” mendekati nol, bagaimana ia akan meresap ke dalam masyarakat kita, membentuk kembali kehidupan dan pekerjaan kita? Jawaban yang diberikan Altman adalah: Agen AI (AI Agents).

Ini bukan lagi “alat” yang kita gunakan secara pasif dalam pengertian tradisional, melainkan “rekan kerja virtual” yang dapat secara aktif melaksanakan tugas, memiliki ingatan, dan mampu berkolaborasi satu sama lain.

Ia dengan berani meramalkan bahwa perusahaan di masa depan mungkin memiliki ratusan ribu, atau bahkan jutaan, karyawan virtual semacam ini.

Bayangkan, sebuah agen AI pengembang perangkat lunak, dengan kemampuan yang sebanding dengan insinyur berpengalaman, dapat menyelesaikan tugas pengembangan dalam beberapa hari yang sebelumnya membutuhkan tim selama berbulan-bulan.

Perubahan ini akan pertama kali mendisrupsi bidang rekayasa perangkat lunak, tetapi akan dengan cepat menyebar ke semua pekerjaan berbasis pengetahuan seperti hukum, keuangan, kedokteran, dan desain.

Batas antara kolaborasi manusia-mesin akan menjadi kabur, model produk SaaS tradisional mungkin akan berakhir, digantikan oleh “toko agen cerdas” yang sangat besar.

Anda tidak lagi perlu mengunduh berbagai aplikasi, melainkan dapat langsung memberi perintah kepada AI: “Bantu saya mendirikan perusahaan e-commerce,” dan AI akan secara instan menghasilkan serangkaian agen khusus untuk secara otomatis menyelesaikan pembangunan situs web, perumusan strategi pemasaran, dan bahkan integrasi rantai pasokan.

Di masa depan seperti itu, nilai manusia tidak lagi tercermin dalam pekerjaan eksekusi yang berulang, tetapi pada “kemampuan pengambilan keputusan, kemampuan beradaptasi, dan kemauan” yang lebih tinggi.

Tugas inti kita akan menjadi “memilih apa yang harus dilakukan,” dan bagaimana, dalam lingkungan yang terus berubah, memandu agen-agen AI yang kuat ini untuk menciptakan nilai.

Pergeseran dari “alat” menjadi “agen” ini bukan hanya revolusi dalam cara kita bekerja, tetapi juga redefinisi mendalam tentang peran dan nilai kita sebagai manusia.

Altman menggambarkan semua ini sebagai “singularitas yang lembut,” ia percaya bahwa masyarakat manusia akan beradaptasi secara bertahap dengan perubahan yang dibawa oleh AI, sama seperti mereka beradaptasi dengan listrik dan internet di masa lalu, dan seluruh prosesnya akan mulus dan bertahap.

Namun, narasi “lembut” ini sangat kontras dengan gambaran yang ia sendiri deskripsikan: perang bisnis yang kejam dengan uang yang bertebaran, skenario disruptif dari jutaan karyawan virtual yang akan segera bekerja, dan rasa urgensi dari “hanya satu atau dua terobosan lagi menuju AGI”.

Para kritikus menangkap poin ini, mereka mempertanyakan bahwa prediksi optimis semacam ini tidak memiliki dasar empiris, dan bahkan menganggapnya sebagai pernyataan yang “sangat berani dan sembrono”.

Apakah pengembangan AI benar-benar merupakan kurva eksponensial yang mulus, atau perjalanan berbahaya yang penuh dengan jurang dan jebakan? Ini mungkin merupakan ketidakpastian terbesar saat ini.

Altman sendiri sadar akan tantangan besar yang ada, ia menyimpulkannya menjadi dua poin: pertama, menyelesaikan “masalah penyelarasan,” memastikan bahwa tujuan AI sejalan dengan kepentingan jangka panjang umat manusia; kedua, memastikan bahwa “otak dunia” yang kuat ini tidak terkonsentrasi secara berlebihan, menjadi alat penindasan bagi segelintir orang atau pemerintah otoriter.

Oleh karena itu, ia mengusulkan konsep-konsep seperti sumber terbuka, memberikan kendali kepada individu, dan bahkan “Komputasi Dasar Universal” (Universal Basic Compute), dengan harapan memastikan bahwa buah dari AGI dapat dinikmati oleh seluruh umat manusia.

Pedang bermata dua menuju masa depan ini, di satu sisi adalah utopia yang lembut, dan di sisi lain adalah distopia yang dingin, dan kita sedang berjalan di atas mata pedang yang tajam ini.

Saat kita berdiri di ambang era AGI yang dibuka oleh orang-orang seperti Sam Altman, kita melihat fajar yang penuh dengan kemungkinan tak terbatas sekaligus senja yang penuh dengan risiko tak diketahui.

Kontradiksi inti dari revolusi ini adalah bahwa ia memiliki sifat ganda “kelimpahan” dan “penjarahan” secara bersamaan.

Di satu sisi, AI diharapkan dapat secara drastis mengurangi biaya barang dan jasa, membebaskan manusia dari kerja keras, untuk mengejar penciptaan dan eksplorasi tingkat yang lebih tinggi, mewujudkan “kelimpahan eksponensial” yang belum pernah terjadi sebelumnya.

Namun di sisi lain, perlombaan yang berpusat pada kecerdasan ini mempercepat konsentrasi sumber daya dengan kecepatan yang belum pernah ada sebelumnya, baik itu talenta terbaik, maupun daya komputasi dan energi besar yang dibutuhkan untuk melatih model, semuanya berkumpul di tangan segelintir raksasa.

Peta jalan Altman menunjukkan arah bagi kita, tetapi jalan menuju “singularitas yang lembut” itu sama sekali tidak mulus.

Ini menuntut kita, seiring dengan perkembangan teknologi yang pesat, untuk membangun kontrak sosial dan kerangka etis yang sama kuatnya.

Bagaimana cara mendistribusikan kekayaan besar yang dihasilkan oleh AI? Bagaimana cara mendefinisikan kembali nilai dan makna pekerjaan? Bagaimana memastikan kebebasan dan martabat individu dapat dipertahankan dalam masyarakat di mana AI ada di mana-mana dan mengawasi? Jawaban atas pertanyaan-pertanyaan ini jauh lebih kompleks, dan jauh lebih penting, daripada terobosan teknologi apa pun.

Pada akhirnya, apakah kita akan menjadi penguasa dari perubahan ini, mengarahkan AI menuju masa depan yang lebih adil dan lebih makmur, atau menjadi bidak pasif di bawah gelombang teknologi, secara pasif menerima tatanan dunia yang telah dirombak? Tidak ada yang bisa memberikan jawaban pasti untuk pertanyaan ini, karena naskahnya, sedang ditulis oleh kita semua secara bersama-sama.