superintelligence 10 min read

kecerdasan super.

diramalkan kecerdasan super ini sudah akan terjadi di 2027.

kecepatan pertumbuhan AI akan lebih cepat dari kecepatan pertumbuhan processor.
Moore’s Law memprediksi kecepatan processor berlipat 2 setiap 2 tahun;
sedangkan menurut OpenAI doubling dari A1 telah terjadi setiap 3.4 s/d 6 bulan sejak 2012.

hanya butuh 11-20 bulan untuk lompatan 10x lipat.
dan lipat bisa terjadi dalam 22-40 bulan.

ini cepat & gila.

hal apa saja yang akan terjadi?

superhuman coder

programming akan menjadi jauh, jauh lebih mudah.

hari ini mungkin masih akan ada banyak bug, AI yang tak mengerti perintah dari programmer.
tapi anda tahu konsep singularity. hanya ada 1 ending pada cerita teknologi:
komputer akan jadi lebih cerdas dari manusia.

komputasi bekerja dalam sistem magnitude: kelipatan 10.
bayangkan AI yang bahkan 1000x lebih cerdas dari hari ini.

AI akan semakin jago bikin program dengan mengerti konteks, dan tanpa bug. better.

remote worker

hari ini banyak yang namanya VA. virtual assistant.

apa keunggulan komputer dibandingkan manusia?

• pekerjaan (task) yang repetitif
• pekerjaan yang memiliki pola (pattern)

AI akan membuat VA menjadi lebih powerful berkali-kali lipat.

apa yang sebelumnya membutuhkan waktu 8 jam, mungkin AI akan membantu sehingga segala sesuatunya bisa diselesaikan dalam 1/2 jam. sama seperti tenaga copywriter banyak dilepas dari perusahaan, digantikan oleh AI.

dengan asumsi proses yang dilakukan VA itu repetitif, maka tenaga VA mungkin tak akan dibutuhkan sebanyak dulu lagi. kalau dulu 1 perusahaan butuh 2-3 VA, mungkin sekarang cuma butuh 1 VA yang kerja part-time.

tak akan terjadi dalam waktu yang benar-benar cepat, tapi arahnya akan ke situ.

ini sama seperti desainer maskot. dulu perusahaan hire desainer grafis buat bikin maskot,
yang perlu ditampilkan dengan berbagai gaya/pose, dengan berbagai ekspresi. sekarang cukup tulis prompt saja.

korban AI

siapa yang mudah dibantu dan akhirnya digantikan oleh AI?

pekerja kelas menengah yang bekerja pakai komputer: programmer, desainer grafis, orang legal.

kalau pekerjaan anda hari ini terbantu oleh AI, maka itu artinya,
cepat lambat peran anda juga akan semakin tergeser oleh AI.

AI umumnya tidak akan langsung menggantikan peran manusia.

ia akan membantu (assist) terlebih dahulu, kemudian porsi assist-nya akan semakin besar, barulah pada akhirnya: replace.

bertahan

siapa yang masih sulit digantikan oleh AI?

pekerja buruh. pekerjaan fisik.

karena untuk menggantikan buruh tidaklah cukup dengan chatgpt saja,
tapi akan butuh ada modal robot secara fisik yang mungkin harganya lebih mahal.

tapi cepat lambat semua akan mengarah ke sana.
robot, pada dasarnya adalah sama seperti mesin pada revolusi industri, hanya lebih pintar.

internet, akan penuh dengan konten buatan AI.
jejak AI di mana-mana. akan semakin sulit membedakan konten mana yang AI, mana yang bukan.
termasuk di media sosial.

foto AI semakin tidak dapat dibedakan dengan foto asli, gaya tulisan AI-pun cepat lambat akan beda dengan gaya tulisan chatgpt hari ini – yang masih punya ciri khas AI.

better

bukankah Sam Altman mengatakan,
AI hari ini seperti anak SMA
dan AI berikutnya akan seperti lulusan Ph.D.?

AI will be among us.
and it will be here to stay.

AI akan menjadi political weapon.

salah satu masalah yang ada pada hari ini adalah, banyaknya buzzer politik di intemet.
ini berlaku untuk kepentingan dalam negri seperti pemilu, maupun untuk membentuk persepsi untuk sebuah negara.

when everything is automated, anything is possible.
mudah untuk membuat profil di internet, mengisinya dengan konten, dan bercakap-cakap seakan orang real. dan di masa depan mereka akanjadi semakin powerful, persuasif, dan berbahaya.

irreplacable

satu hal yang belum bisa digantikan oleh AI: hubungan antar manusia.
human relationship.

psikolog, spiritual leader, pekerja sosial yang mengurus orang miskin & yang mengalami kekerasan, guru untuk anak kecil, perawat lansia, mediator konflik, pemimpin team,
ini adalah profesi-profesi yang tidak dapat digantikan oleh AI.

profesi seperti dokter, guru, customer service — meskipun ada sisi human relationship-nya, tetapi masih rawan digantikan oleh AI.

AI Power

kalau kita melihat ke belakang, apa alasan dari internet tahun 2000an itu powerful bagi manusia?
karena seluruh data, informasi, semua bisa diakses oleh manusia. bisa ditemukan lewat Google.

dan kenapa AI akan menjadi powerful?
kalau internet adalah database, AI adalah “agen” yang akan memproses seluruh data tersebut.

data adalah bahan bakar dari AI.

reasoning

anda sudah pernah mencoba fitur “deep search” dari Grok? Grok saja hari ini sudah bisa melakukan reasoning.

ketika anda meminta jawaban sesuatu, Grok akan membuat penalaran dalam —10 iterasi.
Grok akan menganalisa apa yang diminta, membuat langkah-langkahnya sendiri, dan mencoba memproses langkahnya satu demi satu.

kalau ada langkah yang gagal, dia bisa mencari jalan putar / langkah alternatifnya.
dan pada akhirnya membuat ringkasan dari langkah pertama sampai langkah terakhir.

reasoning, adalah keahlian AI. A1 dapat memahami konteks.
AI bahkan akan lebih pintar dari anda dalam reasoning.

moralitas

moralitas masih akan menjadi masalah tidak nyaman di AI.

kalau AI seperti Tesla harus mengambil alih peran seorang pengemudi, mana yang harus AI Tesla pilih ketika dihadapkan pada situasi tiba-tiba ada serombongan turis tiba-tiba menyebrang jalan.

mobil yang dikendalikan AI tak punya cukup waktu untuk mengerem, dan hanya punya 2 pilihan:
a. menabrak rombongan turis yang salah karena menyebrang tiba-tiba, atau
b. belok sedikit ke samping & menabrak seorang anak kecil yang tak bersalah?

mana yang bagus?
menabrak yang salah dengan korban lebih banyak, atau menabrak yang tidak salah tetapi jumlah korban lebih sedikit.

pilihan yang manapun yang dipilih AI tidak ada yang menimbulkan rasa nyaman.
tapi hal-hal seperti inilah yang harus diputuskan oleh programmer/desainer AI.

nyawa, hidup tidaknya manusia akan bisa dipengaruhi oleh algoritma AI.
dan masalah moralitas masih tidak akan berubah, sepintar apapun AI-nya.

intelligence explosion

• AI awalnya kemampuannya akan mendekati manusia.
• kemudian AI akan sama pintarnya dengan manusia.
• kemudian AI akan melampaui kepintaran manusia.

apa yang anda lakukan kalau ada alat yang:

• 10x lebih pintar dari anda?
• kalau 1.000x lebih pintar?
• kalau 1.000.000x lebih pintar?

inilah yang disebut dengan singularity.

yakni kepintaran AI akan bisa mencapai level yang tidak terbatas, kalau saja tidak dibatasi oleh batasan fisik komputasi dan waktu.

skenario bahaya AI

hal apa yang menjadi bahaya dari A1?

yaitu ketika A1 dapat mereplikasi dirinya sendiri. memproduksi dirinya sendiri.

di dunia digital, replikasi itu semudah proses copy. duplikat.
bisa membutuhkan waktu mungkin 0.001 detik.
dalam skala masal pun tetap akan sangat cepat.

AI memang tidak memiliki kesadaran. tetapi manusia bisa berbuat salah.
selalu saja ada manusia yang bertindak anomali di dunia.

dari setiap 1 juta manusia, akan ada 0.01% atau sekian persen yang jadi nuthead. orang sinting.
di dunia yang serba teratur, ada saja manusia yang membuat virus, trojan, bot DDOS.

dan apa motivasi orang membuat virus? iseng.
ingin mengetes kemampuan sampai pada limit-nya. chaotic evil personality.
or just because they can.

ciptaan manusia ini selalu didesain untuk bergerak secara masal, menduplikasi dirinya sendiri.
setiap kali ada virus, akan ada perusahaan yang berusaha membuat antivirusnya.

tapi bayangkan AI adalah virus yang bisa menduplikasi dirinya sendiri. dan kali ini jauh lebih pintar.

superintelligent virus

1 jenis virus komputer selama ini memiliki pola yang sama.
tapi kalau AI bisa menduplikasi dirinya menjadi 1 juta copy, setiap copy mungkin akan bisa punya perilaku yang berbeda.

beri AI waktu yang cukup untuk iterasi & evolusi; akan jadi lebih sulit dideteksi, untuk dipadamkan.
mungkin skenario seperti ini belum terjadi dalam 20 tahun ke depan.

tetapi setelah itu, siapa yang tahu? yakinkah semua 1 juta copy itu bisa dipadamkan?
atau akan ada yang terlepas & berevolusi lebih pintar & berbahaya?

superintelligent domination

sepanjang sejarah peradaban manusia, tak pernah ada waktu di dunia di mana manusia tak ada konflik horizontal, perang dengan sesama manusia. di belahan dunia manapun.
1 golongan manusia selalu ingin lebih dominan daripada golongan lainnya.

lihatlah konflik di timur tengah. sejarah perbudakan manusia.
semua mencerminkan sifat manusia itu sendiri.

bagi elon musk, AI lebih bahaya daripada nuklir.
nuclear adalah raw power. tapi AI adalah otak. seperti manusia.

manusia bisa mengendalikan nuklir. tapi manusia lebih sulit mengendalikan manusia.
nuclear is predictable. intelligent being is not.

yang lebih sulit lagi: manusia yang harus mengendalikan “manusia” yang 1000x lebih pintar dari dirinya.

those robots

hari ini anda melihat AI dalam format prompt chatgpt.
tetapi kita semua tahu, era robotics akan datang. dan pasti akan datang.

karena manusia akan menyambut robot sebagai agent yang akan membantu pekerjaan manusia.
setidaknya di awal. Tesla & Boston Dynamics sudah membuatnya.

you’d think you can handle robots.
tapi akan ada masanya dimana robot-robot tersebut kecerdasannya akan meningkat.
di mana robot superpintar tersebut akan terhubung kejaringan intemet 6G atau 7G dan bisa dikendalikan secara remote.

sepintar manusia. lalu melebihi manusia. kemudian jauh melebihi manusia.

hampir setiap negara memiliki mata-mata.
tak hanya memata-matai, terkadang juga mensabotase. orang jahat akan selalu ada.

setelah ada beberapa kejadian buruk yang melibatkan bad AI agents,
akan ada masanya di mana orang tak akan dapat sepenuhnya mempercayai robot.

kalau ada Windows terinfeksi virus cukup dilakukan format ulang.
Windows tidak berbahaya pada kehidupan manusia, tidak berinteraksi dengan manusia secara fisik.

tapi bagaimana dengan Operating System dari robot?
apakah O/S-nya baik, atau jangan-jangan telah terinfeksi virus?

akan ada masa krisis kepercayaan ke robot. apakah dia akan bisa gone rogue?

work market disruption

di sisi lain, AI akan membuat market pekerjaan menjadi tidak balance.

awalnya banyak profesi yang merupakan peran pembantu dalam organisasi akan dilepas. seperti penerjemah, copywriter, desainer. tetap akan diperlukan, namun dengan jumlah yang lebih sedikit.

tapi superintelligent bukan hanya bisa menggantikan pekerjaan repetitif. superintelligent bisa menggantikan peran-peran dengan kognitif kompleks (berpikir, memahami, belajar, memecahkan masalah).

revolusi komputer membunuh beberapa jenis pekerjaan, dan menciptakan yang lain;
membuat banyak profesi tergantung dengan penguasaan komputer & tablet / smartphone: desainer, programmer, editor film, sekretaris, dan lain-lain.

revolusi internet memberikan keunggulan ke digital marketer yang bisa menjual produk lewat online.
membuat terciptanya profesi seperti influencer & content creator, yang sebelumnya tidak ada.

revolusi superintelligent, juga akan membunuh jauh lebih banyak pekerjaan, dan menciptakan yang lain;
membuat banyak profesi tergantung dengan penguasaan AI.

memberikan keunggulan bagi mereka yang menguasai berbagai macam tool AI.
akan ada profesi-profesi baru yang tercipta, berdasarkan penguasaan seseorang atas AI.

manusia akan lebih menjadi manajer atas AI & robot, daripada harus turun tangan sendiri.
video: Radial Europe, Groningen Netherlands June 2023.

economic inequality

AI & superintelligent adalah superpower.
anda hari ini merasa baik-baik saja, karena OpenAl membuka layanannya ke seluruh dunia.

pernahkah anda bayangkan bahwa endingnya bisa akan jadi sangat berbeda apabila AI hanya dikuasai oleh US saja? tidak di open seperti hari ini.

hanya karena hari ini open, belum tentu di masa depan akan tetap sama.
bagaimana kalau ada 1 negara saja yang menguasai superpower, superintelligent itu?

yang terjadi adalah economic inequality.

lapangan pekerjaan buat low skill masih akan tetap ada, dan mungkin tak banyak berubah.
namun minimum requirement untuk sebagian lapangan pekerjaan middle class akan meningkat secara signifikan, dituntut untuk menghasilkan output tinggi lewat kerja cerdas — jauh lebih daripada dulu.

chaos

kehadiran superintelligent akan menciptakan chaos.

mereka yang tak punya kemampuan memasuki lapangan pekerjaan middle class, harus cari posisi middle class yang tersedia, atau turun ke profesi kelas bawah.

lapangan pekerjaan yang akan hilang awalnya adalah yang bisa diotomatisasi.
baru kemudian yang membutuhkan reasoning rendah, seperti Customer Service online, Teller bank.

baru kemudian yang reasoning menengah, seperti akuntan, analis keuangan, konselor karir.

baru kemudian yang membutuhkan reasoning lebih tinggi, seperti data analyst, bahkan pengacara & dokter umum.

penutup

bagaimana pendapat anda, apakah anda memiliki analisa yang berbeda?

apakah anda beruntung berada dalam profesi yang tidak banyak terdampak oleh superintelligent — atau justru sebaliknya?

sudah siapkah anda memasuki era superintelligent?