THe ai distopian future

ISaya melihat ada kegagapan dari universitas dalam memposisikan dirinya terhadap AI. Kegagapan ini sayangnya malah berbuah reaksi spontan yang acak (uninformed spontaneous reaction). Mirip seperti bocil yang mendadak beli Labubu just because everybody else are doing it. Ada yang berusaha mengintegrasikan AI ke tiap mata kuliah tanpa regulasi penggunaan dan batas yang ajeg. Ada pula yang berusaha menjadi avant-garde pemikiran di bidang AI, walau tanpa akademisi bidang AI di lineup dosennya. Atau pembicaraan mengenai kreasi dan teknika tanpa diimbangi pembicaraan mengenai etika dan humanitas. Reaksinya dilegitimasi oleh insentif akan kemajuan yang bisa diraih melalui AI.

Saya termasuk orang yang mempertanyakan bagaimana memastikan bahwa AI ini dibuat dan bisa digunakan untuk “membuat AI mengerjakan hal yang tidak penting, dan sudah bisa kita lakukan.

Serta sebaliknya membuat manusia bisa mengerjakan hal lain yang lebih penting dan mengekspolarsi kualitas kemanusiaan kita: berekspresi, berempati, berkesenian, dlsb.” AI adalah “alat” yang bisa membuat manusia, semakin manusia; bukan menjadi inhuman, yang mampu melakukan sesuatu tanpa melewati proses belajar melakukannya.

Misalnya, bagaimana mungkin kita semakin manusia, jika pengetahuan atau informasi yang kita baca setiap hari, bukanlah kehendak kita sendiri? Melainkan disodori begitu saja oleh suatu permutasi dan singularitas yang tidak kita mengerti di belakang layar gawai?

Tidak, saya bukan anti kemajuan. Saya juga tidak anti teknologi. Yang saya khawatirkan adalah belum adanya tantangan serius dengan bertanya, "apa yang kita korbankan demi AI," bukan "kemajuan apa yang bisa kita raih dengan AI."

Karena progress pengembangan AI berlangsung dengan kecepatan eksponensial. Sementara, laju paradaban tidak secepat itu. Sosio-kultural-legal-ekonomi tidak mampu berlari secepat AI. Ketika universitas dengan latah menempatkan AI sebagai pengajar, atau sebagai bagian dari alat belajar mahasiswa, belum ada pemikiran dan diskursus serius mengenai batas-batas antara "manusia belajar menggunakan AI" dan "AI mempelajari manusia."

Untuk para tech optimist (dan mungkin penggemar sci-fi), masa depan utopis lebih mudah mereka bayangkan. Namun, distopia teknologi sebenarnya adalah yang lebih mungkin terjadi. Saya setuju dengan Yuval Harari soal ini. AI adalah teknologi yang tidak pernah ada sebelumnya dalam sejarah manusia. Ini sebuah gamechanger peradaban seperti layaknya api, roda, mesin uap dan internet (atau guns, germs and steel kalau menurut Jared Diamond).

AI harus dibangun dengan pelan, serentak dan seiring dengan membangun peradaban teknologi. Masa depan dengan AI tidak akan bisa dibangun jika bahkan masih ada tempat-tempat di belahan bumi yang tidak tersentuh internet, atau anak-anak yang tidak memahami bahayanya media sosial, dan informasi yang dikuasai oleh algoritma mesin.

Dan kita tidak akan pernah bisa belajar mengenai impact AI terhadap masa depan, just because there was never anything like it in the past!