Locita

AKHIR ABAD PENCERAHAN Secara filosofis, intelektual, dan dalam semua hal, manusia tidak siap untuk menghadapi perkembangan kecerdasan buatan (AI).

http://www.eunews.it/wp-content/uploads/2018/04/artificial-intelligence-1024x537.jpg

Tiga tahun yang lalu, pembahasan mengenai kecerdasan buatan (Articifial Intellegence) muncul dalam agenda pada Konferensi Transatlantik. Sebenarnya, saya ingin melewatkan sesi tersebut –karena diluar hal yang saya geluti, tapi awal dari presentasi membuat saya tak beranjak dari tempat duduk.

Pembicara menjelaskan mengenai cara kerja mesin yang akan menantang juara dunia permainan Go. Saya terkejut oleh fakta bahwa mesin ini bisa menguasai permainan yang lebih kompleks dari permainan catur. Pada permainan Go, setiap pemain mengendalikan 180 atau 181 biji (tergantung dari warna yang dipilih) yang akan ditempatkan secara bergantian pada papan yang awalnya tak terisi dan dengan strategis yang bagus, kemenangan akan diraih oleh pemain yang menghentikan pergerakan lawan mainnya yang dengan efektif menguasai banyak wilayah.

Pembicara sangat yakin bahwa kemampuan ini tidak memerlukan pemrograman awal. Ia menjelaskan bahwa mesin ini akan menguasai permainan Go dengan berlatih secara mandiri. Dengan diberikan aturan dasar permainan, mesin ini akan bermain melawan dirinya sendiri dalam jumlah permainan yang tak terhitung, belajar dari kesalahannya dan menyusun ulang algoritmanya berdasarkan kesalahan tersebut. Dalam prosesnya, algoritma ini melampaui keterampilan manusia. Dan memang, beberapa bulan setelah pemaparan ini, sebuah program AI (Articifial Intellegence) bernama AlphaGo akan segera mengalahkan pemain Go terbaik di dunia.

Seperti apa yang saya dengarkan dari pembicara yang memuji progres ini, pengalamanku sebagai sejarawan dan kadang sebagai negarawan membuat ku berpikir; Apa dampak yang akan dihasilkan oleh mesin yang belajar secara mandiri- mesin yang mendapatkan pengetahuan melalui proses khusus yang dilakukannya sendiri, dan mengaplikasikannya untuk tujuan yang mungkin tidak diketahui oleh manusia? Akankah mesin ini belajar untuk berkomunikasi satu sama lain? Bagaimana ia mengambil keputusan dari berbagai macam opsi yang muncul? Apakah mungkin dimana sejarah umat manusia dijalankan dengan cara suku Inca hidup dan dihadapkan dengan budaya Spanyol yang sangat sulit untuk dipahami dan bahkan sangat menakjubkan itu? Apakah kita berada pada permulaan sebuah fase baru dalam sejarah umat manusia?

Menyadari kekurangan kemampuan teknis saya dalam hal ini, melalui saran dan kerjasama dengan beberapa kenalan saya yang ahli dalam bidang teknologi dan humaniora, saya mengatur beberapa dialog informal mengenai AI yang justru semakin membuat saya khawatir.

Sebelumnya, kemajuan teknologi yang paling mempengaruhi arah dari sejarah modern adalah penemuan mesin cetak pada abad ke-15 yang memungkinkan pencarian pengetahuan empiris untuk menggantikan doktrin liturgis dan The Age of Reason yang secara bertahap menggantikan The Age of Religion. Informasi disimpan dan disistematisasi untuk memperkaya kepustakaan. The Age of Reason melahirkan pemikiran dan tindakan yang akhirnya membentuk tatanan dunia kontemporer.

Tapi tatanan tersebut akan mengalami perubahan signifikan ditengah revolusi teknologi baru dan berdampak luas yang konsekuensinya tak bisa kita pahami secara utuh dan mungkin, puncaknya akan berujung pada dunia yang bergantung pada kekuatan mesin yang berjalan berdasarkan data dan algoritma yang tidak dikendalikan oleh norma etis dan filosofis.

Era internet dimana kita hidup saat ini memunculkan beberapa pertanyaan dan isu dimana AI hanya akan membuatnya lebih parah. Abad pencerahan berusaha untuk menggantikan kebenaran tradisional dengan cara berpikir manusia yang bebas dan analitis. Tujuan internet adalah justru untuk membenarkan pengetahuan melalui akumulasi dan manipulasi atas data yang terus berkembang. Kognisi manusia kehilangan karakternya. Individu berubah menjadi data dan data itulah yang kemudian yang akan berkuasa.

Pengguna internet lebih memilih untuk menemukan dan memanipulasi informasi dibanding harus mengkontekstualisasikan dan mengkonsepsikan makna dari informasi yang ditemukan. Mereka sangat jarang menganggap sejarah dan filsafat sebagai sebuah aturan, mereka membutuhkan informasi yang relevan terhadap kepentingan praktisnya.

Dalam prosesnya, algoritma mesin pencarian memiliki kapasitas untuk memprediksi preferensi para pengguna, membuat hasil pencarian yang lebih personal, dan membuatnya tersedia untuk kepentingan politik atau ekonomi dari berbagai pihak. Kebenaran menjadi relatif. Kebijaksanaan akan dikalahkan oleh informasi.

Dibanjiri oleh berbagai macam opini di media sosial, pengguna internet dijauhkan dari sikap introspeksi atau memikirkan kembali sebuah gagasan; faktanya banyak pencandu teknologi (Tekonofilia) menggunakan internet untuk menghindari kesendirian yang baginya sangatlah menakutkan. Kondisi ini melemahkan keteguhan yang justru dibutuhkan untuk mengembangkan dan mempertahankan keyakinan yang hanya dapat diimplementasikan dengan menempuh jalan sunyi yang merupakan esensi dari kreativitas.

Dampak dari teknologi internet dalam politik tentunya sudah sangat terlihat. Kemampuan untuk menargetkan kelompok kecil sebagai sasaran telah mengakhiri konsensus mengenai prioritas sebelumnya dengan memberikan perhatian lebih pada tujuan atau keluhan khusus. Pemimpin politik, yang kewalahan akibat tekanan pada posisinya dan kehilangan waktu untuk memikirkan atau merefleksikan sebuah konteks, memadatkan dan mempersingkat ruang yang tersedia untuk mengembangkan sebuah visi.

Kecepatan yang menjadi titik tekan dunia digital mencegah penggunanya untuk berpikir ulang; dorongan dunia digital menggunakan radikalisasi diatas kebijaksanaan; nilainya dibentuk berdasarkan konsensus dari kelompok kecil, bukan dari introspeksi. Atas semua pencapaiannya, dunia digital menjalankan sebuah risiko yang ditentukannya sendiri sebagai sebuah aturan baru yang melampaui kenyamanan yang dimilikinya.

Saat internet dan perkembangan kemampuan komputasi telah mampu mengakumulasi dan menganalisis data dalam jumlah besar, kemungkinan yang sebelumnya tak terbayangkan oleh pemahaman manusia telah terwujud. Mungkin, hal yang paling signifikan adalah proyek penciptaan AI- sebuah teknologi yang mampu menemukan dan menyelesaikan permasalahan kompleks, yang biasanya abstrak, dengan jalan yang kelihatannya menirukan pikiran manusia.

Kondisi ini telah jauh melampaui otomatisasi yang telah kita kenal. Otomatisasi beroperasi berdasarkan metode; otomatisasi mencapai tujuan yang telah ditetapkan sebelumnya dengan mengkombinasikan instrument-instrumen untuk mencapai tujuan tersebut. Disisi lain, AI beroperasi berdasarkan tujuan yang bisa ia ciptakan sendiri.

Pada kondisi dimana ada banyak capaian yang dibentuk oleh AI itu sendiri, sebenarnya kecerdasan tiruan ini secara natural tidaklah stabil. Dalam pengoperasiannya sistem AI, secara konsisten bisa terus berubah karena mendapatkan dan secara langsung menganalisa data baru, lalu secara manditi mencoba untuk mengembangkan dirinya sendiri berdasar pada analisis tersebut. Melalui proses ini, AI mengembangkan sebuah kemampuan yang sebelumnya dipercaya hanya bisa diperantarai oleh manusia.

AI menghasilkan keputusan strategis mengenai masa depan, dimana beberapa diantaranya berdasarkan data yang diterima sebagai sebuah kode (misalnya aturan permainan), dan keputusan lainnya dilatarbelakangi oleh data yang dikumpulkan sendiri (seperti dengan terus berlatih secara mandiri sebanyak 1 juta kali pengulangan).

Mobil tanpa pengemudi mengilustrasikan perbedaan navigasi yang ditentukan oleh kendali konvensional manusia, komputer yang didukung oleh perangkat lunak dan keberadaan AI. Mengemudikan mobil membutuhkan pertimbangan-pertimbangan untuk berbagai macam situasi yang sulit untuk dihindari atau diantisipasi dan hal ini tentunya membutuhkan pemrograman awal.

Apa yang akan terjadi jika sebuah mobil berada dalam kondisi dimana ia mesti memilih antara menabrak seorang kakek atau anak kecil? Siapa yang akan ia pilih? Apa alasannya? Diantara berbagai macam pilihan, faktor apa yang akan menjadi pertimbangan utama? Dan bisakah ia merasionalisasikan pilihannya?.

Jawaban yang kemungkinan muncul ketika ia memiliki kemampuan berbicara adalah; “saya tidak tahu karena saya mengikuti prinsip matematika, bukan manusia” atau, “kamu tidak akan mengerti karena saya telah dilatih untuk bertindak disituasi tertentu tapi tidak untuk menjelaskannya”. Namun, saat ini mobil tanpa pengemudi menjadi hal yang terlihat lumrah di jalanan.

Kita mesti berharap AI akan melakukan kesalahan yang lebih cepat dan lebih besar dampaknya dibanding yang pernah diperbuat oleh manusia.”

Sebelumnya, terbatas pada bidang kajian yang sangat spesifik, penelitian kecerdasan buatan saat ini mencoba membawa kemampuan universal AI dalam menyelesaikan pekerjaan pada bidang yang lebih luas. Tak lama lagi, persentase aktivitas manusia yang dikendalikan oleh algoritma-algoritma AI akan meningkat. Tapi algoritma yang digerakkan oleh interpretasi matematika tersebut tidak menjelaskan dasar realitas yang menggerakkanya.

Secara paradoks, saat dunia telah menjadi sangat transparan, hal ini justru menjadi semakin sulit untuk dipahami. Apa yang akan membedakan dunia baru tersebut dari apa yang kita kenal sekarang? Bagaimana kita akan hidup di dalamnya? Bagaimana kita akan mengatur AI, mengembangkannya atau yang paling penting mencegahnya membawa kerugian, dengan kekhwatiran terbesar bahwa dengan menguasai kemampuan tertentu lebih cepat dan lebih pasti dibanding manusia.  AI, seiring berjalannya waktu akan mengalahkan kompetensi dan kondisi manusia itu sendiri saat semuanya berubah menjadi data.

Seiring waktu, AI akan membawa keuntungan yang extraordinary dalam dunia medis, penyedian energi murni, isu lingkungan, dan banyak bidang lainnya. Tapi justru karena membuat keputusan yang didasari oleh masa depan, sesuatu yang belum dipahami, maka ketidakpastian dan ambiguitas akan inheren dalam tiap kesimpulan akhir yang dihasilkan oleh AI.

Ada tiga hal penting yang perlu mendapatkan perhatian khusus:

Pertama, AI mungkin akan membawa hasil yang tidak diharapkan. Fiksi ilmiah telah membayangkan apa yang akan terjadi saat kecerdasan buatan menggantikan manusia. Kemungkinan yang akan terjadi adalah dimana kecerdasan ini akan salah menginterpretasikan instruksi manusia karena sifat dasarnya yang kurang memahami konteks.

Contoh yang sangat terkenal adalah sebuah chatbot yang dikenal dengan nama Tay, dimana robot ini didesain untuk menghasilkan obrolan remaja perempuan 19 tahun yang ramah. Namun, robot ini justru gagal dalam memahami arti penting dari frasa “ramah” dan “pantas” yang telah diprogramkan oleh instrukturnya dan malah menjadi robot yang merespon obrolan dengan rasis, bias gender, dan cenderung menghasilkan kebencian.

Beberapa pihak dalam dunia teknologi mengklaim bahwa projek tersebut direncanakan dan dijalankan dengan tidak matang, tapi hal ini membawa ambiguitas yang fundamental; seberapa besar kemungkinan kecerdasan buatan bisa memahami konteks dari informasi yang menjadi instruksinya? Media apa yang bisa membantu Tay dalam mendefinisikan “ketidaksopanan” bagi dirinya dan kata-kata yang artinya secara umum tidak dianggap wajar oleh manusia? Bisakah kita mendeteksi dan memperbaiki program AI yang bertindak diluar dari batasan dan ekspektasi kita dengan cepat? Atau apakah AI, secara tak terhindarkan akan terus memproduksi penyimpangan kecil yang nantinya berujung pada penyimpangan yang membawa bahaya yang besar?

Kedua, AI mungkin akan mengubah proses berpikir dan nilai-nilai manusia dalam mencapai tujuannya. AlphaGO mengalahkan juara dunia permainan Go dengan mengambil langkah strategis yang belum pernah ada sebelumnya. Langkah yang belum terbayangkan dan tentunya belum bisa dikalahkan karena ketidakpahaman manusia. Apakah langkah tersebut melampaui kapasitas otak manusia? Atau apakah manusia bisa mempelajarinya melalui penjelasan seorang ahli yang baru?

Sebelum AI memulai untuk memainkan Go, permainan ini memiliki objektif yang sangat beragam. Seorang pemain tidak hanya menjadikan kemenangan sebagai tujuan satu-satunya, tapi juga belajar strategi baru yang memungkinkan untuk diaplikasikan dalam dimensi kehidupan yang lain. Tapi AI hanya memiliki satu tujuan yaitu kemenangan. Ia tidak belajar dengan pendekatan konseptual,  dengan pendekatan matematis yang sesuai dengan algoritmanya.

Jadi, dalam mempelajari cara mengalahkan manusia dengan memainkan strategi yang berbeda dari yang dilakukan oleh manusia, AI telah merubah karakter permainan Go dan juga dampaknya. Apakah cara berpikir tunggal ini menjadi karakter utama dari semua kecerdasan buatan?

Projek AI yang lain berusaha mengubah cara berpikir manusia dengan mengembangkan alat-alat yang mampu menghasilkan jawaban yang beragam untuk pertanyaan manusia. Pertanyaan mengenai sifat realitas atau arti kehidupan, yang melampaui pertanyaan faktual seperti; “berapa suhu diluar saat ini?” Justru menghasilkan masalah yang lebih dalam.

Apakah kita ingin anak-anak kita mempelajari nilai-nilai melalui sebuah diskursus dengan algoritma yang tidak saling berhubungan? Haruskah kita melindungi privasi dengan membatasi kemampuan AI dalam memahami pertanyaan-pertanyaan manusia? Jika begitu, bagaimana caranya?

Jika AI mempelajari sesuatu dengan lebih cepat dibanding manusia, kita harusnya berharap ini berlangsung secara sangat cepat pula dimana AI akan melakukan kesalahan-kesalahan lebih cepat dan memiliki dampak yang lebih parah dari yang pernah dilakukan oleh manusia. Mungkin akan sangat sulit untuk mengurangi kesalahan tersebut dengan memasukkan sebuah program peringatan yang membutuhkan hasil “etis” dan “pantas” seperti yang selalu disarankan oleh peneliti-peneliti di bidang kecerdasan intelektual. Semua disiplin akademik muncul karena ketidakmampuan manusia dalam menyepakati tentang cara untuk mendefinisikan kedua istilah tersebut. Haruskah AI intelektual akhirnya menjadi solusi?

Ketiga, meskipun AI mampu untuk menentukan tujuan, tapi ia tidak mampu untuk menjelaskan rasionalitas dari tujuan tersebut. Pada bidang-bidang tertentu seperti pengenalan pola, analisis big data, dan permainan, kemampuan AI mampu melebihi kemampuan manusia. Jika kemampuan kalkulasinya terus berkembang dengan cepat, AI akan mampu untuk mengoptimalkan situasi dengan cara yang sedikit berbeda atau bahkan sangat berbeda dengan cara manusia mengoptimalkan situasi tersebut.

Namun, poinnya adalah apakah AI mampu untuk menjelaskan, dengan cara yang bisa dipahami oleh manusia, mengapa tindakan yang dipilihnya itu optimal? Akankah pengambilan keputusan yang AI miliki jauh melampaui kemampuan bahasa dan akal manusia?

Sepanjang sejarah manusia, peradaban manusia membentuk cara untuk menjelaskan dunia disekitarnya. Abad pertengahan dengan pendekatan agama, abad pencerahan dengan rasionalitas, abad ke-19 dengan pendekatan historis, dan abad ke-20 dengan pendekatan ideologis. Pertanyaan yang tersulit namun sangat penting mengenai dunia ini adalah apa yang akan menjadi kesadaran manusia ketika kemampuannya untuk menjelaskan sesuatu justru dilampaui oleh kecerdasan tiruan dan masyarakat tidak lagi mampu menginterpretasikan dunia yang mereka huni ke dalam frasa yang bermakna bagi dirinya?

Bagaimana sebuah kesadaran terdefinisikan dalam dunia mesin yang mereduksi pengalaman manusia menjadi data matematis yang diinterpretasikan berdasarkan sistem penyimpanan mesin tersebut? Siapa yang akan bertanggung jawab atas tindakan-tindakan yang dilakukan oleh AI? Bagaimana sebaiknya cara menentukan tanggung jawab yang lahir dari konsekuensi tindakannya? Mampukah sistem hukum yang dirancang oleh manusia mengimbangi aktivitas yang dilakukan oleh AI yang secara potensial mampu mengungguli mereka?

Kemungkinan, istilah kecerdasan tiruan sebenarnya tidaklah tepat. Satu hal yang pasti, mesin ini mampu untuk memecahkan masalah rumit yang sebelumnya hanya bisa dilakukan oleh manusia, tapi apa yang mesin ini lakukan bukanlah didasari atas apa yang telah ia pikirkan dan alami sebelumnya. Sebaliknya, hal tersebut digerakkan oleh ingatan dan perhitungan yang belum pernah ada sebelumnya.

Karena superioritasnya, AI kelihatannya akan selalu memenangkan permainan apapun yang ia mainkan. Tapi harapan kita sebagai manusia, permainan bukan hanya tentang menang, permainan adalah tentang berpikir. Dengan menerima sebuah proses matematis sebagai layaknya proses berpikir atau hanya mencoba untuk meniru proses tersebut atau bahkan menerima hasilnya, kita sedang berada dalam ancaman kehilangan kapasitas yang menjadi esensi dari kognisi manusia.

Implikasi perubahan ini diperlihatkan oleh program baru yang bernama AlphaZero, program yang mampu memainkan permainan catur pada level master dan bermain dengan gaya yang belum pernah dilihat sebelumnya. Dengan hanya memberikan peraturan dasar bermain catur, program ini hanya memerlukan beberapa jam saja untuk mencapai level skill yang dimana manusia membutuhkan 1.500 tahun untuk mencapai tingkatan kemampuan yang sama.

Proses pembelajaran mandiri ini sama sekali tidak melibatkan manusia ataupun data yang diolah oleh manusia. Jika AlphaZero bisa mencapai tingkatan kemampuan tersebut dengan sangat cepat, akan sampai manakah pencapaian dari AI lima tahun akan datang? Secara umum, dampak apa yang akan dirasakan oleh proses berpikir manusia? Apa peran dari etika dalam proses yang pada dasarnya mempercepat penentuan pilihan-pilihan ini?

Tentunya, secara khusus pertanyaan-pertanyaan tersebut mesti ditujukan untuk para teknolog dan ahli pada bidang kajian ini. Filsuf dan dan ahli humaniora lainnya yang turut serta dalam membentuk konsep tatanan dunia sebelumnya akan terlihat dirugikan, dengan kekurangan pemahaman terhadap mekanisme AI ini atau malah mengagumi kemampuan kecerdasan buatan tersebut.

Sebaliknya, dunia sains merasa wajib untuk terus mengeksplorasi kemungkinan-kemungkinan pencapaian teknis lainnya dan memusatkan perhatian pada peluang komersil yang berskala besar. Dunia sains ini justru didasari oleh keinginan untuk mencapai ambang batas dari penemuan terbaru ini, bukan untuk memahaminya. Dan pemerintah yang sampai saat ini sepakat dengan perkembangan tersebut lebih memilih untuk mencari program AI yang ditujukan untuk keamanan dan intelijen dibanding menemukan transformasi dari kondisi manusia yang telah mulai kelihatan akibat oleh kecerdasan tiruan.

Secara esensial, abad pencerahan dimulai dengan penyebaran gagasan filosofis melalui teknologi terbaru. Saat ini zaman justru bergerak ke arah sebaliknya. Zaman ini telah melahirkan potensi dominasi teknologi dalam pencarian jalan hidup yang filosofis. Beberapa Negara telah membuat projek AI yang besar.

Amerika Serikat sebagai sebuah Negara belum memulai untuk mengeksplorasi cakupan keseluruhan dan dampak dari dominasi teknologi ini atau memulai proses pemahaman yang komprehensif. Harusnya memahami hubungan sudut pandang kecerdasan buatan dan tradisi kemanusiaan menjadi prioritas nasional utama.

Pengembang kecerdasan intelektual, yang kurang berpengalaman dalam politik dan filsafat seperti halnya saya dalam dunia teknologi, harus menanyakan berbagai pertanyaan yang saya ajukan sebelumnya kepada dirinya guna membangun kerangka jawaban ke dalam aktifitas engineering mereka. Pemerintah Amerika Serikat semestinya membentuk komisi khusus yang berisikan para pemikir hebat guna membantu untuk mengembangkan visi nasional. Sebuah keniscayaan bahwa jika kita tidak memulai langkah ini sesegera mungkin, sebelum kita menyadari bahwa ternyata kita telah terlambat untuk memulainya.

======

Opini ini ditulis oleh Henry A. Kissinger, penasihat keamanan nasional dan sekretaris negara untuk Presiden Richard Nixon dan Gerald Ford. Opini ini pertama kali di rilis di The Atlantic : How the Enlightenment Ends

Rahmat Syarif

Rahmat Syarif

Pegiat Rumah Baca Philosophia Makassar dan Mahasiswa Nonprofit Studies di Queensland University of Technology Australia

Add comment

Tentang Penulis

Rahmat Syarif

Rahmat Syarif

Pegiat Rumah Baca Philosophia Makassar dan Mahasiswa Nonprofit Studies di Queensland University of Technology Australia

Follow us

Don't be shy, get in touch. We love meeting interesting people and making new friends.