(2/4) Masalah Etika Revolusi Mesin Pintar

Kita sekarang berada dalam periode ANI di mana sebagian besar state-of-art teknologi didasarkan pada pembelajaran mesin, yaitu mesin yang belajar berdasarkan satu kumpulan algoritma yang mencoba untuk memodel abstraksi tingkat tinggi dalam data dengan menggunakan beberapa lapisan pengolahan, dengan struktur yang kompleks atau sebaliknya serta terdiri dari beberapa transformasi non-linear. Ini sebenarnya adalah sebuah metode untuk belajar dari data, mengenali pola dalam data dan melakukan generalisasi prediksi untuk data baru. Berbagai dalam arsitektur pembelajaran mesin seperti model jaringan saraf betlapis (deep neural networkconvolutional neural network), dimana jaringan saraf berulang telah diterapkan untuk bidang-bidang seperti pengamatan komputer, pengenalan suara otomatis, pengolahan bahasa alami, pengenalan audio dan bioinformatika di mana mereka telah terbukti berhasil digunakan pada berbagai bidang. Kita telah menggunakan teknologi ini di setiap hari di komputer atau aplikasi smartphone dan lebih jauh lagi, pembelajaran dengan deep neural network memiliki potensi besar untuk membuat mesin pintar dimasa depan.

Perdebatan tentang dampak sosial menciptakan mesin pintar telah dikaji banyak organisasi dan individu selama beberapa dekade terakhir. Implikasi moral dan etika mesin pintar memiliki argumen tiga sisi. Pertama, mesin pintar akan mengganti banyak pekerjaan manusia dengan mudah, misalnya sebagai analis kredit di perbankan, pengacara di firma hukum, drone cerdas untuk perang atau robot dalam pabrik. Banyak orang akan hidup dalam kemiskinan dan ada sedikit atau tidak ada alasan untuk membuat buruh dengan mesin pintar. Kedua, orang-orang berpendapat bahwa masyarakat tidak dapat mengembangkan atau memanfaatkan sumber daya tanpa bantuan mesin yang bisa berpikir sendiri. Mesin pintar tidak peduli tentang masalah sosial sama sekali, seperti umumnya masyarakat manusia. Yang ketiga, tentang sejauh mana kita harus membuat mesin pintar berdasarkan AI dan apakah mesin ini akan terlihat seperti manusia. Apakah kita berbicara tentang perangkat otonom seperti penjelajah ruang atau robot yang meniru bentuk, pikiran dan perilaku manusia? Dengan semakin banyaknya mesin pintar apakah kita akan mempercayakan anak-anak kita, lembaga pendidikan, bisnis, dan pemerintah untuk mesin pintar juga?

Pertimbangan di atas adalah contoh yang baik dari kesulitan potensi mesin pintar karena akan berdampak besar pada kehidupan manusia. Meskipun meniru pembelajaran otak manusia adalah kompleks luar biasa dan dibatasi oleh kemajuan daya prosesor saat ini, setidaknya beberapa dekade teknologi bisa mencapai tingkat paling dasar kecerdasan manusia. Tapi setelah industri menginvestasikan miliaran dolar untuk membuat mesin pintar untuk menyaingi manusia dalam tugas-tugas tertentu, pertanyaan tentang nilai-nilai etika dan moral yang kita tanamkan akan terus mencuat.

Melihat peradaban manusia dengan nilai-nilai budaya, agama, etika dan moral yang beragam, apakah sebenarnya yang ingin kita kembangkan dan dengan tujuan apa? Jika kita harus membuat robot AI, misalnya, dapatkah kita membuat mereka beragama? Apakah agamanya Katolik, Muslim, atau Buddha? Atau apakah kita ingin melawan dalam perang dengan drone pintar? Atau bagaimana dengan robot seks yang akan tersedia secara komersial? Bagaimana merancang nilai-nilai kecerdasan etika yang sempurna menurut tradisi manusia, ideologi, atau agama yang telah dibangun selama ribuan tahun? Itu tentu bukan masalah yang mudah dan tidak ada jawaban yang dapat dirumuskan dengan mudah.

Argumen bahwa robot AI akan mengambil pekerjaan manusia benar adanya. Beberapa pabrik modern sudah menggunakan robot pintar saat ini. Akan tetapi juga benar bahwa pekerjaan robot tersebut umumnya pekerjaan berulang-ulang, monoton dan sering berbahaya bagi manusia. Apakah salah untuk menggantikan manusia dengan robot dalam kasus tersebut? Untuk menggambarkan betapa sulitnya untuk menjawab masalah ini, berikut adalah beberapa pendapat dan perdebatan:

  • Ekonomi, kapitalisme dan sosialisme. Negara-negara kaya telah menikmati kemajuan pesat dalam ilmu pengetahuan dan teknologi, memungkinkan mereka untuk mengotomatisasi banyak hal. Dengan kombinasi standar pendidikan yang tinggi di negara-negara tersebut, kebutuhan akan pekerjaan berulang seperti di pabrik akan semakin berkurang. Dan warga negara berpendidikan dari negara-negara tersebut telah memiliki kekayaan dan menolak untuk melakukan pekerjaan kasar. Dalam skenario ini pilihan bagi produsen sangat terbatas. Salah satu pilihannya adalah membangun pabrik lokal dan “mempekerjakan” robot untuk melakukan pekerjaan dengan biaya rendah dan efisien dibandingkan pekerja manusia – untuk meningkatkan keuntungan produksi. Pilihan lain adalah untuk mengajak pekerja migran berpendidikan rendah dari negara lain untuk datang dan melakukan pekerjaan di pabrik-pabrik semi-otomatis. Hal ini menyebabkan segala macam kesulitan sosial dan keuangan. Pilihan ketiga, yang lebih sering terlihat hari ini adalah menggabungkan dua pilihan di atas – memindahkan pabrik ke negara berpenghasilan rendah dan mempekerjakan pekerja robot. Dalam skenario ini, banyak pekerjaan manusia akan tereliminasi.
  • Kegagalan pemerintah. Setiap perusahaan menetapkan untuk memproduksi produk semurah mungkin dengan margin keuntungan tetap setinggi mungkin. Itu adalah titik kapitalistik dan sering satu-satunya yang terpenting. Sementara itu baik untuk filosofi perusahaan, pemerintah di sisi lain memiliki tanggung jawab untuk menjaga warga negara mereka dan mempertahankan tingkat sosialisme sehingga setiap orang memiliki pekerjaan dan manfaat dari kekayaan umum. Ini termasuk mengurangi beban biaya kesejahteraan – merawat mereka yang tidak mampu mengurus diri sendiri dan keluarga mereka. Banyak pemerintah saat ini telah menjadi kapitalistik dalam kebijakan mereka dan bukannya menjaga warganya dan mengurangi masalah sebanyak mungkin. Pemerintah melihat warga sebagai sumber penghasilan dari pajak yang ditetapkan ke mereka, menempatkan tambahan beban keuangan pada warge dengan pendapatan yang sudah menyusut. Pemerintah sering mendukung perusahaan besar untuk memperoleh pendapatan lebih, mengabaikan kebutuhan pekerja, dan akhirnya pekerja menjadi korban. Hal ini tidak hanya berlaku untuk pekerja berpendidikan atau pekerja pabrik. Kelas menengah semakin mendapat paksaan dimana perkerjaan mereka dapat dilakukan dengan biaya lebih murah dengan kehadiran teknologi. Kapitalisme akan semakin menjadi beban. Bagaimana semua ini harus dilanjutkan dengna masalah etika robot atau mesin pintar di tempat kerja? Pada kenyataannya, jelas bahwa pekerja robot lebih murah, lebih efisien dan tidak mengeluh atau memerlukan sistem sosial yang mahal. Tetapi ini merupakan perkembangan berbahaya bagi pertumbuhan penduduk dunia tanpa sarana untuk mendukung diri sendiri atau keluarga mereka. Dengan demikian, skenario menentang teknologi ini tampaknya beralasan. Tapi apa saja pilihannya? Berhenti mengembangkan ilmu pengetahuan dan mengabaikan manfaat dari pekerja robot?
  • Keseimbangan antara pekerja robot dan manusia. Pertanyaannya adalah bagaimana menciptakan keseimbangan antara menggunakan perkembangan teknologi tanpa menyebabkan kesulitan yang tidak semestinya pada kehidupan manusia. Ketika mesin pintar mulai memasuki tempat kerja tentu saja akan mengambil pekerjaan orang-orang biasa. Tetapi di dunia yang terus berkembang di mana aliran data dan informasi telah menjadi bagian masyarakat untuk bekerja, hal itu juga menciptakan banyak lapangan kerja baru – paling tidak di industri mesin komputer itu sendiri. Bahkan, industri komputer telah menciptakan jutaan lapangan kerja – untuk pekerja berpendidikan dan pekerja. Isu kunci di sini adalah bagaimana tenaga kerja lokal dapat memiliki pendidikan yang cukup untuk meng-upgrade diri sendiri dengan kecepatan yang sama seperti teknologi, menciptakan kebutuhan baru bagi pekerja robot. Di Amerika Serikat dan Eropa, para pekerja migran tidak berpendidikan digunakan untuk pekerjaan lebih sederhana daripada robot, menciptakan masalah sosial dan ekonomi bagi pemerintah dan wajib pajak. Migrasi tidak selalu menjadi hal yang buruk meskipun itu telah menyebabkan masalah di banyak tempat. Perbedaan budaya dan agama menciptakan konflik dan kekacauan di mana pernah ada perdamaian dan kesejahteraan untuk semua. Jadi mengapa kita tidak menciptakan robot untuk melakukan pekerjaan ini? Apakah kita benar-benar membutuhkan pembersih jalan, petugas parkir, dan tukang sampah dalam bentuk manusia? Robot dapat melakukan pekerjaan tersebut jauh lebih efisien, tanpa biaya terus menerus dan pergolakan sosial. Dengan demikian, AI dapat digunakan untuk membuat robot yang membuat hidup kita lebih mudah, menangani tugas-tugas yang kita tidak ingin atau tidak dapat dilakukan manusia. Tentu saja tidak ada yang salah dengan ini.
  • Robot AI sebagai pembantu. Robot AI dapat menjadi alat yang berguna seperti komputer yang telah menjadi alat yang berguna dalam bekerja dan kehidupan kita sehari-hari. Robot dapat mengambil alih pekerjaan berulang, tugas berbahaya dan memakan waktu, sehingga kita bisa menghabiskan waktu untuk hal yang lebih berguna. Asalkan biaya rendah, petani dapat mempekerjakan robot pertanian untuk mengolah bibit tanah, melakukan penyiangan dan memanen hasil pertanian. Robot dapat mengurus segala pekerjaan pemeliharaan yang diperlukan. Robot ini menggunakan energi matahari sehingga lebih baik untuk lingkungan. Dalam industri makanan, robot dapat bekerja lebih baik, melebihi tukang daging manusia. Robot dapat mengumpulkan miliaran kantong plastik yang saat ini mengotori dunia, robot bawah air dapat membersihkan sampah di lautan Pasifik. Mereka dapat membangun kembali lahan pertanian dan membersihkan sungai. Di rumah, robot pembersih bisa melakukan pekerjaan rumah tangga dan tugas-tugas lainnya, sehingga manusia bisa memiliki banyak waktu untuk kegiatan keluarga, bekerja, belajar atau bersantai. Di rumah sakit robot dapat memberikan bantuan di laboratorium dan kamar operasi, meracik obat-obatan misalnya dan membersihkan ruang kerja, atau bahkan melakukan prosedur bedah sederhana. Kemungkinan robot bekerja dengan skala presisi mikro membuat mereka lebih cocok untuk pekerjaan tertentu. Robot dari semua ukuran, termasuk nanorobots, dapat membersihkan lanskap kita, laut kita, menanam jutaan pohon dan sebagainya. Mereka dapat memantau lingkungan kita dan pergi mencari ruang bagi manusia untuk mencari sumber daya dan dunia lain yang bisa ditempati untuk hidup. Dan tentu saja kita dapat memiliki robot untuk berperang bagi kita. Singkatnya, manusia dapat memproduksi robot untuk melakukan semua pekerjaan yang tidak ingin dilakukan dengan alasan apapun. Mungkin sudut pandang ini terlalu terbatas atau egois untuk menerima kemungkinan robot sebagai bagian dari pembangunan masyarakat teknologi, akan tetapi ini adalah alternatif yang lebih aman bagi kemanusiaan.
  • Robot yang pragmatis terhadap keinginan manusia. Semuanya terdengar indah dan mungkin pada beberapa waktu di masa depan, ketika dunia tidak disibukkan dengan keserakahan dan pemerintah kembali mendengarkan warganya. Perusahaan puas dengan profitabilitas dan tidak memaksimalkan keuntungan dengan segala upaya dan cara dalam jangka pendek. Robot sebagai pekerja dan pembantu manusia, bukan pengganti lebih murah bagi pekerja. Hal ini bukan tujuan yang mustahil, meskipun mungkin menjadi salah satu tujuan jangka panjang. Kita harus terus meneliti perkembangan robot di tempat kerja dengan sedikit skeptisisme, menjaga keseimbangan antara kebutuhan aktual dan keserakahan. Tapi masalah etika robot memiliki komplikasi pada skala yang lebih luas. Tanpa mengubah prioritas dari keserakahan menjadi “melakukan hal yang benar” – seperti mengurus semua orang daripada beberapa kelompok – kita perlu juga mengatasi masalah seperti penduduk dunia, buruh migran, isu-isu lingkungan, sumber daya berkurang, monopoli perusahaan dan seterusnya. Dan robot lebih dari pekerja mekanik. Membuka kesempatan untuk menciptakan robot-robot yang bekerja untuk kepentingan manusia.

Dari contoh di atas, kita dapat mengatakan kemungkinan menciptakan mesin pintar akan menimbulkan sejumlah masalah etika dan moral. Banyak pertanyaan belum terjawab untuk memastikan bahwa mesin pintar tersebut tidak membahayakan manusia dan makhluk lain yang relevan secara moral bahkan status moral dari mesin itu sendiri. Bayangkan jika dalam waktu dekat, asuransi kesehatan BJPS di Indonesia menggunakan algoritma pembelajaran mesin untuk merekomendasikan persetujuan perawatan medis. Keluarga pasien yang ditolak oleh algoritma ternyata meninggal dan mengajukan gugatan terhadap BPJS, dengan alasan bahwa algoritma telah melakukan diskriminasi bagi pasien. Secara teknis, BPJS dapat menjawab bahwa hal tersebut tidak mungkin, karena algoritma belajar dari data sebelumnya dan membuat keputusan yang selalu netral. Tentu saja argumen tersebut dapat diterima, namun bagaimana bila dalam kasus serupa algoritma BJPS terbukti menyetujui permohonan pasien lain?. Hal ini mungkin terjadi karena kualitas data yang digunakan terlalu rendah sehingga hasil inferensi kurang tepat. Apa yang mungkin bisa terjadi dari sisi etika untuk kasus ini?

Menyelidiki kasus BPJS tidak mudah karena tergantung pada netralitas algoritma pembelajaran mesin yang digunakan. Jika algoritma didasarkan pada deep neural network – yang mampu secara otomatis menemukan representasi fitur dalam data, maka sulit untuk membuktikan bahwa keputusannya bias karena sangat bergantung pada kualitas data. Di sisi lain, jika algoritma yang digunakan adalah pohon keputusan (decision tree) atau jaringan Bayesian (Bayesian network) akan lebih transparan untuk diinspeksi. Ini memungkinkan auditor untuk menemukan kesalahan dalam algoritma pembelajaran mesin. Algoritma pembelajaran mesin tidak hanya tepat, kuat dan terukur, tetapi juga harus transparan untuk inspeksi. Itu hanya contoh sederhana dari banyak aspek sosial dan moral dari mesin pintar. Tentu saja transparansi bukan satu-satunya fitur yang diinginkan mesin pintar.

Apakah kita ada pilihan untuk transparansi dalam algoritma AI? Stuart Russell, profesor ilmu komputer dan Smith-Zadeh professor teknik di University of California, Berkeley, menggunakan metodologi untuk menanamkan aspek etika dalam AI yang dikenal dengan metode pembelajaran penguat terbalik (IRL). Dengan IRL, sistem-sistem sensor yang mengamati tingkah laku manusia dapat dibuat berbasis etika. Setelah suatu tingkah laku yang diamati sesuai dengan etika yang diharapkan, kode program di modifikasi kembali sehingga algoritma pembelajaran mesinnya bekerja sesuai dengan etika yang diharapkan. Sebagai contoh dari proses ini, Russell menunjukkan dalam pidatonya baru-baru di Pusat Studi Risiko Eksistensial di University of Cambridge, bagaimana robot bisa mengamati orang yang berulang kali membuat air mendidih dan menuangkan bubuk hitam ke dalam air setiap pagi. Dengan mencatat perbaikan suasana hati manusia, nilai ritual kopi dapat dikodifikasi, sehingga robot dapat menirunya. Russell kemudian menjelaskan bahwa tujuan manusia ada dalam konteks bagaimana dia hidup sampai ke titik menerima tujuan baru. Misalnya, jika kita kehabisan daging saat memasak, kita sadar untuk tidak memasak kucing kesayangan kita, tapi ini adalah nilai yang dimiliki manusia yang tentu saja tidak ada dalam algoritma robot pemasak di dapur. Akibatnya, Russell merasa harus ada perusahaan yang membangun representasi untuk nilai-nilai kemanusiaan, termasuk konsep latar belakang orang yang akan mengenali lapisan etika, hukum dan moral yang selama ini kita terima begitu saja. Sebuah prototipe dari organisasi semacam ini ada di Open Roboethics Initiative yang melakukan Crowdsourcing informasi sekitar AI dan robotika secara terfokus.

Kita tidak bisa terus bergerak maju dalam lingkungan dimana aspek etika dalam AI diabaikan. Etika dalam AI seharusnya tidak hanya menjadi renungan, besar sekali risiko yang akan timbul jika terlambat. Kesempatan untuk inovasi akan datang ketika kita bisa menginformasikan proses manufaktur AI dengan pemrograman berdasarkan kodifikasi keyakinan kita yang dipegang teguh. Bagaimana mesin akan tahu nilai-nilai kemanusiaan tanpa diberitahu? Itulah pertanyaan yang perlu dijawab hari ini atau mesin pintar akan terus dikembangkan tanpa adanya kontrol sehingga suatu saat nanti menjadi tidak terkendali.

Sama seperti teknologi informasi lainnya, semakin penting untuk algoritma pembelajaran mesin untuk tahan terhadap manipulasi teknis, seperti malware atau gangguan keamanan. Ambil contoh mobil tanpa supir yang menggunakan algoritma pembelajaran mesin untuk mengenali objek di jalan dan mengambil keputusan apakah aman untuk mengemudi atau tidak. Sekelompok peneliti yang berbasis di Virginia didanai oleh Departemen Pertahanan menemukan bahwa itu relatif mudah untuk meretas sistem kontrol mobil tanpa supir, tetapi juga mengatakan bahwa solusi terhadap serangan seperti itu bisa juga murah. Dua perusahaan di Charlottesville bekerja sama dengan University of Virginia dan Departemen Pertahanan untuk menemukan solusi memerangi serangan cyber pada fungsi penting seperti pengereman dan mempercepat dalam mobil tanpa supir. Solusi ini terdiri dari dua bagian: hardware tertanam dengan sistem fisik dan software berbasis cloud. Pertanyaannya siapa yang akan mengoperasikan sistem untuk melindungi mobil tanpa supir bagi masyarakat? Diperlukan kriteria sosial lain untuk berurusan dengan organisasi atau pemerintah untuk menentukan tanggung jawab dan akuntabilitas yang berhubungan dengan kesejahteraan manusia. Ketika sistem AI gagal untuk melindungi keamanan orang, siapa yang akan disalahkan? Para insinyur perangkat lunak atau polisi?

Sebagai ringkasan – tanggung jawab, transparansi, auditability, korup, prediktabilitas, dan niat untuk tidak membahayakan kehidupan manusia sangat diperlukan pada implementasi mesin pintar. Semua kriteria yang berlaku untuk manusia melakukan fungsi-fungsi sosial perlu dipertimbangkan dalam Artificial Intelligence Narrow (ANI) karena tujuannya adalah untuk menggantikan penilaian dan pekerjaan manusia pada tugas-tugas tertentu. Berbeda dengan apa yang peneliti AI telah lakukan dalam beberapa tahun terakhir, seperti bagaimana untuk meningkatkan kinerja algoritma AI dan perangkat pintar, isu-isu etika mesin pintar membutuhkan lebih banyak perhatian. Ini bukan masalah sepele yang dapat dengan mudah ditemukan solusinya, tetapi membutuhkan upaya evolusional untuk menemukan solusi yang tepat dari waktu ke waktu.

Baca selanjutnya tenting AGI dan ASI, atau kembali ke bagian pertama.

TSMRA, Jakarta, Juni, 2016.

15 responses

  1. What’s up, this weekend is pleasant in favor of me, for the reason that
    this moment i am reading this enormous educational paragraph here at
    my house.

  2. Hello my friend! I want to say that this post is amazing, nice written and come with
    approximately all important infos. I would like to look more posts
    like this .

  3. This is the right blog for anybody who really wants to find out about this topic.

    You realize so much its almost tough to argue with you (not that I
    personally will need to�HaHa). You certainly put a fresh spin on a subject that has been discussed for years.

    Excellent stuff, just great!

  4. It’s really a nice and helpful piece of information. I’m happy that you just shared this useful info with us.
    Please keep us informed like this. Thanks for sharing.

Leave a Reply

Your email address will not be published. Required fields are marked *