(4/4) Masalah Etika Revolusi Mesin Pintar

Dari AGI dengan tingkat kecerdasan yang sama dengan manusia dan pesatnya pertumbuhan kemampuan komputer, mesin pintar diprediksi mampu melebihi manusia karena beberapa hal berikut ini:

Sisi Perangkat keras:

  • Kecepatan. Saraf otak maksimal keluar pada sekitar 200 Hz, sementara mikroprosesor saat ini (yang jauh lebih lambat ketika kita mencapai AGI) ada di 2 GHz, atau 10 juta kali lebih cepat dari neuron manusia. Dan komunikasi internal otak yang dapat bergerak disekitar 120 m/s, jauh kalah dari kemampuan komputer untuk berkomunikasi dengna serat optik berkecepatan cahaya.
  • Ukuran dan penyimpanan. Otak terkunci ke dalam ukuran dengan bentuk tengkorak manusia dan tidak bisa jauh lebih besar dengan komunikasi internal 120 m/s akan memakan waktu terlalu lama untuk mendapatkan informasi dari satu struktur otak ke yang lain. Komputer dapat memperluas ukuran fisik, yang memungkinkan jauh lebih keras untuk dirancang bekerja, jauh lebih besar memori kerjanya (RAM) dan memiliki memori jangka panjang (penyimpanan hard drive) yang tentu saja memiliki kapasitas yang jauh lebih besar dan lebih presisi daripada manusia.
  • Keandalan dan daya tahan. Bukan hanya memory dari komputer yang akan lebih tepat, transistor komputer lebih akurat daripada neuron biologis dan mereka cenderung memburuk (tetapi dapat diperbaiki atau diganti). Otak manusia juga dapat lelah dengan mudah sementara komputer dapat berjalan tanpa henti di puncak performa, 24/7.

Perangkat lunak:         

  • Editability dan Upgradability. Berbeda dengan otak manusia, komputer software dapat menerima update dan perbaikan dan dapat dengan mudah bereksperime. Upgrade juga bisa menjangkau ke daerah-daerah di mana otak manusia lemah. Software visual manusia luar biasa canggih, sementara kemampuan teknik yang kompleks cukup ringan. Komputer bisa cocok dengan manusia pada perangkat lunak visual tetapi juga bisa menjadi sama jika dioptimalkan dalam rekayasa area lainnya.
  • Kemampuan Kolektif. Manusia mengalahkan semua spesies lain dalam membangun kecerdasan kolektif yang luas. Dimulai dengan perkembangan bahasa dan komunikasi, memasyarakat, maju melalui penemuan tulisan dan pencetakan dan sekarang diintensifkan melalui teknologi seperti internet. Kecerdasan kolektif manusia adalah salah satu alasan utama manusia begitu maju di banding semua spesies lain. Dan komputer punya cara yang lebih baik dalam hal itu daripada manusia. Dengan jaringan internet di seluruh dunia mesin pintar dapat menjalankan program tertentu secara teratur dan menyinkronkan dengan dirinya sendiri sehingga apa pun yang dipelajari suatu komputer dapat langsung diunggah ke semua komputer lain. Kelompok ini juga bisa mengambil satu tujuan sebagai satu unit karena tidak harus terjadi perbedaan pendapat, motivasi dan kepentingan, seperti yang terjadi dalam populasi manusia.

Mesin yang kemungkinan akan mencapai AGI dengan kemampuan meningkatkan kemampuan dirinya sendiri, tidak akan melihat “intelijen tingkat manusia” secara relevan dari sudut pandang manusia dan tidak akan memiliki alasan untuk “berhenti” di tingkat manusia. Dan mengingat keunggulannya dibandingkan manusia, sudah cukup jelas bahwa dalam waktu cepat mesin pintar akan berpacu ke ranah Superintelligence (ASI). Ini mungkin akan mengejutkan manusia ketika itu terjadi. Alasannya adalah bahwa dari sudut pandang manusia, kecerdasan berbagai jenis hewan bervariasi, manusia menyadari bahwa intelijen hewan jauh lebih rendah dan melihat manusia cerdas lebih pintar dari manusia paling bodoh.

Artificial Superintelligence (ASI) adalah mesin sangat cerdas untuk memahami desain sendiri sehingga bisa mendesain ulang sendiri atau menciptakan sistem penerus, lebih cerdas, yang kemudian bisa mendesain ulang sendiri lagi untuk menjadi lebih cerdas, dan seterusnya dalam siklus umpan balik positif. Ini adalah “ledakan intelijen.” Skenario rekursif yang tidak terbatas terjadi pada mesin pintar. Jika manusia memiliki mesin yang meningkat IQ nya, ledakan intelijen pasti terjadi kepada, setelah manusia menjadi cukup pintar, akan terus mencoba untuk merancang versi yang lebih pintar.

ASI juga mungkin dicapai dengan meningkatkan kecepatan pemrosesan, neuron diamati tercepat beruulang 1000 kali per detik; serat akson perilaku sinyal tercepatnya pada 150 m/s, setengah-juta kecepatan cahaya. Tampaknya sangat mungkin secara fisik untuk membangun otak yang dapat menghitung satu juta kali lebih cepat dari otak manusia, tanpa menyusut ukurannya dan bisa menulis ulang perangkat lunak. Jika pikiran manusia dipercepat, tahun subjektif dari pemikiran akan dicapai untuk setiap 31 detik fisik di dunia luar, dan milenium tercapai di delapan setengah jam. Ini disebut pikiran melesat naik seperti “superintelligence”: pikiran yang berpikir seperti manusia, tetapi jauh lebih cepat.

Yudkowsky mengusulkan tiga kategori metafora untuk memvisualisasikan kemampuan ASI:

  • Metafora terinspirasi oleh perbedaan kecerdasan individual antara manusia: mesin pintar akan mematenkan penemuan baru, mempublikasikan makalah penelitian, membuat uang di pasar saham, atau memimpin blok kekuasaan politik.
  • Metafora terinspirasi oleh perbedaan pengetahuan antara masa lalu dan peradaban manusia sekarang: mesin pintar akan menciptakan kemampuan yang futuris yang telah diprediksi untuk peradaban manusia di masa depan, seperti nanoteknologi molekul atau perjalanan antar galaxy.
  • Metafora terinspirasi oleh perbedaan arsitektur otak antara manusia dan organisme biologis lainnya: bayangkan menjalankan pikiran anjing di kecepatan yang sangat tinggi. Perubahan arsitektur kognitif mungkin menghasilkan wawasan bahwa tidak ada pikiran tingkat manusia akan ditemukan setelah jumlah waktu.

Bahkan jika kita membatasi diri untuk metafora sejarah, jelas bahwa ASI menyediakan tantangan etika yang secara harfiah belum pernah terjadi sebelumnya. Pada titik ini taruhannya tidak lagi dalam skala individu (misalnya, hipotek tidak adil disetujui, orang dianiaya) tapi pada skala global atau kosmis (misalnya, manusia dimusnahkan). Atau jika ASI dapat dibentuk untuk menjadi bermanfaat, kemudian tergantung pada kemampuan teknologi, mungkin menyelesaikan banyak masalah masa kini yang telah terbukti sulit untuk intelijen tingkat manusia.

ASI adalah salah satu dari beberapa “risiko eksistensial” seperti yang didefinisikan oleh Bostrom. Dimana bisa berisiko memusnahkan kehidupan cerdas di bumi secara permanen atau sebaliknya, ASI bisa secara positif melestarikan kehidupan cerdas dibumi dan memenuhi potensinya. Penting untuk ditekankan bahwa ASI membawa potensi keuntungan besar serta risiko tinggi secara bersamaan.

Misalkan intuisi kita tentang skenario masa depan yang “masuk akal dan realistis” dibentuk oleh apa terlihat di TV dan di film atau novel. Sebagian besar dari wacana tentang masa depan adalah dalam bentuk fiksi dan konteks rekreasi lainnya. Ketika berpikir kritis kita menduga intuisi seakan-akan bergerak ke arah nyata karena skenario tersebut tampak jauh lebih akrab. Ilusi bisa menjadi cukup kuat. Kapan terakhir kali anda melihat sebuah film tentang kepunahan manusia secara tiba-tiba tanpa peringatan dan tanpa diganti oleh peradaban baru. Padahal skenario ini jauh lebih mungkin daripada skenario di mana pahlawan manusia berhasil mengusir invasi alien atau prajurit robot, yang tentu saja tidak akan menyenangkan untuk ditonton. Akan menjadi suatu kesalahan besar untuk menganggap mesin pintar ASI sebagai spesies dengan karakteristik statik dan terus bertanya, “apakah mereka baik atau jahat?”. Istilah “Artificial Intelligence” mengacu pada desain ruang yang luas, mungkin jauh lebih besar dari ruang pikiran manusia karena semua manusia berbagi arsitektur otak yang sama dan terbatas.

Apakah mesin pintar pada level ASI dapat dikontrol efeknya terhadap kehidupan manusia? Kurzweil menyatakan bahwa “kecerdasan secara inheren tidak mungkin dikontrol,” dan meskipun manusia dapat mengambil tindakan pencegahan, “mesin pintar akan dengan mudah mengatasi hambatan tersebut.” ASI tidak hanya super pintar, tapi memiliki kemampuan meningkatkan kecerdasan sendiri, memiliki akses tanpa hambatan ke kode sumber sendiri sehingga dapat menulis ulang sendiri apa pun yang dirinya inginkan.

Sejauh ini dalam pengembangan AI, apakah ada cara yang bisa dilakukan untuk mengarahkan AI menjadi baik melalui penelitian modern? Tampak terlalu dini untuk berspekulasi, tetapi bukan tidak mungkin beberapa paradigma AI lebih unggul daripada yang lain sehingga akhirnya membuktikan penciptaan mesin pintar yang mampu memodifikasi kecerdasannya sendiri. Misalnya AI berbasis Bayesian yang terinspirasi oleh sistem matematika koheren seperti teori probabilitas yang diharapkan dapat memaksimalkan kemampuannya. Bayesian  tampaknya lebih dekat ke masalah modifikasi diri dibanding pemrograman evolusioner dan algoritma genetika lainnya. Seperti terlalu kontroversial, tetapi ini menggambarkan bahwa jika kita berpikir tentang tantangan Superintelligence, seharusnya kita bisa mengarahkan penelitian AI menjadi lebih terkontrol. Tetapi bagaimana kalau mesin pintar ASI tercipta karena ketidaksengajaan di laboratorium?

Seandainya kita menentukan tujuan sistem AI untuk suatu saat mampu secara terus menerus memodifikasi dan memperbaiki diri, ini akan mulai menyentuh masalah etika inti mengenai Superintelligence. Manusia memiliki kecerdasan umum pertama di bumi yang telah digunakan secara substansial membentuk kembali pegunungan, membangun gedung pencakar langit, membuat pertanian di gurun, bahkan mengakibatkan perubahan iklim yang tidak diinginkan. Sebuah kecerdasan yang lebih kuat bisa memiliki konsekuensi yang jauh lebih besar.

Pertimbangkan lagi metafora historis untuk ASI – mirip dengan perbedaan antara masa lalu dan peradaban sekarang. Peradaban sekarang ini tidak lepas dari pengaruh Yunani kuno dan terus berubah karena peningkatan ilmu pengetahuan dan kemampuan teknologi. Ada perbedaan perspektif etis seperti Yunani Kuno berpikir perbudakan diterima; saat ini kita berpikir sebaliknya. Bahkan antara abad 19 ke 20 ada perbedaan pendapat etis substansial mengenai hak perempuan. Atau hak orang kulit hitam. Mungkin bahwa etika orang saat ini tidak terlihat sebagai etis sempurna di peradaban masa depan, bukan hanya karena kegagalan untuk memecahkan masalah etika saat ini diakui, seperti kemiskinan dan ketimpangan, tetapi juga untuk kegagalan dalam mengenali masalah etika tertentu. Mungkin suatu hari nanti memaksa anak ke sekolah akan dianggap pelecehan atau sebaliknya, membiarkan anak-anak untuk meninggalkan sekolah pada usia 18 dipandang sebagai pelecehan anak. Kita tidak tahu. Mengingat sejarah etika peradaban manusia selama berabad-abad, kita dapat memprediksi bahwa mungkin terjadi tragedi yang sangat besar. Bagaimana jika ternyata Archimedes dari Syracuse telah mampu menciptakan kecerdasan buatan tahan lama dengan versi moral Yunani Kuno? Kadang ide baru yang baik dalam etika datang bersama atau datang sebagai kejutan; tetapi perubahan etika yang dihasilkan paling acak akan menyerang kita sebagai kebodohan atau omong kosong.

Ini memberi tantangan utama etika mesin pintar. Bagaimana manusia dapat membangun sebuah mesin pintar yang ketika dijalankan menjadi lebih etis dari penciptanya? Sulit meminta filsuf kita saat ini untuk menghasilkan super-etika sepertinya halnya insinyur AlphaGo bukan pecatur terbaik. Tapi kita harus dapat secara efektif menjelaskan pertanyaan, jika tidak dadu bergulir terus dan tidak akan menghasilkan gerakan catur yang baik atau etika yang baik. Atau mungkin ada cara yang lebih produktif untuk berpikir tentang masalah ini. Apa strategi yang dapat kita katakan kepada Archimedes sebelum membangun mesin ASI, sehingga hasil keseluruhan nantinya masih bisa diterima. Padahal kita sendiri tidak bisa mengatakan kepadanya apa yang secara khusus ia lakukan salah. Dalam banyak situasi saat ini, kita sangat relatif terhadap masa depan.

Salah satu ide yang sering diajukan adalah mempertimbangkan situasi seperti kasus Archimedes dan kita tidak perlu mencoba untuk menciptakan sebuah “Superintelligence” dengan etika yang tetap. Mungkin kita harus mempertimbangkan bagaimana AI diprogram oleh Archimedes, tanpa keahlian lebih bermoral dari Archimedes, tetapi bisa mengenali (setidaknya beberapa) etika peradaban kita sendiri. Disini kita akan mengharuskan mesin pintar AI untuk dapat memahami struktur etika manusia, seperti AlphaGo memahami aturan permainan catur.  Jika kita serius mengembangkan mesin pintar AI, banyak tantangan yang harus kita hadapi. Jika mesin harus ditempatkan dalam posisi yang lebih kuat, lebih cepat, lebih dipercaya, atau lebih pintar dari manusia, maka disiplin etika mesin harus berkomitmen untuk melebihi manusia, bukan hanya setara, dalam hal kebaikan etiks.

Titik-Titik Pemikiran
Ada banyak perdebatan tentang seberapa cepat mesin pintar ANI akan mencapai AGI kemudian ASI. Hasil survei dari ratusan ilmuwan tentang kapan mereka percaya peradaban manusia mencapai AGI adalah sekitar tahun 2040 [13]. Itu berarti hanya 24 tahun dari sekarang. Menariknya, banyak pemikir di bidang AI memprediksi kemungkinan perkembangan dari AGI ke ASI akan terjadi sangat cepat.  Skenario seperti dibawah ini bisa terjadi:

Dibutuhkan puluhan tahun untuk sistem AI pertama yang mencapai kecerdasan umum tingkat rendah, tapi akhirnya terjadi. Sebuah komputer mampu memahami dunia di sekitarnya seperti anak berusia empat tahun. Tiba-tiba, dalam waktu satu jam dari saat itu, mesin itu memahami teori grand fisika yang menyatukan teori relativitas umum dan mekanika kuantum, sesuatu belum mampu dilakukan manusia saat ini. 90 menit setelah kejadian itu, AI telah menjadi ASI, 170.000 kali lebih cerdas dari manusia.

Besarnya kemampuan ASI bukan sesuatu yang bisa kita pahami dengan mudah. Dalam ukuran kita, cerdas berarti IQ 130 dan bodoh berarti IQ 85 tetapi kita tidak memiliki kategori untuk IQ 12.952 dan tidak bisa membayangkan kemampuannya. Apa yang kita ketahui dari dominasi manusia dibumi saat ini, sangat jelas kecerdasan memberikan kekuasaan. Yang berarti ASI, ketika kita bisa menciptakannya akan menjadi makhluk yang paling kuat dalam sejarah kehidupan di bumi. Jika otak manusia saat ini mampu menciptakan wifi, mesin pintar dengan 100 atau 1.000 atau 1 miliar kali lebih pintar seharusnya tidak memiliki masalah mengendalikan posisi setiap atom di dunia dengan cara apapun itu. Segala sesuatu yang kita bayangkan seperti sihir atau kekuasaan Tuhan akan menjadi seperti kemampuan biasa untuk mesin pintar ASI. Mesin ini dapat menciptakan teknologi untuk membalikkan penuaan manusia, menyembuhkan penyakit, memberantas kelaparan dan bahkan kematian, memprogram ulang cuaca untuk melindungi masa depan bumi, semua itu tiba-tiba mungkin dan mudah. Ini juga sangat mungkin sebagai akhir dari semua kehidupan dibumi. Sejauh yang kita khawatirkan, jika ASI benar terjadi maka ada Tuhan yang Mahakuasa dibumi dan pertanyaan paling penting untuk kita tanyakan adalah apakah Tuhan ini akan menjadi baik atau buruk?

Baca kembali mengenai (1) pengenalan, (2) ANI dan (3) AGI.

TSMRA, Jakarta, 2016.

Leave a Reply

Your email address will not be published. Required fields are marked *