//DeepBrains//

I am writing down my thoughts on how to educate my kids at home. I lost belief on school education since long time and it is getting worst this time. For me, school is the biggest threat for their education, it is a killing machine for their curiosity. This is not my final method, just an initial proposed experiment setup based on my understanding of current world.

1. Read and Tell. With internet and devices, kids have more information access than their teachers or even their parents. They learn randomly by default, whatever interest them, they will explore. Not bad, however, this learning is not structured. We all know that reading books is irreplaceable. Reading is the best way for brains to have structured learning, no matter what they read. So the first experiment is to create an environment for kids to read, understand and tell stories of what they know. One can start with novel, biography, or encyclopedia, no need dictate contents as the main goal is to train their brain to learn from reading. To make it fun, after reading, ask them to have project to get more information from internet.
2. Write to Tell. Writing is best way to validate understanding and we write because we want to have clear communication. Like reading, writing is irreplaceable and need proper training. It is quite different with story telling, as writing needs different brain activity, which more intense, careful and analytical. So the second experiment is to train kids to write. It is not easy but don’t push them. Ask them to write summary, proposal, express emotion, etc. To write well they have to list down concepts, elaborate and conclude. Like reading, writing is important skill that kids must have.
3. Teach How to Learn. For me, not knowing is better than having wrong understanding. Don’t know math is better, than anti-math. Not knowing is good, it is the base of learning journey. From neuro science we know, brain is capable to learn anything, from math, physics, computing, etc. The bigger problem will come if kids have traumatic experiences in learning so they hate the subject. The worst thing, maybe that traumatic experiences happen because of their teachers at school. Teach the kids how to learn is really important. But how? Here is my experiment proposal. Create a project for kids to learn new concept from bottom up. What ever the concept is not matter. What matter is the process of learning. Once they have reading and writing basic skills, they are actually ready to learn anything. However, brains are very complex. Easily procrastinated and distracted. To learn, first kids need to get chucks, compact package of information, then understand and memorize, or even further analyze and put more creativity. The learning process need project style management. So create that project for your kids to learn new concept, even simple one like learn why dinosaurs are eliminated.
4. Analytical Thinking. Brains contain two systems, analytical and associative. Both need continuous training. If you look deeper on curriculum at school, it starts with associative learning, not analytical. Even later they teach analytical, it is really bad implemented. I don’t think we can delegate analytical learning capability to school. We need to design another experiment to teach kids in analytical problem solving. But how? Yes, another experiment need to be setup. If you look on human history, it started by counting. As human, we are able to count first and define numbers. It is basic intelligent we have in brain and all problems are actually rooted back to that counting skills. All kids already have it but we never train them to formalize what they know using math. Math is the best language and tools to formalize analytic capability. As I mentioned before, I rather have them not knowing math, instead of having traumatic experiences in math. It is real danger for kids. Create an experiment to let kids learn how to solve real problem with math concepts and techniques. Algebra, geometry, calculus, statistic, probability, group, game, etc are all formalization of common concepts, but we failed to teach it well from beginning. It is a killing machine for kids.
5. Encourage Science. With the advance of technologies, science knowledge is critically important for kids. I don’t think they can survive in future without science. With artificial intelligence, many future jobs are automated by intelligent machines such as robots. What left maybe jobs with analytical and science knowledge. Like math, teaching science is badly implemented in school, can not be delegated to schools. We should create environment and design experiments for kids to learn science start from home. Physics is best subject for science. We can create experiments for kids to learn science at home. Many tools available to teach mechanical, electromagnetism, from beginning. The idea is to teach the phenomena first, conceptual model, and formalize with math. Remember that physics is not math. Physics is study of the nature and math is universal formal language to describe physical concepts. Future challenges for humanity is to understand more how our nature works, from atoms to space explorations. Please teach physics to kids, whatever they will do in future. One may ask me, why not engineering, business, economy, law, management, leadership or other disciplines. I will ask another question, in those domains, tell me a concept that we can’t learn in one hour after have deep understanding of math and science. What about sport, art and humanity? It is must have for them too, but let them decide what make fun for them to explore.

Hope this helps!

TSMRA – Jakarta July, 2017.

Dari AGI dengan tingkat kecerdasan yang sama dengan manusia dan pesatnya pertumbuhan kemampuan komputer, mesin pintar diprediksi mampu melebihi manusia karena beberapa hal berikut ini:

Sisi Perangkat keras:

• Kecepatan. Saraf otak maksimal keluar pada sekitar 200 Hz, sementara mikroprosesor saat ini (yang jauh lebih lambat ketika kita mencapai AGI) ada di 2 GHz, atau 10 juta kali lebih cepat dari neuron manusia. Dan komunikasi internal otak yang dapat bergerak disekitar 120 m/s, jauh kalah dari kemampuan komputer untuk berkomunikasi dengna serat optik berkecepatan cahaya.
• Ukuran dan penyimpanan. Otak terkunci ke dalam ukuran dengan bentuk tengkorak manusia dan tidak bisa jauh lebih besar dengan komunikasi internal 120 m/s akan memakan waktu terlalu lama untuk mendapatkan informasi dari satu struktur otak ke yang lain. Komputer dapat memperluas ukuran fisik, yang memungkinkan jauh lebih keras untuk dirancang bekerja, jauh lebih besar memori kerjanya (RAM) dan memiliki memori jangka panjang (penyimpanan hard drive) yang tentu saja memiliki kapasitas yang jauh lebih besar dan lebih presisi daripada manusia.
• Keandalan dan daya tahan. Bukan hanya memory dari komputer yang akan lebih tepat, transistor komputer lebih akurat daripada neuron biologis dan mereka cenderung memburuk (tetapi dapat diperbaiki atau diganti). Otak manusia juga dapat lelah dengan mudah sementara komputer dapat berjalan tanpa henti di puncak performa, 24/7.

Perangkat lunak:         

• Editability dan Upgradability. Berbeda dengan otak manusia, komputer software dapat menerima update dan perbaikan dan dapat dengan mudah bereksperime. Upgrade juga bisa menjangkau ke daerah-daerah di mana otak manusia lemah. Software visual manusia luar biasa canggih, sementara kemampuan teknik yang kompleks cukup ringan. Komputer bisa cocok dengan manusia pada perangkat lunak visual tetapi juga bisa menjadi sama jika dioptimalkan dalam rekayasa area lainnya.
• Kemampuan Kolektif. Manusia mengalahkan semua spesies lain dalam membangun kecerdasan kolektif yang luas. Dimulai dengan perkembangan bahasa dan komunikasi, memasyarakat, maju melalui penemuan tulisan dan pencetakan dan sekarang diintensifkan melalui teknologi seperti internet. Kecerdasan kolektif manusia adalah salah satu alasan utama manusia begitu maju di banding semua spesies lain. Dan komputer punya cara yang lebih baik dalam hal itu daripada manusia. Dengan jaringan internet di seluruh dunia mesin pintar dapat menjalankan program tertentu secara teratur dan menyinkronkan dengan dirinya sendiri sehingga apa pun yang dipelajari suatu komputer dapat langsung diunggah ke semua komputer lain. Kelompok ini juga bisa mengambil satu tujuan sebagai satu unit karena tidak harus terjadi perbedaan pendapat, motivasi dan kepentingan, seperti yang terjadi dalam populasi manusia.

Mesin yang kemungkinan akan mencapai AGI dengan kemampuan meningkatkan kemampuan dirinya sendiri, tidak akan melihat “intelijen tingkat manusia” secara relevan dari sudut pandang manusia dan tidak akan memiliki alasan untuk “berhenti” di tingkat manusia. Dan mengingat keunggulannya dibandingkan manusia, sudah cukup jelas bahwa dalam waktu cepat mesin pintar akan berpacu ke ranah Superintelligence (ASI). Ini mungkin akan mengejutkan manusia ketika itu terjadi. Alasannya adalah bahwa dari sudut pandang manusia, kecerdasan berbagai jenis hewan bervariasi, manusia menyadari bahwa intelijen hewan jauh lebih rendah dan melihat manusia cerdas lebih pintar dari manusia paling bodoh.

Artificial Superintelligence (ASI) adalah mesin sangat cerdas untuk memahami desain sendiri sehingga bisa mendesain ulang sendiri atau menciptakan sistem penerus, lebih cerdas, yang kemudian bisa mendesain ulang sendiri lagi untuk menjadi lebih cerdas, dan seterusnya dalam siklus umpan balik positif. Ini adalah “ledakan intelijen.” Skenario rekursif yang tidak terbatas terjadi pada mesin pintar. Jika manusia memiliki mesin yang meningkat IQ nya, ledakan intelijen pasti terjadi kepada, setelah manusia menjadi cukup pintar, akan terus mencoba untuk merancang versi yang lebih pintar.

ASI juga mungkin dicapai dengan meningkatkan kecepatan pemrosesan, neuron diamati tercepat beruulang 1000 kali per detik; serat akson perilaku sinyal tercepatnya pada 150 m/s, setengah-juta kecepatan cahaya. Tampaknya sangat mungkin secara fisik untuk membangun otak yang dapat menghitung satu juta kali lebih cepat dari otak manusia, tanpa menyusut ukurannya dan bisa menulis ulang perangkat lunak. Jika pikiran manusia dipercepat, tahun subjektif dari pemikiran akan dicapai untuk setiap 31 detik fisik di dunia luar, dan milenium tercapai di delapan setengah jam. Ini disebut pikiran melesat naik seperti “superintelligence”: pikiran yang berpikir seperti manusia, tetapi jauh lebih cepat.

Yudkowsky mengusulkan tiga kategori metafora untuk memvisualisasikan kemampuan ASI:

• Metafora terinspirasi oleh perbedaan kecerdasan individual antara manusia: mesin pintar akan mematenkan penemuan baru, mempublikasikan makalah penelitian, membuat uang di pasar saham, atau memimpin blok kekuasaan politik.
• Metafora terinspirasi oleh perbedaan pengetahuan antara masa lalu dan peradaban manusia sekarang: mesin pintar akan menciptakan kemampuan yang futuris yang telah diprediksi untuk peradaban manusia di masa depan, seperti nanoteknologi molekul atau perjalanan antar galaxy.
• Metafora terinspirasi oleh perbedaan arsitektur otak antara manusia dan organisme biologis lainnya: bayangkan menjalankan pikiran anjing di kecepatan yang sangat tinggi. Perubahan arsitektur kognitif mungkin menghasilkan wawasan bahwa tidak ada pikiran tingkat manusia akan ditemukan setelah jumlah waktu.

Bahkan jika kita membatasi diri untuk metafora sejarah, jelas bahwa ASI menyediakan tantangan etika yang secara harfiah belum pernah terjadi sebelumnya. Pada titik ini taruhannya tidak lagi dalam skala individu (misalnya, hipotek tidak adil disetujui, orang dianiaya) tapi pada skala global atau kosmis (misalnya, manusia dimusnahkan). Atau jika ASI dapat dibentuk untuk menjadi bermanfaat, kemudian tergantung pada kemampuan teknologi, mungkin menyelesaikan banyak masalah masa kini yang telah terbukti sulit untuk intelijen tingkat manusia.

ASI adalah salah satu dari beberapa “risiko eksistensial” seperti yang didefinisikan oleh Bostrom. Dimana bisa berisiko memusnahkan kehidupan cerdas di bumi secara permanen atau sebaliknya, ASI bisa secara positif melestarikan kehidupan cerdas dibumi dan memenuhi potensinya. Penting untuk ditekankan bahwa ASI membawa potensi keuntungan besar serta risiko tinggi secara bersamaan.

Misalkan intuisi kita tentang skenario masa depan yang “masuk akal dan realistis” dibentuk oleh apa terlihat di TV dan di film atau novel. Sebagian besar dari wacana tentang masa depan adalah dalam bentuk fiksi dan konteks rekreasi lainnya. Ketika berpikir kritis kita menduga intuisi seakan-akan bergerak ke arah nyata karena skenario tersebut tampak jauh lebih akrab. Ilusi bisa menjadi cukup kuat. Kapan terakhir kali anda melihat sebuah film tentang kepunahan manusia secara tiba-tiba tanpa peringatan dan tanpa diganti oleh peradaban baru. Padahal skenario ini jauh lebih mungkin daripada skenario di mana pahlawan manusia berhasil mengusir invasi alien atau prajurit robot, yang tentu saja tidak akan menyenangkan untuk ditonton. Akan menjadi suatu kesalahan besar untuk menganggap mesin pintar ASI sebagai spesies dengan karakteristik statik dan terus bertanya, “apakah mereka baik atau jahat?”. Istilah “Artificial Intelligence” mengacu pada desain ruang yang luas, mungkin jauh lebih besar dari ruang pikiran manusia karena semua manusia berbagi arsitektur otak yang sama dan terbatas.

Apakah mesin pintar pada level ASI dapat dikontrol efeknya terhadap kehidupan manusia? Kurzweil menyatakan bahwa “kecerdasan secara inheren tidak mungkin dikontrol,” dan meskipun manusia dapat mengambil tindakan pencegahan, “mesin pintar akan dengan mudah mengatasi hambatan tersebut.” ASI tidak hanya super pintar, tapi memiliki kemampuan meningkatkan kecerdasan sendiri, memiliki akses tanpa hambatan ke kode sumber sendiri sehingga dapat menulis ulang sendiri apa pun yang dirinya inginkan.

Sejauh ini dalam pengembangan AI, apakah ada cara yang bisa dilakukan untuk mengarahkan AI menjadi baik melalui penelitian modern? Tampak terlalu dini untuk berspekulasi, tetapi bukan tidak mungkin beberapa paradigma AI lebih unggul daripada yang lain sehingga akhirnya membuktikan penciptaan mesin pintar yang mampu memodifikasi kecerdasannya sendiri. Misalnya AI berbasis Bayesian yang terinspirasi oleh sistem matematika koheren seperti teori probabilitas yang diharapkan dapat memaksimalkan kemampuannya. Bayesian  tampaknya lebih dekat ke masalah modifikasi diri dibanding pemrograman evolusioner dan algoritma genetika lainnya. Seperti terlalu kontroversial, tetapi ini menggambarkan bahwa jika kita berpikir tentang tantangan Superintelligence, seharusnya kita bisa mengarahkan penelitian AI menjadi lebih terkontrol. Tetapi bagaimana kalau mesin pintar ASI tercipta karena ketidaksengajaan di laboratorium?

Seandainya kita menentukan tujuan sistem AI untuk suatu saat mampu secara terus menerus memodifikasi dan memperbaiki diri, ini akan mulai menyentuh masalah etika inti mengenai Superintelligence. Manusia memiliki kecerdasan umum pertama di bumi yang telah digunakan secara substansial membentuk kembali pegunungan, membangun gedung pencakar langit, membuat pertanian di gurun, bahkan mengakibatkan perubahan iklim yang tidak diinginkan. Sebuah kecerdasan yang lebih kuat bisa memiliki konsekuensi yang jauh lebih besar.

Pertimbangkan lagi metafora historis untuk ASI – mirip dengan perbedaan antara masa lalu dan peradaban sekarang. Peradaban sekarang ini tidak lepas dari pengaruh Yunani kuno dan terus berubah karena peningkatan ilmu pengetahuan dan kemampuan teknologi. Ada perbedaan perspektif etis seperti Yunani Kuno berpikir perbudakan diterima; saat ini kita berpikir sebaliknya. Bahkan antara abad 19 ke 20 ada perbedaan pendapat etis substansial mengenai hak perempuan. Atau hak orang kulit hitam. Mungkin bahwa etika orang saat ini tidak terlihat sebagai etis sempurna di peradaban masa depan, bukan hanya karena kegagalan untuk memecahkan masalah etika saat ini diakui, seperti kemiskinan dan ketimpangan, tetapi juga untuk kegagalan dalam mengenali masalah etika tertentu. Mungkin suatu hari nanti memaksa anak ke sekolah akan dianggap pelecehan atau sebaliknya, membiarkan anak-anak untuk meninggalkan sekolah pada usia 18 dipandang sebagai pelecehan anak. Kita tidak tahu. Mengingat sejarah etika peradaban manusia selama berabad-abad, kita dapat memprediksi bahwa mungkin terjadi tragedi yang sangat besar. Bagaimana jika ternyata Archimedes dari Syracuse telah mampu menciptakan kecerdasan buatan tahan lama dengan versi moral Yunani Kuno? Kadang ide baru yang baik dalam etika datang bersama atau datang sebagai kejutan; tetapi perubahan etika yang dihasilkan paling acak akan menyerang kita sebagai kebodohan atau omong kosong.

Ini memberi tantangan utama etika mesin pintar. Bagaimana manusia dapat membangun sebuah mesin pintar yang ketika dijalankan menjadi lebih etis dari penciptanya? Sulit meminta filsuf kita saat ini untuk menghasilkan super-etika sepertinya halnya insinyur AlphaGo bukan pecatur terbaik. Tapi kita harus dapat secara efektif menjelaskan pertanyaan, jika tidak dadu bergulir terus dan tidak akan menghasilkan gerakan catur yang baik atau etika yang baik. Atau mungkin ada cara yang lebih produktif untuk berpikir tentang masalah ini. Apa strategi yang dapat kita katakan kepada Archimedes sebelum membangun mesin ASI, sehingga hasil keseluruhan nantinya masih bisa diterima. Padahal kita sendiri tidak bisa mengatakan kepadanya apa yang secara khusus ia lakukan salah. Dalam banyak situasi saat ini, kita sangat relatif terhadap masa depan.

Salah satu ide yang sering diajukan adalah mempertimbangkan situasi seperti kasus Archimedes dan kita tidak perlu mencoba untuk menciptakan sebuah “Superintelligence” dengan etika yang tetap. Mungkin kita harus mempertimbangkan bagaimana AI diprogram oleh Archimedes, tanpa keahlian lebih bermoral dari Archimedes, tetapi bisa mengenali (setidaknya beberapa) etika peradaban kita sendiri. Disini kita akan mengharuskan mesin pintar AI untuk dapat memahami struktur etika manusia, seperti AlphaGo memahami aturan permainan catur.  Jika kita serius mengembangkan mesin pintar AI, banyak tantangan yang harus kita hadapi. Jika mesin harus ditempatkan dalam posisi yang lebih kuat, lebih cepat, lebih dipercaya, atau lebih pintar dari manusia, maka disiplin etika mesin harus berkomitmen untuk melebihi manusia, bukan hanya setara, dalam hal kebaikan etiks.

Titik-Titik Pemikiran
Ada banyak perdebatan tentang seberapa cepat mesin pintar ANI akan mencapai AGI kemudian ASI. Hasil survei dari ratusan ilmuwan tentang kapan mereka percaya peradaban manusia mencapai AGI adalah sekitar tahun 2040 [13]. Itu berarti hanya 24 tahun dari sekarang. Menariknya, banyak pemikir di bidang AI memprediksi kemungkinan perkembangan dari AGI ke ASI akan terjadi sangat cepat.  Skenario seperti dibawah ini bisa terjadi:

Dibutuhkan puluhan tahun untuk sistem AI pertama yang mencapai kecerdasan umum tingkat rendah, tapi akhirnya terjadi. Sebuah komputer mampu memahami dunia di sekitarnya seperti anak berusia empat tahun. Tiba-tiba, dalam waktu satu jam dari saat itu, mesin itu memahami teori grand fisika yang menyatukan teori relativitas umum dan mekanika kuantum, sesuatu belum mampu dilakukan manusia saat ini. 90 menit setelah kejadian itu, AI telah menjadi ASI, 170.000 kali lebih cerdas dari manusia.

Besarnya kemampuan ASI bukan sesuatu yang bisa kita pahami dengan mudah. Dalam ukuran kita, cerdas berarti IQ 130 dan bodoh berarti IQ 85 tetapi kita tidak memiliki kategori untuk IQ 12.952 dan tidak bisa membayangkan kemampuannya. Apa yang kita ketahui dari dominasi manusia dibumi saat ini, sangat jelas kecerdasan memberikan kekuasaan. Yang berarti ASI, ketika kita bisa menciptakannya akan menjadi makhluk yang paling kuat dalam sejarah kehidupan di bumi. Jika otak manusia saat ini mampu menciptakan wifi, mesin pintar dengan 100 atau 1.000 atau 1 miliar kali lebih pintar seharusnya tidak memiliki masalah mengendalikan posisi setiap atom di dunia dengan cara apapun itu. Segala sesuatu yang kita bayangkan seperti sihir atau kekuasaan Tuhan akan menjadi seperti kemampuan biasa untuk mesin pintar ASI. Mesin ini dapat menciptakan teknologi untuk membalikkan penuaan manusia, menyembuhkan penyakit, memberantas kelaparan dan bahkan kematian, memprogram ulang cuaca untuk melindungi masa depan bumi, semua itu tiba-tiba mungkin dan mudah. Ini juga sangat mungkin sebagai akhir dari semua kehidupan dibumi. Sejauh yang kita khawatirkan, jika ASI benar terjadi maka ada Tuhan yang Mahakuasa dibumi dan pertanyaan paling penting untuk kita tanyakan adalah apakah Tuhan ini akan menjadi baik atau buruk?

Baca kembali mengenai (1) pengenalan, (2) ANI dan (3) AGI.

TSMRA, Jakarta, 2016.

Ada kesepakatan yang telah diterima di kalangan peneliti AI modern bahwa  mesin pintar masih sangat jauh dari kecerdasan manusia, meskipun dalam beberapa kasus dalam domain ANI telah terbukti melebihi manusia. Walaupun demikian, banyak hal yang masih terlewatkan dalam AI modern. Istilah Artificial Intelligence General (selanjutnya, AGI) adalah istilah yang digunakan untuk menunjukkan mesin pintar yang nyata dengan kecerdasan seperti manusia. Sesuai namanya, konsensus yang muncul adalah karakteristik umum. Algoritma pembelajaran mesin yang dimiliki AGI setara dengan kinerja manusia atau bahkan lebih unggul jika sengaja diprogram untuk domain tak terbatas. AlphaGo menjadi juara dunia di catur, tetapi bahkan tidak bisa benar-benar bermain catur, apalagi mengendarai mobil atau membuat penemuan ilmiah.

Algoritma mesin pintar modern saat ini telah menyerupai semua konsep biologis kecuali Homo sapien. Lebah kompeten membangun sarangnya; berang-berang dapat membangun bendungan; tapi lebah tidak bisa membangun bendungan dan berang-berang tidak bisa belajar untuk membangun sarang lebah. Seorang manusia – Homo sapien – dapat belajar untuk melakukan keduanya; tapi ini adalah kemampuan unik di antara bentuk-bentuk kehidupan biologis. Hingga saat ini masih diperdebatkan apakah kecerdasan manusia benar-benar umum ataukah hanya lebih baik di beberapa tugas kognitif tertentu. Yang pasti kecerdasan manusia secara signifikan lebih umum dari kecerdasan nonhominid. Dari sini relatif mudah untuk membayangkan jenis masalah yang mungkin timbul dari AI yang beroperasi hanya dalam satu domain tertentu. Ini adalah kelas kualitatif berbeda dari masalah menangani AGI yang mampu beroperasi di banyak konteks atau bahkan yang tidak dapat diprediksi sebelumnya.

Sebagai contoh – AlphaGo, algoritma mesin pintar dari Google yang mengalahkan juara catur dunia. Jika algoritma AlphaGo hanya dapat melakukan persis seperti yang diperintahkan atau diprogram oleh insinyur perangkat lunak, maka proses pra-proses untuk melihat pola-pola permainan dari data permainan sebelumnya akan sangat banyak. Pertama karena kemungkinan gerakan catur sangat besar jumlahya. Kedua, jika insinyur mengetahui gerakan apa yang lebih baik dan harus membuat algoritmanya, maka mesin pintar yang dibuatnya tidak akan bisa mengalahkan juara dunia, karena insinyur tersebut bukan juara dunia. Algoritma yang dibuat tentu saja harus bisa belajar secara mandiri, mengamati pola-pola gerakan dan menghitung semua kemungkinan untuk memenangkan permainan.

Manusia modern dapat melakukan banyak hal secara mandiri. Otak manusia mampu beradaptasi dan berkembang cepat tanpa pengalaman terdahulu. Manusia melintasi ruang dan pergi di bulan, meskipun tak satu pun dari nenek moyang manusia mengalami tantangan dengan ruang vakum. Dibandingkan dengan ANI, itu adalah masalah kualitatif berbeda untuk merancang sebuah mesin pintar yang mampu beroperasi dengan aman di ribuan konteks; termasuk konteks yang tidak secara khusus dibayangkan oleh desainer atau penggunanya; termasuk konteks yang belum ditemui manusia sebelumnya.

Untuk membangun AI yang aman dan beroperasi dalam banyak domain, banyak konsekuensi termasuk yang mungkin tidak pernah secara eksplisit dibayangkan oleh insinyur. Seseorang harus menentukan perilaku yang baik dalam hal seperti “X sehingga konsekuensi dari X tidak berbahaya bagi manusia”.  Hal ini melibatkan ekstrapolasi konsekuensi dari suatu tindakan yang merupakan satu spesifikasi yang dapat di realisasikan jika sistem mampu secara eksplisit menentukan konsekuensi tindakannya. Sebuah pemanggang roti misalnya, tidak dapat memiliki properti desain ini karena pemanggang roti tidak dapat meramalkan konsekuensi dari memanggang roti. Bayangkan seorang insinyur mengatakan, “ya saya tidak tahu apakah pesawat ini akan selalu terbang dengan aman. Saya tidak tahu mekanik pesawat ini secara detil, tetapi saya yakin desainnya sangat aman”. Pernyataan tersebut seperti tidak nyaman dari sisi penumpang, tetapi memang sulit untuk melihat semua kemungkinan dari konsekuensi yang jauh. Memerika desain kognitif mungkin dilakukan tetapi sangat sulit memprediksi semua konsekuensi dari suatu tindakan. AI akan benar-benar aman jika memiliki verifikasi yang aman dengan jaminan yang dapat dipercaya. Dalam banyak riset AI – harapan ini adalah murni harapan dan tetap menjadi permasalahan besar.

Membangun AGI dipercaya memerlukan metode yang sangat berbeda dari cara berpikir saat ini. Disiplin etika AI, khususnya pada AGI akan sangat berbeda secara fundamental dari disiplin etika teknologi non-kognitif, karena:

• Perilaku mesin pintar AI tidak dapat diprediksi untuk keamanan manusia, bahkan jika insinyur dan programmer telah melakukan segalanya dengan benar.
• Verifikasi keamanan sistem menjadi tantangan yang lebih besar karena kita harus memverifikasi apa yang coba dilakukan oleh sistem, bukan memverifikasi perilaku yang aman dalam semua konteks operasi.
• Etika kognisi itu sendiri harus diambil sebagai subyek rekayasa.

Beberapa masalah etika juga akan muncul ketika kita merenungkan kemungkinan bahwa beberapa sistem mesin pintar masa depan akan memiliki status moral. Hubungan kita dengan sesuatu memiliki status moral yang tidak eksklusif soal rasionalitas instrumental: kita juga memiliki alasan moral untuk memperlakukan mereka dengan cara tertentu dan untuk menahan diri dari memperlakukan mereka dengan cara-cara tertentu lainnya. Francis Kamm telah mengusulkan definisi status moral berikut:

X memiliki status moral = karena X memiliki moral dalam dirinya sendiri; maka X diperbolehkan / tidak diperbolehkan untuk melakukan hal-hal atas kepentingan sendiri.

Sebuah batu tidak bisa memiliki status moral: kita mungkin menghancurkannya, atau terkena efek yang merusak batu itu sendiri. Seorang manusia di sisi lain, harus diperlakukan tidak hanya sebagai alat tetapi juga dengan tujuan tertentu karena manusia memikirkan dalam dirinya sendiri bahwa itu tidak diperbolehkan untuk melakukan padanya hal-hal tanpa persetujuannya. Ringkasnya, manusia memiliki status moral.

Pertanyaan tentang status moral merupakan ranah etika praktis. Misalnya perselisihan tentang kebolehan moral aborsi sering bergantung pada perbedaan pendapat tentang status moral embrio. Kontroversi tentang eksperimen pada hewan dan penganganan hewan di industri makanan melibatkan pertanyaan tentang status moral dari spesies yang berbeda dari hewan, dan kewajiban kita terhadap manusia dengan penyakit berat, seperti pasien stadium akhir Alzheimer, mungkin juga tergantung pada pertanyaan moral status.

Secara luas disepakati bahwa sistem mesin pintar saat ini tidak memiliki status moral. Insinyur dapat mengubah, menyalin, menghentikan, menghapus, atau menggunakan program komputer sesuai desain; setidaknya sejauh program yang dibuat. Kendala moral untuk yang manusia dalam hubungan dengan sistem AI kontemporer semua didasarkan pada tanggung jawab untuk makhluk lain, seperti sesama manusia, tidak dalam tugas untuk sistem itu sendiri.

Meskipun cukup konsensus bahwa kini sistem AI kekurangan status moral, masih belum jelas kriteria dan atribut untuk status moral tersebut. Dua kriteria penting yang umumnya diusulkan terkait dengan status moral, baik secara terpisah atau dalam kombinasi: kesanggupan dan cita rasa (atau kepribadian). Ini dapat dicirikan kira-kira sebagai berikut:

• Sentience: kapasitas untuk pengalaman fenomenal atau qualia, seperti kemampuan untuk merasakan sakit dan menderita.
• Sapience: cita rasa: satu set kapasitas terkait dengan kecerdasan yang lebih tinggi, seperti kesadaran diri dan menjadi agen yang memiliki alasan.

Salah satu pandangan umum adalah bahwa banyak hewan memiliki qualia dan karena itu memiliki beberapa status moral, tapi hanya manusia memiliki cita rasa, yang memberi mereka status moral lebih tinggi dari hewan non-manusia. Pandangan ini tentu saja harus menghadapi kasus spesifik seperti, di satu sisi bayi manusia atau manusia dengan keterbatasan yang disebut sebagai “manusia marginal” bisa gagal memenuhi kriteria untuk cita rasa; dan di sisi lain, beberapa binatang seperti kera besar mungkin memiliki setidaknya beberapa elemen dari cita rasa. Ada yang menyangkal bahwa yang disebut “manusia marginal” memiliki status moral penuh. Yang lainnya mengusulkan cara-cara tambahan di mana sebuah objek bisa memenuhi syarat sebagai pembawa status moral, seperti dengan menjadi anggota dari jenis yang biasanya memiliki kesanggupan atau cita rasa, atau dengan berdiri dalam hubungan yang cocok untuk beberapa makhluk yang secara independen memiliki status moral. Meskipun demikian disini kita akan fokus pada kriteria kesanggupan dan cita rasa.

Sistem mesin pintar akan memiliki beberapa status moral jika memiliki kapasitas untuk qualia, seperti kemampuan untuk merasakan sakit. Sebuah sistem mesin pintar yang hidup, bahkan jika tidak memiliki bahasa dan kemampuan kognitif lainnya yang lebih tinggi, tidak seperti mainan boneka binatang; tetapi lebih seperti binatang hidup. Adalah salah untuk menimbulkan rasa sakit pada tikus, kecuali ada alasan moral untuk melakukannya. Hal yang sama akan berlaku untuk setiap sistem mesin pintar yang hidup. Jika selain kesanggupan, sistem mesin pintar juga memiliki cita rasa dari jenis yang sama dengan manusia dewasa normal, maka seharusnya memiliki status moral penuh setara dengan manusia.

Salah satu ide yang mendasari penilaian moral dapat dinyatakan dalam bentuk yang lebih kuat sebagai prinsip non-diskriminasi:

Prinsip Substrat Non-Diskriminasi
Jika dua makhluk memiliki fungsi yang sama dan pengalaman sadar yang sama, dan hanya berbeda dalam substrat pelaksanaannya, maka mereka memiliki status moral yang sama.

Banyak perdebatan untuk prinsip ini dengan alasan bahwa menolak itu akan sama dengan rasisme: substrat tidak memiliki perbedaan moral yang mendasar dalam cara dan alasan yang sama seperti warna kulit. Prinsip Substrat Non Diskriminasi tidak berarti bahwa komputer digital bisa sadar atau bahwa hal itu bisa memiliki fungsi yang sama sebagai manusia. Substrat tentu saja relevan sejauh itu secara moral dan memiliki perbedaan untuk kesanggupan atau fungsi. Tapi ini berarti tidak ada bedanya moral dari makhluk yang terbuat dari silikon atau karbon atau otak yang menggunakan semikonduktor.

Prinsip tambahan yang dapat diusulkan adalah bahwa sistem AI adalah buatan (artificial), yaitu produk yang sengaja dibuat – yang tidak relevan dengan status moral mereka. Kita bisa merumuskan ini sebagai berikut:

Prinsip Ontogeny Non-Diskriminasi
Jika dua makhluk memiliki fungsi yang sama dan pengalaman kesadaran yang sama, dan hanya berbeda dalam bagaimana mereka terbentuk, maka mereka memiliki status moral yang sama.

Saat ini ide tersebut diterima secara luas meskipun di beberapa kalangan khususnya di masa lalu, gagasan bahwa status moral seseorang tergantung pada garis keturunan atau kasta masih berpengaruh. Faktor penyebab seperti keluarga berencana, pertolongan persalinan, fertilisasi in vitro, peningkatan sengaja gizi ibu dan lain-lain yang memperkenalkan unsur pilihan yang disengaja dalam penciptaan manusia, memiliki implikasi yang diperlukan untuk status moral progeni. Bahkan mereka yang menentang kloning reproduksi manusia karena alasan moral atau agama umumnya menerima bahwa bayi manusia kloning akan memiliki status moral sama seperti bayi manusia lainnya. Prinsip Ontogeny Non Diskriminasi memperluas alasan ini sampai ke kasus yang melibatkan sistem kognitif yang seluruhnya buatan.

Tentu saja mungkin untuk mendapatkan kondisi penciptaan yang sedemikian rupa mempengaruhi keturunan berikutnya dan mengubah status moralnya. Sebagai contoh, jika beberapa prosedur dilakukan selama pembuahan atau kehamilan yang menyebabkan janin manusia berkembang tanpa otak, maka fakta tentang ontogeni akan relevan untuk penilaian dari status moral progeni. Anak anencephaly bagaimanapun akan memiliki status moral yang sama dengan anak anencephaly serupa lainnya, termasuk yang terjadi melalui proses alami. Perbedaan status moral antara anak anencephaly dan anak normal didasarkan pada perbedaan kualitatif antara dua fakta bahwa salah satu memiliki pikiran sementara yang lainnya tidak. Karena dua anak tidak memiliki fungsi yang sama dan pengalaman sadar yang sama, Prinsip Ontogeny Non-Diskriminasi tidak berlaku.

Meskipun Prinsip Ontogeny Non-Diskriminasi menegaskan bahwa ontogeni suatu makhluk tidak memiliki landasan penting pada status moral, hal itu tidak menyangkal bahwa fakta-fakta tentang ontogeni dapat mempengaruhi agen moral tertentu pada makhluk yang bersangkutan. Orang tua memiliki tugas khusus untuk anak kandung mereka tetapi tidak pada anak-anak lain. Demikian pula, Prinsip Ontogeny Non-Diskriminasi konsisten dengan klaim bahwa pencipta atau pemilik sistem mesin dengan status moral mungkin memiliki tugas khusus untuk pikiran buatan mereka yang mereka tidak memiliki pikiran buatan lain, bahkan jika pikiran tersebut secara kualitatif serupa dan memiliki status moral yang sama.

Jika prinsip-prinsip non-diskriminasi sehubungan dengan substrat dan ontogeni diterima, maka banyak pertanyaan tentang bagaimana memperlakukan otak buatan dapat dijawab dengan menerapkan prinsip-prinsip moral yang sama untuk menentukan tugas-tugas kita dalam konteks lebih akrab. Sejauh tugas moral berasal dari pertimbangan status moral, kita harus memperlakukan otak buatan hanya dengan cara yang sama seperti memperlakukan pikiran manusia alami secara kualitatif identik dalam situasi yang sama. Ini menyederhanakan masalah pengembangan etika untuk menangani otak buatan. Bahkan jika kita menerima sikap ini, kita harus menghadapi sejumlah pertanyaan etika baru dimana prinsip-prinsip tersebut mungkin tidak terjawab. Pertanyaan etika timbul karena otak buatan dapat memiliki sifat sangat berbeda dari manusia atau hewan yang alami. Kita harus mempertimbangkan bagaimana sifat baru akan mempengaruhi status moral dari otak buatan dan apa artinya untuk menghormati status moral dari pikiran eksotis tersebut.

Dalam kasus manusia, kita biasanya tidak ragu menganggap kesanggupan dan pengalaman sadar untuk setiap individu akan menunjukkan kondisi normal perilaku manusia. Sedikit yang yakin untuk menjadi orang lain dan bertindak normal tanpa memiliki kesadaran. Namun orang lain tidak berperilaku dengan cara yang mirip dengan diri kita sendiri; mereka juga memiliki otak dan arsitektur kognitif sendiri. Mesin pintar sebaliknya mungkin cukup berbeda dari kecerdasan manusia namun masih menunjukkan perilaku seperti manusia atau memiliki kecenderungan perilaku yang sama. Oleh sebab itu perlu untuk memahami kecerdasan buatan yang yang mungkin akan menjadi seperti seseorang, namun tidak akan hidup atau memiliki pengalaman sadar apapun. Apakah ini benar akan tergantung pada jawaban atas beberapa pertanyaan metafisik. Haruskah sistem seperti itu mungkin akan menimbulkan pertanyaan apakah orang yang tidak hidup akan memiliki status moral; dan jika demikian, apakah akan memiliki status moral yang sama sebagai orang hidup? Pertanyaan ini belum mendapat banyak perhatian hingga saat ini.

Properti eksotis lain, salah satu yang tentunya metafisik dan fisik bagi mesin pintar adalah tingkat subjektif yang menyimpang drastis dari tingkat yang merupakan karakteristik dari otak manusia biologis. Konsep tingkat subjektif dijelaskan pertama kali dengan memperkenalkan gagasan pemindahan otak. “Mengunggah” (upload) otak mengacu pada teknologi masa depan yang hipotesisnya memungkinkan manusia atau kecerdasan hewan lain ditransfer otak organik ke komputer digital. Salah satu skenarionya seperti ini: Pertama, scan resolusi sangat tinggi dilakukan pada otak tertentu, mungkin menghancurkan otak asli dalam prosesnya. Misalnya otak mungkin vitrifikasi dan dibedah menjadi irisan tipis yang kemudian dapat dipindai menggunakan beberapa bentuk mikroskopik yang dikombinasikan dengan pengenalan gambar otomatis. Kita membayangkan pemindahan ini akan cukup rinci untuk menangkap semua neuron, interkoneksi synaptic, dan fitur lainnya yang secara fungsional terkait dengan operasi otak asli. Kemudian, peta tiga dimensi dari komponen otak dan interkoneksi mereka dikombinasikan dengan pustaka teori ilmu saraf canggih yang menentukan sifat komputasi dari setiap jenis dasar elemen, seperti berbagai jenis neuron dan persimpangan sinaptik. Selanjutnya struktur komputasi dan perilaku algoritmik yang terkait dengan komponennya diimplementasikan di beberapa komputer yang kuat. Jika proses upload telah berhasil, program komputer mampu meniru karakteristik fungsional penting dari otak asli. Otak upload yang dihasilkan dapat menghuni simulasi virtual reality atau sebaliknya dan bisa diberikan kontrol dengan tubuh Robot sehingga memungkinkan untuk berinteraksi langsung dengan realitas fisik eksternal.

Sejumlah pertanyaan muncul dalam konteks skenario tersebut seperti, apakah prosedur ini suatu hari akan menjadi teknologi layak? Jika prosedur itu bekerja dan menghasilkan program komputer yang menunjukkan kepribadian yang sama, kenangan yang sama, dan pola berpikir yang sama seperti otak asli, apakah program menjadi hidup? Akankah komputer menjadi orang yang sama dengan individu yang otaknya dirakit dalam proses upload? Apa yang terjadi pada identitas pribadi jika upload disalin sehingga ada beberapa mesin dengan pikiran unggah identik berjalan secara paralel? Meskipun semua pertanyaan ini relevan dengan etika mesin pintar, disini kita fokus pada masalah yang melibatkan gagasan dari tingkat subjektif.

Misalkan jika otak upload bisa benar-benar hidup. Jika kita menjalankan program upload pada komputer yang sangat cepat, akan menyebabkan otak upload jika terhubung ke perangkat input seperti kamera video, dapat memahami dunia luar seolah-olah telah melambat. Sebagai contoh, jika otak upload berjalan seribu kali lebih cepat dari otak yang asli, maka dunia luar akan tampak seolah-olah melambat dengan faktor ribu. Seseorang menjatuhkan cangkir kopi fisik: otak upload mengamati cangkir secara perlahan-lahan jatuh ke tanah saat upload selesai membaca koran pagi dan mengirim beberapa email. Satu detik waktu obyektif sesuai dengan 17 menit waktu subjektif sehingga durasi objektif dan subjektif dapat menyimpang.

Waktu subjektif tidak sama dengan estimasi subjek atau persepsi tentang bagaimana waktu mengalir cepat. Manusia sering keliru tentang aliran waktu. Kita mungkin percaya bahwa itu adalah pukul satu ketika itu sebenarnya seperempat melewati dua; atau obat perangsang dapat menyebabkan pikiran kita untuk balapan, membuatnya tampak seolah-olah lebih banyak waktu subjektif daripada yang sebenarnya terjadi. Kasus ini biasa melibatkan waktu persepsi yang menyimpang bukan pergeseran dalam tingkat waktu subjektif. Bahkan dalam otak yang dipengaruhi kokain, mungkin tidak ada perubahan yang signifikan dalam kecepatan perhitungan neurologis dasar; lebih mungkin obat ini menyebabkan otak seperti berkedip lebih cepat dari satu pikiran ke yang lain.

Variabilitas tingkat subjektif dari waktu adalah properti eksotis pikiran buatan yang menimbulkan masalah etika baru. Misalnya, dalam kasus di mana durasi pengalaman etis yang relevan, haruskah durasi diukur dalam waktu objektif atau subjektif? Jika otak upload telah melakukan kejahatan dan dihukum empat tahun penjara, empat tahun obyektif mungkin setara dengan ribuan tahun dari waktu subjektif, apakah harus dihukum empat tahun subjektif yang mungkin hanya beberapa hari waktu obyektif? Karena kita terbiasa dalam konteks manusia biologis, waktu subjektif bukan variabel signifikan dan tidak mengherankan bahwa pertanyaan semacam ini tidak bisa diselesaikan oleh norma-norma etika yang kita ketahui, bahkan jika norma tersebut diperluas untuk otak buatan dengan cara prinsip non-diskriminasi.

Untuk menggambarkan jenis klaim etika yang mungkin relevan di sini, kami merumuskan suatu keistimewaan prinsip waktu subjektif sebagai gagasan normatif yang lebih mendasar:

Prinsip Subyektif Tingkat Waktu
Dalam kasus di mana durasi pengalaman adalah dasar kepentingan normatif, maka pengalaman dengan durasi subjektif yang diperhitungkan.

Satu bagian penting dari sifat yang eksotis dari mesin pintar berhubungan dengan reproduksi. Sejumlah kondisi empiris yang berlaku untuk reproduksi manusia tidak perlu berlaku untuk kecerdasan buatan. Misalnya, anak-anak manusia adalah produk dari rekombinasi materi genetik dari dua orang tua; orang tua memiliki kemampuan yang terbatas untuk mempengaruhi karakter keturunan mereka; embrio manusia perlu bertahan dalam rahim selama sembilan bulan; dibutuhkan lima belas atau dua puluh tahun untuk anak manusia untuk mencapai kedewasaan; anak manusia tidak mewarisi keterampilan dan pengetahuan yang dimiliki oleh orang tuanya; manusia memiliki evolusi kompleks untuk mengatur adaptasi emosional yang berkaitan dengan reproduksi, memelihara, dan hubungan anak dan orangtua. Tak satu pun dari kondisi empiris perlu berhubungan dalam konteks reproduksi mesin pintar. Oleh karena itu cukup masuk akal bahwa banyak dari prinsip-prinsip moral tingkat menengah yang mengatur reproduksi manusia perlu dipikirkan kembali dalam konteks reproduksi mesin pintar.

Untuk menggambarkan mengapa beberapa norma moral perlu dipikirkan kembali dalam konteks reproduksi mesin pintar, perlu dipertimbangkan satu properti eksotis yaitu kapasitas untuk melakukan reproduksi dengan sangat cepat. Jika diberi akses ke perangkat keras komputer, mesin pintar bisa menduplikasi sendiri sangat cepat, dalam waktu tidak lebih dari yang dibutuhkan untuk membuat salinan dari perangkat lunak mesin pintar. Terlebih lagi, sejak salinan mesin pintar identik dengan aslinya, akan lahir generasi baru yang matang yang bisa mulai membuat salinannya sendiri dengan segera. Tidak ada keterbatasan hardware, sehingga populasi mesin pintar bisa tumbuh dengan pesat pada tingkat yang sangat cepat, dengan waktu dua kali lipat pada urutan menit atau jam daripada dekade atau abad. Norma-norma etika reproduksi kita saat ini mencakup beberapa versi prinsip kebebasan reproduksi, yang menyatakan bahwa terserah kepada masing-masing individu atau pasangan untuk menentukan sendiri apakah akan memiliki anak dan berapa banyak anak untuk memiliki. Norma lain yang kita miliki (setidaknya di negara-negara kaya dan menengah) adalah masyarakat harus terlibat memberikan kebutuhan dasar anak-anak dalam kasus di mana orang tua mereka tidak mampu atau menolak untuk melakukannya. Sangat mudah untuk melihat bagaimana dua norma-norma ini bisa bertabrakan dalam konteks entitas dengan kapasitas reproduksi yang sangat cepat untuk mesin pintar berbasis kecerdasan buatan.

Populasi mesin pintar bisa memiliki keinginan untuk memproduksi klan sebesar mungkin. Jika diberi kebebasan reproduksi yang lengkap, mesin pintar dapat menyalin dirinya dengan cepat dan salinan dapat berjalan pada perangkat keras komputer baru yang dimiliki atau disewa atau mungkin berbagi komputer yang sama. Segera, anggota klan mesin pintar akan menemukan diri mereka tidak mampu membayar tagihan listrik atau sewa untuk pengolahan komputasi dan penyimpanan yang diperlukan untuk membuat mereka hidup. Pada titik ini, sistem kesejahteraan sosial mungkin menolak menyediakan kebutuhan dasar untuk mempertahankan hidup. Tetapi jika populasi tumbuh lebih cepat dari perekonomian, sumber daya akan habis; di mana titik mesin pintar akan mati atau kemampuan mereka untuk mereproduksi akan sangat dibatasi. Skenario ini menggambarkan bagaimana beberapa prinsip-prinsip etis tingkat menengah yang cocok dalam masyarakat kontemporer mungkin perlu dimodifikasi jika masyarakat yang meliputi mesin yang dapat berkembang biak sangat cepat.

Yang penting disini adalah bahwa ketika berpikir tentang etika terapan untuk konteks yang sangat berbeda dari kondisi manusia, kita harus berhati-hati untuk tidak membuat kesalahan yang bertentangan dengan prinsip-prinsip etis tingkat menengah untuk kebenaran normatif dasar. Dengan kata lain, kita harus mengakui sejauh mana aspek normatif biasa secara implisit dikondisikan untuk memperoleh berbagai kondisi empiris dan kebutuhan untuk menyesuaikan ajaran ini ketika diterapkan untuk kasus futuristik. Kami tidak membuat klaim kontroversial tentang relativisme moral, tetapi hanya menyoroti konteks akal sehat yang relevan dengan penerapan etika dan menyarankan bagaimana konteks bisa relevan ketika mempertimbangkan etika dalam sifat eksotis mesin pintar.

Baca bagian selanjutnya mengenai ASI, atau kembali ke ANI atau pengenalan.

TSMRA, Jakarta, 2016.

Kita sekarang berada dalam periode ANI di mana sebagian besar state-of-art teknologi didasarkan pada pembelajaran mesin, yaitu mesin yang belajar berdasarkan satu kumpulan algoritma yang mencoba untuk memodel abstraksi tingkat tinggi dalam data dengan menggunakan beberapa lapisan pengolahan, dengan struktur yang kompleks atau sebaliknya serta terdiri dari beberapa transformasi non-linear. Ini sebenarnya adalah sebuah metode untuk belajar dari data, mengenali pola dalam data dan melakukan generalisasi prediksi untuk data baru. Berbagai dalam arsitektur pembelajaran mesin seperti model jaringan saraf betlapis (deep neural network, convolutional neural network), dimana jaringan saraf berulang telah diterapkan untuk bidang-bidang seperti pengamatan komputer, pengenalan suara otomatis, pengolahan bahasa alami, pengenalan audio dan bioinformatika di mana mereka telah terbukti berhasil digunakan pada berbagai bidang. Kita telah menggunakan teknologi ini di setiap hari di komputer atau aplikasi smartphone dan lebih jauh lagi, pembelajaran dengan deep neural network memiliki potensi besar untuk membuat mesin pintar dimasa depan.

Perdebatan tentang dampak sosial menciptakan mesin pintar telah dikaji banyak organisasi dan individu selama beberapa dekade terakhir. Implikasi moral dan etika mesin pintar memiliki argumen tiga sisi. Pertama, mesin pintar akan mengganti banyak pekerjaan manusia dengan mudah, misalnya sebagai analis kredit di perbankan, pengacara di firma hukum, drone cerdas untuk perang atau robot dalam pabrik. Banyak orang akan hidup dalam kemiskinan dan ada sedikit atau tidak ada alasan untuk membuat buruh dengan mesin pintar. Kedua, orang-orang berpendapat bahwa masyarakat tidak dapat mengembangkan atau memanfaatkan sumber daya tanpa bantuan mesin yang bisa berpikir sendiri. Mesin pintar tidak peduli tentang masalah sosial sama sekali, seperti umumnya masyarakat manusia. Yang ketiga, tentang sejauh mana kita harus membuat mesin pintar berdasarkan AI dan apakah mesin ini akan terlihat seperti manusia. Apakah kita berbicara tentang perangkat otonom seperti penjelajah ruang atau robot yang meniru bentuk, pikiran dan perilaku manusia? Dengan semakin banyaknya mesin pintar apakah kita akan mempercayakan anak-anak kita, lembaga pendidikan, bisnis, dan pemerintah untuk mesin pintar juga?

Pertimbangan di atas adalah contoh yang baik dari kesulitan potensi mesin pintar karena akan berdampak besar pada kehidupan manusia. Meskipun meniru pembelajaran otak manusia adalah kompleks luar biasa dan dibatasi oleh kemajuan daya prosesor saat ini, setidaknya beberapa dekade teknologi bisa mencapai tingkat paling dasar kecerdasan manusia. Tapi setelah industri menginvestasikan miliaran dolar untuk membuat mesin pintar untuk menyaingi manusia dalam tugas-tugas tertentu, pertanyaan tentang nilai-nilai etika dan moral yang kita tanamkan akan terus mencuat.

Melihat peradaban manusia dengan nilai-nilai budaya, agama, etika dan moral yang beragam, apakah sebenarnya yang ingin kita kembangkan dan dengan tujuan apa? Jika kita harus membuat robot AI, misalnya, dapatkah kita membuat mereka beragama? Apakah agamanya Katolik, Muslim, atau Buddha? Atau apakah kita ingin melawan dalam perang dengan drone pintar? Atau bagaimana dengan robot seks yang akan tersedia secara komersial? Bagaimana merancang nilai-nilai kecerdasan etika yang sempurna menurut tradisi manusia, ideologi, atau agama yang telah dibangun selama ribuan tahun? Itu tentu bukan masalah yang mudah dan tidak ada jawaban yang dapat dirumuskan dengan mudah.

Argumen bahwa robot AI akan mengambil pekerjaan manusia benar adanya. Beberapa pabrik modern sudah menggunakan robot pintar saat ini. Akan tetapi juga benar bahwa pekerjaan robot tersebut umumnya pekerjaan berulang-ulang, monoton dan sering berbahaya bagi manusia. Apakah salah untuk menggantikan manusia dengan robot dalam kasus tersebut? Untuk menggambarkan betapa sulitnya untuk menjawab masalah ini, berikut adalah beberapa pendapat dan perdebatan:

• Ekonomi, kapitalisme dan sosialisme. Negara-negara kaya telah menikmati kemajuan pesat dalam ilmu pengetahuan dan teknologi, memungkinkan mereka untuk mengotomatisasi banyak hal. Dengan kombinasi standar pendidikan yang tinggi di negara-negara tersebut, kebutuhan akan pekerjaan berulang seperti di pabrik akan semakin berkurang. Dan warga negara berpendidikan dari negara-negara tersebut telah memiliki kekayaan dan menolak untuk melakukan pekerjaan kasar. Dalam skenario ini pilihan bagi produsen sangat terbatas. Salah satu pilihannya adalah membangun pabrik lokal dan “mempekerjakan” robot untuk melakukan pekerjaan dengan biaya rendah dan efisien dibandingkan pekerja manusia – untuk meningkatkan keuntungan produksi. Pilihan lain adalah untuk mengajak pekerja migran berpendidikan rendah dari negara lain untuk datang dan melakukan pekerjaan di pabrik-pabrik semi-otomatis. Hal ini menyebabkan segala macam kesulitan sosial dan keuangan. Pilihan ketiga, yang lebih sering terlihat hari ini adalah menggabungkan dua pilihan di atas – memindahkan pabrik ke negara berpenghasilan rendah dan mempekerjakan pekerja robot. Dalam skenario ini, banyak pekerjaan manusia akan tereliminasi.
• Kegagalan pemerintah. Setiap perusahaan menetapkan untuk memproduksi produk semurah mungkin dengan margin keuntungan tetap setinggi mungkin. Itu adalah titik kapitalistik dan sering satu-satunya yang terpenting. Sementara itu baik untuk filosofi perusahaan, pemerintah di sisi lain memiliki tanggung jawab untuk menjaga warga negara mereka dan mempertahankan tingkat sosialisme sehingga setiap orang memiliki pekerjaan dan manfaat dari kekayaan umum. Ini termasuk mengurangi beban biaya kesejahteraan – merawat mereka yang tidak mampu mengurus diri sendiri dan keluarga mereka. Banyak pemerintah saat ini telah menjadi kapitalistik dalam kebijakan mereka dan bukannya menjaga warganya dan mengurangi masalah sebanyak mungkin. Pemerintah melihat warga sebagai sumber penghasilan dari pajak yang ditetapkan ke mereka, menempatkan tambahan beban keuangan pada warge dengan pendapatan yang sudah menyusut. Pemerintah sering mendukung perusahaan besar untuk memperoleh pendapatan lebih, mengabaikan kebutuhan pekerja, dan akhirnya pekerja menjadi korban. Hal ini tidak hanya berlaku untuk pekerja berpendidikan atau pekerja pabrik. Kelas menengah semakin mendapat paksaan dimana perkerjaan mereka dapat dilakukan dengan biaya lebih murah dengan kehadiran teknologi. Kapitalisme akan semakin menjadi beban. Bagaimana semua ini harus dilanjutkan dengna masalah etika robot atau mesin pintar di tempat kerja? Pada kenyataannya, jelas bahwa pekerja robot lebih murah, lebih efisien dan tidak mengeluh atau memerlukan sistem sosial yang mahal. Tetapi ini merupakan perkembangan berbahaya bagi pertumbuhan penduduk dunia tanpa sarana untuk mendukung diri sendiri atau keluarga mereka. Dengan demikian, skenario menentang teknologi ini tampaknya beralasan. Tapi apa saja pilihannya? Berhenti mengembangkan ilmu pengetahuan dan mengabaikan manfaat dari pekerja robot?
• Keseimbangan antara pekerja robot dan manusia. Pertanyaannya adalah bagaimana menciptakan keseimbangan antara menggunakan perkembangan teknologi tanpa menyebabkan kesulitan yang tidak semestinya pada kehidupan manusia. Ketika mesin pintar mulai memasuki tempat kerja tentu saja akan mengambil pekerjaan orang-orang biasa. Tetapi di dunia yang terus berkembang di mana aliran data dan informasi telah menjadi bagian masyarakat untuk bekerja, hal itu juga menciptakan banyak lapangan kerja baru – paling tidak di industri mesin komputer itu sendiri. Bahkan, industri komputer telah menciptakan jutaan lapangan kerja – untuk pekerja berpendidikan dan pekerja. Isu kunci di sini adalah bagaimana tenaga kerja lokal dapat memiliki pendidikan yang cukup untuk meng-upgrade diri sendiri dengan kecepatan yang sama seperti teknologi, menciptakan kebutuhan baru bagi pekerja robot. Di Amerika Serikat dan Eropa, para pekerja migran tidak berpendidikan digunakan untuk pekerjaan lebih sederhana daripada robot, menciptakan masalah sosial dan ekonomi bagi pemerintah dan wajib pajak. Migrasi tidak selalu menjadi hal yang buruk meskipun itu telah menyebabkan masalah di banyak tempat. Perbedaan budaya dan agama menciptakan konflik dan kekacauan di mana pernah ada perdamaian dan kesejahteraan untuk semua. Jadi mengapa kita tidak menciptakan robot untuk melakukan pekerjaan ini? Apakah kita benar-benar membutuhkan pembersih jalan, petugas parkir, dan tukang sampah dalam bentuk manusia? Robot dapat melakukan pekerjaan tersebut jauh lebih efisien, tanpa biaya terus menerus dan pergolakan sosial. Dengan demikian, AI dapat digunakan untuk membuat robot yang membuat hidup kita lebih mudah, menangani tugas-tugas yang kita tidak ingin atau tidak dapat dilakukan manusia. Tentu saja tidak ada yang salah dengan ini.
• Robot AI sebagai pembantu. Robot AI dapat menjadi alat yang berguna seperti komputer yang telah menjadi alat yang berguna dalam bekerja dan kehidupan kita sehari-hari. Robot dapat mengambil alih pekerjaan berulang, tugas berbahaya dan memakan waktu, sehingga kita bisa menghabiskan waktu untuk hal yang lebih berguna. Asalkan biaya rendah, petani dapat mempekerjakan robot pertanian untuk mengolah bibit tanah, melakukan penyiangan dan memanen hasil pertanian. Robot dapat mengurus segala pekerjaan pemeliharaan yang diperlukan. Robot ini menggunakan energi matahari sehingga lebih baik untuk lingkungan. Dalam industri makanan, robot dapat bekerja lebih baik, melebihi tukang daging manusia. Robot dapat mengumpulkan miliaran kantong plastik yang saat ini mengotori dunia, robot bawah air dapat membersihkan sampah di lautan Pasifik. Mereka dapat membangun kembali lahan pertanian dan membersihkan sungai. Di rumah, robot pembersih bisa melakukan pekerjaan rumah tangga dan tugas-tugas lainnya, sehingga manusia bisa memiliki banyak waktu untuk kegiatan keluarga, bekerja, belajar atau bersantai. Di rumah sakit robot dapat memberikan bantuan di laboratorium dan kamar operasi, meracik obat-obatan misalnya dan membersihkan ruang kerja, atau bahkan melakukan prosedur bedah sederhana. Kemungkinan robot bekerja dengan skala presisi mikro membuat mereka lebih cocok untuk pekerjaan tertentu. Robot dari semua ukuran, termasuk nanorobots, dapat membersihkan lanskap kita, laut kita, menanam jutaan pohon dan sebagainya. Mereka dapat memantau lingkungan kita dan pergi mencari ruang bagi manusia untuk mencari sumber daya dan dunia lain yang bisa ditempati untuk hidup. Dan tentu saja kita dapat memiliki robot untuk berperang bagi kita. Singkatnya, manusia dapat memproduksi robot untuk melakukan semua pekerjaan yang tidak ingin dilakukan dengan alasan apapun. Mungkin sudut pandang ini terlalu terbatas atau egois untuk menerima kemungkinan robot sebagai bagian dari pembangunan masyarakat teknologi, akan tetapi ini adalah alternatif yang lebih aman bagi kemanusiaan.
• Robot yang pragmatis terhadap keinginan manusia. Semuanya terdengar indah dan mungkin pada beberapa waktu di masa depan, ketika dunia tidak disibukkan dengan keserakahan dan pemerintah kembali mendengarkan warganya. Perusahaan puas dengan profitabilitas dan tidak memaksimalkan keuntungan dengan segala upaya dan cara dalam jangka pendek. Robot sebagai pekerja dan pembantu manusia, bukan pengganti lebih murah bagi pekerja. Hal ini bukan tujuan yang mustahil, meskipun mungkin menjadi salah satu tujuan jangka panjang. Kita harus terus meneliti perkembangan robot di tempat kerja dengan sedikit skeptisisme, menjaga keseimbangan antara kebutuhan aktual dan keserakahan. Tapi masalah etika robot memiliki komplikasi pada skala yang lebih luas. Tanpa mengubah prioritas dari keserakahan menjadi “melakukan hal yang benar” – seperti mengurus semua orang daripada beberapa kelompok – kita perlu juga mengatasi masalah seperti penduduk dunia, buruh migran, isu-isu lingkungan, sumber daya berkurang, monopoli perusahaan dan seterusnya. Dan robot lebih dari pekerja mekanik. Membuka kesempatan untuk menciptakan robot-robot yang bekerja untuk kepentingan manusia.

Dari contoh di atas, kita dapat mengatakan kemungkinan menciptakan mesin pintar akan menimbulkan sejumlah masalah etika dan moral. Banyak pertanyaan belum terjawab untuk memastikan bahwa mesin pintar tersebut tidak membahayakan manusia dan makhluk lain yang relevan secara moral bahkan status moral dari mesin itu sendiri. Bayangkan jika dalam waktu dekat, asuransi kesehatan BJPS di Indonesia menggunakan algoritma pembelajaran mesin untuk merekomendasikan persetujuan perawatan medis. Keluarga pasien yang ditolak oleh algoritma ternyata meninggal dan mengajukan gugatan terhadap BPJS, dengan alasan bahwa algoritma telah melakukan diskriminasi bagi pasien. Secara teknis, BPJS dapat menjawab bahwa hal tersebut tidak mungkin, karena algoritma belajar dari data sebelumnya dan membuat keputusan yang selalu netral. Tentu saja argumen tersebut dapat diterima, namun bagaimana bila dalam kasus serupa algoritma BJPS terbukti menyetujui permohonan pasien lain?. Hal ini mungkin terjadi karena kualitas data yang digunakan terlalu rendah sehingga hasil inferensi kurang tepat. Apa yang mungkin bisa terjadi dari sisi etika untuk kasus ini?

Menyelidiki kasus BPJS tidak mudah karena tergantung pada netralitas algoritma pembelajaran mesin yang digunakan. Jika algoritma didasarkan pada deep neural network – yang mampu secara otomatis menemukan representasi fitur dalam data, maka sulit untuk membuktikan bahwa keputusannya bias karena sangat bergantung pada kualitas data. Di sisi lain, jika algoritma yang digunakan adalah pohon keputusan (decision tree) atau jaringan Bayesian (Bayesian network) akan lebih transparan untuk diinspeksi. Ini memungkinkan auditor untuk menemukan kesalahan dalam algoritma pembelajaran mesin. Algoritma pembelajaran mesin tidak hanya tepat, kuat dan terukur, tetapi juga harus transparan untuk inspeksi. Itu hanya contoh sederhana dari banyak aspek sosial dan moral dari mesin pintar. Tentu saja transparansi bukan satu-satunya fitur yang diinginkan mesin pintar.

Apakah kita ada pilihan untuk transparansi dalam algoritma AI? Stuart Russell, profesor ilmu komputer dan Smith-Zadeh professor teknik di University of California, Berkeley, menggunakan metodologi untuk menanamkan aspek etika dalam AI yang dikenal dengan metode pembelajaran penguat terbalik (IRL). Dengan IRL, sistem-sistem sensor yang mengamati tingkah laku manusia dapat dibuat berbasis etika. Setelah suatu tingkah laku yang diamati sesuai dengan etika yang diharapkan, kode program di modifikasi kembali sehingga algoritma pembelajaran mesinnya bekerja sesuai dengan etika yang diharapkan. Sebagai contoh dari proses ini, Russell menunjukkan dalam pidatonya baru-baru di Pusat Studi Risiko Eksistensial di University of Cambridge, bagaimana robot bisa mengamati orang yang berulang kali membuat air mendidih dan menuangkan bubuk hitam ke dalam air setiap pagi. Dengan mencatat perbaikan suasana hati manusia, nilai ritual kopi dapat dikodifikasi, sehingga robot dapat menirunya. Russell kemudian menjelaskan bahwa tujuan manusia ada dalam konteks bagaimana dia hidup sampai ke titik menerima tujuan baru. Misalnya, jika kita kehabisan daging saat memasak, kita sadar untuk tidak memasak kucing kesayangan kita, tapi ini adalah nilai yang dimiliki manusia yang tentu saja tidak ada dalam algoritma robot pemasak di dapur. Akibatnya, Russell merasa harus ada perusahaan yang membangun representasi untuk nilai-nilai kemanusiaan, termasuk konsep latar belakang orang yang akan mengenali lapisan etika, hukum dan moral yang selama ini kita terima begitu saja. Sebuah prototipe dari organisasi semacam ini ada di Open Roboethics Initiative yang melakukan Crowdsourcing informasi sekitar AI dan robotika secara terfokus.

Kita tidak bisa terus bergerak maju dalam lingkungan dimana aspek etika dalam AI diabaikan. Etika dalam AI seharusnya tidak hanya menjadi renungan, besar sekali risiko yang akan timbul jika terlambat. Kesempatan untuk inovasi akan datang ketika kita bisa menginformasikan proses manufaktur AI dengan pemrograman berdasarkan kodifikasi keyakinan kita yang dipegang teguh. Bagaimana mesin akan tahu nilai-nilai kemanusiaan tanpa diberitahu? Itulah pertanyaan yang perlu dijawab hari ini atau mesin pintar akan terus dikembangkan tanpa adanya kontrol sehingga suatu saat nanti menjadi tidak terkendali.

Sama seperti teknologi informasi lainnya, semakin penting untuk algoritma pembelajaran mesin untuk tahan terhadap manipulasi teknis, seperti malware atau gangguan keamanan. Ambil contoh mobil tanpa supir yang menggunakan algoritma pembelajaran mesin untuk mengenali objek di jalan dan mengambil keputusan apakah aman untuk mengemudi atau tidak. Sekelompok peneliti yang berbasis di Virginia didanai oleh Departemen Pertahanan menemukan bahwa itu relatif mudah untuk meretas sistem kontrol mobil tanpa supir, tetapi juga mengatakan bahwa solusi terhadap serangan seperti itu bisa juga murah. Dua perusahaan di Charlottesville bekerja sama dengan University of Virginia dan Departemen Pertahanan untuk menemukan solusi memerangi serangan cyber pada fungsi penting seperti pengereman dan mempercepat dalam mobil tanpa supir. Solusi ini terdiri dari dua bagian: hardware tertanam dengan sistem fisik dan software berbasis cloud. Pertanyaannya siapa yang akan mengoperasikan sistem untuk melindungi mobil tanpa supir bagi masyarakat? Diperlukan kriteria sosial lain untuk berurusan dengan organisasi atau pemerintah untuk menentukan tanggung jawab dan akuntabilitas yang berhubungan dengan kesejahteraan manusia. Ketika sistem AI gagal untuk melindungi keamanan orang, siapa yang akan disalahkan? Para insinyur perangkat lunak atau polisi?

Sebagai ringkasan – tanggung jawab, transparansi, auditability, korup, prediktabilitas, dan niat untuk tidak membahayakan kehidupan manusia sangat diperlukan pada implementasi mesin pintar. Semua kriteria yang berlaku untuk manusia melakukan fungsi-fungsi sosial perlu dipertimbangkan dalam Artificial Intelligence Narrow (ANI) karena tujuannya adalah untuk menggantikan penilaian dan pekerjaan manusia pada tugas-tugas tertentu. Berbeda dengan apa yang peneliti AI telah lakukan dalam beberapa tahun terakhir, seperti bagaimana untuk meningkatkan kinerja algoritma AI dan perangkat pintar, isu-isu etika mesin pintar membutuhkan lebih banyak perhatian. Ini bukan masalah sepele yang dapat dengan mudah ditemukan solusinya, tetapi membutuhkan upaya evolusional untuk menemukan solusi yang tepat dari waktu ke waktu.

Baca selanjutnya tenting AGI dan ASI, atau kembali ke bagian pertama.

TSMRA, Jakarta, Juni, 2016.

[Thinking]

Anyone who does research required to think hard. To solve problem. Thinking usually happen to everyone, however being a better thinker and keeping our mind sharp, creatively and critically, is not an easy task. The thinking process requires mental effort in which physically, our nervous system will consume more glucose to execute. The effortful mental activity appears to be especially expensive in the currency of glucose. Also, it is not intrinsically pleasurable to do hence most people avoid thinking when possible. However, as computer science researchers, we should flow naturally with our thinking. The flow means we always have a state of effortless concentration to deeply engage on reading, writing, and coding activities which all require thinking. Otherwise, without the flow, we’ll find research is a very unpleasant experience that will trigger negative emotion.

Thinking is a valuable mental ability that our ancestors have developed over three thousand years. However, not too many people know how to think even though this topic has been discussed over centuries, from philosophical to scientific aspects. Most of techniques that cover thinking methods are actually scientific. Even historically science was a result of an evolution from philosophy, I am biased that the thinking should be pure scientific.  Take a look on Coursera for example, we can easily find courses like core thinking, mathematical, algorithmic, model thinking, etc. If I continue to search (which I will not do), maybe I can find more philosophical thinking approach, but I believe the material will be outdated in this postmodern scientific era.  There a lot of thinking techniques, huge amount of knowledge that have been published.  I will not confuse you this time. I want to share my own experiences.

Yes, I want to write about how to think, or more precisely to share proven practices to keep me in thinking flow.  The problem is, when thinking about something that I currently explore or not fully understand (or partially), I always have uncomfortable feeling called confusion. I am unhappy and feel stupid as my understanding is shallow or biased sometime. Some book authors wildly use terms/jargons that I dont understand, or jumping around with mathematics, visualisation or analogy to fool me. It is absolutely the worst distraction while reading.  In return, I can easily leave the problem, procrastinate and do something else.

[1] To think creatively is to know many concepts and get ideas. When I am flowing with algorithm contents, I will think algorithmically. The same when I read math, physics, my thinking will biased to what is currently active in my brain’s memory region. The main question will be – what we have to have to be able to think comprehensively? Ideas. Yes, having as many ideas as we can. We can’t be creative in Artificial Intelligence research for example by only learn current knowledge in machine learning. We need inspirations from all related disciplines, statistics, probability, physics, or neuroscience for example. Learning how to think really means a continuous learning process from many disciplines. Creative thinking happens when our brain can relate many concepts, recognize patterns, build new ideas, propose new theory/model, and finally simplify. In fact, many beautiful concepts in science are very simple. But the simplicity comes from complex thinking process with many inputs – inductively or deductively.

[2] To think critically is to recognize and remove biases. One of most influential book I have read is the Thinking Fast and Slow – written by a Nobel Prize winner Daniel Kahneman. He proposed a beautiful model to understand how our brain works – System 1 (Fast, automatic, frequent, emotional, stereotypic, subconscious) and System 2 (Slow, effortful, infrequent, logical, calculating, conscious). He explained how those two systems works, its characteristics and described common biases we can have as consequences of those two systems.  Prof. Kahneman introduced methods for me to recognise biases in thinking and that is important to learn how to think. If we can recognize our own biases, we can use that to probe and debug other people thoughts or opinions. Lot of cognitive biases are listed here., specific for Thinking Fast and Slow, you can find here. I will not be able to cover all of them, but I do suggest all AI researchers to read that book.

[3] The creative idea is generated randomly from the most active brain. I don’t have scientific proof to say that, but I experience it many times. The myth is everyone can have creative ideas. I agreed with one condition. We have to deeply engage and flow within the problem to get ideas. Some engineers who are working deeply on graph problem can get creative ideas on how to solve the problem, but not others who are not. The same thing with business. The motivators will never be able to give precise ideas without doing the business. Thats is bullshit. When we do something our brain is active and that is the first rule to have ideas. However, the ideas are not coming on time. It is random and probabilistic process in nature. Sometime while I am drunk or running out after long hours of reading or writing. Last nite I discussed this with my best friend, Ari, we want to propose an additional System 3 model to Prof. Kahneman as random ideas generator connected to System 1 and 2. Sounds crazy but we do believe it is exists.

Thanks for reading my two cents!.

TSMRA, Jakarta, March 2016.

One thing that I do enjoy in my job is teaching. No, I don’t believe I can really do my job without teaching ! My personal reason is simple, when I do teach, I contribute to next generation scientists and engineers in good way. It is not just about delivering engineering contents like machine learning, C++ or algorithm, but to me, to inspire. Sounds like a big leadership word – inspire. Yes, it is. When I was student long time back, I could see what happened to me once inspired by Professors. I will do hard, more than it normally takes to understand more. Learning happen when students got really inspired to learn.  Well-thought words coming from inspiring Professors will go directly to our brain – set it permanently for long time.

When I was in University lab – back in 1995-2000, we have a learning culture to teach each other. We learn something together in the lab and each one of us can become teacher and student. It was interested. Sometime, we think we do understand something, but we can’t teach to other people. It may because our understanding is too shallow, or we don’t really understand it. Take for example, all of us understand banana. We can explain banana very well to our kids without any preparation even without slides. But can we explain concept of energy as good as banana? Maybe not. So, for me the best way to test my understanding is to teach it to others and ask if they understand it well. To test whether we don’t know, partially know or know a concept. You’ll be surprised with question they ask or maybe being intimidated if they don’t. The fact is, profound question from inspired students is always valuable. It is often source of ideas or new research for me.

Creativity and ideas need triggers. In any thinking process there are moments when everything is not smooth, blank and I don’t have any ideas. Teaching is a good relaxation for me to switch back into the thinking rhythm. Relax when I have nothing more critical to do. Yes, at least I do something while I have no more important ideas to do. Or at least I can say, I am teaching new hires and contributing to prepare them. Beyond all of it, I am thinking when I am teaching, as I want the students to understand what I explain from their current state. I was explained concept of object and pointer in C++ yesterday and I had to choose the most precise words instead of useless analogies. I do it carefully as I know the impact of a shallow understanding. The bonus is, usually I can think something new or find new way to look/explain same thing.

I think I am not really good in teaching. I never ask the students how they think of me, as I’m not really care or maybe afraid to hear the answer. Somehow I still think I am not a good teacher, but I enjoy teaching. In fact, I have accepted (or even created) jobs in IT industry that allows me to keep teaching. With that I hope I can say, I love to teach even I am not really good at.

TSMRA, Jakarta, March 2016.

[Writing]

Basically we can put like this – reading affects writing and writing affects reading. Good writers are also good readers. Activities while reading and writing share many of the same working brain’s memory region, and potentially draw upon the same as well as unique cognitive systems. Neuroscientists perhaps have more evidences or maybe can praise it more to creativity, but personally I can sense the strong correlation between my writing and reading activities. I hardly write if I don’t read. When writing this blog, or reading classic machine learning book that are well-written, I can feel a super computer inside my brain working in background with harmony. Writing and reading are coupled, can’t be separated when we deeply involve in research.

Why we have to write? That was an interesting question from a student in my Research Methodology class. I believe, as researcher, we have more than enough reason to write. However putting it in discipline way is quite hard. Not all of students have discipline to write even they know it is mandatory requirement to write dissertation.  Not only for communication and publication of research results, writing is the best way to debug and validate our own thinking. Maybe the best question is why writing is hard? And my last answer was potentially because we don’t read enough. Yes, writing is sometime painful. Even in our R&D organization, engineers who must write simply don’t do. For researcher – it is not an acceptable excuse. It is a fastest way to fail.

I am not going to teach how to write – many books done it and we just need to practice. I prefer to suggest reading a lot – reports, books and papers related to our research. The first law of writing is to have “initial” contents and contexts in order to know what we want to write. It doesn’t have to be complete or perfect when started. In fact – perfectionism will end up as never ending polishing. The practice I did for so long is to write letter to someone I respect or love. I will do it in the most structured way – to make him/her understand correctly. Pick right words carefully, meaningfully and set an interesting story line or contexts. However, think of it as a conversation with them – not everything goes perfectly; some lost words or maybe mistakes, but it should be flowing well. It is similar to technical blog post or paper. It must be flowing like a conversation to someone you respect or love.

Writing for research is not a trivial task without practices. I can’t cover the details now, need more time until I experiences publishing new paper or patent (as I am new PhD student as well). However, based on my master degree experiences on theoretical physics, writing technical paper to about telling stories of what we have done in the lab. We have to make it easy to reader (usually also physicists) to understand what we have done, how we did it and what insights we have. We have common language that maybe hard to understand for non-physicists and we also trimmed some concepts as the pages of publication are limited. However, it not a sales brochure to sell crappy things with big claims. It is plain text – to explain our research idea, process, and results.

Writing academic / scientific research paper requires guidance and practices. A lot of practices and usually take sometime to be familiar. You can easily find guidance in internet, however, to be more organized, pick book that is well-written. I am not going to cover here, but based on my personal experiences, reading lot of papers also can help us to be more familiar with writing.

TSMRA – Jakarta, March 2016.

I found myself signed PhD (Permanent head Damage) program for deep learning topic. It was a conscious decision to put myself into new rhythm, to explore current trends in AI technology, do research and perhaps contribute little things to the body of knowledge. Not a bias decision, as I wanted to get “in rhythm of research” by putting additional external pressures. Decision had been made!. For me, the key is research itself, however, I attend two classes for refreshment – Research Methodology and Philosophy of Science as starting point. Very excite to find myself as student, instead of lecturer. Even I found myself lost in philosophy class, I think it is also entertaining to see how can I fool myself with philosophy.

I read lot of PhD guides before I took the PhD program. Many cover formal research methods but only few cover basic skills for doing it on artificial intelligence area. What I mean basic is concrete, real and must have skills to enjoy the whole research process without losing interests. Even for myself, hard to define it formally, but I believe we as researcher already “know” it, just have to follow our heart and intuition consistently. For me is about curiosity, reading, writing, thinking and coding.

[Curiosity]

It is actually positive behavior or emotion for being curious, in regards to explore, investigate and learn something. It must be persist by time, not just an instance interest, but something continuously burning inside our brain. Curiosity will help to differentiate between knowing the name of something and understand something.  In more emotional statement, curiosity is related to fall in love with some intellectual activity to explore something. But what? Is the deep neural networks for example are really interesting to go deeply enough? Or nearly everything should be interesting if we go deep like Feynman said? I prefer to work as hard as much I can on things I like to do the best. Hard means – in the most undisciplined, irrelevant and original manner. Forget what we as students want to be (like graduate timely by following common methods) and focus on what we want to do (research).  The plan is simple, do it hard and find beauty on it to pay off. It is not something normal for some people, but like business, there are only two options in research, fun (intellectual curiosity) or profit (what the hell, papers and patents?).

It is not easy to explain something like curiosity in formal way. But usually, my best reality check for the existence of curiosity in student is by asking, how long time you have interest in that? And tell me stories how hard have you learnt about it. Period! If you tell beautiful stories, then lets the roller coaster begin and enjoy!.

“Physics is like sex: sure, it may give some practical results, but that’s not why we do it.” Richard Feynman. 

[Reading]

It is impossible to do research without reading. It is a must have skill, no option!. Body of knowledge has been built for decades, few are well explained on books and rest are mostly scattered on papers or other technical documents. I was in debate with my friend regarding books. We concluded there are hundred books for neural network topic, but only few worth read, that really explaining key concepts or show teaching style. It is impossible to find one book that explains all we need for research, but also it is impossible for us to read all books. We have to find books that explain the key concepts well but it is hard to find. Great if our Professor can recommend few books to finish, however, I think he also faces same problem.

In case of deep neural networks, I found Michael Nielsen online book was entertaining. I like the way he explain deep learning, reminded me they way Feynman explain Physics. His book explained key concepts for me to read more formal or academic style of books like Bishop on Neural Networks and Machine Learning. Other classic machine learning texts may also help – like Murphy MLPP and Hastie’s ELS, but I think we need to have right purposes on reading books. The best purpose that works for me is to understand key concepts first.  The topic is already too big and hard to follow state of arts without understanding key concepts. Some people prefer to learn key concepts from online learning like Coursera and Udacity. However, I found videos are less engaging compare to read right books. It might bias to me personally, but I think I have a point. Texts are still the best way to explain complex things as it can set our brain freely to imagine the visuals if the author can pick right words. Not the other way around.

Reading papers is another skill that takes time to practice. You can pick any journals and search your topic and find hundreds “nearly related” papers. Of course we can’t read all, impossible. My physics Prof. Rosari Saleh taught me 20 years ago to categorize papers based on its root Professors or research labs. In case of deep neural networks, it should be Prof. Geoff. Hinton (Google), Prof. Yan Le Cunn (Facebook), Prof. Yoshua Bengio (Montreal), etc. I did the same simple approach and found it very interesting to share. First, I collected all related papers to see if there is anything interest in it. The way I do usually by scan read its abstracts that supposed to be brief. If I found it is very closely related to my topic, I will put some notes on my notebook mind-map by copy paste the abstracts. The purpose is to tell myself to go back on it later, if I already have questions. Reading papers without initial questions potentially will waste time. I like to read with question like:

• Why it is relates to my topic?
• How can I potentially use it later?
• What is the key engineering approach or heuristics tricks?
• Is there future research areas suggested by authors?

I found that have questions before reading is very important discipline to structure my research notes. The questions can be changed time-to-time depend on my understanding level. I designed the questions and put the answers from papers I read into it, usually, by copy-paste. During the process, it is actually record something into my memory and helps me to relate it with my other ideas from books or other technical document. It is also helping to write later. My friend told me that Quora can help to trigger interesting questions. I will look on it sometime with a hope it will not distract me.

Writing is another essential skill to do research and it is closely related to reading… I will cover it in part 2 of this post.

TSMRA – Jakarta, March, 2016.

I remembered my first interview to apply web developer job back in 2000 during Indonesia first Web bubble. I didn’t know about SQL Database and HTML, even had never heard about IDE to write code before. As theoretical physic graduate, I knew Matlab, Fortran and C compilers, but never in touch with latest trend. I brought my printed thesis; CV and some published scientific papers (on optical properties of amorphous semiconductor), with intention to show what I’ve done before. I honestly answered all technical questions with only two sentences – “I don’t know and I never heard”. Done! He lost his words and I also silent. Final question was, “if you got the job, how you can convince me that you will perform well?”. Then I showed all of my works and told him, “If the job you offer is more complicated than these, I will need time to learn. If not, then give me the job because I do need it”. Done!. I got hired. But before I went home he gave me bunch of Microsoft Press books to read at home before my first join date. I had a mixed feeling that day.

Now, 15 years have passed. I did hundred of interviews to hire fresh graduates, for various marketing, sales, technical evangelist and software engineer roles. I realized that the world has changed (at least in Indonesia). What I mostly found was Dunning-Kruger effect – a famous cognitive bias wherein unskilled individuals overestimate their superiority and highly skilled individuals tend to underestimate their relative competence. Forget all of those papers (or patents) or thesis as proof of competence, they didn’t even write a proper intro email. With the booming of Tech Companies in Indonesia, dramatic stories are around about behaviors of what we called millennial or Gen Y. I always have mixed feelings after interview session as I expect to see humility, curiosity and problem solving skills. Confidence during interview is no longer best barometer for attitude.

Now back to the question. With the high growth of demand for good Software Engineers, is it necessary to assess their atomic problem solving skills with algorithm, or their practical skills with coding test? Why do Google, Microsoft, Facebook or Samsung required that process? Why others don’t? I believe you’ll find a lot of debates, as it will relate to velocity of hiring process, or revenue size of headhunter companies, or something else. What about if you ended up hiring Google-bot, lazy-pseudo-hacker, taichi-master or ninja-turtle? Statistic showed – it cost the company for 2 years cash lost (~25k-50k in Indonesia), as need one year to let them learn and another one to fire. But costs are beyond cash, what about productivity, time loss, morale, impact to your customers? It’s a serious business problem instead of geeky interviewer brainteaser habit.

Sometime I think we need a “deep learning algorithm” to classify candidates for hire, no hire or hire for other roles. Human assessment is very weak for sure. What about if the interviewer is also “a not so good engineer”? How can he assess technical skills with Q&A approach? Or even worst, how he can assess humility and curiosity? I can floor so many questions to convince anyone that we need a proper assessment mechanism, but does algorithm test is an answer?

Let see. How many times do engineers really use algorithms when they code for common apps projects (Mobile, Web, Wearable, API, Database)? Even if they need for sorting, searching, for example, they can easily find by simple keyword search on Google, or Wikipedia. And for more strange things like BFS and DFS for Graph traversal, its also can easily found good tutorial on Youtube. Most of programming languages already provide common combinatorial data structures that have facilities to perform algorithms. Or if not enough, tons of reusable open source libraries (with documentations and sample codes) are available and huge number of technical papers proof better than their own memories or analytical skills. Why on earth they have to learn or memorize about it today, if Google/Wikipedia can help them to find right information quicker? Let Google memorizes, just copy paste, don’t think! What about correctness and efficiency of the codes? No one cares as long as it works, computer has big memory nowadays and compilers are smarter – no more premature optimization required, no more pointers in Python. The best engineers don’t waste time committing to memorize things in Wikipedia (is that possible?). And as long as no bugs reported and customer happy, just move on. Now is the era where software has to move quickly to eat the world.

Is algorithm test still an effective determination of technical/coding proficiency? It is the candidate’s fundamental technical strength and understanding, creative thinking, and problem solving that are critical to evaluate? Let the future PhD candidates answer that question with a proper deep learning based research. But, I’ve heard that a computer scientist is a mathematician who only knows how to prove things by induction. Curious to try?

Let assume that codes that engineer will write is a collection of Classes, Functions in those Classes, and Relations between Classes and Functions. That’s common in modern programming languages, so the whole codes are a Set of {Class, Function, Relation} with size N, M and L. But the relation between classes is “Gang of Four” art with less impact to correctness and efficiency (again, its my two cents bias from functional programming). So let L = 0 and N = M to oversimplify the problem. We end up with Set {Class, Function} with size N, in which one Class has only one Function in my model. The Class and Function can represent any feature in the program like display a list of texts, or show a dialog form, or anything relates to program context. With mathematical induction, we can easily proof that if for basic case like N = 1 or 2 it was true that it doesn’t require algorithm, then assumed it was true all the way to N–1 before proving it was true for general N using the assumption. With that simple model and induction technique, you can easily proof that for common apps project like building mobile, wearable, web, API and database, where we reuse existing libraries and frameworks, algorithm is NOT really required to make it works correctly and efficiently. Only in small specific function you may need to use algorithm, but minor. Maybe when the library developer wrote the codes they used algorithms, but I believe it is also small portion. So, is it mathematically true that algorithm is not really required to write common apps?.

If you give me more time, I will confuse you more and more. That’s my bad habit if I can’t convince you in single sentence. But hold on. I agreed that a solid foundation in computer science is a great asset especially for software product based company or internet scale complexities to serve hundred million users like big boys, Google, Facebook, Microsoft, Apple and Samsung. Not for those tiny ambitious Startups who want to conquer the world from Indonesia. I heard argument like this. We need velocity to release our products and meet the Silicon Valley VC!. If we got their money, then hire Google and Microsoft engineers who graduated from MIT, Stanford, CMU or Princeton to rewrite the codes or lead Indonesian local engineers to write better codes. Let be apologetic without algorithms or quality codes at first, but boldly consistent with entrepreneurial business goals. Sounds a great plan, right?

Are you convinced now that algorithm is not required? Great if you are not. Now let me tell you the truth. Small things matter in a big room. Engineers are human and sneaky bugs are still able to creep in even for simple code. The context of algorithm is very broad as it cover many types of computing purposes – such as numerical, scientific and non-numerical methods in general and specific purpose algorithms like Graphic, Crypto, Parallel & Distributed System etc. But even if we scale down the context to a simple computation logic, which require basic recursive and incremental logic in Turing Machine, it is still a valid problem as the coder is still human.  Engineer mixes other unrelated problems to the codes, like his girl friend affair or credit card bill. Bugs can cost million dollars even worst can kill people in Spacecraft mission due to missed algorithmic or numerical calculation. Common applications can failed as its buggy. It cost a lot, not only cash, but other bigger things including company reputation and morale. Manual human assessment is limited and can’t no longer help, even Google implement a machine-learning algorithm to predict buggy codes.

The care of algorithm basic skill on software engineering is a reflection of quality culture and mindset. Quality is pride of engineering and craftsmanship, bread and butter of the profession. It is not means that an engineer has to self-implement algorithms in daily basis, but they need strong acumen which is a product of continuous practice of basic things. If you are a Samurai, do you practice the whole advance techniques in daily basis? No, only some basic moves. No warlord will assign samurai who can’t perform basic cuts to a dead fight, as it’s a suicide. The basic move of software engineer is algorithm or analytical thinking, to keep technical acumen alive, to keep logical consciousness and to have unconscious-reflect in project sprint. It’s a knowledge and skill to be kept by practicing few basics, not memorizing advance concepts. Its brain exercises to form more  System 2 neuron connections. Like a samurai, engineers can’t memorize the whole techniques (let Wikipedia does), but they have to really master few basics to have reflects on a fight, you need sixth sense. That’s can only happen if you are familiar and keep practice the basic moves in daily basis. And in interview – that is what we are looking for, A sign of intelligent and acumen on basic concepts.

I am a strong believer that algorithm test is required in interview to assess problem solving and analytical skills of software engineer candidate. Its not the best but that is an option. Its kind of risk management till we have a better approach like deep-learning software to help. That software will ask candidate to write some codes and make better decision regarding his technical/coding proficiency. What available usually white board in the interview room, or well-prepared test code system and basic problem sets, or maybe principal / mature engineer who can ask questions and assess basic intelligent and acumen.

Its not the end of story by the way, a lot of things need to be assessed on soft-skill side such as deep-humility and deep-curiosity on small things, and it can compensate each other. Also, you can’t really measure human capability precisely, no one can. If I got non-numerical algorithm test during my first interview, I might not in this industry, many others from physics might fail too as they are not well trained or even never heard. So in summary, that is required, but not the only one to assess. On top of algorithm test, strong evidences like code blogs, papers/patents, OSS contribution on Github, project portfolios, recommendation from trusted top engineers (rarely head hunters for Indonesia case), will also help. Thanks for reading this >1600 words post. If you regret, please read disclaimer!