Seperti otak manusia, jaringan saraf yang menggerakkan sistem kecerdasan buatan tidak mudah dipahami.
DeepMind, firma AI milik Alfabet yang terkenal karena mengajarkan sistem AI untuk bermain Go, sedang berusaha mencari tahu bagaimana sistem tersebut membuat keputusan.
Dengan mengetahui bagaimana AI bekerja, ia berharap dapat membangun sistem yang lebih cerdas.
Tetapi para peneliti mengakui bahwa semakin rumit sistemnya, semakin sulit bagi manusia untuk memahami.
Fakta bahwa para programmer yang membangun sistem AI tidak sepenuhnya tahu mengapa algoritma yang memberdayakannya membuat keputusan yang mereka lakukan, adalah salah satu masalah terbesar dengan teknologi.
Itu membuat beberapa orang waspada dan menyimpulkan bahwa hal itu dapat mengakibatkan mesin di luar kendali.
Sama seperti otak manusia, jaringan saraf bergantung pada lapisan-lapisan dari ribuan atau jutaan koneksi kecil antara neuron, kumpulan perhitungan matematis yang bertindak dengan cara yang sama seperti neuron di otak.
Neuron-neuron individu ini bergabung dalam cara-cara yang kompleks dan seringkali berlawanan dengan intuisi untuk menyelesaikan berbagai tugas yang menantang.
“Kerumitan ini memberikan kekuatan jaringan saraf mereka tetapi juga memberi reputasi mereka sebagai kotak hitam yang membingungkan dan buram,” tulis para peneliti di koran mereka.
Menurut penelitian, jaringan saraf yang dirancang untuk mengenali gambar kucing akan memiliki dua klasifikasi berbeda dari neuron yang bekerja di dalamnya – neuron yang dapat diinterpretasi yang merespon gambar kucing dan neuron yang membingungkan, di mana tidak jelas apa yang mereka tanggapi.
Untuk mengevaluasi kepentingan relatif dari dua jenis neuron ini, para peneliti menghapus beberapa untuk melihat apa efeknya terhadap kinerja jaringan.
Mereka menemukan bahwa neuron yang tidak memiliki preferensi yang jelas untuk gambar kucing di atas gambar hewan lain, berperan besar dalam proses pembelajaran karena mereka jelas hanya menanggapi gambar kucing.
“Kami berharap untuk lebih memahami cara kerja jaringan saraf, untuk menggunakan pemahaman ini untuk membangun sistem yang lebih cerdas,” mereka menyimpulkan.
Namun, mereka mengakui bahwa manusia mungkin masih belum sepenuhnya memahami AI.
Ilmuwan penelitian DeepMind, Ari Morcos mengatakan kepada BBC: “Ketika sistem menjadi lebih maju, kita pasti harus mengembangkan teknik-teknik baru untuk memahaminya.”
