Arilia Novijar: Jaringan Saraf Tiruan (Artificial Neural Network)

Berawal dari sistem mesin Von Neumann, sistem komputer pada saat ini telah berkembang pesat. Jaringan syaraf tiruan (JST) terjemahan dari Artificial Neural Network, merupakan suatu model dari sistem syaraf biologis yang disederhanakan sebagai suatu alternatif sistem komputasi. (Penelitian Jaringan Syaraf Tiruan,1993). Meskipun kecepatan proses yang telah dicapai komputer dewasa ini lebih cepat jika dibandingkan dengan proses yang dilakukan otak manusia, komputer masih belum bisa menandingi universilitas kemampuan pada otak manusia.

Struktur sel syaraf biologis

Sel syaraf biologis atau disebut juga Neuron memiliki tiga komponen penyusun yang saling bekerja sama untuk mengolah sinyal-sinyal informasi. Tiga komponen tersebut adalah dendirt, soma atau badan sel dan axon seperti tampak pada gambar 1.

Dendrit merupakan serabut saraf yang bercabang-cabang pendek dan berjumlah lebih dari satu ini bertugas menerima sinyal dari neuron lain. Sinyal listrik ini dilewatkan melalui celah sinapsis (sianapsis gap) yang pada perjalanan biologisnya terjadi proses kimiawi dengan penskalaan frekuensi sinyal, pada jaringan syaraf tiruan proses ini disebut pembentukan bobot. Sinyal yang diterima diolah oleh soma dan kemudian dijumlahkan.

Gambar 1. Struktur Sel Syaraf Biologis

Untuk mengirimkan informasi ke sel lain, sinyal dilewatkan melalui axon yang merupakan serabut syaraf tunggal dan pada ujungnya bercabang-cabang. Selanjutnya sinyal akan melalui celah sinapsis dan disampaikan ke soma lain oleh dendrit neuron tersebut. Sehingga dengan terintegrasi dan terkoneksinya neuron satu dengan yang lain akan dapat melaksanakan aktifitas secara teratur sesuai kebutuhan.

Struktur jaringan saraf tiruan

JST disusun oleh elemen – elemen pemroses yang berada pada lapisan-lapisan yang berhubungan dan diberi bobot. Dengan serangkaian inputan diluar sistem yang diberikan kepadanya jaringan ini dapat memodifikasi bobot yang akan dihasilkannya, sehingga akan menghasilkan output yang konsisten sesuai dengan input yang diberian kepadanya. Setiap elemen pemroses melaksanakan operasi matematika yang sudah ditentukan dan menghasilkan (hanya) sebuah harga keluaran dari satu ataupun banyak masukan. Struktur jaringan akan ditunjukkan seperti pada gambar berikut ini :

Gambar 2. Model tiruan neuron

Sebuah pemodelan neuron memiliki masukan Xp sebanyak p, yang berasal dari sel lain atau dari inputan luar (bukan dari neuron). Selanjutnya setiap inputan diberi pembobot Wkp. Masing – masing inputan Xp akan dikalikan dengan pembobot Wk yang berkesesuaian. Untuk semua hasil perkalian akan dijumlahkan sebagaimana pada persamaan dibawah ini :

(1)

dan hasil persamaan tersebut akan menjadi masukan bagi fungsi aktivasi untuk mendapatkan tingkat derajat sinyal keluaran pada neuron, dimana terdapat bermacam-macam jenis fungsi aktivasi. Untuk jenis fungsi sigmoid dapat dideskripsikan dengan persamaan :

(2)

dengan grafik yang ditunjukkan sebagai berikut :

Gambar 3. Grafik fungsi sigmoid

Pada umumnya sinyal fungsi aktivasi yang dikeluarkan tiap neuron berbeda, hal ini dikarenakan berbedanya nilai bobot yang diterima tiap neuron berbeda.

Pemodelan jaringan pada syaraf tiruan sering dikategorikan menjadi tiga yaitu : Single layer, multi layer dan competitve layer. Namun pada pembahasan kali ini hanya akan dibahas single layer dan multi layer, karena mengingat kaidah pelatihannya menggunakan algoritma backpropagation. Secara umum , tiap unit pada lapisan (Layer) yang sama atau dapat kita sebut neuron mempunyai tingkah laku yang sama untuk pemrosesan sinyal data. Hanya hal terpenting yang perlu diperhatikan adalah penentuan penggunaan jenis fungsi aktifasi pada masing-masing unit pada lapisan tersebut dan pola koneksi pembobot antar lapisan. Namun biasanya unit pada lapisan yang sama mempunyai jenis fungsi aktifasi yang sama dan pola koneksi pembobot yang sama pula.

Untuk pemilihan jumlah layer bukan berarti pemilihan layer untuk neuron, namun pemilihan layer untuk penghubung jalur pembobot antar neuron. Jadi variabel terpenting untuk pengenalan pola adalah pembobotnya.

Single layer

Jaringan ini terdiri atas lapisan input dengan beberapa unit input, satu lapis pembobot dan lapisan output yang terdiri atas beberapa unit output dimana masing – masing unit input terkoneksi secara penuh dengan masing-masing unit output, tetapi setiap unit output tidak terkoneksi dengan unit input maupun unit output yang lain. Pada jaringan ini masing-masing input unit menerima sinyal informasi dari luar dan melalui koneksi yang ada, dilakukan proses pembobotan untuk masing-masing sinyal yang akhirnya akan direspon oleh masing-masing output unit. Pembobot untuk satu unit output tidak akan berpengaruh pada unit output yang lain.

Multi layer

Cara kerja dari model ini sama seperti pada jaringan lapis tunggal. Hanya saja pada arsitekturnya terdapa tambahan beberapa layer untuk pembobot. Jadi pada pemodelan ini terdapat tambahan beberapa atau satu layer lagi diantara input layer dan output layer yang sering disebut dengan lapisan tersembunyi (Hidden Layer). Sehingga dengan demikian terdapat lapisan pembobot antara input layer, hidden layer dan output layer. Kelebihan dari arsitektur jenis ini jika dibandingkan dengan single layer ialah dapat menyelesaikan masalah kompleks yang mungkin tidak dapat diselesaikan oleh jaringan single layer secara sempurna. Hanya saja proses pelatihannya membutuhkan waktu yang agak lama karena tentu saja lebih sulit untuk dilakukan.

Gambar 4. Jaringan syaraf umpan maju dengan dua lapisan sel hidden

Jaringan Syaraf Tiruan Back-Propagation

Jaringan Syaraf Tiruan Back-Propagation merupakan salah satu model jaringan yang populer pada jaringan syaraf tiruan. Model jaringan ini banyak digunakan untuk diaplikasikan pada penyelesaian suatu masalah berkaitan dengan identifikasi, prediksi, pengenalan pola dan sebagainya. Pada latihan yang berulang–ulang, algoritma ini akan menghasilkan unjuk kerja yang lebih baik. Hal ini berarti bahwa “bobot interkoneksi” JST semakin mendekati bobot yang seharusnya.(Penelitian Jaringan Syaraf Tiruan,1993). Kelebihan lain yang dimiliki JST ini adalah kemampuannya untuk belajar (bersifat adaptif) dan kebal terhadap adanya kesalahan (Fault Tolerance) dengan kelebihan tersebut JST dapat mewujudkan sistem yang tahan akan kerusakan (robust) dan konsisten bekerja dengan baik.

Metode Backpropagation ini pertama kali diperkenalkan oleh Paul Werbos pada tahun 1974, kemudian dikemukakan kembali oleh David Parker di tahun 1982 dan kemudian dipopulerkan oleh Rumelhart dan McCelland pada tahun 1986. Pada Algoritma BackPropagation ini, arsitektur jaringan menggunakan jaringan banyak lapis. Secara garis besar proses pelatihan pada jaringan saraf tiruan dikenal beberapa tipe pelatihan, yaitu Supervised Training, Unsupervised Training, Fixed-Weight Nets.

Metode pelatihan BackPropagation atau dikenal dengan Generalize Delta Rule (GDR) ini merupakan supervised training dimana untuk tiap pola input terdapat pasangan target output untuk masing-masing pola input. Sebenarnya adalah metode gradient descent untuk meminimasi total square error pada keluaran hasil perhitungan jaringan. Ide dasarnya dapat dideskripsikan dengan pola hubungan yang sederhana yaitu : jika output memberikan hasil yang tidak sesuai dengan target yang tidak diinginkan, maka pembobot akan dikoreksi agar errornya dapat diperkecil dan selanjutnya respon jaringan diharapkan akan lebih mendekati harga yang sesuai. Pada umumnya tujuan jaringan syaraf tiruan melakukan proses pelatihan adalah untuk mendapatkan balancing antara kemampuan jaringan untuk menanggapi secara benar pola-pola input pada saat pelatihan (dapat dikatakan kemampuan mengingat) dan kemampuan untuk memberikan penilaian yang layak dari suatu pola masukkan lain yang serupa. Sehingga dari proses pelatihan tersebut akan dibentuk suatu harga pembobot yang akan digunakan sebagai faktor penggali dari pola masukkan yang lain.

Pada metode ini, terdapat tiga tahapan dalam proses pelatihan, yaitu: proses umpan maju dari pola input pelatihan, perhitungan dan propagasi balik dari error yang terjadi dan penyesuaian nilai bobot.

Pada tahap pelatihan ini merupakan langkah bagaimana suatu jaringan syaraf itu berlatih, yaitu: proses umpan maju dari pola input pelatihan, perhitungan, dan propagasi balik dari error yang terjadi dari penyesuaian nilai pembobot.

Pada tahap pelatihan ini merupakan langkah bagaimana suatu jaringan syaraf itu berlatih, yaitu dengan cara melakukan perubahan bobot sambungan, baik bobot sambungan antar input layer dan hidden layer maupun antara hidden layer dan output layer, bila terdapat lebih dari satu hidden layer maka juga terdapat pembobot antar hidden layer itu sendiri. Sedangkan penyelesaian masalah baru akan dilakukan jika proses pelatihan tersebut selesai, fase tersebut adalah proses pemakaian/testing tentunya dengan menggunakan pembobot yang telah dihasilkan dari proses pelatihan yang telah dilakukan.

A. Fase pelatihan umpan mundur (backpropagation)

Jaringan BackPropagation terdiri atas beberapa layer yang masing-masing unit pada satu layer terhubung penuh dengan masing-masing unit pada lapisan diatasnya atau dibawahnya, kecuali pada bias hanya terkoneksi penuh dengan unit layer diatasnya yang ditunjukkan pada gambar 7.

Pada gambar 7 tersebut menunjukkan jaringan yang memiliki satu hidden layer dengan input layer X, hidden layer Z dan output layer Y, serta pemberian nilai bias, yaitu suatu masukkan dengan nilai tetap sama yaitu 1.

Gambar 5. Jaringan Syaraf Tiruan dengan satu hidden layer

Algoritma belajar BackPropagation terdiri dari dua proses, feed foward dan back propagation dari errornya. Selama feed foward masing-masing unit masukkan menerima (X) atau sinyal masukkan dari luar, kemudian sinyal tersebut disebarkan masing-masing unit pada hidden layer (Z), masing-masing hidden unit menghitung sesuai dengan fungsi aktifasinya. Dan kemudian mengirim sinyal itu kemasing-masing unit pada output layer akan menghitung sesuai dengan fungsi aktifasinya juga, yang akan menghasilkan sinyal keluaran sebagai respon jaringan dengan adanya pemberian pola input tersebut.

Pada propagasi baliknya, masing-masing output unit dibandingkan dengan hasil perhitungan aktivasi Y dengan nilai target t untuk mendapatkan error, berdasarkan error inilah akan dihitung nilai δk, selanjutnya harga error pada output unit akan disebarkan mundur ke masing-masing uni pada hidden layer. Selanjutnya error tersebut digunakan untuk memperbaiki faktor pembobot antara unit output dengan unit hidden demikian selanjutnya dicari error dari keluaran hidden untuk memperbaiki faktor pembobot antara unit input. Untuk jelasnya dapat dijelaskan sebagai berikut :

Langkah 1 : Pemberian inisialisasi faktor penimbang (diberi nilai kecil secara random)

Langkah 2 : Ulangi step 2 hingga 9 hingga kondisi stop terpenuhi

Langkah 3 : Untuk masing-masing pasangan pelatihan lakukan langkah 3 hingga 8

Feedforward

Langkah 3 : Masing-masing unit input (Xi, i =1,…n) menerima sinal input X_i dan sinyal tersebut disebarkan ke unit bagian atas lapisan tersembunyi (hidden units)

Langkah 4 : Masing – masing hidden menjumlahkan fakor penimbang :

(3)

Dan menghitung sesuai dengan fungsi aktivasi :

(4)

karena yang digunakan fungsi sigmoid maka :

(5)

Kemudian mengirim sinyal tersebut ke semua unit di atasnya (output unit).

Langkah 5 : Masing-masing unit output (Y_k, k=1,2,3…..m) dijumlahkan faktor penimbang

(6)

Menghitung sesuai dengan fungsi aktivasi

(7)

Back Propagation dari errornya

Langkah 6 : Masing-masing unit output (Y_k, k=1,…….,m) menerima pola target sesuai dengan pola masukan saat pelatihan dan menghitung errornya

(8)

karena f’(y _in_k) = y_k dengan menggunakan fungsi sigmoid, maka :

(9)

Menghitung pembetulan faktor penimbang (kemudian memperbaiki W_jk ).

(10)

Menghitung pembetulan koreksi :

(11)

Dan mengirim nilai δ_k ke unit layer dibawahnya.

Langkah 7 : masing-masing unit hidden (Z_j , j=1……,p) menjumlah delta inputnya (dari unit layer di atasnya).

(12)

Selanjutnya dikalikan dengan turunan dari fungsi akifasinya untuk menghitung error.

(13)

Menghitung pembetulan penimbang (digunakan untuk memeperbaiki V_ij .

(14)

Kemudian menghitung pembetulan bias (untuk memperbaiki V_oj)

(15)

Memperbaiki penimbang dan bias

Langkah 8 : Masing –masing output unit (Y_k , k=1,…,m) diperbaiki bias dan penimbangnya (j = 0,…,n)

(16)

Langkah 9 : Uji kondisi pemberhentian.

B. Fase Pemakaian Neural Network

Pada fase pelatihan akan didapatkan harga pembobot pada masing-asing layer. Pada fase pemakaian ini, pembobot yang dipakai adalah pembobot yang dibentuk pada saat pelatihan saat mencapai harga terbaik tentunya dengan pola jaringan yang sama seperti pada fase pelatihan, jika pola jaringan tidak sama, maka dapat dipastikan jaringan akan memberikan output yang tidak diinginkan. Algoritma yang dipakai pada fase ini hanya menggunakan bagian feedfoward dari pelatihan. Secara lengkap dapat dijelaskan sebagai berikut :

Langkah 0 : Pemberian inisialisasi faktor penimbang (diambilkan dari pembobot yang dibentuk pada saat pelatihan)

Langkah 1 : untuk masing-masing pola input, dilakukan langkah 2- 4.

Langkah 2 : masing – masing unit input (X_i, i =1 ,….n) menerima sinyal input X_idan sinyal tersebut disebarkan ke unit bagian atas lapisan tersembunyi (unit hidden)

Langkah 3 : Masing-masing hidden unit menjumlahkan faktor penimbang :