Self organizing maps

Self organizing maps

Jaringan syaraf tiruan

MAKALAH

Untuk memenuhi sebagian persyaratan tugas makalah self organizing maps

 Jurusan Teknik informatika

Dosen pengampu : Nor Wayudi S.kom

Di susun oleh :

Andi Fahrizal

2010-51-187

Progam studi Teknik

Jurusan Teknik Informatika

Universitas Muria Kudus

2013

KATA PENGANTAR

Segala puji bagi Tuhan Yang Maha Esa yang telah memberikan kemudahan kepada hambaNya dalam meyelesaikan makalah ini dengan penuh seksama. Tanpa pertolongan Dia mungkin penyusun tidak akan sanggup dengan baik.

Makalah ini merupakan tugas pendahuluan yang merupakan syarat saya selaku mahasiswa dapat menyelesaikan makalah self organizing maps pada mata kuliah jaringan syaraf tiruan , Jurusan Teknik Informatika, Fakultas Teknik Universitas muria kudus. Pada makalah ini akan dibahas self organizing maps

Penyusun juga mengucapkan terima kasih kepada pihak-pihak yang telah membantu kami dalam menyelesaikan tugas makalah ini.

Semoga makalah ini dapat memberikan wawasan yang lebih luas kepada pembaca. Walaupun makalah ini memiliki kelebihan dan kekurangan. Penyusun mohon untuk saran dan kritiknya. Terima kasih.

Kudus , 12 mei 2013

Penulis

Jaringan Syaraf Tiruan (JST)

Jaringan  Syaraf  Tiruan  (JST)  merupakan  representasi buatan dari otak manusia yang selalu  mencoba  mensimulasikan  proses  pembelajaran  pada  otak  manusia  tersebut.  Istilah  buatan  disini  digunakan  karena  jaringan  syaraf  ini  diimplementasikan  dengan  menggunakan  program  komputer  yang  mampu  menyelesaikan  sejumlah

proses  perhitungan  selama  proses  pembelajaran  (Kusumadewi, 2003)

Self-Organizing Map (SOM)

Jaringan Self- Organizing  Map merupakan  salah  satu model jaringan saraf tiruan yang menggunakan  metode pembelajaran tanpa supervisi (unsupervised learning).

Salah  satu  keunggulan  dari  algoritma  Self-Organizing  Map adalah  mampu  untuk  memetakan  data  berdimensi  tinggi  kedalam  bentuk  peta  berdimensi rendah.

Proses  pemetaan  terjadi  apabila  sebuah  pola  berdimensi  bebas  diproyeksikan  dari  ruang

masukan ke posisi pada array berdimensi satu atau  dua.

Pembelajaran Self-Organizing Map (SOM)

dimana Wij adalah  fungsi  tetangga  yang  nilainya  berubah  sesuai  dengan  jarak  neuron  tersebut  dengan  neuron  pemenang  dan  β  adalah  learning  rate.  Nilai  fungsi  aktifasi  menentukan  besarnya  berubahan  nilai  bobot  dari  neuron  pemenang  dan  neuron tetangganya.

Euclidean Distance

Euclidean  distance pada  dasarnya  adalah  jarak  antara  dua  titik  yang  dapat  diukur  dengan  menggunakan penggaris, yang juga dapat dilakukan  dengan  menggunakan  teori  phytagoras.  Dengan  menggunakan  metode  ini  untuk  menghitung  jarak  antar neuron ruang euclidean dapat diubah menjadi  ruang metrik. Untuk n dimensi, P = (p1, p2,…,pn)

dan  Q  =  (q1,  q2,  …,qn)  euclidean  distance  diberikan dengan persamaan :

Self Organized Map (SOM)

Peta mengorganisir diri (SOM) adalah metode untuk pembelajaran tanpa pengawasan, berdasarkan grid neuron buatan yang bobot disesuaikan untuk mencocokkan vektor input dalam training set.

Ini pertama kali dijelaskan oleh Finlandia profesor Teuvo Kohonen dan dengan demikian kadang-kadang disebut sebagai peta Kohonen.

SOM merupakan salah satu metode perhitungan saraf yang paling populer digunakan, dan beberapa ribu artikel ilmiah telah ditulis tentang hal itu. SOM sangat baik dalam menghasilkan visualisasi data dimensi tinggi.

SOM merupakan teknik jaringan saraf tanpa pengawasan yang mendekati jumlah yang tidak terbatas input data oleh satu set terbatas model disusun dalam kotak, di mana node tetangga sesuai dengan model yang lebih mirip.

Model-model tersebut dihasilkan oleh algoritma pembelajaran yang secara otomatis memerintahkan mereka pada grid dua dimensi bersama dengan kesamaan bersama mereka.

Types of Mapping

Keakraban - net belajar bagaimana serupa adalah masukan baru yang diberikan dengan pola khas (rata-rata) telah terlihat sebelumnya
Internet menemukan Komponen Utama dalam data
Clustering - net menemukan kategori yang sesuai berdasarkan korelasi dalam data
Pengkodean - output merupakan input, menggunakan sejumlah kecil bit
Pemetaan Fitur - net membentuk peta topografi dari input

Unsupervised Learning

Dalam pembelajaran kompetitif tanpa pengawasan neuron mengambil bagian dalam beberapa kompetisi untuk setiap masukan. Itu Pemenang dari kompetisi ini dan kadang-kadang beberapa neuron lain diperbolehkan untuk mengubah bobot mereka

Dalam pembelajaran kompetitif sederhana hanya pemenang diperbolehkan untuk belajar (perubahan berat).
Dalam mengorganisir diri peta neuron lain di lingkungan pemenang juga dapat belajar.

Gambar diatas  menunjukkan contoh arsitektur jaringan self organizing dengan 2 unit pada lapisan input (P1 dan P2), serta 3 unit (neuron) pada lapisan output (Y1,Y2, dan Y3). Sebagai catatan, bobot wij di sini mengandung pengertian, bobot yang menghubungkan neuron ke-j pada lapisan input ke neuron ke-i pada lapisan output.

Algoritma pengelompokkan pola jaringan SOM adalah sebagai berikut:
Tahap 0 Inisialisasi awal Bobot wij (random) Nilai parameter learning rate (α) dan faktor penurunannya Bentuk dan jari-jari (R) topologi sekitarnya
Tahap 1 Selama kondisi penghentian bernilai salah, lakukan langkah 2 – 7

Tahap 2 Untuk setiap input vektor x, (i = 1, 2, …, n) lakukan langkah 3 – 5

Tahap 3 Hitung D(j) untuk semua j (j = 1, 2, …, m)

Tahap 4 Tentukan indeks J sedemikian sehingga D(j) minimum

Tahap 5 Untuk setiap unit j di sekitar J, modifikasi bobot

wij(baru) = wij (lama) + a[xi-wij(lama)]

Tahap 6 Modifikasi parameter learning rate

at+1 =0,5.at

Tahap 7 Uji kondisi penghentian

contoh

Jaringan SOM dengan tiga input dan dua unit cluster dilatih menggunakan vektor pelatihan empat:

[0.8  0.7 0.4],   [0.6  0.9  0.9],    [0.3  0.4  0.1],    [0.1  0.1  02] and initial weights

			weights to the first cluster unit

 

Jari-jari awal adalah 0 dan learning rate adalah 0,5. Hitung perubahan berat badan selama siklus pertama melalui data, mengambil vektor pelatihan dalam urutan yang diberikan.

Solution

Jarak Euclidian dari vektor input 1 cluster unit 1 adalah:

Jarak Euclidian dari vektor input 1 cluster unit 2 adalah:

 

Vektor input 1 paling dekat dengan satuan cluster 1 sehingga memperbarui bobot ke unit klaster 1:

 

 

Jarak Euclidian dari vektor masukan 2 cluster unit 1 adalah:

Vektor input 2 paling dekat ke unit cluster 1 sehingga memperbarui bobot ke unit klaster 1 lagi:

 

Ulangi prosedur update yang sama untuk input vektor 3 dan 4 juga.

Ilustrasi pembelajaran bagi Kohonen peta

Input: koordinat (x, y) dari titik yang diambil dari persegi
Tampilan neuron j pada posisi xj, yj mana yang sj maksimum

Posisi wal random

 

	100 units
			200 units

 

1000 units

Another Self-Organizing Map (SOM) Example

Dari Fausett (1994)
n = 4, m = 2
Lebih umum aplikasi SOM
Sejumlah kecil unit output daripada input; mereduksi dimensi
sampel pelatihan

i1: (1, 1, 0, 0)

i2: (0, 0, 0, 1)

i3: (1, 0, 0, 0)

i4: (0, 0, 1, 1)

Apa Jarak Euclidean Antara Sampel Data

	i1	i2	i3	i4
i1	0
i2		0
i3			0
i4				0

Training samples

i1: (1, 1, 0, 0)

i2: (0, 0, 0, 1)

i3: (1, 0, 0, 0)

i4: (0, 0, 1, 1)

Jarak Euclidean Antara Sampel data

	i1	i2	i3	i4
i1	0
i2	3	0
i3	1	2	0
i4	4	1	3	0

Training samples

i1: (1, 1, 0, 0)

i2: (0, 0, 0, 1)

i3: (1, 0, 0, 0)

i4: (0, 0, 1, 1)

 

Example Details

Training samples

i1: (1, 1, 0, 0)

i2: (0, 0, 0, 1)

i3: (1, 0, 0, 0)

i4: (0, 0, 1, 1)

Dengan hanya 2 output, lingkungan = 0
Hanya memperbarui bobot yang terkait dengan memenangkan satuan keluaran (cluster) pada setiap iterasi
learning rate

h(t) = 0.6; 1 <= t <= 4

h(t) = 0.5 h(1); 5 <= t <= 8

h(t) = 0.5 h(5); 9 <= t <= 12            unit 1 :

Etc.                                                      unit 2 :

 Matriks bobot awal
(nilai acak antara 0 dan 1)

 Weight update

Dari contoh di atas hanya sedikit gambaran mengenai  Another Self-Organizing Map (SOM)  Dari Fausett (1994)

Proses Belajar JST Self-Organizing Maps

Unit-unit pada lapisan masukan dinyatakan dengan persamaan berikut:

xi = [x1, x2, x3, x4, x5,…., xn]

Pada dasarnya SOM terdiri dari M unit lokasi pada grid berdimensi rendah yang beraturan, biasanya berdimensi 1 atau berdimensi 2. Contoh Gambar diatas, grid-grid berdimensi yang lebih tinggi tidak umum digunakan selama visualisasinya bermasalah. Tiap unit j memiliki suatu kumpulan vektor prototipe yang berdimensi d. Posisi unit rj pada grid ditetapkan dari awal. Pemilihan map terhadap data dengan menyesuaikan vektor protipenya. Bersama grid dan himpunan bentuk vektor prototipe map yang berdimensi rendah yang macam data: suatu representasi 2-dimensi dimana sifat topologinya berhubungan erat dengan objek(unit-unit map) yang berdekatan satu sama lain. Kumpulan vektor prototipe dapat dinyatakan dengan persamaan sebagai berikut:

mjd = [mj1, mj2, mj3, …., mjd ]

di mana :

mjd = vektor prototipe dari unit-unit pada lapisan masukan ke unit ke-j pada lapisan

kompetitif.

j = indeks unit pada input-an

d = dimensi

fungsi learning pada SOM yaitu linear(α(t)=α0(1-t/T)), power(α(t)=α0(0.005/ α0)^t/T dan inv(α(t)=α0(1+100t/T)) dimana T adalah panjang training dan α0 adalah inisialisasi learning rate.

Ringkasan

Pembelajaran tanpa pengawasan sangat umum
US pembelajaran memerlukan redundansi dalam rangsangan
Organisasi diri adalah properti dasar struktur komputasi otak
Soms didasarkan pada
kompetisi (unit wta)
kerja sama
adaptasi sinaptik
Soms melestarikan hubungan topologi antara rangsangan
Soms buatan memiliki banyak aplikasi dalam komputasi neuroscience

Kesimpulan

Metode Self  Organizing  Map  (SOM)   dapat  digunakan  untuk  mengelompokkan data (clustering) untuk mencari lokasi yang paling  sering dikunjungi berdasarkan data lokasi (latitude dan longutude).

Self organizing maps : mengklasifikasikan suatu vektor-vektor input berdasarkan bagaimana mereka mengelompok sesuai dengan karakteristik inputnya. Learning self organizing maps (SOM) bekerja dengan cara menggabungkan proses competitive layers dengan topologi vektor-vektor input yang dimasukkan dalam proses iterasi. Jaringan SOM terdiri dari dua lapisan (layer), yaitu lapisan input dan lapisan output. Setiap neuron dalam lapisan input terhubung dengan setiap neuron pada lapisan output. Setiap neuron dalam lapisan output merepresentasikan kelas dari input yang diberikan. Selama proses penyusunan diri, cluster yang memiliki vektor bobot paling cocok dengan pola input (memiliki jarak paling dekat) akan terpilih sebagai pemenang.

Daftar pustaka

1. Kohonen, T, (1995), Self-Organizing Map, 2nd ed.

Springer-Verlag, Berlin

2. Kohonen (1984). Speech recognition  - a map of phonemes in the Finish language

3. Optical character recognition  - clustering of letters of different fonts

4. . Kusumadewi,  Sri,  (2003),  Artificial  Intellegence

(Teknik dan Aplikasinya). Jogjakarta: Graha Ilmu