Clasificatoare maini cu

vectori suport
Elaborat de studenta grupei IA-121M
Ilicovici Irina
Conductor tiinific conf.univ.dr. Moraru Vasile

SVM

mbuntirea eficacitii
clasificatorilor a fost o zon de
cercetare intens n domeniul machine
learning n ultimele dou decenii.
Aceast aplecare a condus la crearea
unei noi generaii de clasificatori aflai
la cel mai nalt grad de dezvoltare cum
ar fi: mainile cu vectori suport
(support vector machines)

Un clasificator SVM este un tip de clasificator

cu
margine inflexibil
o metod din machine learning ce se
bazeaz pe folosirea modelului spaiului
vectorial n care elul l constituie gsirea
unei granie de decizie (decision boundary)
ntre dou clase, care este ct se poate de
deprtat de orice punct din setul de
antrenare (exceptnd doar punctele
distanate foarte mult de restul datelor
(outliers) i punctele zgomot (noise)).

Clasificator SVM

margine flexibil (soft margin)

care permite creterea n lime a
graniei decizionale, sacrificnd n
schimb clasificarea corect a punctelor
zgomot

Algoritmi de calcul paralel

Mainile cu vectori suport ( support vector

machines ) sunt un exemplu de clasificatori
liniari binari.

Datele pentru o astfel de problem

constau din obiecte etichetate cu una
din cele dou etichete posibile; pentru
uurin s presupunem c etichetele
sunt +1 (exemple pozitive) i
-1(exemple negative).

Un clasificator liniar se bazeaz pe o funcie liniar

discriminant de forma urmtoare:

f(x)=<x,y> + b
Funcia discriminant atribuie un scor pentru datele de
intrare x , i este folosit pentru a decide cum s clasifice
aceste date. Vectorul este cunoscut sub denumirea de
vectorul ponderilor (weight vector) iar scalarul se
numete direcie/deplasare/nclinare (bias). n plan
punctele care satisfac ecuaia <x,y> = 0 corespund unei
linii/drepte trasate prin origine; n spaiu punctele
determin un plan iar ntr-un spaiu multidimensional
aceleai puncte determin un hiperplan.

SVM

Hiperplanul divide spaiul n dou

jumti n funcie de semnul lui f(x),
care indic de ce parte a hiperplanului
se gsete un punct (vezi Fig 1.1): dac
f(x) > 0, atunci se alege clasa pozitiv,
altfel cea negativ. Grania dintre
regiunile clasificate ca pozitive i
negative se numete grani de decizie
(decision boundary) a clasificatorului.

Un clasificator liniar ce separ dou clase de

puncte n plan :

Studiu de caz

Fie mulimile A i B

Studiu de caz

Determinm mrimile
()=1*1+2*2=5
()=1*2+2*3=8
()=1*3+2*4=11
()=2*1+3*2=8
()=2*2+3*3=13
()=2*3+3*4=18
()=2*4+1*3=11
()=3*2+4*3=18
()=3*3+4*4=25

()=4*4+1*1=17
()=4*4+1*3=19
()=4*5+1*2=22
()=4*4+3*1=19
()=4*4+3*3=25
()=4*5+3*2=26
()=5*4+2*1=22
()=4*5+3*2=26
()=5*5+2*2=29

Studiu de caz
Utiliznd
mrimile construim matricile

Studiu de caz

Q=
Q=

Studiu de caz

=+

++ +
+++---+
--++
---++
---+

Obinem funcia ptratic

+-2018+-46+

Studiu de caz

Studiu de caz

Studiu de caz

Rezolvnd problema de programare ptratic (3.6) cu aceste date

obinem

0,02*+0*+0,97*=

0+10 *

=(2,93-4)2+(3,92-3)2=8,5+23,4+16+15,3+23,52+9=95,7

16+9=25
f(x)=[(23.8-25)-23.8+25]=[23.8-25]- 23.8+25=-

Concluzii
Folosirea mainilor cu suport vectorial
necesit o nelegere n profunzime a modului
n care acestea funcioneaz. Cnd se
antreneaz un algoritm de maini cu suport
vectorial, practicantul trebuie s ia un anumit
numr de decizii importante: cum vor fi
datele preprocesate, ce fel de nucleu se va
folosi i, n final, setarea parametrilor att
pentru nucleu ct i pentru mainile cu
suport vectorial. Alegerile uniforme pot
conduce la o performan sczut.

Mulumesc pentru atenie !