Overvåget læring

Overvåget læring betyder at netværket altid skal have en der siger hvad der er rigtigt og hvad der er forkert. Dette sker normaltvis ved brug af såkaldte input-output eksempler. Læreren fodrer netværket med et input og lærer netværket at det skal give det rigtige output. En sådan læreproces kan afbildles således

Figur 1: Error-correction læring

Input-output eksemplerne bliver fordelt, input til netværket og output til læreren. Netværket kommer med et egentligt output som læreren sammenligner med det ønskede. Ud fra dette kommer fejlsignalet som bruges til at tilpasse det neurale netværks synapsestyrker. Denne form for læring kan opnås ved hjælp af error-correction læring som vi nu skal høre om

Error-correction

Error correction går, som det også fremgår af navnet, ud på at ændre synapsestyrkerne i henhold til den fejl neuronen giver som output. Dette kan beskrives matematisk på følgende måde

Ligning 1: Beregning af fejlsignal

Hvor y_k er det faktiske signal, d_k det ønskede signal og e_k er fejlsignalet. e_k bliver brugt i algoritmen til at opdatere synapsestyrkerne så de gradvist tilpasser sig det ønskede signal d_k. Vi kan inddrage tiden i ligningen så vi får

Ligning 2: Beregning af fejlsignal med tidsfaktor

Hvor n er et udtryk for tiden. Grunden til at tiden er inddraget er at algoritmen som sagt gradvist tilpasser synapsestyrkerne, så man kan se på n som det antal gange neuronen er blevet opdateret, eller hvor mange træningseksempler der er blevet gennemløbet. Den egentlige læreproces finder først sted efter beregningen af neuronens fejlsignal. Hvis vi kigger på neuron k kan vi opstille en ligning for opdateringen af dennes synapsestyrker således

Ligning 3: Widrow-Hoff reglen

er et udtryk for læringsraten, jo højere den er, jo hurtigere vil netværket tilpasse sig, jo lavere den er, jo langsommere, men mere præcist vil netværket tilpasse sig.

Et skema over error-correction learning følger her

x(n) er det input-eksempel netværket bliver fodret med, og vi ser ved den bøjede pil, at neuronen bliver opdateret med henhold til ek(n) som er neuron k's fejl ved tiden n. Ligning 3 hedder også Widrow-Hoff-reglen, eller bare delta-reglen.

Opdateringen af neuron k's synapsestyrker er helt ligetil

Den fremtidige styrke for synapse j i neuron k skal være lig den nuværende plus den givne synapses ændring. Neuron k's synapser er nu ændret, og resultatet af det samme input skulle nu være tættere på det ønskede resultat end før.

Et eksempel

Vi nupper et eksempel for at virkeligøre vores teori. For at det ikke skal være for stor en opgave, nøjes vi med én neuron med to synapser. Vores neuron skal blive til en meget lille binær lommeregner som den vi har haft om. Den eneste forskel er, at synapsestyrkerne nu ikke er predefinerede, og at neuronen skal læres for at kunne bruges.

Vi har følgende data for neuron k :

Vi vælger stadig ingen aktiveringsfunktion, da vores output da kun ville kunne ligge fra -1 til 1. Hvis vi havde haft et helt netværk ville vi kunne have haft aktiveringsfunktioner.

Nu laver vi 3 forskellige træningssæt da det senere viser sig at være nok. I virkeligheden ville man have flere men dette er jo også kun et eksempel.

Vi sætter læringsratentil 1 og er nu klar til at træne neuronen med error-correction læring.

Sæt 1:

Her er der ingen grund til udregning, y_k = 0

e_k(n)=d_k(n)-y_k(n)

e_k(n)=0-0=0

Ligning 5: Manuel beregning af fejlsignal ved sæt 1

Da der ingen fejl er sker der ingen ændring ved første gennemløb.

Sæt 2:

Vi beregner y_k

Ligning 6: beregning af y_k ved sæt 2

og e_k(n)

e_k(n)=d_k(n)-y_k(n)

e_k(n)=1-0.75

e_k(n)=0.25

Ligning 7: Manuel beregning af fejlsignal ved sæt 2

Ændringen i synapsen er derfor

Ligning 8: Ændring af synapsen ved sæt 2

Vi opdaterer synapsestyrkerne

Ligning 9: Opdatering af synapsen ved sæt 2

Da x₂ er nul er der ingen grund til at opdatere den (se ligning 8)

Vi har nu de nye synapsestyrker

Sæt 3:

Vi beregner y_k

Ligning 10: Beregning af yk ved sæt 3

og e_k(n)

e_k(n)=d_k(n)-y_k(n)

e_k(n)=2-1

e_k(n)=1

Ligning 11: Beregning af fejlsignal ved sæt 3

Den første synapse er der ingen grund til at beregne, da x₁ er nul.

Ændringen i synapse 2 er

Ligning 12: Ændring af synapsen ved sæt 3

Vi opdaterer synapsestyrkerne

Ligning 13: Opdatering af synapsen ved sæt 3

Og har nu de helt nye synapsestyrker

Vi er nu færdige med at træne vores netværk, og vores synapsestyrker er fuldstændigt tilpasset den store lommeregners. Det er denne form for læring neurale netværk er så kendte for. Du kan tage et kig på denne lommeregner, som er en lidt udvidet version af den gamle, da den kan trænes. Uddybningen af koden kommer under programmeringssektionen.

Vi har lavet et program der bruger en form for error-correction til at opnå mønsterklassifikation, programmet er stadigvæk på forsøgsstadiet, men det viser bedre end nogen af de forrige programmer at neurale netværk kan bruges til andet end binære lommeregnere, og det netværk der bliver brugt er endda kun sammensat af ca. 130 neuroner, hvor der kun foretages beregninger i 10 af dem. Antallet af synapser kan du så selv beregne hvis du får oplyse at netværket er et fuldt forbundet feedforward netværk.

Kilder

Simon Haykin, "Neural Networks - A comperehensive Foundation", Prentice Hall, ISBN:0-02-352761-7