Naam:

Collegekaart:

1. Biologische versus kunstmatige neuronen (2 punten)

Noem vier eigenschappen van de ‘neuronen’ die in backpropagation netwerken gebruikt worden die biologisch niet plausibel zijn.

1.a

1.b

1.c

1.d

2. Backpropagation (2 punten)

2.a Wat is de EXOR functie? (b) Welke belangrijke rol heeft deze gespeeld in het connectionisme? Noem in je antwoord de volgende personen: McCulloch en Pitts, Rosenblatt, Minsky en Papert.

2.b Netwerken die het backpropagation algoritme voor leren gebruiken mogen, in tegenstelling to het Perceptron, nooit binaire activaties hebben (alleen 0 of 1). Is dit waar of niet waar? (Geef een korte uitleg waarom.)

2.c Stel je traint een netwerk met backpropagation. Je doet dit een aantal maal, steeds beginnend met een nieuw (ongetraind) netwerk, maar met een steeds hogere leerparameter. Beschrijf welk gedrag je verwacht (dus bij zeer lage, middelhoge en zeer hoge leerparameters).

3. Hopfield (2 punten)

3.a Wat is Energie bij Hopfield (formule opschrijven of in woorden beschrijven)?

3.b Hebbiaans leren in een Hopfield netwerk plaatst de te leren patronen in attractoren. Leg dit uit, door de volgende vragen te beantwoorden: Wat is een attractor? Wat is Hebbiaans leren in een Hopfield netwerk? Wat gebeurt er als je een vervormd (met ruis) patroon aanbiedt dat eerder geleerd was en vervolgens de activatieregel heel vaak gaat toepassen?

4. (2 punten) Hoe verklaart het model van McClelland en Rumelhart (1981) voor context-effecten in letterherkenning het volgend: Een ‘b’ in een woord (bijv. Engelse brat) wordt sneller gedetecteerd dan een ‘b’ in een niet bestaand woord (bijv. Engelse brav) en die weer sneller wordt gedetecteerd dan een ‘b’ in xxx context. (dus bxxx)?

5. Op welke wijze vertonen neurale netwerken ‘graceful degradation’? (1 punt)