| Teaching signals for recurrent networks |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| | We can specify
targets in |
||||||||||||||||||||
| several ways: |
|||||||||||||||||||||
| | Specify
desired final |
||||||||||||||||||||
| activities
of all the units |
|||||||||||||||||||||
| | Specify
desired activities |
||||||||||||||||||||
| of
all units for the last few |
|||||||||||||||||||||
| steps |
|||||||||||||||||||||
| | Good
for learning attractors |
||||||||||||||||||||
| | It is
easy to add in extra |
||||||||||||||||||||
| error
derivatives as we |
|||||||||||||||||||||
| backpropagate. |
|||||||||||||||||||||
| | Specify
the desired activity |
||||||||||||||||||||
| of
a subset of the units. |
|||||||||||||||||||||
| | The
other units are hidden |
||||||||||||||||||||
| w3 w4 |
| w3 w4 |
| w3 w4 |