| Teaching signals for recurrent networks |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| | We can specify
targets in |
||||||||||||||||||
| several ways: |
|||||||||||||||||||
| | Specify
the final activities |
||||||||||||||||||
| of
all the units |
|||||||||||||||||||
| | Specify
the activities of all |
||||||||||||||||||
| units
for the last few steps |
|||||||||||||||||||
| | Good
for learning attractors |
||||||||||||||||||
| | It is
easy to add in extra |
||||||||||||||||||
| error
derivatives as we |
|||||||||||||||||||
| backpropagate. |
|||||||||||||||||||
| | Specify
the activity of a |
||||||||||||||||||
| subset
of the units. |
|||||||||||||||||||
| | The
other units are hidden |
||||||||||||||||||
| w3 w4 |
| w3 w4 |
| w3 w4 |