| A simple example of overfitting |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| • | Which model do
you |
||||||||||||||
| believe? |
|||||||||||||||
| – | The
complicated model |
||||||||||||||
| fits
the data better. |
|||||||||||||||
| – | But it
is not economical |
||||||||||||||
| • | A model is
convincing when |
||||||||||||||
| it fits a lot of
data surprisingly |
|||||||||||||||
| well. |
|||||||||||||||
| – | It
is not surprising that a |
||||||||||||||
| complicated
model can fit |
|||||||||||||||
| a
small amount of data. |
|||||||||||||||
