[COURSERA] ML strategy9

Comparing to human-level performance, Avoidable bias?

 Cat classification을 다시 예로 들때, ERROR율이 다음과 같다고 하자.

Human    1%

Training    8%

Dev         10%

- 현재, Human과 Training error사이의 gap이 꽤 크다 => Reducing bias

 이경우에 Human-level error와 training error에 집중하여 training error를 줄여야한다. 이 과정을 Reducing bias라고 하며 아래의 방법이 있다

ex) Bigger NN train, Run train set longer

Human    7.5%

Training    8%

Dev        10%

 - 한편, Human error과 training error사이는 gap이 작을경우, Dev set과 Train set간의 Gap을 줄이는데 집중한다. 이를 Reducing varience라고 한다.

ex) Regularization, Getting more training data

Human level-error를 Bayes error / Bayes optimal error로 잡고 bias와 varience를 줄여나간다.