Overfitting
جمعه, ۵ مهر ۱۳۹۲، ۰۴:۳۳ ب.ظ
تعریف:
برای فرضیه ای مثل h روی فضای فرضیه ای H دو نوع خطا وجود دارد.
- خطا روی داده های آموزشی
- errortrain(h)
- خطا روی کل داده های ممکن
- errorD(h)
می گوئیم برای فرضیه h عضو H روی داده های آموزشی Overfitting رخ داده است، اگر فرضیه ای مثل h0 عضو H وجود داشته باشد که :
errortrain(h) < errortrain(h0)
&
errorD(h) > errorD(h0)
یعنی فرضیه ای (یا مدلی) دیگر وجود دارد که در استفاده واقعی و کاربری، از مدل ما بهتر است ولی بر روی داده های آموزشی بهتر نیست.
