👨‍🔧Hatalara Karşı Çözümler

🌸 High Bias

• Sinir ağlarını geliştir

• Yeniden katmanları eğit

• Sinir ağlarının mimarisini değiştir

  • Hyperparameters

  • RNN, CNN ...

  • Aktivasyon fonksiyonu

  • Derinliği ve boyutu

🎈 Avoidable Bias

• Daha büyük model eğitimi

• Uzun veya iyi optimasyon algoritması

  • Momentum

  • RMSProp

  • Adam

• Sinir ağlarının mimarisini değiştir

  • Hyperparameters

  • RNN, CNN ...

  • Aktivasyon fonksiyonu

  • Derinliği ve boyutu

🌒 High Variance

• Daha çok veri topla

  • Data augmentation

• Regularization uygula (çok etkili)

  • L2 regularization

• Sinir ağlarının mimarisini değiştir

  • Hyperparameters

  • RNN, CNN ...

  • Aktivasyon fonksiyonu

  • Derinliği ve boyutu

⛅ Data Missmatch

• Error analysis'i dev set üzerine uygula

  • Test set üzerine uygulanmama sebebi, test set'in ezberlenmesinden (overfitting) kaçınmak

  • Train ile dev / test kümelerinin arasındaki farkı anlamaya çalış

• Dev set, train set'ten farklıysa birbirine benzetmeye çalış

  • Dev gürültülü ise "noisy reduction" uygulayabilirsin

• Train'e dev'e benzer veriler topla

• "Artifical data syntjessis" ile yapay veri oluştur

  • Sade sese gürültü ekleyebilirisin

  • Yankılama ekleyebilirsiz

📉 Degree of Overfitting

• Dropout layer ekle