Modeliniz train setinde %99, validation setinde %72 doğruluk veriyor. Adım adım ne yaparsınız?

Cevap

Bu tablo açık bir overfitting (yüksek variance) belirtisidir. Ama önce gerçekten overfitting mi, yoksa veri problemi mi olduğunu doğrulamak gerekir.

1. Önce veriyi kontrol et

  • Train ve validation aynı dağılımdan mı geliyor? (farklı tarih aralığı, farklı müşteri segmenti)
  • Data leakage var mı? Train'de çok yüksek skor bazen hedefi sızdıran bir özellikten gelir.
  • Aynı kullanıcı/örnek hem train'de hem val'de mi? (grup bazlı split gerekebilir)
  • Etiketler tutarlı mı, sınıf dağılımı aynı mı?

2. Overfitting'i azalt

  1. Daha fazla veri veya data augmentation.
  2. Regularization: L2/weight decay, L1, dropout.
  3. Model kapasitesini düşür: ağaç derinliği (max_depth), min_samples_leaf, katman/nöron sayısı.
  4. Early stopping: validation loss artmaya başlayınca dur.
  5. Özellik seçimi: gürültülü, yüksek kardinaliteli özellikleri çıkar.
  6. Ensemble/bagging (Random Forest), gradient boosting'de subsample ve colsample_bytree.

3. Doğru ölç

Tek bir split yerine k-fold cross-validation kullan, learning curve çiz. Veri ekledikçe aradaki fark kapanıyorsa daha fazla veri işe yarar.

from sklearn.model_selection import learning_curve
sizes, tr, va = learning_curve(model, X, y, cv=5, scoring="f1",
                               train_sizes=[0.1, 0.3, 0.5, 0.7, 1.0])
  1. Hiperparametre optimizasyonunu nasıl yaparsınız? Grid search, random search ve Bayesian optimization'ı karşılaştırın.OrtaMakine ÖğrenmesiYapay Zeka
  2. Feature scaling nedir? Standardization ile normalization arasındaki fark nedir ve hangi modeller ölçeklendirme gerektirir?KolayMakine ÖğrenmesiYapay Zeka
  3. PCA (Principal Component Analysis) nasıl çalışır? Ne zaman kullanılır, ne zaman kullanılmamalıdır?OrtaMakine ÖğrenmesiYapay Zeka
  4. NumPy kullanarak k-means algoritmasını sıfırdan yazın. k değerini nasıl seçersiniz ve algoritmanın sınırlamaları nelerdir?ZorMakine ÖğrenmesiYapay Zeka
  5. XGBoost ve LightGBM klasik gradient boosting'den hangi açılardan farklıdır? En önemli hiperparametreleri nelerdir?ZorMakine ÖğrenmesiYapay Zeka
  6. Random Forest ile Gradient Boosting arasındaki fark nedir? Bagging ve boosting'i karşılaştırın.OrtaMakine ÖğrenmesiYapay Zeka

Bu konuda başka bir soru biliyor musun?

Mülakatta karşılaştığın soruları ekle, onaylandıktan sonra yayına alınsın.

Soru ekle