Modeliniz train setinde %99, validation setinde %72 doğruluk veriyor. Adım adım ne yaparsınız?
Cevap
Bu tablo açık bir overfitting (yüksek variance) belirtisidir. Ama önce gerçekten overfitting mi, yoksa veri problemi mi olduğunu doğrulamak gerekir.
1. Önce veriyi kontrol et
- Train ve validation aynı dağılımdan mı geliyor? (farklı tarih aralığı, farklı müşteri segmenti)
- Data leakage var mı? Train'de çok yüksek skor bazen hedefi sızdıran bir özellikten gelir.
- Aynı kullanıcı/örnek hem train'de hem val'de mi? (grup bazlı split gerekebilir)
- Etiketler tutarlı mı, sınıf dağılımı aynı mı?
2. Overfitting'i azalt
- Daha fazla veri veya data augmentation.
- Regularization: L2/weight decay, L1, dropout.
- Model kapasitesini düşür: ağaç derinliği (
max_depth),min_samples_leaf, katman/nöron sayısı. - Early stopping: validation loss artmaya başlayınca dur.
- Özellik seçimi: gürültülü, yüksek kardinaliteli özellikleri çıkar.
- Ensemble/bagging (Random Forest), gradient boosting'de
subsamplevecolsample_bytree.
3. Doğru ölç
Tek bir split yerine k-fold cross-validation kullan, learning curve çiz. Veri ekledikçe aradaki fark kapanıyorsa daha fazla veri işe yarar.
from sklearn.model_selection import learning_curve
sizes, tr, va = learning_curve(model, X, y, cv=5, scoring="f1",
train_sizes=[0.1, 0.3, 0.5, 0.7, 1.0])İlgili Makine Öğrenmesi soruları
- Hiperparametre optimizasyonunu nasıl yaparsınız? Grid search, random search ve Bayesian optimization'ı karşılaştırın.
- Feature scaling nedir? Standardization ile normalization arasındaki fark nedir ve hangi modeller ölçeklendirme gerektirir?
- PCA (Principal Component Analysis) nasıl çalışır? Ne zaman kullanılır, ne zaman kullanılmamalıdır?
- NumPy kullanarak k-means algoritmasını sıfırdan yazın. k değerini nasıl seçersiniz ve algoritmanın sınırlamaları nelerdir?
- XGBoost ve LightGBM klasik gradient boosting'den hangi açılardan farklıdır? En önemli hiperparametreleri nelerdir?
- Random Forest ile Gradient Boosting arasındaki fark nedir? Bagging ve boosting'i karşılaştırın.
Bu konuda başka bir soru biliyor musun?
Mülakatta karşılaştığın soruları ekle, onaylandıktan sonra yayına alınsın.