Hangi prompt engineering tekniklerini kullanırsınız? Few-shot ve chain-of-thought ne zaman işe yarar?

Prompt engineering, modelden istenen davranışı model ağırlıklarını değiştirmeden, girdiyi tasarlayarak elde etmektir. Genelde en ucuz ve en hızlı iyileştirme yoludur, bu yüzden fine-tuning'den önce denenir.

Temel teknikler

• Açık ve spesifik talimat: Görev, hedef kitle, format, uzunluk ve kısıtları açıkça yazmak. Belirsizlik en sık hata sebebidir.
• System prompt / rol: Kalıcı davranış, ton ve kuralları tanımlamak.
• Bağlam ve ayraçlar: Dokümanları, örnekleri ve talimatları XML etiketleri veya başlıklarla net şekilde ayırmak.
• Few-shot örnekler: Birkaç girdi/çıktı örneği vermek. Format ve üslup tutarlılığı için çok etkilidir. Örnekler çeşitli olmalı, aksi halde model yüzeysel kalıpları kopyalar.
• Chain-of-thought (CoT): Modelden cevap vermeden önce adım adım düşünmesini istemek. Matematik, mantık ve çok adımlı problemlerde doğruluğu artırır. Yerleşik reasoning yapan modellerde ayrıca istemek daha az gereklidir.
• Structured output: JSON şeması tanımlamak. Mümkünse API'nin native structured output veya tool calling özelliğini kullanmak.
• Prompt chaining: Karmaşık görevi birden çok küçük adıma bölmek (önce çıkar, sonra özetle, sonra doğrula).
• Çıkış yolu vermek: "Bilgi bağlamda yoksa 'bilmiyorum' de" demek halüsinasyonu azaltır.

<talimat>
Aşağıdaki müşteri mesajını sınıflandır. Sadece JSON döndür.
Kategoriler: fatura, teknik, iptal, diğer
</talimat>
<örnek>
Mesaj: "Bu ay iki kez ücret kesilmiş" -> {"kategori": "fatura"}
</örnek>
<mesaj>{{kullanici_mesaji}}</mesaj>

Mühendislik disiplini

Prompt'lar kod gibi ele alınmalıdır: versiyonlanmalı, bir değerlendirme setiyle test edilmeli ve değişiklikler ölçülerek yapılmalıdır. "Bende çalıştı" yaklaşımı production'da regresyonlara yol açar.