Her işi en güçlü modele yaptırmak, her yazıyı en pahalı kâğıda basmaya benziyor. Çalışıyor ama gereksiz.
01. İşleri Sınıflandırın
Üç kabaca ayrım yeterli: mekanik işler (sınıflandırma, etiketleme, biçim dönüştürme), orta işler (özetleme, taslak yazma) ve zor işler (çok adımlı muhakeme, kod, analiz). Bu üçü farklı model sınıfı ister.
02. Küçük Model Yeterli Olan Yerler
Gelen talebi kategoriye ayırmak, dilden dile çevirmek, serbest metinden alan çıkarmak. Küçük ve hızlı modeller bu işlerde büyük modele yakın sonuç veriyor ve maliyeti kat kat düşük.
03. Büyük Model Gereken Yerler
Çelişkili bilgiyi ayıklamak, uzun sözleşmeyi yorumlamak, çok adımlı plan kurmak. Buralarda küçük modelin hatası sessiz oluyor: cevap makul görünüyor ama yanlış.
04. Yönlendirme
Basit bir yönlendirici, gelen isteği önce ucuz modele gönderip güven düşükse pahalıya devredebilir. Yüksek hacimli akışlarda bu tek başına maliyeti belirgin şekilde düşürüyor.
05. Bağlam Penceresi Tuzağı
Geniş bağlam her şeyi içine atmak için bir davet değil. Alakasız metin doğruluğu düşürüyor ve maliyeti artırıyor. Doğru yaklaşım, gerekli parçayı bulup göndermek.
06. Ölçmeden Seçmeyin
Kendi verinizden 50–100 örnekle küçük bir değerlendirme seti kurun. Model değiştirmeyi düşündüğünüzde bu set, tahmin yerine ölçüm veriyor.