Otomasyon araçları artık dil modeli düğümleri sunuyor. Bu, kural tabanlı akışlarla çözülemeyen işleri açıyor ama her adıma model koymak da yaygın bir hata.
01. Nerede Değerli
Serbest metinden bilgi çıkarma, gelen talebi sınıflandırma, farklı formatlardaki belgeleri normalize etme, taslak yanıt üretme. Ortak noktaları: girdinin yapısı belirsiz.
02. Nerede Gereksiz
Toplama, karşılaştırma, tarih hesabı, kayıt eşleştirme. Bunlar deterministik işler; kod ile yapıldığında hem ücretsiz hem hatasız. Dil modeline yaptırmak maliyeti ve belirsizliği birlikte getiriyor.
03. Agent ile Zincir Farkı
Zincir, adımların sırasını sizin belirlediğiniz yapı. Agent ise hangi aracı ne zaman çağıracağına kendisi karar veriyor. Agent esnek ama öngörülemez; kritik süreçlerde zincir tercih edilmeli.
04. İnsan Onayı
Dışarıya çıkan her çıktı, üzerinde para ya da itibar riski varsa insan onayından geçmeli. Otomasyon akışında bir onay adımı bırakmak, kurumsal kabulü de kolaylaştırıyor.
05. Maliyet Kontrolü
Model çağrıları belge başına ücretli. Yüksek hacimli akışlarda önce ucuz bir filtre koyup yalnızca gereken kayıtları modele göndermek, maliyeti kat kat düşürüyor.
06. Veri Sınırı
Kişisel veri ya da ticari sır içeren metinleri hangi modele gönderdiğinizi bilerek seçin. Kurumsal sözleşmeli servisler ya da kendi altyapınızda çalışan modeller bu noktada ayrışıyor.