Yazılım geliştirmede 'önce çalıştır, sonra düzelt' yaklaşımı yaygın olsa da, özellikle agentik yapay zeka projelerinde ilk versiyonun sağlam bir mimariyle kurulması, ilerleyen aşamalarda büyük avantaj sağlıyor. DumbQuestion.ai projesine eklenen Startup Roast özelliği, bu gerçeği net bir şekilde ortaya koydu. Doğru ön tasarım sayesinde yeni özellik eklemek, mevcut kodu onarmaktan çok daha hızlı ve az maliyetli oldu.
Projede karşılaşılan ilk zorluk, prompt boyutunun parametrize edilmesiydi. DumbQuestion.ai başlangıçta kısa sorular (<100 karakter) için tasarlanmışken, Startup Roast uzun girişim sunumlarını işlemek zorundaydı. Neyse ki prompt limitleri ve birleştirme mantığı zaten yapılandırılabilir noktalar olarak tasarlanmıştı. Bu sayede değişiklik, tek bir kod ve birim test güncellemesiyle tamamlandı. Eğer sabit kodlanmış değerler kullanılmış olsaydı, bu bir yeniden yazma problemi haline gelecekti.
İkinci zorluk, pazar bağlamını arama yeteneğiydi. Genel bir eleştiri yerine, pazarın farkında olan bir çıktı üretmek için önceden bir LLM geçişiyle arama ifadeleri çıkarıldı ve mevcut çoklu sağlayıcılı web arama özelliğine yönlendirildi. Arama altyapısının baştan itibaren yeniden kullanılabilir bir özellik olarak izole edilmiş olması, bu entegrasyonu sorunsuz hale getirdi. Aynı şekilde, işaretleme çıktısı desteği eklemek de temiz HTMX parçaları ve iyi organize edilmiş UI katmanı sayesinde çok az token harcanarak tamamlandı.
Detaylar ve Etkileri
Prompt enjeksiyon koruması ve model/kişilik ayarları da benzer şekilde önceden parametrize edilmişti. Uzun girişim sunumlarıyla gelen artan risklere karşı eşik değerlerini ayarlamak, küçük bir git diff ve az token ile mümkün oldu. Bu örnekler gösteriyor ki, agentik AI projelerinde ilk versiyonda yapılan doğru mimari kararlar, sonraki her özellik eklemesinde kendini amorti ediyor. Kod kalitesine yapılan yatırım, aslında token tasarrufuna yapılan bir yatırımdır.