Yapay Zeka Ajanına İmkansız Hedef: Hiçbir Şey Yapmayan Döngü Siber Güvenlik

Yapay Zeka Ajanına İmkansız Hedef: Hiçbir Şey Yapmayan Döngü

Bir AI ajanına imkansız bir hedef verildiğinde ne olur? Hiçbir şey yapmayarak başarılı olan bir döngü ve bunun arkasındaki sıradışı mekanizma.

Bir yapay zeka ajanına imkansız bir hedef verildiğinde ne olur? Bu soru, teknoloji dünyasının en ilginç deneylerinden birine kapı aralıyor. Bir geliştirici, AI ajanına her gece çalışması gereken bir döngü verdi ve bu döngünün başarısı, hiçbir şey yapmamasına bağlıydı. Bu sıradışı yaklaşım, yapay zeka ve otomasyonun sınırlarını zorlayan bir deneyin parçası olarak dikkat çekiyor. Peki, bu döngü nasıl çalışıyor ve neden bu kadar önemli?

Bu döngü, belirli bir zamanlayıcıyla çalışan bir bakım görevi olarak tasarlandı. Her gece çalışıyor, hiçbir sorun bulamıyor ve neredeyse hiç maliyet oluşturmuyor. Ancak asıl amacı, gerçekten bir şeyler ters gittiğinde hala orada olabilmek. Bu, bir bakım döngüsünün başarısının, hiçbir şey yapmamasıyla ölçüldüğü nadir durumlardan biri. Döngünün tetikleyicisi, kullanıcı yerine bir zamanlayıcı olduğu için, bu konsept geleneksel döngülerden ayrılıyor.

Döngünün çözdüğü problem, tarayıcı poster verilerinin güncelliğini korumak. Gerçek bir dağıtımda, film eklendikçe ve meta veriler değiştikçe veriler güncelliğini yitiriyor. Bu nedenle, verilerin periyodik olarak yeniden oluşturulması ve yayınlanmadan önce geçerliliğinin kontrol edilmesi gerekiyor. Bu süreçte bir doğrulama kapısı bulunuyor ve bu kapı, herhangi bir yapay zeka modeli içermeyen, tamamen deterministik bir kod parçası.

Doğrulama kapısı, bir Node betiği olarak çalışıyor. Her bölge dosyası için üç şeyi kontrol ediyor: JSON şemasına uygunluk, minimum film sayısı ve tüm poster dosyalarının diskte var olması. Bu kontrollerden herhangi biri başarısız olursa, betik sıfır olmayan bir çıkış koduyla sonlanıyor. Burada dikkat çeken nokta, dil modelinin bu karar sürecinde hiçbir rol oynamaması. Çünkü 'bu yayınlanabilir mi?' sorusuna yanıt verecek olan şeyin, 'hayır' derken bile emin olabilen bir model olması istenmiyor.

Döngünün güvenilirliğini sağlayan bir diğer önemli parça ise 'hook' mekanizması. Bu mekanizma, Claude Code'un yaşam döngüsüne bağlı bir shell komutundan oluşuyor. Bir oturum sona ermeye çalıştığında çalışıyor ve eğer veriler bozuksa oturumu bloke edebiliyor. Bu sayede, uygulamanın doğruluğu modelin iyi niyetine bağlı olmaktan çıkıyor; son sözü her zaman basit bir shell komutu söylüyor.

Uzmanların Görüşleri

Döngüyü çalıştırmanın iki farklı yolu bulunuyor: bulut tabanlı ve yerel. Bulut versiyonu GitHub Actions ile çalışıyor ve Anthropic API anahtarı gerektiriyor. Yerel versiyon ise tamamen ücretsiz ve macOS'un launchd hizmetiyle her gece çalışıyor. Çıktılar bayt-bayta kararlı olduğu için, normal sonuç temiz bir 'hiçbir şey yapmadı' durumu oluyor. Bu maliyet avantajı, geliştiriciler için önemli bir tercih sebebi.

Projenin en ilginç hatası ise, tüm döngüleri etkileyen bir sorundu. İlk kez yeni bir git worktree içinde çalıştırıldığında, 'playwright: command not found' hatası alınıyordu. Bunun nedeni, git worktree'nin node_modules'u ana depoyla paylaşmamasıydı. Çözüm ise oldukça basitti: her döngü sürücüsüne, bağımlılıkları otomatik olarak yükleyen tek satırlık bir koruma eklemek.

Detaylar ve Etkileri

Bu deney, yapay zeka ajanlarının sınırlarını ve güvenilir otomasyonun önemini gözler önüne seriyor. Hiçbir şey yapmayarak başarılı olan bir döngü, aslında yapay zekanın her zaman en karmaşık çözüm olmadığını hatırlatıyor. Bazen en iyi çözüm, hiçbir şey yapmamaktır. Bu yaklaşım, siber güvenlik ve otomasyon alanında yeni perspektifler sunarken, aynı zamanda yapay zeka sistemlerinin güvenilirliği konusunda da önemli dersler içeriyor.

Kaynak: dev.to

Paylaş: