Yapay Zeka Ajanları ve Eski Durum Sorunu: Dünya Değişti, Mantık Aynı Kaldı Siber Güvenlik

Yapay Zeka Ajanları ve Eski Durum Sorunu: Dünya Değişti, Mantık Aynı Kaldı

Yapay zeka ajanları doğru mantık yürütebilir ancak hedef sistem değişirse eski durum sorunu ortaya çıkar. Durum bağlamalı niyet ile bu sorun çözülebil

GitHub adaptörü üzerinde çalışırken, kaynak_durum alanı ilk başta küçük bir teknik detay gibi görünüyordu. Ancak yazma işlemleri derinleştikçe, bu alanın bir güvenlik modeli parçası olduğu anlaşıldı. Bir ajan, repository okur, mantıklı bir değişiklik üretir ve temiz bir niyet gönderir. Fakat ajan planlama yaparken repository hareket edebilir: bir insan düzeltme gönderebilir, başka bir iş akışı aynı dosyayı güncelleyebilir veya bir dal ilerleyebilir. Bu durumda ajan hâlâ gördüğü durum üzerinde doğru mantık yürütse de, bu durum artık mevcut değildir. İşte bu, ajan iş akışlarındaki eski durum sorunudur ve durum bağlamalı niyeti zorunlu kılar.

Eski bir istek dışarıdan, hatta sınır (boundary) açısından bile normal görünebilir: işlem aynı adı taşır, hedef yol hâlâ izinlidir ve girdi düzgün biçimlidir. Ancak öneri, repository'nin eski bir durumuna aittir; dal hareket etmeden, dosya değişmeden önce oluşturulmuştur. Bu nedenle eski durum yalnızca bir veri tazeliği sorunu değildir; ajan iş akışlarında bir kabul (admission) sorununa dönüşür. Bu karar noktasına MCP Sınırı (MCP Boundary) adı verilir. Sınır, yalnızca işlemin hedefte izinli olup olmadığını sorgulamamalı, aynı zamanda hedefin hâlâ işlemi mantıklı kılan durumda olup olmadığını da bilmelidir. Yazma şimdi gerçekleşir, mantık yürütme ise önce. İşte bu boşluk sorunun ortaya çıktığı yerdir.

Durum bağlamalı niyet (state binding), niyetin ajan ile sistemi etkileme arasında serbestçe dolaşmasını engeller. Önerilen etki, üzerinde mantık yürütülen duruma bağlanır. GitHub adaptörü için bu, dal başı (branch head) veya dosya karması (file hash) olabilir. İstek artık yalnızca 'bu değişikliği bu hedefe uygula' değil, 'bu değişikliği bu hedefe, eğer hedef hâlâ bu değişikliğin dayandığı durumdaysa uygula' haline gelir. Sınır, durum eşleşirse isteği normal kontrollere devam ettirir; durum değişmişse isteği etkiden önce durdurur. Bu, ajanın durumu güvenli ilan etmesi anlamına gelmez; durum referansı sınır veya güvenilen sistem tarafından doğrulanmalıdır.

Bu fikir aslında yeni değil: Git'te temel işlemeler (base commits), veritabanlarında sürüm kontrolleri, HTTP'de ETag'ler vardır. Güvenlik uzmanları, kontrol zamanı ile kullanım zamanı arasındaki sorunları bilir. Ajanlar ise okuma-yazma aralığını genişletir ve öngörülemez hale getirir. Ajan okur, planlar, araçları çağırır, revize eder, yeniden dener ve ancak sonra etki gönderir. Bu arada hedef sistem hareket etmeye devam eder. Beş dakika önce güvenli olan bir değişiklik şimdi yanlış olabilir; amaç değiştiği için değil, amaç etrafındaki durum değiştiği için. Bu nedenle durum bağlamalı niyet yalnızca bir arka uç detayı değil, sınırın bir parçasıdır. Ajan istekleri yalnızca işlem, hedef ve politika ile değil, onları üreten durumla da kontrol edilmelidir. Eski durum tespit edildiğinde, sistemin yapılandırılmış bir şekilde geri bildirim vermesi gerekir; örneğin JSON formatında, karar durumu 'conflict' ve sonuç durumu 'no_impact' olarak dönebilir. Önemli olan bir sonraki eylemdir: hedefi yeniden oku ve mevcut duruma göre yeni bir niyet gönder.

Paylaş: