OpenAI ve Anthropic, yapay zeka alanında rekabet ederken, işe alım stratejileri iki şirketin farklı yönlere gittiğini gösteriyor. OpenAI, Stargate programı kapsamında egemen bilgi işlem, kamu sektörü ve savunma ortaklıkları, Codex gibi ajan geliştirici araçları ve sistemik riske yönelik güven çalışmalarına odaklanıyor. Yaklaşık 670 açık pozisyonla OpenAI, bir bilgi işlem altyapısı şirketine dönüşüyor. Öte yandan Anthropic, 400'den fazla rolle AI araştırması, uygulamalı araştırma ve güvenlik alanlarında, özellikle davranışsal risk ve CBRN tehdit modellemesine yoğunlaşıyor. Bu, ağır uyumluluk ve denetim gerektiren sektörler için güven altyapısı anlamına geliyor.
Her iki laboratuvar da yapay zeka ajanlarının rutin operasyonel kararları almasına izin veriyor. Bu ajanlar, haftalar ve aylar içinde davranışsal sürüklenme gösterebiliyor ve bu sürüklenme, standart izleme araçlarının erişemeyeceği bir güvenlik açığı yaratıyor. Zenita Group'tan Pierguido Iezzi'ye göre, bu açıklık 'dikey entegrasyon bir tarafta, güven altyapısı diğer tarafta' şeklinde tanımlanıyor. İşe alım verileri, iki laboratuvarın İngilizce kariyer portallarının karşılaştırılabilir formatı sayesinde elde edildi, ancak diğer kutuplar için aynı titizlikte veri oluşturulamadı.
Ajanların hafıza, yürütme bütçesi ve planlama kapasitesi, yeni bir saldırı yüzeyi oluşturuyor. Iezzi, on yılın tanımlayıcı kategorisi olarak gördüğü 'inanç enjeksiyonu'na dikkat çekiyor. Bu, bir ajanın istatistiksel davranışının zehirli geri alma boru hatları, kurcalanmış ince ayar verileri, bozuk insan geri bildirimi ve modelin onay eğiliminin sömürülmesi yoluyla kalıcı olarak manipüle edilmesidir. Standart SIEM, EDR ve XDR araçları, anormal trafik gibi deterministik sinyalleri okuduğu için bu yavaş sürüklenmeyi gözden kaçırıyor. Mevcut çerçeveler de aynı kör noktaya sahip; NIST, ISO 27001, NIS2 ve Avrupa AI Yasası, ajan davranışını büyük ölçüde kapsam dışı bırakıyor.
Iezzi, güvenlik ekiplerinin şimdi benimseyebileceği alışkanlıklar öneriyor: model sürümlerini sabitlemek, her onaylı değişikliğin tarihli kaydını tutmak ve sürüklenme izlemede ortaya çıktığında, sessiz kalan günlüğü insan incelemesine yönlendirmek. Altı ila sekiz haftalık model yayınlama döngüsü, her yeni sürümle birlikte davranış değişikliği getiriyor; bu nedenle her kabul edilen güncellemeden sonra değerlendirme setini yeniden temellendirmek gerekiyor. Iezzi'ye göre temel değişim zihniyet değişikliği: 'Geleneksel siber güvenlik Tehlike Göstergeleri'ni arar; ajan yapay zekası ise Davranış Göstergeleri'ni aramamızı gerektirir.'
