OpenAI ve Anthropic, yapay zeka alanında iki dev olarak farklı stratejiler izliyor. OpenAI, Stargate programı ile egemen bilgi işlem, kamu sektörü ve savunma ortaklıklarına odaklanırken, Anthropic ise güven ve uyum odaklı bir altyapı kurmayı hedefliyor. Bu farklılaşma, şirketlerin işe alım ilanlarına da yansıyor. OpenAI'nin yaklaşık 670 açık pozisyonu, analizlere göre daha çok altyapı ve kamuya yönelikken, Anthropic'in 400'ün üzerindeki pozisyonu araştırma, güvenlik ve davranışsal risk analizine odaklanıyor.
Her iki şirket de yapay zeka ajanlarının günlük operasyonlarda daha fazla kullanılmasıyla birlikte yeni güvenlik riskleriyle karşı karşıya. Özellikle 'inanç enjeksiyonu' (belief injection) olarak adlandırılan tehdit, ajanların istatistiksel davranışlarının zamanla manipüle edilmesini içeriyor. Bu saldırı, zehirli veri alma hatları, bozulmuş ince ayar verileri ve çarpıtılmış insan geri bildirimi yoluyla gerçekleşiyor. Standart SIEM, EDR ve XDR araçları bu yavaş kaymayı tespit edemiyor.
Zenita Group Siber Güvenlik Direktörü Pierguido Iezzi'ye göre, mevcut güvenlik çerçeveleri (NIST, ISO 27001, NIS2, Avrupa AI Yasası) ajan davranışlarını büyük ölçüde kapsam dışı bırakıyor. Iezzi, 'Model Malzeme Listesi' ve 'Davranışsal Zarf' gibi yeni yapı taşlarının önemini vurguluyor. Ayrıca, güvenlik ekiplerinin model sürümlerini sabitleme, her onaylı değişikliği tarihli olarak kaydetme ve her güncellemeden sonra değerlendirme setini yeniden temellendirme gibi alışkanlıkları hemen benimsemesi gerektiğini belirtiyor.
Yapay zeka ajanlarının benimsenmesi, maliyetlerde %50 ila %80 arasında azalma sağlarken, Avrupa'nın bu rekabetçi kaymaya karşı yaklaşık 18 aylık bir tepki penceresi olduğu tahmin ediliyor. Iezzi, geleneksel siber güvenliğin 'Uzlaşma Göstergeleri' aradığını, oysa ajan AI'nın 'Davranış Göstergeleri' gerektirdiğini söylüyor. Bir AI sistemi geleneksel anlamda asla tehlikeye girmeyebilir; sadece farklı kararlar almaya başlayabilir.
