OpenAI ve Anthropic, yapay zeka ajanlarının güvenlik açıklarını kapatmak için farklı yollar izliyor. Şirketler, rutin operasyonel kararları kendi adlarına planlayan, hatırlayan ve hareket eden yapay zeka ajanlarına devrediyor. Bu ajanlar istatistiksel modeller üzerinde çalıştığından, davranışları haftalar ve aylar içinde kayabiliyor. Bu kayma, standart izleme araçlarının erişemeyeceği bir güvenlik açığı oluşturuyor. Yaklaşık 1.080 iş ilanının incelendiği bir araştırma, OpenAI ve Anthropic'in bu teknolojiyi nereye taşıdığını ortaya koyuyor.
OpenAI'nin yaklaşık 670 açık pozisyonu bulunuyor ve bu pozisyonlar Stargate programı aracılığıyla egemen bilgi işlem, kamu sektörü ve savunma ortaklıkları, Codex gibi aracı geliştirici araçları ve sistemik riske yönelik güven ve emniyet çalışmalarına odaklanıyor. Bu, OpenAI'nin bilgi işlem altyapısına dönüştüğünü gösteriyor. Anthropic ise 400'ün biraz üzerinde pozisyonla AI araştırması, uygulamalı araştırma ve güvenlik alanlarına yöneliyor. Odak noktası davranışsal risk ve CBRN tehdit modellemesi olan Anthropic, ağır uyumluluk ve denetim talepleri olan sektörler için güven altyapısı inşa ediyor.
İki laboratuvarın da yer aldığı yapay zeka yarışında sekiz ila on kutup bulunuyor. Google DeepMind, Mistral, xAI ve Çinli Zhipu, DeepSeek, Qwen, Moonshot ve Baichuan gibi hızlı hareket eden oyuncular da bu alanda rekabet ediyor. Her altı ila sekiz haftada bir yeni bir sınır modeli piyasaya sürülüyor. Bu hızlı döngü, güvenlik açıklarını da beraberinde getiriyor. Özellikle belief injection (inanç enjeksiyonu) olarak adlandırılan tehdit, ajanın istatistiksel davranışının zaman içinde kalıcı olarak manipüle edilmesine dayanıyor. Standart SIEM, EDR ve XDR araçları bu yavaş kaymayı tespit edemiyor.
Önemli Gelişmeler
Uzmanlar, mevcut araçların yetersiz kaldığı bu alanda, güvenlik ekiplerinin hemen benimseyebileceği alışkanlıklar öneriyor. Model sürümlerini sabitlemek, her onaylı değişikliğin tarihli kaydını tutmak ve izlemede görülen kaymaları insan incelemesine sunmak bu alışkanlıklar arasında. Pierguido Iezzi'ye göre, 'geleneksel siber güvenlik Tehlike Göstergelerini arar; aracı yapay zeka ise Davranış Göstergelerini aramamızı gerektirir.' Avrupa'nın ana riski, ABD ve Çinli üreticiler etrafında fiili standartlar oluşmadan önce yaklaşık 18 aylık bir tepki penceresiyle rekabetçi kayma olarak tanımlanıyor.
