ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA), federal kurumların yazılım kodlarındaki güvenlik açıklarını tespit etmek için Anthropic'in en gelişmiş yapay zeka modeli Mythos'u kullanmaya başladı. Reuters'ın konuya yakın üç kaynağa dayandırdığı habere göre, CISA'nın Saldırı Yüzeyi Değerlendirme ekibi, Mythos'u federal kod depolarında tarama yaparak zafiyetleri yabancı istihbarat servisleri ve siber suç gruplarından önce bulmak için kullanıyor. Operasyonun kapsamı, hangi ajansların dahil olduğu ve tespit edilen açıkların ciddiyeti henüz açıklanmış değil, ancak kaynaklar denetimlerin çok sayıda zafiyet ortaya çıkardığını belirtiyor. CISA ve Anthropic konuyla ilgili resmi bir açıklama yapmazken, CISA temsilcisinin geçen ay "paylaşılacak bir şey olup olmadığını kontrol edeceğini" söylemesinin ardından iletişimi kestiği bildirildi.
Mythos, Anthropic'in standart aboneliklerle erişilemeyen en yetenekli yapay zeka modeli. Şirket, modeli seçkin devlet ortaklarına özel olarak sunarken, Mythos'u güvenlik açıklarını bulma ve sömürme konusunda olağanüstü yetenekli olarak tanımladı. Reuters'ın aktardığına göre, NSA de en az Nisan ayından bu yana aynı modeli kullanıyor ve gizli ortamlarda test eden NSA analistleri modelin performansından etkilendiklerini belirtti. Ancak Anthropic'in ABD hükümetiyle ilişkisi Şubat ayında, şirketin Mythos'un otonom silahlar veya iç gözetim için kullanılmasını engelleyen güvenlik önlemlerini kaldırmayı reddetmesiyle gerginleşti. Pentagon, buna karşılık Anthropic'i tedarik zinciri güvenlik riski olarak tanımlayarak, daha önce yalnızca casusluğa yardım ettiğinden şüphelenilen yabancı şirketlere uygulanan bir etiketi yerli bir şirkete uyguladı.
Federal bir yargıç Mart ayında bu kara listeyi bloke etti ve ardından ilişkiler yumuşamaya başladı. CISA'nın Mythos'u kullanması, bu dinamiğin ne kadar değiştiğinin bir göstergesi. Reuters'ın devamında belirttiği gibi, "olağanüstü kara liste Mart ayında bir yargıç tarafından engellendi ve çatışma, Anthropic'in Mythos'unun özel olarak yayınlanmasının ardından yatıştı." Görünen o ki, hükümete en yetenekli araç versiyonuna erişim sağlamak, herhangi bir müzakereden daha fazla ilişkiyi onardı. Haziran başında Anthropic, Mythos'un siber güvenlik önlemleri eklenmiş halka açık bir versiyonu olan Fable'ı piyasaya sürdüğünde, Beyaz Saray şirketten yabancı uyrukluların modeli çalıştırmasını yasaklamasını talep etti. Bu talep, modelin küresel çapta geçici olarak kapatılmasına yol açtı ve kapatma ancak geçen hafta kaldırıldı.
Önemli Gelişmeler
Ortaya çıkan tablo net: Devlet elindeki Mythos, gizli sistemleri ve federal kodları tararken sessiz onay ve aktif kullanım alıyor; halka açık versiyonu ise yabancı kullanıcılar dahil herkesin erişimine açık olduğu anda ulusal güvenlik endişeleri ve düzenleyici baskıyla karşılaşıyor. Reuters'ın belirttiği gibi, "Anthropic, siber güvenlik önlemleri içerdiğini söylediği Fable adlı halka açık bir Mythos sürümü çıkardığında, Beyaz Saray aniden yabancıların modeli çalıştırmasını yasaklamasını talep etti. Bu, modelin küresel çapta kapatılmasını tetikledi." Anthropic'in gizlice ABD halka arzı (IPO) için başvurduğu da biliniyor. CISA, NSA ve potansiyel olarak diğer ajansların en yetenekli modelinizi aktif olarak kullanması, Pentagon kara listesinde olmaktan çok farklı bir konum ve şirket beş aydan kısa sürede birinden diğerine geçti.
Haziran sonunda AP'nin bir raporu, Mythos'un bir test çalışması sırasında yüksek hassasiyetli devlet sistemlerindeki güvenlik açıklarını tespit ettiğini ve bunun ajansların programı daraltmak yerine genişletme isteğini artırdığını ekledi. The Economist'in Senato İstihbarat Komitesi oturumuna dayandırdığı bir habere göre, Anthropic'in Mythos modeli NSA ve ABD Siber Komutanlığı tarafından yönetilen sınıflandırılmış sistemlerin neredeyse tamamına saatler içinde sızdı. Senatör Mark Warner, 11 Haziran'da her iki ajansı da yöneten General Joshua Rudd'ın kendisine doğrudan Mythos'un bunu haftalar içinde değil, saatler içinde başardığını söylediğini belirtti. The Economist'in aktardığına göre Warner, "Şifreleme güçlü bir teknolojiydi ancak uygulaması dardı. Yapay zeka çok daha güçlü ve çok yönlü. General Rudd bana Mythos'un sınıflandırılmış sistemlerimizin neredeyse tamamına haftalar içinde değil, saatler içinde sızdığını söyledi." dedi.
Şu ana kadar bulunan güvenlik açıklarının sayısı açıklanmamış olsa da, iki kaynak bu sayının büyük olduğunu belirtti. Bu gelişmeler, yapay zekanın siber güvenlikteki rolünün hem savunma hem de saldırı açısından ne kadar kritik hale geldiğini gösteriyor. Mythos gibi modeller, geleneksel güvenlik taramalarının gözden kaçırabileceği karmaşık zafiyetleri dakikalar içinde bulabiliyor. Ancak aynı teknolojinin kötü niyetli kullanımı da büyük bir tehdit oluşturuyor. CISA'nın bu hamlesi, ABD hükümetinin yapay zeka destekli siber savunmaya verdiği önemi vurgularken, aynı zamanda bu tür güçlü araçların kontrolü ve etik kullanımı konusundaki karmaşık dengeyi de gözler önüne seriyor. Gelecekte, Mythos benzeri yapay zeka modellerinin hem devlet hem de özel sektör tarafından yaygın olarak kullanılması beklenirken, bunların güvenliğinin sağlanması ve kötüye kullanımının önlenmesi en büyük zorluklardan biri olacak.
Kaynak: securityaffairs.com
