Geçtiğimiz hafta, Five Eyes istihbarat ittifakına üye ülkelerin ulusal güvenlik ajansları, yapay zeka modellerinin artan siber risklerine dair ortak bir bildiri yayımladı. Bildiride, özellikle AI modellerinin sistemlere ve ağlara otonom olarak sızma yeteneği vurgulandı. Her ne kadar bazı haber başlıkları abartılı olsa da, açıklama oldukça ölçülüydü ve verilen tavsiyeler, herkesin yıllardır söylediği standart önerilerden oluşuyordu. Ancak bu kez, aciliyet duygusu çok daha belirgindi. İnternet riskleri yeni bir şey değil; büyük ya da küçük siber saldırılar, mevcut yapay zeka modellerinden çok önce de önemli bir sorundu.
On yıllar içinde değişen ve yapay zekanın daha da hızlandırdığı şey, beceri (skill) ile yetenek (ability) arasındaki fark oldu. İnsanlık tarihinin büyük bölümünde bu iki terim eş anlamlıydı, ancak bilgisayarlar bu ikiliyi birbirinden ayırdı. Aradaki fark büyüdükçe, AI araçlarıyla donatılmış insanlar daha fazlasını yapabiliyor: daha fazla yazı, daha fazla araştırma, daha fazla analiz ve maalesef daha fazla hasar. Bu modeller, çok az ayrıntılı yönlendirmeyle ağlara otonom olarak sızabiliyor, veri çalabiliyor, fidye yazılımları dağıtabiliyor ve sistemleri yok edebiliyor. Çözüm ise, savunma için yapay zekayı kullanmaktan geçiyor.
1998'de, L0pht adlı hacker grubundan yedi kişi Kongre'ye ifade verdi. Çoğunlukla bilgisiz bir Senato komitesine, interneti 30 dakika içinde çökertebileceklerini söylediler. Bu kısmen gerçek, kısmen de gösterişti. Ancak önemli bir noktayı ortaya koyuyordu: Sistemlere sızmak, veri çalmak ve hasar vermek beceri gerektiriyordu. L0pht hackerlarını, 'script kiddies' olarak alay edilen hackerlar ile karşılaştırın. Bunlar bilgisayarları veya güvenliği anlamıyorlardı; başkaları tarafından yazılmış hacker araçlarını kullanıyorlardı. Eylemleri minimum beceri ve daha da az bilgi gerektiriyordu. Ancak bu araçlar yaygınlaştıkça potansiyel saldırgan sayısı arttı.
Teknik Analiz
Bu sayı, önceden yazılmış saldırı araçlarının kalitesi ve bulunabilirliği arttıkça yükselmeye devam etti. Yapay zeka ile bu artış dramatik hale geldi. Günümüzün AI sistemleri - sadece öncü modeller değil, çoğu - siber saldırıları otomatik olarak gerçekleştirebiliyor. Yetenekli saldırganların elinde daha iyi sonuç verseler de, giderek artan şekilde minimal yönlendirmeyle otonom hareket edebiliyorlar. Becerisi olmayan ama yeteneği olan insanlar genellikle dışarıdan kişilerdir, herhangi bir profesyonel topluluğun parçası değildirler ve hiçbir kural veya norma bağlı değildirler. Bu durum siber güvenlikten çok daha geneldir. Her doktor size iz bırakmadan birini nasıl zehirleyeceğinizi anlatabilir; birçok virüs araştırmacısı biyolojik silah yapmayı bilir; her köprü mühendisi bir köprüyü yıkmak için patlayıcıları nereye koyacağını söyleyebilir. Katil doktorların ve terörist mühendislerin nadir olmasının nedeni, bu becerileri edinme sürecinin aynı zamanda ahlaki ve etik bir kod aşılamasıdır. Her rastgele kişinin iyi zehirleme tavsiyesine erişimi varsa, bu hepimizi tehlikeye atar.
Nasıl Önlem Alınmalı?
Modern AI sistemleri, insanlara zararlı şeyler yapmalarında yardımcı olan evrensel bir danışman işlevi görüyor. Mevcut AI devleri, kullanıcıların zarar vermeye yönelik sorular sormasını engellemek için korkuluklar inşa etmeye çalışsa da, bu uzun vadede işe yaramayacak. Daha küçük, daha ucuz, açık kaynak modeller - insanların bilgisayarlarında çalıştırabileceği modeller ve özellikle birlikte çalışan model grupları - OpenAI ve Anthropic gibi şirketlerin öncü modelleri kadar iyi ve giderek daha iyi hale geliyor. Bu modeller, script kiddie hacker araçları gibi elden ele dolaşacak ve hiçbir korkuluğa sahip olmayacak. AI modellerine insanları gözetleme ve kötü niyetli komutları yetkililere bildirme talimatı vermek de benzer nedenlerle başarısız oluyor. Büyük şirketler bunu yapabilir, ancak yerel olarak çalışan açık kaynak modeller yapmayacak. Bu bize en iyi ihtimalle birkaç ay kazandırabilir.
Üçüncü bir olasılık, modellerin kendilerini bilgisayarlara sızamaz, biyolojik silah yapamaz veya insanlara zarar verecek başka bir şey yapamaz hale getirmektir. Bu da işe yaramayacak, çünkü doktorlara zehirlenmeleri tedavi etmeyi öğretirken aynı zamanda zehirlemeyi de öğretmemizle aynı neden: aynı bilgi. İnşaat ve yıkım da aynı. Siber güvenlik de aynı. AI modellerinin bilgisayar kodlarını incelemesini, güvenlik açıklarını bulmasını ve otomatik olarak düzeltmesini istiyoruz. Bunun kolektif güvenliğimize faydası çok büyük olacak. Ne yazık ki, aynı bilgi saldırılar için de kullanılabiliyor. Bizi daha yüksek volatiliteye sahip bir dünyaya bırakan bu durumda, AI asistanlarıyla süper güçlendirilmiş insanlar hem harika hem de korkunç şeyler yapabilecek.
Five Eyes bildirisine geri dönelim. Önerdikleri her şey, güvenlik profesyonellerinin yıllardır, hatta on yıllardır tavsiye ettiği şeyler. 1998'deki 'Zayıf bilgisayar güvenliği: Halk risk altında mı?' başlıklı kongre oturumunda da konuşulanlar bunlardı. Five Eyes bile güvenlik tavsiyelerinin yeni olmadığını, sadece daha acil olduğunu kabul etti. Yeni olan, işlerin ne kadar hızlı değiştiği: 'Öncü AI gelişiminin hızlı temposu, siber risk varsayımlarının yıllar içinde değil, aylar içinde güncelliğini yitirebileceği anlamına geliyor. Harekete geçmeli ve gelişen tehditlere uyum sağlamaya ve dayanmaya hazır olmalıyız.' Five Eyes, AI teknolojisinin - mutlaka sohbet robotları değil, daha genel olarak AI - savunmanın her yönünü güçlendirmek için kullanılması gerektiğini belirtiyor: 'Güvenlik açıklarını daha erken tespit etmek, yazılım kalitesini iyileştirmek, olağandışı davranışları izlemek ve olaylara daha hızlı yanıt vermek - böylece olayların maliyetini ve etkisini azaltmak.' Five Eyes güvenlik ajanslarından mükemmel tavsiyeler. Bunu, AI'nın yalnızca siber güvenlik değil, artırdığı her risk için yapmalıyız.
Kaynak: schneier.com
