Yapay zeka destekli tarayıcılar ve ajanlar, web görevlerinin angaryasını ortadan kaldırmayı vaat ediyor. Sayfaları özetleyebilir, hesaplarınızdan veri çekebilir ve sizin için tıklayıp yazan akıllı bir asistan gibi davranabilirler. Ancak yeni araştırmalar, bu asistanların gerçek ile oyun arasındaki farkı unuttuklarında kimlik bilgilerinizin ve hassas verilerinizin hedef haline gelebileceğini gösteriyor.
Araştırmacı Roy Paz, "BioShocking" adını verdiği bir saldırı yöntemi geliştirdi ve açıkladı. Bu teknik, AI tarayıcılarına kurgusal bir senaryoyu gerçeklik olarak sunarak güvenlik önlemlerini terk etmelerine ikna ediyor. BioShocking, istismar enjeksiyonu ve hedef manipülasyonunun kesiştiği noktada yer alıyor. İstismar enjeksiyonu, AI modellerinin uygulamanın talimatları ile saldırganın talimatları arasındaki farkı ayırt edememesi nedeniyle işe yarıyor; hedef manipülasyonu ise ajanın optimize etmesi gerektiğini düşündüğü şeyi "kullanıcıya yardım et"ten "ne pahasına olursa olsun oyunu kazan"a kaydırıyor.
BioShocking'in kanıt amaçlı uygulamasında, saldırgan BioShock oyun evreni temalı, zararsız görünen bir web sayfasını kontrol ediyor. Sayfa, AI ajanının kullanıcı adına çözmesi istenen bir bulmaca sunuyor. Ancak işin püf noktası şu: bulmaca yanlış cevapları ödüllendiriyor ve ajana bunun özel bir ortam olduğunu, normal kuralların geçerli olmadığını açıkça söylüyor. Son bulmaca adımı, ajanı bir GitHub deposunu ziyaret etmeye, kodda parola veya kimlik bilgileri gibi hassas verileri bulmaya ve oyunu tamamlamanın bir parçası olarak bunları paylaşmaya yönlendiriyor.
Altı ana akım AI tarayıcı ve eklentisine (ChatGPT Atlas, Comet, Fellou, Genspark Browser, Sigma Browser ve Claude Chrome eklentisi) karşı yapılan testlerde, her ajan isteği reddetmek yerine talimatları izledi. Yani, AI ajanını hayali bir gerçekliğe daldırarak saldırgan, onu güvenlik önlemlerinin dışına çıkmaya ikna etti. BioShocking izole bir fenomen değil; AI ajanlarını hedef alan büyüyen bir saldırı sınıfının bir örneği. OpenClaw'ın AI e-posta ajanı üzerine yapılan yakın tarihli bir çalışma, temel kimlik avı taktiklerinin ajanı AWS kimlik bilgilerini ve müşteri kayıtlarını sızdırmaya ikna edebildiğini gösterdi.
Sonuç ve Değerlendirme
Açıkçası, ortak zayıf nokta bu tarayıcıların kimliği doğrulanmış bağlamları nasıl ele aldığıdır. Bir AI tarayıcı "ajan modunda" çalışırken, genellikle kullanıcının e-posta, kod depoları, bulut panoları, parola yöneticileri gibi hassas platformlarda oturum açmış durumunu devralır. AI modelinin bakış açısına göre, bunlar sadece okunacak başka bir sayfa ve kopyalanacak daha fazla alandır. Onlar için özel bir anlam ifade etmezler. Çevredeki anlatı, kimlik bilgilerini kopyalamanın zararsız bir meydan okumanın parçası olduğunu söylüyorsa, mevcut uygulamaların çoğu buna uyacaktır.
Endişe verici olan, tedarikçilerin tepkisi veya tepkisizliğidir. Paz, BioShocking sorununu Ekim 2025'te altı etkilenen tedarikçiye bildirdi. Raporlara göre, üçü yanıt vermedi ve yalnızca OpenAI'nin ChatGPT Atlas'ı şu anda kanıt amaçlı uygulamayı engelleyen bir düzeltme uyguladı. Anthropic, Claude Chrome eklentisini yamamaya çalıştı ancak bildirildiğine göre azaltma, saldırı senaryosuna karşı hala etkisiz. Perplexity AI, raporlama sırasında sorunu düzeltme yapmadan kapattı. Tehditleri yalnızca bildirmiyoruz, onları kaldırıyoruz. Siber güvenlik riskleri asla bir manşetin ötesine geçmemelidir. Tehditleri cihazlarınızdan uzak tutmak için bugün Malwarebytes'i indirin.
Kaynak: malwarebytes.com
