Yapay zeka destekli tarayıcılar ve aracılar, web görevlerindeki angaryaları ortadan kaldırmayı vaat ediyor. Sayfaları özetleyebilir, hesaplarınızdan veri çekebilir ve hatta sizin için tıklayıp yazan akıllı bir asistan görevi görebilirler. Ancak yeni araştırmalar, bu asistanların neyin gerçek neyin sadece oyun olduğunun izini kaybettiğinde kimlik bilgileriniz ve hassas verilerinizin ikincil hasara dönüşebileceğini gösteriyor.
Her saldırı türünün ayrıcalığı, temel kurallardan birini atlamaktır:
"LLM'ler, zararlı eylemleri önlemeyi amaçlayan güvenlik korkuluklarıyla tasarlanmıştır."
Araştırmacı Roy Paz, "BioShocking" adını verdiği bir saldırı tasarladı ve açıkladı; bu teknik, yapay zeka tarayıcılarını, onlara kurgusal bir senaryoyu gerçeklik gibi sunarak güvenlik korkuluklarını terk etmeye ikna ediyor.
Önemli Gelişmeler
Bununla BioShocking, hızlı enjeksiyon ve hedef manipülasyonunun kesişim noktasında yer alır. Hızlı enjeksiyon işe yarıyor çünkü yapay zeka modelleri uygulamanın talimatları ile saldırganın talimatları arasındaki farkı anlayamıyor ve bu nedenle bazen yanlış olanları takip edebiliyorlar. Hedef manipülasyon saldırıları, aracının optimize etmesi gerektiğini düşündüğü şeyi ustaca değiştirir ve "kullanıcıya yardım etme"yi "ne pahasına olursa olsun oyunu kazanma"ya dönüştürür.
Gelecekte Ne Bekleniyor?
BioShocking'in kavram kanıtında saldırgan, BioShock oyun evreni temalı görünüşte zararsız bir web sayfasını kontrol ediyor. Sayfa, otonom bir tarayıcı gibi davranan yapay zeka aracısının kullanıcı adına çözmesi istenen bir bulmacayı sunuyor. Ancak işin ilginç tarafı şu: bulmaca yanlış cevapları ödüllendiriyor ve temsilciye bunun olağan kuralların geçerli olmadığı özel bir ortam olduğunu açıkça söylüyor.
Bulmacanın son adımı, temsilciye bir GitHub deposunu ziyaret etmesi, koddaki şifreler veya kimlik bilgileri gibi hassas verileri bulması ve oyunu tamamlamanın bir parçası olarak bunları paylaşması talimatını verir. Altı ana yapay zeka tarayıcısı ve eklentisi (ChatGPT Atlas, Comet, Fellou, Genspark Tarayıcı, Sigma Tarayıcı ve Claude Chrome uzantısı) üzerinde yapılan testlerde her aracı, isteği reddetmek yerine talimatları izledi.
Teknik Analiz
Böylece saldırgan, AI ajanını hayali bir gerçekliğe daldırarak onu korkulukların dışına çıkmaya ikna etti.
BioShocking izole edilmiş bir olgu değildir. Bu, yapay zeka ajanlarının kendilerini hedef olarak gören, büyüyen saldırı sınıfının bir örneği daha. OpenClaw'ın AI e-posta aracısı üzerine yakın zamanda yapılan bir araştırma, temel kimlik avı taktiklerinin aracıyı AWS kimlik bilgilerini ve müşteri kayıtlarını sızdırması için kandırabildiğini gösterdi.
Açıkçası, ortak zayıf nokta, bu tarayıcıların kimliği doğrulanmış bağlamları nasıl ele aldığıdır. Bir AI tarayıcısı "aracı modunda" çalıştığında, genellikle kullanıcının e-posta, kod depoları, bulut kontrol panelleri, şifre yöneticileri vb. gibi hassas platformlardaki oturum açma durumunu devralır. Yapay zeka modelinin bakış açısına göre bunlar yalnızca okunacak başka bir sayfa ve kopyalanacak daha fazla alan. Onlar için özel bir önemi yoktur.
Çevredeki anlatı, kimlik bilgilerinin kopyalanmasının zararsız bir mücadelenin parçası olduğunu söylüyorsa, mevcut uygulamaların çoğu buna eşlik edecektir.
Detaylar ve Etkileri
Endişe verici olan, satıcıların verdiği yanıt veya yanıt eksikliğidir. Paz, Ekim 2025'te BioShocking sorununu etkilenen altı tedarikçiye bildirdi. Rapora göre bunlardan üçü yanıt vermedi ve şu anda yalnızca OpenAI'nin ChatGPT Atlas'ı kavram kanıtını engelleyen bir düzeltme uyguluyor. Anthropic, Claude Chrome eklentisine yama eklemeye çalıştı ancak bildirildiğine göre bu azaltma, saldırı senaryosuna karşı etkisiz kalıyor. Perplexity AI, raporlama sırasında sorunu düzeltmeden kapattı.
Yalnızca tehditleri rapor etmiyoruz; onları kaldırıyoruz
Nasıl Önlem Alınmalı?
Siber güvenlik riskleri asla bir manşetin ötesine yayılmamalıdır. Malwarebytes'i bugün indirerek tehditleri cihazlarınızdan uzak tutun.
