Siber suçlular, meşru işlerde çalışan birçok çalışanla aynı endişeyi yaşıyor: Yapay zeka araçlarının ve büyük dil modellerinin (LLM'ler) yükselişi, işlerini kaybetmelerine neden olabilir. Sophos Counter Threat Unit (CTU) siber güvenlik araştırmacıları, siber suç tartışma panoları, karanlık ağ pazaryerleri ve mesajlaşma uygulamalarındaki konuşmaları analiz ederek, hackerların yapay zeka uygulamaları ve araçlarının yükselişiyle ilgili umutlarını ve korkularını ortaya koydu.
Araştırma, yapay zeka tabanlı hack araçlarının yeraltı pazaryerlerinde giderek daha yaygın bir teklif haline geldiğini detaylandırdı. Hem yerleşik hem de yeni satıcılar, saldırganların kimlik avı ve sosyal mühendislik kampanyaları oluşturmasına, kötü amaçlı yazılım geliştirmesine, tehlikeye atılmış ağlarda eylemler gerçekleştirmesine ve daha fazlasına yardımcı olabilecek AI destekli kitler sunduklarını iddia ediyor.
Örneğin, Sophos blog yazısı, bir kullanıcının dil engellerini aşmak, içeriği ölçekte dağıtmak ve yanıt veren kurbanlara hızla yanıt vermek için üretken yapay zekayı nasıl kullandığını ayrıntılı olarak açıkladı. Bir başka kullanıcı, dolandırıcılık için gerçekçi profiller oluşturmak amacıyla deepfake ses ve video profilleri oluşturmak için yapay zekayı nasıl kullandığını anlattı. Bu arada, birçok satıcı, kötü amaçlı yazılım kodlamasını AI ile otomatikleştirdiğini iddia eden araçlar sunuyor.
Sophos'a göre, herkes siber suç için AI araç setlerinin yükselişini kucaklamadı. Siber suç yeraltı forumları ve Telegram kanallarındaki kullanıcılar, AI'nın yükselişinin suç ekonomisindeki rolleri, fiyatlandırmayı ve rekabet avantajını nasıl yeniden şekillendirebileceği konusunda endişelerini dile getirdi. Bazı kullanıcılar, AI araçları satanların, manuel olarak kötü amaçlı yazılım komut dosyaları ve kodları yazanlardan işi aktif olarak alabileceğinden endişe duyduklarını açıkça ifade etti.
Önemli Gelişmeler
Ancak siber suç forumları bu konuda bölünmüş durumda ve herkes AI destekli siber suçun potansiyeline ikna olmuş değil. Araştırmacılar, Anthropic geliştiricilerinin güvenlik açıklarını hızla tespit edebildiğini iddia ettiği güçlü bir sınır AI aracı olan Claude Mythos Preview'ın piyasaya sürülmesinin ardından yeraltı forumlarında AI ile ilgili tartışmalarda bir artış olduğunu belirtti. Birçok siber suç forumu üyesi, Mythos ve diğer sınır LLM'lerinin gücü konusunda şüphecilik ifade ederek, kurumsal yöneticilerin yeni modellerin potansiyeline 'aşırı tepki' verdiğini iddia etti.
Ancak diğerleri, giderek daha güçlü AI modellerinin geliştirilmesinin kendileri için ne anlama geleceği konusunda endişelenmeye devam etti. Bir kullanıcı, AI destekli siber suçun yükselişinin manuel kötü amaçlı yazılım geliştiricilerinden para almakla kalmayıp, aynı zamanda geliştiriciler kodlamayı AI'ya dışarıdan temin ettikçe 'ürünlerin' de kötüleşeceği uyarısında bulundu. Meşru işyerlerinde olduğu gibi, yeraltı forumlarında AI destekli araçların avantajları ve dezavantajları etrafındaki tartışmaların öngörülebilir gelecekte devam etmesi bekleniyor.
Araştırma ayrıca, her iki taraftaki tartışmanın en sesli savunucular ve karşıtlar tarafından yönetildiğini ve bazı tehdit aktörlerinin forum tartışmalarına katılmak yerine teknolojinin pratik sınırlarını ve zanaatkarlık etkilerini sessizce keşfetmeyi tercih edebileceğini belirtti. Sophos blog yazısı, meşru kuruluşlara AI destekli siber saldırıların yükselişiyle yüzleşmek için nasıl hazırlanabileceklerine dair tavsiyelerle sona erdi.
Teknik Analiz
Sophos CTU, 'AI araçları ve yetenekleri geliştikçe, kuruluşlar zamanında yama yapma, çok faktörlü kimlik doğrulama (MFA) ve anahtar kullanımı gibi güçlü siber hijyene öncelik vermeye devam etmeli, böylece yerleşik zanaatkarlığa ve gelecekteki AI destekli hızlanmaya maruz kalmayı azaltmalıdır' dedi. 'Savunmacılar ayrıca, saldırılar tırmanmadan önce anormal etkinliği belirlemek ve azaltmak için ortamlarında görünürlük sağlamalıdır.'
Kaynak: infosecurity-magazine.com
