Siber suçlular, meşru işlerde çalışan birçok çalışanla aynı endişeleri yaşıyor: Birçoğu, yapay zeka araçlarının ve büyük dil modellerinin (LLM) yükselişinin işlerini kaybetmelerine neden olabileceğinden endişe ediyor.
Bu, Sophos Karşı Tehdit Birimi'ndeki (CTU) siber güvenlik araştırmacıları tarafından siber suç tartışma panoları, karanlık web pazarları ve mesajlaşma uygulamalarındaki sohbetlerin analizine göre, bilgisayar korsanlarının yapay zeka uygulamaları ve araçlarının yükselişiyle ilgili bazı umut ve korkularını gözler önüne seriyor.
Araştırma, yapay zeka tabanlı hackleme araçlarının yeraltı pazarlarında nasıl giderek daha yaygın bir teklif haline geldiğini ayrıntılarıyla anlattı. Hem köklü hem de yeni satıcılar, saldırganlara kimlik avı ve sosyal mühendislik kampanyaları oluşturma, kötü amaçlı yazılım geliştirme, güvenliği ihlal edilmiş ağlarda eylemler gerçekleştirme ve daha pek çok konuda yardımcı olabilecek yapay zeka destekli kitler sunduğunu iddia ediyor.
Örneğin, Sophos blog yazısı, bir kullanıcının dil engellerini aşmak, geniş ölçekte içerik dağıtmak ve tuzağa yanıt veren kurbanlara hızlı bir şekilde yanıt vermek için üretken yapay zekanın kullanımını nasıl araştırdığını ayrıntılı olarak açıkladı.
Sonuç ve Değerlendirme
Bir başkası, aşk dolandırıcılığı için gerçekçi profiller oluşturmaya yardımcı olmak amacıyla derin sahte ses ve video profilleri oluşturmak için yapay zekayı nasıl kullandıklarını ayrıntılı olarak anlattı. Bu arada, bazı satıcılar kötü amaçlı yazılım kodlamasını yapay zeka ile otomatikleştirdiğini iddia eden araçlar sunuyor.
Sophos'a göre siber suçlara yönelik yapay zeka araç setlerinin yükselişini herkes memnuniyetle karşılamadı. Siber suç yeraltı forumlarındaki ve Telegram kanallarındaki kullanıcılar, yapay zekanın yükselişinin suç ekonomisindeki rolleri, fiyatlandırmayı ve rekabet avantajını nasıl yeniden şekillendirebileceği konusunda endişelerini dile getirdi.
Suçlular Yapay Zekanın Çalışmalarına Mal Olacağından Korkuyor
Önemli Gelişmeler
Bazı kullanıcılar, yapay zeka araçları satan kişilerin, kötü amaçlı yazılım komut dosyalarını ve kodlarını manuel olarak yazanların işini etkin bir şekilde elinden alabileceği yönündeki endişelerini açıkça dile getirdi. Birçok yasal kodlayıcı ve yazılım mühendisi gibi bazı siber suçlular da yapay zekanın bu işlere gelebileceğinden endişe ediyor.
Ancak siber suç forumları konu hakkında bölünmüş durumda ve herkes yapay zeka destekli siber suçların potansiyeli konusunda ikna olmuş değil.
Araştırmacılar, Anthropic geliştiricilerinin güvenlik açıklarını hızlı bir şekilde tespit edebildiğini iddia ettiği güçlü bir sınır yapay zeka aracı olan Claude Mythos Preview'un piyasaya sürülmesinin ardından yer altı forumlarında yapay zekayla ilgili tartışmalarda bir artış olduğunu belirtiyor.
Detaylar ve Etkileri
Devamını Okuyun: Mythos ve GPT-Cyber Gibi Fronter Yapay Zeka Modelleri Modern Siber Güvenlik İçin Ne Anlama Geliyor?
Siber suç forumlarının pek çok üyesi, şirket yöneticilerinin yeni modellerin potansiyeline "aşırı tepki verdiklerini" iddia ederek, Mythos'un ve diğer öncü LLM'lerin gücü hakkındaki şüphelerini dile getirdi.
Ancak diğerleri, giderek artan güçlü yapay zeka modellerinin geliştirilmesinin kendileri için ne anlama geleceği konusunda endişelerini dile getirmeye devam etti. Bir kullanıcı, yapay zeka destekli siber suçların artmasının, manuel olarak çalışan kötü amaçlı yazılım geliştiricilerinin parasını kaybetmesine yol açmakla kalmayıp, aynı zamanda geliştiricilerin kodlamalarını yapay zekaya yaptırdıkça "ürünlerin" daha da kötüleşeceği konusunda uyardı.
Teknik Analiz
Meşru işyerleri gibi, yapay zeka destekli araçların yeraltı forumlarındaki avantajları ve dezavantajları hakkındaki tartışmalar da öngörülebilir gelecekte devam edecek gibi görünüyor.
Ancak araştırma, tartışmanın her iki tarafındaki tartışmanın en sesli savunucular ve muhalifler tarafından yürütüldüğünü ve bazı tehdit aktörlerinin forum tartışmalarına katılmayabileceğini, bunun yerine teknolojinin pratik sınırlarını ve ticari çıkarımlarını sessizce keşfetmeyi seçebileceğini de kaydetti.
Nasıl Önlem Alınmalı?
Sophos blog yazısı, meşru kuruluşlara yapay zeka destekli siber saldırıların yükselişiyle yüzleşmeye nasıl hazırlanabilecekleri konusunda tavsiyelerle sona erdi.
Gelecekte Ne Bekleniyor?
Sophos CTU, "Yapay zeka araçları ve yetenekleri geliştikçe, kuruluşların yerleşik ticarete ve gelecekteki yapay zeka destekli hızlandırmaya maruz kalmayı azaltmak için zamanında yama uygulama, çok faktörlü kimlik doğrulama (MFA) ve geçiş anahtarı kullanımı gibi güçlü siber hijyene öncelik vermeye devam etmesi gerekiyor" dedi.
"Savunucuların ayrıca saldırılar artmadan önce anormal faaliyetleri tespit etmek ve azaltmak için ortamlarında görünürlüğü sürdürmeleri gerekiyor."
