Google, Çin merkezli bir dolandırıcılık grubuna karşı dava açtı. Outsider Enterprise adlı grup, Telegram üzerinden phishing-as-a-service (hizmet olarak kimlik avı) sunuyordu. Google'ın yasal başvurusuna göre, grup teknik bilgisi olmayan kişilere sahte web siteleri ve SMS kampanyaları kurma hizmeti veriyordu. Telegram kanallarında, Google'ın Gemini AI yapay zekasını kullanarak Google, YouTube ve New York E-ZPass gibi devlet kurumlarını taklit eden siteler oluşturma talimatları paylaşılıyordu. Grup, yaklaşık 300 hazır dolandırıcılık şablonu sunuyordu.
Google'ın bu davayı açması, yapay zeka destekli dolandırıcılıklara karşı artan mücadeleyi gösteriyor. Google, AT&T, Verizon ve T-Mobile ile iş birliği yaparak bu kötü amaçlı SMS'lerin birçoğunu engelledi. Ayrıca, Google Messages uygulamasındaki cihaz içi dolandırıcılık tespit özelliğinin, başarılı kimlik avı girişimlerini azalttığı belirtiliyor. Bu yapay zeka destekli özellik, her ay 10 milyar dolandırıcılık mesajını durduruyor ve Outsider Enterprise'ın faaliyetlerinin en azından bir kısmını yakalamış olması bekleniyor.
Outsider Enterprise'ın dolandırıcılık yöntemleri, özellikle teknik bilgisi olmayan kişileri hedef alıyor. Grup, kullanıcıların kimlik bilgilerini çalmak için sahte web siteleri ve SMS kampanyaları oluşturuyordu. Google'ın davası, bu tür yapay zeka destekli dolandırıcılıklara karşı hukuki yolları kullanma kararlılığını gösteriyor. Ancak, bu davanın caydırıcı etkisinin sınırlı olabileceği de belirtiliyor.
Google'ın bu hamlesi, yapay zeka teknolojilerinin kötüye kullanımına karşı önemli bir adım. Şirket, hem teknolojik önlemler hem de hukuki süreçlerle dolandırıcılıkla mücadele ediyor. Google Messages'taki AI koruması, kullanıcıları korurken, dava da dolandırıcılara karşı caydırıcı olmayı hedefliyor. Bu tür yapay zeka destekli tehditlerin artmasıyla, diğer teknoloji şirketlerinin de benzer önlemler alması bekleniyor.
