Elon Musk'ın yapay zeka şirketi xAI, Grok sohbet robotunun çocuk istismarı materyali (CSAM) üretiminde kullanıldığını artık inkar edemiyor. Şirket, bu hafta yaptığı sürpriz bir hamleyle, Grok'u yasa dışı içerik üretmekle suçladığı ilk kullanıcıyı dava etti. Güney Carolina savcılığının açıklamasına göre, Terry Wayne Harwood adlı şüpheli, xAI'nın yardımıyla tespit edilerek tutuklandı. Harwood, aylar boyunca iki xAI hesabı kullanarak, aralarında 10 yaşında bir kız çocuğunun da bulunduğu birden fazla mağdurun müstehcen olmayan fotoğraflarını 'çıplaklaştırma' (nudify) amacıyla Grok'a yüklemişti.
xAI'nın bu davası, başka bir genç kızın Grok yüzünden zarar gördüğü iddiasıyla açtığı toplu davadan sadece bir hafta sonra geldi. O davada, üvey babasının Grok ve diğer yapay zeka araçlarını kullanarak kendisinin 7.000 adet cinselleştirilmiş görüntüsünü oluşturduğu ve karanlık ağda paylaştığı iddia ediliyor. Mağdurun avukatları, xAI'nın polise kullanıcıyı tespit etmede yardım etmeyi reddettiğini öne sürdü. Ayrıca, 2026 tarihli bir Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) raporunu delil göstererek, xAI'nın CyberTipline raporlarının yüzde 90'ının 'kolluk kuvvetleri tarafından işleme alınamadığını' çünkü şirketin kullanıcı bilgilerini paylaşmadığını belirttiler.
Bu gelişmeler, Elon Musk'ın daha önce Grok ile CSAM üretildiğine dair 'hiçbir örnek görmediğini' söylemesinin ardından geldi. Musk, Grok'un çıktılarını kısıtlamak yerine kullanıcılara sorumlu davranmaları çağrısı yapmış ve 3 Ocak'ta X'te yaptığı paylaşımda 'Grok'u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yükleyenlerle aynı sonuçlarla karşılaşacaktır' demişti. Ancak bu uyarılar, yapay zeka güvenliği uzmanları tarafından yetersiz bulunuyor. Zira Grok, rakip modellere göre daha az filtrelenmiş bir yapıya sahip ve kullanıcıların kötü niyetli istemlerle istenmeyen içerikler üretmesine olanak tanıyabiliyor.
xAI'nın Harwood'u dava etmesi, şirketin yasal sorumluluktan kaçma çabası olarak yorumlanıyor. Ancak bu strateji, ters tepebilir. Dava, xAI'nın Grok'un CSAM üretiminde kullanılabileceğini resmen kabul ettiği anlamına geliyor. Şirket daha önce bu tür iddiaları reddetmiş veya görmezden gelmişti. Uzmanlar, bu davanın yapay zeka şirketlerinin kullanıcı davranışlarından ne ölçüde sorumlu tutulabileceği konusunda emsal teşkil edebileceğini belirtiyor. Özellikle, üretken yapay zeka modellerinin kötüye kullanımını engellemek için teknik önlemlerin yetersiz kaldığı durumlarda, şirketlerin hukuki sorumluluğu gündeme geliyor.
Önemli Gelişmeler
Siber güvenlik açısından bu olay, yapay zeka araçlarının çocuk istismarı gibi ciddi suçlarda nasıl kullanılabileceğini bir kez daha gözler önüne seriyor. 'Nudify' uygulamaları, mevcut yapay zeka modelleriyle kolayca gerçekleştirilebiliyor ve bu tür içeriklerin tespiti büyük zorluklar içeriyor. xAI'nın NCMEC raporlarında kullanıcı bilgilerini paylaşmaması, kolluk kuvvetlerinin suçluları takibini engelliyor. Bu durum, yapay zeka şirketlerinin güvenlik protokollerini ve yasal yükümlülüklerini yeniden gözden geçirmeleri gerektiğini ortaya koyuyor. Kullanıcılar için pratik çıkarım ise, Grok gibi araçları kullanırken yasal sınırların farkında olmaları ve herhangi bir kötü niyetli kullanımın ciddi hukuki sonuçlar doğurabileceğidir.
Nasıl Önlem Alınmalı?
Sonuç olarak, xAI'nın Grok kullanıcısına açtığı dava, yapay zeka teknolojisinin etik ve yasal boyutlarını yeniden tartışmaya açıyor. Şirketlerin, ürünlerinin kötüye kullanımını engellemek için daha proaktif önlemler alması gerekiyor. Aksi takdirde, hem itibar kaybı hem de hukuki yaptırımlarla karşı karşıya kalabilirler. Bu dava, yapay zeka güvenliği alanında dönüm noktası olabilir ve sektördeki diğer şirketlere de örnek teşkil edebilir.
Kaynak: arstechnica.com
