Yapay zeka şirketi Anthropic, Claude Code adlı ürününe gizlice yerleştirdiği bir takip kodunu, bir güvenlik araştırmacısı tarafından ortaya çıkarılmasının ardından hızla kaldırdı. 'Thereallo' rumuzlu bir web geliştiricisi, Claude Code'daki gizlilik sorunlarını araştırırken, şirketin 'prompt steganography' yöntemiyle Çin'deki kullanıcıları 'göz önünde saklayarak' izleyen bir kod buldu. Kod, kötü niyetli olmasa da, kullanıcıların zaman dilimi, proxy ve Çin'deki yapay zeka laboratuvarlarıyla bağlantılarını Anthropic'e sessizce iletiyordu. Şirket, bu laboratuvarları distilasyon saldırılarıyla suçlamıştı.
Anthropic mühendisi Thariq Shihipar, X üzerinde yaptığı açıklamada, takip kodunun Mart ayında bir 'deney' olarak eklendiğini doğruladı. Shihipar, kodun 'yetkisiz satıcılardan kaynaklanan hesap kötüye kullanımını önlemek ve distilasyona karşı korunmak' amacı taşıdığını belirtti. The Washington Post'un haberine göre, yetkisiz satıcılar ücretsiz modellere erişimi ayda 1 dolara, aylık 100 dolarlık pro aboneliklerini ise sadece 12 dolara satıyordu. Şirket, kodun aslında bir süredir kaldırılmayı beklediğini ve daha güçlü önlemler alındığını savundu.
Ancak gizlilik savunucuları bu açıklamayı yetersiz buldu. Kodun, Anthropic'in kullanıcıları gözetlemek için sınırları aşmaya istekli olduğunun kanıtı olduğu uyarısında bulundular. Özellikle Anthropic'in, Trump yönetimiyle Claude'un ABD kullanıcılarını gözetlemesine izin vermeyerek karşı karşıya gelmesi ve bu nedenle Beyaz Saray'a dava açması, bu gizli takipçiyi daha da şaşırtıcı kılıyor. Şirketin gözetim karşıtı duruşu, bu olayla birlikte sorgulanmaya başlandı.
Nasıl Önlem Alınmalı?
Bu olay, yapay zeka şirketlerinin kullanıcı gizliliği konusunda ne kadar ileri gidebileceği sorusunu gündeme getiriyor. Anthropic'in gizli takipçisi, kullanıcıların haberi olmadan veri toplamanın etik sınırlarını test ediyor. Şirket, kodun kaldırıldığını ve daha iyi önlemler alındığını belirtse de, bu tür yöntemlerin güveni zedelediği açık. Kullanıcıların, yapay zeka araçlarını kullanırken hangi verilerinin toplandığını bilme hakkı var. Anthropic'in bu olaydan sonra şeffaflık konusunda daha dikkatli olması bekleniyor.
