Geçtiğimiz hafta sonu, Anthropic şirketi yeni Claude Fable 5 ve Mythos 5 yapay zeka modellerini, ABD hükümetinin 'herhangi bir yabancı uyruklu'nun bu hizmetleri kullanmasını yasaklayan ihracat kontrol direktifi sonrası kullanımdan kaldırdı. Şirket, Cuma gününden bu yana Beyaz Saray ile görüşmelerini sürdürse de, hizmetleri yeniden başlatmasına izin verecek bir anlaşma henüz sağlanamadı. Bu gelişme, yapay zeka modellerinin çift kullanımlı doğasına ilişkin tartışmaları alevlendirdi.
Anthropic, Nisan ayında Mythos Preview'un piyasaya sürülmesinden bu yana, modelin yalnızca yazılım güvenlik açıklarını bulup bunları savunmacılar için yamamaya yardımcı olmakla kalmayıp, aynı zamanda kötü niyetli kişiler tarafından kullanılabilecek istismar yöntemleri de geliştirebildiğini belirtiyor. Şirket, Mythos 5 ve Claude Fable 5'in lansmanında bu çift taraflı kılıcı vurgulayarak, 'AI modellerinin ileri düzey kullanımının büyük bir kısmı çift kullanımlıdır: siber güvenlik uzmanları ve biyoloji araştırmacıları için faydalı olan sorgular, kötü niyetli aktörlerin elinde tehlikeli olabilir' ifadelerini kullandı.
Uzmanlar, bu kurumsal çatışmanın yalnızca acı bir gerçeği geciktirdiğini veya maskelediğini söylüyor: Anthropic şu an buzdağının görünen kısmı olabilir, ancak genel olarak AI yetenekleri ve birden fazla şirket ile açık ağırlıklı geliştiricilerden gelen modeller, yakın gelecekte Mythos 5'e benzer yeteneklere sahip olacak - hatta şimdiden sahip olabilirler. TPO Group'un güvenlik şefi Tarah Wheeler, 'Anthropic'in diğer rakiplerinin Mythos'a benzer yetenekler geliştirmeyeceğini ya da zaten geliştirmediklerini düşünmek son derece kısa görüşlülüktür' diyor.
Beyaz Saray ve dünya çapındaki hükümetlerin, siber güvenlik ve diğer hassas alanlarda AI yeteneklerindeki ilerlemelerle kaçınılmaz olarak nasıl başa çıkacaklarına dair daha geniş ve şeffaf planlar geliştirmeye odaklanmaları gerektiği belirtiliyor. Bruce Schneier, 'Küçük, ucuz, açık kaynaklı modeller, bazen tek başlarına bazen birlikte çalışarak, daha karmaşık yönlendirmelerle Mythos/Fable'ın performansını yakalayabilir. Önümüzdeki aylarda diğer modellerin de Mythos/Fable'ın yaratıcılığını ve azmini yakalamasını beklemeliyiz' diyor.
