Geçtiğimiz hafta sonu, Anthropic şirketi yeni Claude Fable 5 ve Mythos 5 yapay zeka modellerini, ABD hükümetinin 'herhangi bir yabancı uyruklunun' bu hizmetleri kullanmasını yasaklayan ihracat kontrolü direktifi nedeniyle çevrimdışına aldı. Şirket, Cuma gününden bu yana Beyaz Saray ile görüşmelerini sürdürüyor ancak henüz hizmetleri yeniden başlatmasına izin verecek bir anlaşma sağlayamadı. Mythos 5 ve Claude Fable 5, siber güvenlik uzmanlarına yazılım açıklarını bulma ve yamalama konusunda yardımcı olurken, kötü niyetli kişilerin bu açıkları istismar etmesine de olanak tanıyan çift taraflı bir kılıç olarak tanımlanıyor.
Anthropic, Nisan ayında Mythos Preview adlı sürümü Project Glasswing adlı bir çalışma grubu aracılığıyla seçkin bir konsorsiyuma sunmuştu. Mythos 5 ve Claude Fable 5 ise geçen hafta genel kullanıma açıldı, ancak Fable 5'te biyoloji ve siber güvenlikle ilgili sorulara yanıt verme yeteneği kısıtlandı. ABD yönetimi, Fable 5'in güvenlik önlemlerinin devre dışı bırakılarak Mythos 5'in tüm yeteneklerine erişilebileceğini ve bunun ulusal güvenlik riski oluşturduğunu belirterek her iki modeli de kısıtlama kararı aldı.
Uzmanlar, bu kurumsal çatışmanın aslında daha büyük bir gerçeği geciktirdiğini veya gizlediğini söylüyor: Anthropic şu an buzdağının görünen ucu olabilir, ancak yapay zeka yetenekleri genel olarak ve birden fazla şirket ile açık kaynak geliştiricilerin modelleri, çok yakında Mythos 5'in yeteneklerine sahip olacak - hatta belki de zaten sahipler. TPO Group'un güvenlik şefi Tarah Wheeler, 'Anthropic'in Mythos'a benzer yetenekler geliştirecek başka rakipleri olmayacağını düşünmek son derece dar görüşlülük. Diğer şirketler de muhtemelen bu yeteneklere sahip ve Anthropic'in mevcut düzenleyici ortamda nasıl muamele gördüğünü izleyerek onları yedekte tutuyor' diyor.
Anthropic'in kendisi de bu noktanın altını çiziyor. Şirketin kırmızı takım lideri Logan Graham, 'Gerçek mesaj, bunun modelle veya Anthropic'le ilgili olmadığı. 6, 12, 24 ay içinde bu yeteneklerin yaygın olarak bulunacağı bir dünyaya şimdiden hazırlanmalıyız' dedi. Araştırmacı Bruce Schneier ise 'Küçük, ucuz, açık kaynak modeller, bazen tek başlarına bazen birlikte çalışarak daha sofistike yönlendirmelerle Mythos/Fable'ın performansını yakalayabilir. Önümüzdeki aylarda diğer modellerin de Mythos/Fable'ın yaratıcılığını ve ısrarcılığını yakalamasını beklemeliyiz' diye ekliyor. Uzmanlar, Beyaz Saray ve dünya hükümetlerinin, yapay zeka yeteneklerindeki ilerlemelerle kaçınılmaz olarak nasıl başa çıkacaklarına dair daha geniş ve şeffaf planlar geliştirmeye odaklanması gerektiğini vurguluyor.
