Geçtiğimiz hafta sonu, Anthropic yeni yapay zeka modelleri Claude Fable 5 ve Mythos 5'i, ABD hükümetinin 'herhangi bir yabancı uyruklunun' bu hizmetleri kullanmasını yasaklayan bir ihracat kontrolü direktifi sonrasında çevrimdışına aldı. Şirket, Beyaz Saray ile görüşmelerini sürdürse de henüz modelleri tekrar kullanıma sunacak bir anlaşmaya varamadı. Mythos'un Nisan ayında piyasaya sürülmesinden bu yana, Anthropic modelin hem yazılım güvenlik açıklarını bulup düzeltme hem de kötü niyetli kişilerin kullanabileceği istismar yöntemleri geliştirme kapasitesine sahip olduğunu belirtiyordu. Şirket, bu çift yönlü kullanım riskini kendisi de vurgulayarak, 'AI modellerinin ileri düzey kullanımı büyük ölçüde çift amaçlıdır: siber güvenlik uzmanları ve biyoloji araştırmacıları için faydalı olan sorgular, kötü niyetli aktörlerin elinde tehlikeli olabilir' açıklamasını yaptı.
Bu riskleri göz önünde bulunduran Anthropic, başlangıçta Mythos Preview adlı bir sürümü, Project Glasswing adlı bir çalışma grubu kapsamında seçkin bir konsorsiyuma sundu. Mythos 5 de geçen hafta aynı gruba özel olarak sunulurken, Mythos seviyesinde bir model olan Claude Fable 5 ise biyoloji ve siber güvenlik konularında belirli kısıtlamalarla halka açık hale getirildi. Ancak Trump yönetimi, Fable 5'in güvenlik önlemlerinin devre dışı bırakılarak Mythos 5 yeteneklerine tam erişim sağlanabileceğini düşünerek her iki modeli de kısıtlama kararı aldı. Bu durum, yönetime göre ulusal güvenlik riski oluşturuyordu.
Uzmanlar ise bu kurumsal çatışmanın acı bir gerçeği geciktirdiğini veya gizlediğini söylüyor: Anthropic şu an öncü olsa da, genel olarak AI yetenekleri ve birden fazla şirket ile açık kaynak geliştiricilerin modelleri, yakın gelecekte Mythos 5'e benzer kapasitelere sahip olacak. TPO Group'un güvenlik şefi Tarah Wheeler, 'Anthropic'in rakiplerinin Mythos benzeri yetenekler geliştirmeyeceğini veya bunu zaten yapmadıklarını düşünmek son derece dar görüşlülüktür' diyor. 'Anthropic'i yakından takip eden, muhtemelen aynı yeteneklere sahip olan ve mevcut düzenleyici ortamda Anthropic'e nasıl davranıldığını görmek için bunları yedekte tutan başka şirketler de var.'
Anthropic de bu noktayı Mythos Preview'un lansmanından bu yana vurguluyor. Şirketin kırmızı takım lideri Logan Graham, 'Asıl mesaj, bunun model veya Anthropic ile ilgili olmadığıdır. 6, 12, 24 ay içinde bu yeteneklerin yaygın olarak bulunacağı bir dünyaya şimdiden hazırlanmalıyız' demişti. Nitekim OpenAI de Nisan ortasında siber güvenlik odaklı bir modeli özel olarak yayınlamış ve genişletilmiş bir siber güvenlik stratejisi duyurmuştu. Araştırmacılar, mevcut AI modellerinin bile daha sofistike yöntemlerle gelişmiş güvenlik açığı avcılığı ve istismar geliştirme için kullanılabileceğine dikkat çekiyor. Harvard ve Toronto Üniversitesi'nden Bruce Schneier, 'Bu tek bir model değil; teknolojinin genel eğilimi. Daha küçük, daha ucuz, açık kaynaklı modeller, bazen tek başlarına bazen bir araya gelerek daha karmaşık yönlendirmelerle Mythos/Fable'ın performansını yakalayabilir. Diğer modellerin de aylar içinde Mythos/Fable'ın yaratıcılığını ve azmini yakalamasını beklemeliyiz' diyor. Uzmanlar, Beyaz Saray ve dünya hükümetlerinin, AI yeteneklerindeki ilerlemelerle kaçınılmaz olarak nasıl başa çıkacaklarına dair daha geniş ve şeffaf planlar geliştirmeye odaklanması gerektiğini belirtiyor. Veracode'un kurucu ortağı Chris Wysopal, 'Politika sorusu, bir teknolojinin risk taşıyıp taşımadığı değildir. Asıl soru, belirli bir kısıtlamanın bu riski anlamlı bir şekilde azaltıp azaltmadığı veya esas olarak sistemleri daha güvenli hale getirmeye çalışan insanları yavaşlatıp yavaşlatmadığıdır' ifadelerini kullanıyor.
