Geçen haftanın sonlarında Anthropic, Amerika Birleşik Devletleri hükümetinin "herhangi bir yabancı uyruklu"nun hizmetleri kullanmasını yasaklayan ihracat kontrol direktifinin ardından yeni Claude Fable 5 ve Mythos 5 AI modellerini çevrimdışına aldı. Şirket Cuma gününden bu yana Beyaz Saray ile görüşmelerde bulunuyor ancak tekliflerin yeniden başlatılmasına olanak sağlayacak bir anlaşmayı henüz sağlamadı.
Mythos'un Nisan ayında piyasaya sürülmesinden bu yana Anthropic, modelin yalnızca savunmacıların bunları düzeltmesine yardımcı olacak yazılım açıklarını bulma konusunda değil, aynı zamanda kötü aktörler tarafından kullanılabilecek şekilde bunları kullanmanın yollarını bulma konusunda da gelişmiş yeteneklere sahip olduğunu iddia etti ve uyardı. Anthropic'in kendisi de Mythos 5 ve Claude Fable 5'in lansmanında bu iki ucu keskin kılıca dikkat çekti. Şirket geçen hafta bir blog yazısında şöyle yazmıştı: "Yapay zeka modellerinin gelişmiş kullanımının büyük bir kısmı ikili kullanımdır: Siber güvenlik profesyonelleri ve biyoloji araştırmacılarının elinde yararlı olan aynı sorgular, kötü niyetli aktörlerin eline geçtiğinde tehlikeli olabilir."
Bunu akılda tutarak, şirket ilk olarak Project Glasswing olarak bilinen bir çalışma grubunun parçası olarak seçilmiş bir konsorsiyum için Mythos Preview adlı bir sürümü yayınladı. Mythos 5 de geçen hafta bu gruba özel olarak piyasaya sürülürken, Mythos sınıfı bir model olan Claude Fable 5, biyoloji ve siber güvenlikle ilgili sorulara yanıt verme becerisine ilişkin belirli bloklarla genel kamuoyuna sunuldu.
Daha sonra geçen haftanın sonunda Trump yönetimi, Fable 5'in korkuluklarının Mythos 5 yeteneklerine tam erişime izin verecek şekilde devre dışı bırakılabileceğine inandığı için her iki modeli de kısıtlamak için harekete geçti ve iddiaya göre onu ulusal güvenlik riski haline getirdi.
Ancak uzmanlar, bu kurumsal çatışmanın kesin bir gerçeği geciktirdiğini veya maskelediğini söylüyor: Antropik şu anda mızrağın ucu olabilir, ancak genel olarak AI yetenekleri ve birden fazla şirketin ve açık ağırlık geliştiricilerin modelleri neredeyse kesinlikle yakın gelecekte Mythos 5'e benzer yeteneklere sahip olacak - eğer henüz yoksa.
Uzman siber güvenlik danışmanlık firması TPO Group'un güvenlik şefi Tarah Wheeler, "Anthropic'in başka hiçbir rakibinin Mythos'unkine benzer yetenekler geliştirmeyeceğini, hatta henüz bunu yapmadıklarını düşünmek son derece miyoptur" diyor. "Anthropic'in peşinde olan, muhtemelen bu yeteneklere sahip olan ve mevcut düzenleyici ortamda Anthropic'e nasıl davranıldığını gördükçe onları yedekte tutan başka şirketler de var."
Anthropic'in kendisi de Mythos Preview'un piyasaya sürülmesinden bu yana bu noktayı vurguladı. Şirketin öncü kırmızı takım lideri Logan Graham, Mythos Preview Nisan ayında piyasaya sürüldüğünde WIRED'e şunları söyledi: "Asıl mesaj, bunun modelle veya Antropikle ilgili olmadığıdır." "Bu yeteneklerin 6, 12, 24 ay içinde geniş çapta kullanıma sunulacağı bir dünyaya şimdiden hazırlanmamız gerekiyor."
Örneğin OpenAI, Nisan ortasında siber güvenlik odaklı bir modelin özel sürümünü yayınladı ve genişletilmiş bir siber güvenlik stratejisini duyurdu.
Araştırmacılar, bu yeni nesil modellerden önce bile, mevcut yapay zeka tekliflerinin gelişmiş güvenlik açığı avcılığı ve gelişmiş bir donanımla istismar geliştirme için kullanılabileceğini belirtiyor. Büyük bir siber güvenlik lideri grubu, Beyaz Saray'ın ihracat kontrol direktifinin yanlış yönlendirildiğini savunarak Pazar günü açık bir mektupta bunu yönetime vurguladı.
Durumu analiz eden Harvard Üniversitesi ve Toronto Üniversitesi'nden araştırmacı Bruce Schneier, "Bu tek bir model değil; teknolojinin genel eğilimi" diyor. "Daha küçük, daha ucuz, açık kaynaklı modeller, bazen kendi başlarına, bazen de birbirleriyle uyum içinde, Mythos/Fable'ın performansını daha gelişmiş yönlendirmelerle eşleştirebilir. Ayrıca diğer modellerin Mythos/Fable'ın yaratıcılığına ve azmine aylar içinde (açık kaynaklı modeller için biraz daha uzun) ulaşmasını beklemeliyiz."
Uzmanlar, Beyaz Saray'ın ve dünyanın dört bir yanındaki hükümetlerin odaklanması gereken şeyin, demokratik olarak, adva ile nasıl mücadele edeceklerine dair çok daha geniş ve daha şeffaf planlar geliştirmek olduğunu söylüyor.
Yapay zeka yeteneklerinde siber güvenlik ve diğer hassas alanlardaki değişiklikler kaçınılmaz olarak ortaya çıkıyor.
Bulut güvenlik firması Veracode'un kurucu ortağı Chris Wysopal, "Politika sorusu, bir teknolojinin risk taşıyıp taşımadığı değildir" diyor. "Soru, belirli bir kısıtlamanın bu riski anlamlı bir şekilde azaltıp azaltmadığı veya esas olarak sistemleri daha güvenli hale getirmeye çalışan insanları yavaşlatıp yavaşlatmadığıdır."
