50'den fazla siber güvenlik uzmanı, ABD hükümetinden, yapay zeka şirketi Anthropic tarafından piyasaya sürülen en yeni sınır büyük dil modelleri (LLM'ler) olan Mythos 5 ve Fable 5'e erişim yasağının kaldırılmasını kamuya açık bir şekilde talep etti.
12 Haziran'da Anthropic, ABD hükümetinin, herhangi bir yabancı uyruklu tarafından yalnızca birkaç gün önce yayınlanan Fable 5 ve Mythos 5'e tüm erişimi askıya almak için bir ihracat kontrol direktifi yayınladığını duyurdu.
Bu karar, AI şirketinin direktife uygunluğu sağlamak amacıyla tüm müşterilerin her iki modele erişimini askıya almasına neden oldu.
Fable 5, Anthropic tarafından, Mythos 5 ile aynı temel yapay zeka modeli (Claude Mythos Preview'dan bir yükseltme) tarafından desteklenen, ancak özellikle şirketin "ciddi hasara neden olacak şekilde kötüye kullanılabileceğini" söylediği siber güvenlik gibi alanlarda ek korkuluklarla desteklenen genel erişimli bir LLM olarak sunuldu.
Detaylar ve Etkileri
ABD hükümeti, direktifini açıklamak için "ulusal güvenlik kaygılarına" atıfta bulundu; Anthropic, bunun Fable 5'in korkuluklarını aşmanın bir yöntemini bulduğu iddia edilen bir araştırmadan kaynaklandığına inanıyor.
Anthropic, "Daha önce bilinen az sayıda küçük güvenlik açıklarını tanımlamak için kullanılan bu özel tekniğin gösterimini inceledik. Bu güvenlik açıklarının tümü nispeten basit görünüyor ve halka açık diğer modellerin de bunları bypass gerektirmeden keşfedebildiğini gördük" dedi.
Şirket, Fable 5 için "evrensel bir jailbreak"in varlığını reddetti.
Sistem Güvenliği
Siber Güvenlik Topluluğu Fable ve Mythos Yasağını Eleştiriyor
İki gün sonra, 54 CISO, siber güvenlik uygulayıcısı ve satıcıdan oluşan bir grup, ABD Ticaret Bakanı Howard Lutnick ve ABD Ulusal Siber Direktörü Sean Cairncross'a hitaben açık bir mektup imzaladı.
Gelecekte Ne Bekleniyor?
Grup, Fable ve Mythos'a yönelik ihracat kontrol direktiflerinin kaldırılmasını istedi.
Uzmanların Görüşleri
Ayrıca ABD hükümetine "gelecekte yapay zeka risk değerlendirmelerini ele alma konusunda açık, bilimsel ve şeffaf bir süreç taahhüt etmesi" çağrısında bulundular.
İmzacılar, Anthropic'in en son modellerinin "kusurları bulma ve açıkları silah haline getirme konusunda oldukça iyi" olduğunu kabul ederken, bu amaç için kullanılabilecek tek araçların bunların olmadığını savundu.
İmzacılar, güvenli olmayan kodu tanımlama yeteneğinin, herhangi bir güvenli kodlama asistanının temel bir özelliği olduğunu ve OpenAI'nin GPT-5.5, Anthropic'in Claude Opus ve Sonnet'i ve Kimi 2.7 gibi Çin modelleri de dahil olmak üzere diğer modellerde zaten mevcut olan eşdeğer yeteneklere sahip olduğunu belirtti.
Sonuç ve Değerlendirme
Ek olarak, Anthropic'in Fable'ın "siber saldırı amaçlı kullanımlarını" önlemeye yönelik katkısını da kabul ettiler ve yapay zeka şirketinin şu anda ABD hükümetinin kararına muhtemelen yol açan araştırmayı ele aldığını söylediler.
"Düşmanlarımız hızla ilerlerken, iyi bir neden olmaksızın savunmacıların en iyi yeteneklerini geri almak tehlikelidir" diye uyardılar.
Açık mektupta ayrıca ABD hükümetinin eyleminin piyasada belirsizlik yarattığı ve Amerika'nın yapay zeka liderliğini "hiçbir gerçek risk olmaksızın" riske attığı belirtildi.
Teknik Analiz
İmzacılar arasında Corridor'un baş ürün sorumlusu ve Facebook ve Yahoo'nun eski baş güvenlik sorumlusu Alex Stamos, Sophos CEO'su Joe Levy ve Zoom Communications'ın CISO'su Sandra McLeod yer aldı.
Bu tutumları diğer siber güvenlik uzmanları tarafından da paylaşılıyor. Kapalı Kapı Güvenliği CEO'su William Wright, açık mektubu imzalamamış olmasına rağmen, ABD'nin tepkisinin "bu modellerin jailbreaklenmesiyle ilgili endişelerin gerçek olduğunu göstermesine rağmen" modele erişimi yasaklamanın yanlış bir yaklaşım olduğunu söyledi.
"Modele erişimin bu kadar aniden kesilmesi, hem Anthropic hem de modele erişim izni verilen kritik sektör ortakları içinde büyük lojistik sorunlara neden olacaktır. Bu hareket, dayanıklılığı artırmak yerine kaos yaratır" diye açıkladı.
Önemli Gelişmeler
ABD hükümetini yapay zeka ve siber güvenlik uzmanlarıyla "şeffaf ve açık yol gösterici ilkelerle" çalışmaya çağırdı.
Görsel kaynak: Nwz / jackpress / Shutterstock.com
