Anthropic, Claude Fable 5'i dünya çapında tekrar çevrimiçi hale getiriyor. 30 Haziran'da ABD Ticaret Bakanlığı, yaklaşık iki buçuk hafta önce Fable ve daha sıkı kontrol edilen kardeşi Mythos 5'e uyguladığı ihracat kontrollerini kaldırdı.
Fable 5, 1 Temmuz Çarşamba günü Claude.ai, Claude Platformu, Claude Code ve Claude Cowork üzerinden kullanıcılara geri dönüyor.
İhracat kontrolleri bir teknolojiyi kimin alabileceğini veya kullanabileceğini kısıtlar. 12 Haziran tarihli emir, Anthropic'e, kendi vatandaş olmayan personeli de dahil olmak üzere, Amerika Birleşik Devletleri içindeki veya dışındaki tüm yabancı uyruklu kişiler için her iki modeli de kesmesini söylüyordu.
Kural hemen yürürlüğe girdi ve şirketin her kullanıcının uyruğunu gerçek zamanlı olarak kontrol edecek güvenilir bir yolu yoktu, bu yüzden her iki modeli de herkes için kapattı.
Tetikleyici bir jailbreak'ti: bir modelin güvenlik kurallarını atlamasını sağlayan bir istem. Amazon araştırmacıları Fable 5'te bir tane buldu. Anthropic'in anlatımına göre bu komut, modelin birkaç yazılım kusurunu işaretlemesini ve bir durumda, bir kusurun nasıl kötüye kullanılabileceğini gösteren kod yazmasını sağladı.
Antropik bulguyu küçümsedi. Aynı isteklerin kendi Claude Opus 4.8, OpenAI GPT-5.5 ve Çin'in Kimi K2.7'si de dahil olmak üzere daha zayıf modellerde de geçerli olduğu belirtiliyor. Şirket, işaretlenen davranışı gizli bir süper yetenek olarak değil, rutin bir savunma güvenliği çalışması olarak adlandırıyor.
Hükümet ve firar olayını bildiren ortak, bunun acil durum kontrollerini haklı çıkaracak kadar ciddi olduğunu gördü.
Bu endişeyi gidermek için Anthropic, rapordaki tekniği tam olarak izleyen ve onu engelleyen, sınıflandırıcı adı verilen yeni bir güvenlik filtresi geliştirdi. Şirket, 30 Haziran tarihli yazı itibarıyla bu tekniği denemelerin %99'undan fazlasında durdurduğunu söylüyor. Engellenen istekler bunun yerine daha zayıf olan Opus 4.8'e iletilir ve kullanıcıya bilgi verilir. Takas, normal kodlama ve hata ayıklama konusunda daha fazla yanlış alarmdır.
Daha az güvenlik korkuluğuna sahip aynı temel model olan Mythos 5, daha kısa bir tasma üzerinde kalıyor. Erişim, kritik altyapıyı koruyan yaklaşık 100 ABD şirketi ve federal kurum için 26 Haziran'da geri döndü. Anthropic, erişimi genişletmek için hâlâ hükümetle birlikte çalıştığını söylüyor.
Geri alma kararını imzalayan Ticaret Bakanı Howard Lutnick, departmanının modelleri Anthropic ile birlikte incelemek için iki hafta harcadığını söyledi. Mektubunda şirket, güvenlik sorunlarını kendi başına araştırmayı, gelecekteki lansmanları koordine etmeyi ve tespit ettiği kötü niyetli kullanımları bildirmeyi kabul etti.
Müzakerelerin, yılın büyük bölümünde yönetimle çatışan CEO Dario Amodei yerine kurucu ortak Tom Brown tarafından yürütüldüğü bildirildi.
Mücadele başından beri karışıktı. The Wall Street Journal'ın da aralarında bulunduğu çok sayıda rapor, Amazon'un araştırmasının ve CEO Andy Jassy'nin endişelerinin orijinal siparişin yönlendirilmesine yardımcı olduğunu söyledi. Eski AI çarı David Sacks, Anthropic'i "güvenlik yerine tüketici modelinin sürekli sunumuna öncelik vermekle" suçladı. Diğerleri bunu aşırı düzeltme olarak okuyor.
Sidney Üniversitesi yapay zeka yönetişim araştırmacısı Francesco Bailo, Al Jazeera'ye bu geri dönüşün hükümetin çok ileri gittiğini kabul ettiğini ve bir grup güvenlik liderinin kontrollerin kaldırılmasını isteyen açık bir mektup imzaladığını söyledi.
Bütün bunların üzerinde rekabet vardı. Duraklama, ucuz ve yetenekli Çin açık kaynak modellerinin zemin kazanmasıyla birlikte gerçekleşti ve birçok yönetici, ABD modellerinin dondurulmasının rakiplere yetişmeleri için boş zaman sağladığı konusunda uyardı.
Anthropic aynı zamanda sektörde eksik olan bir şeyi de öneriyor: jailbreak'in gerçekte ne kadar tehlikeli olduğunu sıralamanın ortak bir yolu. Amazon, Microsoft, Google ve diğer ortaklarıyla her birine dört konuda puan vermek istiyor:
Yetenek kazancı: Jailbreak'in kullanıcıyı halihazırda sahip olduğu araçların ötesine ne kadar ileri götürdüğü.
jailbreak'in kullanıcıyı halihazırda sahip olduğu araçların ötesine ne kadar ileri götürdüğü. Genişlik: Aynı numaranın kaç farklı saldırıyı açtığı.
Aynı numaranın kaç farklı saldırıyı açtığı. Silahlandırma kolaylığı: Bunu gerçek bir saldırıya dönüştürmek için ne kadar beceri ve çaba gerekir?
bunu gerçek bir saldırıya dönüştürmek için ne kadar beceri ve çaba gerekir. D
kapsanabilirlik: hileyi bulmanın veya kopyalamanın ne kadar kolay olduğu.
Elektrik şebekelerine veya bankalara saldırı yapılmasını mümkün kılan jailbreak gibi en kötü durumlar için Anthropic, ciddiyet doğrulandığı anda düzeltmeleri uygulamaya başlayacağını ve jailbreak raporlarını günün her saatinde izlemek üzere bir ekip oluşturduğunu söylüyor.
Ayrıca araştırmacıların yeni Fable 5 jailbreak'lerini bildirmeleri için bir HackerOne programı açtı ve ABD hükümetine, piyasaya sürülmeden önce gelecekteki sınır modellerini test etmek için daha erken erişim sözü verdi.
Antropik bu konumdaki tek laboratuvar değil. Günler önce OpenAI, GPT-5.6'nın ön izlemesini halktan ziyade hükümet onaylı küçük bir gruba sunmuştu ve aynı ikili kullanım kaygısını dile getirmişti: Savunucuların hataları düzeltmesine yardımcı olacak kadar iyi bir model, saldırganların da bunları bulmasına yardımcı olacak kadar iyi.
Risk varsayımsal değildir. Bu baharın başlarında Anthropic, OpenBSD'deki 27 yıllık bir kusur da dahil olmak üzere tüm büyük işletim sistemlerinde ve komuttaki tarayıcılarda sıfır gün hatalarını bulup kullanan önceki bir Mythos modelini test etti. Kırmızı ekibi, yeni ortaya çıkan hataları bir günden kısa sürede çalışan açıklara dönüştürdü.
Acil kriz sona erdi. Daha büyük soru şu değil. 2 Haziran tarihli bir idari emir, şirketlerin sınır modellerini yayınlanmadan önce gözden geçirmeleri için gönüllü bir yol oluşturdu. Ayrıca, hangi modellerin "kapsam dahilinde" sayılacağına karar vermek için gizli bir kıyaslama oluşturdu ve herhangi bir zorunlu lisansı devre dışı bıraktı. Fable 5 asla bu yoldan geçmedi.
Hükümet bunun yerine ihracat kontrollerine yöneldi. Anlatılan şu: Washington bir sınır modelinde hızlı ilerlemek istediğinde, hala bağlayıcı bir süreci yok, yalnızca doğaçlama süreçler var.
