Çarşamba günü Anthropic, Trump yönetiminin ihracat kontrol yasağını kaldırmasının ardından gelişmiş Fable ve Mythos AI modellerine erişimi dondurdu.
Fable 5'in genel kullanıma açık olduğu ve daha güçlü Mythos 5'in yasaktan önce olduğu gibi güvenilir ortaklardan oluşan bir koalisyonla sınırlı olduğu iki modelin geri dönüşü, ABD hükümeti ve teknoloji endüstrisinin son aylarda tartıştığı bir konu olan sınır yapay zeka modellerinin sorumlu bir şekilde konuşlandırılması konusunda Başkan Donald Trump yönetimi ile yapay zeka firmaları arasında devam eden görüşmelerde önemli ilerlemeyi temsil ediyor.
Yapay zeka ırkının en yoğun çatışmalarından birinin çözümünü duyuran Salı günü yaptığı açıklamada Anthropic, modellerinin her zaman güvenli olduğunu ve hükümetin durumu orantısız bir şekilde abarttığını vurguladı; savunuculara gelişmiş yetenekler sunmak ile onları ABD'li rakiplerin elinden uzak tutmak arasındaki denge konusunda hala gergin görüşmelerin devam ettiğini öne sürdü.
Teknik Analiz
Ticaret Bakanlığı, Amazon'un hükümeti Fable'ın kötüye kullanıma karşı koruma önlemlerini aşmanın mümkün olduğu konusunda uyarmasının ardından ihracat kontrol yasağını çıkardı. Salı günü Anthropic, önde gelen siber güvenlik uzmanlarından oluşan bir koalisyon tarafından ileri sürülen, aynı sorunun daha az güçlü yapay zeka modellerinde de mevcut olduğu yönündeki iddiasını yineledi, ancak aynı zamanda "rapor edilen bypass'ı ele almak için hızlı hareket ettiğini" de söyledi.
Sistem Güvenliği
Anthropic, son iki haftayı "hükümet ve Amazon da dahil olmak üzere diğer ortaklarla" yakın çalışarak geçirdikten sonra, "raporda açıklanan davranışı hedefleyen ve engelleyen geliştirilmiş bir güvenlik sınıflandırıcısı eğittiğini" söyledi.
Detaylar ve Etkileri
Anthropic, Ulusal Standartlar ve Teknoloji Enstitüsü'nün Yapay Zeka Standartları ve Yenilik Merkezi'ndeki araştırmacıların "hem önceki hem de yeni korumalarımızı test ettiklerini ve bunların olağanüstü derecede güçlü oldukları konusunda hemfikir olduklarını" ekledi.
Şirket aynı zamanda değişikliklerin savunma çalışmaları konusunda yardım arayan siber güvenlik araştırmacıları için bazı olumsuz yan etkileri olabileceği konusunda da uyardı.
Önemli Gelişmeler
Anthropic, "Yeni sınıflandırıcı, rutin kodlama ve hata ayıklama görevleri sırasında zararsız istekleri daha sık işaretleme pahasına geliyor" dedi. "Tüm önlemlerimizde olduğu gibi, gerçek kötüye kullanımı meşru taleplerden daha iyi ayırt etmek ve hatalı pozitif sonuçları azaltmak için bunu da iyileştirmeye devam edeceğiz."
Daha resmi bir inceleme süreci talep edin
Fable ve Mythos hakkındaki anlaşmazlık sona ermiş olsa da yapay zeka endüstrisi, Trump yönetiminin sınır modellerinin kullanılabilirliğini incelemeye yönelik keyfi yaklaşımı konusunda endişelerini sürdürüyor.
Uzmanların Görüşleri
Trump kısa süre önce, öncü yapay zeka şirketlerinin hükümete özellikle güçlü bazı modellere erken erişim sunması için bir süreç oluşturan bir idari emir yayınladı. Çarşamba günü Anthropic, "ulusal güvenlikle ilgili alanlarda yetenek sınırlarını önemli ölçüde geliştiren modellere" erken erişim sağlayacağını söyledi. Şirket ayrıca, bilgisayar korsanlarının araçlarını nasıl kötüye kullandığına ilişkin tehdit istihbaratını paylaşacağını ve Trump'ın direktifinde oluşturulan güvenlik açığı temizleme merkezine katılacağını da söyledi.
Gelecekte Ne Bekleniyor?
Anthropic, potansiyel yapay zeka güvenlik risklerini ele almak için hükümetle yakın çalışma taahhüdünü vurguladı. Özel personel ve bilgi işlem kaynakları da dahil olmak üzere federal kurumlarla ortaklıklarını "önemli ölçüde artırdığını" söyledi. Ayrıca, "sınır modeli sağlayıcıları için ortak, gönüllü bir güvenlik ve değerlendirme standardı doğrultusunda hükümetle ve sektördeki meslektaşlarıyla birlikte çalışma" sözü verdi.
Anthropic ayrıca, herhangi bir resmi model inceleme süreci için önemli bir önkoşul olan, jailbreak'in ciddiyetini sınıflandırmak için "üzerinde anlaşmaya varılmış bir standart" bulunmamasının sorunlu olduğunu söyledi.
Sonuç ve Değerlendirme
Anthropic, "Yapay zeka jailbreak'lerini değerlendirmek için ortak bir standart, bize ve diğer şirketlere yeni modelleri güvenli bir şekilde başlatmanın yanı sıra kullanıcılarımızın gelişmiş yeteneklerinden en iyi şekilde yararlanmalarına yardımcı olacaktır" dedi.
Şirket, bu amaçla Amazon, Google, Microsoft ve Anthropic'in Mythos'a incelenen kuruluşlara erişim izni verdiği Project Glasswing'in diğer üyeleriyle jailbreak sınıflandırmaları ve yanıtları için bir "fikir birliği çerçevesi" üzerinde çalıştığını duyurdu. Şirket, çerçevenin her olası jailbreak'i dört kritere göre derecelendirdiğini öngördüğünü söyledi; bunlar arasında birisinin geçici çözümü keşfetmesinin ne kadar kolay olduğu ve geçici çözümün ne kadar ek model yeteneği sağladığı yer alıyor.
