Anthropic'in en yeni büyük dil modelleri (LLM'ler) Claude Mythos 5 ve Claude Fable 5, ek güvenlik kısıtlamalarıyla birlikte yeniden kullanıma sunuldu. ABD hükümeti, 30 Haziran'da her iki model için de ihracat kısıtlamalarını kaldırarak Anthropic'in küresel dağıtımını durdurma kararını iptal etti. Aynı gün, yapay zeka laboratuvarı, modelleri 1 Temmuz'dan itibaren yeniden dağıtacağını duyurdu. Ancak, yeni sürümler ABD hükümeti tarafından dile getirilen yapay zeka güvenliği endişelerini gidermek için ek korumalarla donatıldı.
Fable 5, Mythos 5 ile aynı temel yapay zeka modelini kullanan genel erişimli bir LLM'dir. Artık Claude Platformu, Claude.ai, Claude Code ve Claude Cowork üzerinden tüm kullanıcılara açık. Pro, Max, Team ve belirli Enterprise planlarına abone olan premium kullanıcılar, 7 Temmuz'a kadar haftalık kullanım limitlerinin %50'sine kadar bu modele erişebilecek; sonrasında ise kullanım kredileriyle erişim sağlanacak. Anthropic ayrıca genel erişim modelini AWS, Google Cloud ve Microsoft Foundry üzerinde de kullanıma sunuyor.
Yapay zeka şirketi, ihracat kısıtlamasına yol açan Amazon raporunu incelediğini doğruladı. Raporda araştırmacılar, Fable 5'in yazılım güvenlik açıklarını tespit etmesini ve bir durumda bir istismar sağlamasını sağlayan bir jailbreak yöntemi bulmuşlardı. Bu yöntem, modelin yerleşik güvenlik önlemlerini atlatıyordu. Anthropic, bildirilen tekniğin 'herhangi bir benzersiz Mythos düzeyinde siber yetenek ortaya çıkarmadığını' belirtse de, şirket Fable 5'in rapor edilen davranışı hedef alan ve engelleyen geliştirilmiş bir güvenlik sınıflandırıcıyla donatılmış yeni bir sürümünü yayınlıyor.
Sonuç ve Değerlendirme
Sınıflandırıcı, bir LLM ile etkileşim sırasında modelin potansiyel olarak zararlı bir görev veya çıktı üretmesi istendiğinde bunu tespit eden ve yanıt vermesini engelleyen küçük, otomatik bir yapay zeka sistemidir. Anthropic'e göre yeni sınıflandırıcı, Amazon araştırmacıları tarafından tespit edilen jailbreak'i '%99'dan fazla oranda' engelliyor. Çok küçük bir kısmında, potansiyel olarak zararlı bir kullanıcı talebinden sonra bilgi sağlayabilir, ancak Anthropic bunun 'bir siber saldırgana yardımcı olacak kadar ayrıntılı olmadığını' iddia ediyor.
Bu gelişme, yapay zeka güvenliği ve hükümet düzenlemeleri arasındaki hassas dengeyi bir kez daha gündeme getiriyor. Anthropic'in yeni sınıflandırıcısı, sektördeki benzer modeller için bir referans noktası oluşturabilir. Özellikle, büyük dil modellerinin kötüye kullanımını önlemek için otomatik güvenlik sistemlerinin önemi artıyor. Kullanıcılar, bu tür modelleri kullanırken etik ve yasal sınırlara dikkat etmeli, şirketler ise güvenlik açıklarını kapatmak için sürekli güncellemeler yapmalıdır.
Sonuç olarak, Anthropic'in Claude Fable 5 ve Mythos 5 modelleri, yeni güvenlik önlemleriyle tekrar sahneye çıkıyor. Bu durum, yapay zeka geliştiricilerinin hem inovasyonu sürdürme hem de güvenliği sağlama arasındaki ince çizgide nasıl yürüdüğünü gösteriyor. Gelecekte, benzer güvenlik sınıflandırıcılarının yaygınlaşması ve hükümetlerle iş birliğinin artması bekleniyor. Kullanıcılar için en önemli çıkarım, bu modellerin güçlü yeteneklerine rağmen güvenlik açıklarına karşı dikkatli olmaları ve güncellemeleri takip etmeleridir.
Kaynak: infosecurity-magazine.com
