Geçtiğimiz Cuma günü, Beyaz Saray, belirtilmemiş ulusal güvenlik endişelerini gerekçe göstererek, Anthropic'e, güçlü yapay zeka modelleri Fable ve Mythos'un ABD dışındaki herkese ve ülke içindeki yabancı uyruklu kişilere ihracatını kısıtlamasını emretti. Kısa bir süre sonra yapay zeka devi, bir haftadır kimsenin kullanımına açık olmayan her iki modelin de fişini aceleyle çekti.
Bu bölüm, ABD hükümetinin sınır yapay zekasını kontrol altına almak için ihracat kontrollerini, daha önce şifreleme ve casus yazılımları kontrol altına almak için çok dengesiz sonuçlarla denediği şekilde kullanıp kullanamayacağının ilk gerçek testidir. Kulağa ne kadar dramatik gelse de, bu ayrılığın nasıl çözüleceği, yalnızca Anthropic'in dış pazarlara erişimini değil, aynı zamanda diğer yapay zeka laboratuvarlarının etrafında oluşturmak zorunda kalacağı kural kitabını da şekillendirebilir.
Önce biraz bağlam. Anthropic, Mythos'u nisan ayında piyasaya sürdüğünden beri, şirket onu, çok geniş çapta yayınlanırsa internette büyük hasara yol açabilecek bir tür kıyamet günü siber makinesi olarak pazarlıyordu; bu nedenle, yasaktan önce yalnızca 150 kadar incelenmiş şirket ve devlet kuruluşunun ona erişimi vardı. Amaç, kötü adamlar Mythos benzeri yeteneklere ulaşmadan önce savunmacıların yazılımlarını ve hizmetlerini güvence altına almalarına yardımcı olmaktı.
Peki yasağı tetikleyen ne oldu? Bildirildiğine göre birbirini takip eden iki olay. Birincisi: Anthropic, Güney Koreli bir telekomünikasyon şirketinin sınırlı ortaklık programı aracılığıyla Mythos'a erişimini sağladı ve ABD'li yetkililer, şirketin Çin ile bağları olduğundan şüphelenilen bir şirket olduğunu tespit ettikten sonra paniğe kapıldı. (Genelde SK Telecom olduğu bildirilen şirketin Çin ile bağlantısı olduğu iddiaları reddedildi.) Amazon CEO'su Andy Jassy'nin, Amazon'un kendi araştırmacılarının Fable 5'in güvenlik önlemlerini aşmanın bir yolunu bulmasının ardından yönetimi uyardığı da bildirildi. Anthropic, "jailbreak" etiketine karşı çıkıyor ve bunu, modelin güvenlik önlemlerinin toptan yenilgisinden ziyade dar kapsamlı, zaten yamalanmış bir sorun olarak nitelendiriyor.
Sonuç aynıydı: Ticaret Bakanlığı bir ihracat kontrol direktifi yayınladı ve Anthropic, bazı hesaplar tarafından bilgilendirildikten yaklaşık 90 dakika sonra, ürünlerine erişimi derhal sınırlamak için çabalamak zorunda kaldı.
Ancak bunların hiçbiri yeni değil. Hükümetler onlarca yıldır tehlikeli siber teknoloji olarak gördükleri şeylerin yayılmasını sınırlamak için ihracat kontrollerini kullanmaya çalışıyor ancak geçmişleri en iyi ihtimalle orta düzeyde.
1990'ların başlarından ortalarına kadar bu yaklaşımın belki de tarihteki en çarpıcı başarısızlığının arkasında ABD hükümeti vardı. O zamanlar bilgisayar bilimcileri, internet üzerinden dolaşan verileri güvence altına almak için şifreleme teknolojileri geliştiriyorlardı. Bu şifreleme ürünlerinden birine Pretty Good Privacy veya PGP adı verildi; bu, verileri şifreleyebilen ve internet üzerinden amaçlanan alıcıya giderken ele geçirilse bile şifresinin çözülmesini neredeyse imkansız hale getirebilen popüler bir yazılımdı.
ABD hükümeti başlangıçta PGP'yi tehlikeli bir silah olarak gördü ve istihbarat teşkilatlarının telsiz yoluyla e-postaları dinlemesini engelleyeceğinden korktu. ABD Gümrük Servisi, PGP dağıtımını durdurmak için PGP'nin yaratıcısı Phil Zimmermann'a karşı silah ihracatı kontrollerini ihlal ettiği iddiasıyla ceza soruşturması başlattı. PGP'nin kaynak kodunu basılı bir kitap olarak yayınlayarak bugün "Kripto Savaşları" olarak bilinen şeyi ateşleyerek karşılık verdi.
Zimmermann daha sonra soruşturma kapatıldığında önemli bir savaşı kazandı ve milyarlarca Signal ve WhatsApp kullanıcısı tarafından kullanılanlar gibi önemli uçtan uca şifreleme algoritmalarının önünü açtı.
Daha sonra 2010'ların başında araştırmacılar, Orta Doğu'daki muhaliflere karşı kullanılan Batı yapımı casus yazılımları keşfetmeye başladı. Buna yanıt olarak birçok hükümet, hem sivil hem de askeri uygulamalarda kullanılan çift kullanımlı yazılım ve teknolojilerin ihracatını sınırlayan uluslararası bir anlaşma olan Wassenaar Düzenlemesini genişletmeyi kabul etti.
Buradaki fikir, gözetleme ve bilgisayar korsanlığı yazılımlarını çift kullanımlı olarak sınıflandırmak ve böylece casus yazılım üreticilerini, ürünlerini yurt dışına satmak için ihracat lisansları almaya zorlamaktı.
Bize Ulaşın Mythos yasağı hakkında daha fazla bilginiz var mı? bir
Çalışma dışı cihaz ve ağ, +1 917 257 1382 numaralı telefondan Signal üzerinden veya Telegram ve Keybase @lorenzofb veya e-posta yoluyla Lorenzo Franceschi-Bicchierai ile güvenli bir şekilde iletişime geçebilirsiniz. Mythos yasağı hakkında daha fazla bilginiz var mı? Çalışmayan bir cihazdan ve ağdan Lorenzo Franceschi-Bicchierai ile +1 917 257 1382 numaralı telefondan Signal üzerinden veya Telegram ve Keybase @lorenzofb aracılığıyla veya e-posta yoluyla güvenli bir şekilde iletişime geçebilirsiniz.
Ancak Wassenaar'ın her zaman iki doğal zayıflığı vardı. Birincisi, dünyanın en aktif casus yazılım üreticilerinden bazılarına ev sahipliği yapan İsrail de dahil olmak üzere, anlaşmaya uymayan birçok ülke var.
İkincisi, anlaşma, ülkelerin bunu kendi sınırları içindeki şirketlere kendi takdirine göre uygulamasına bağlıdır. İtalyan hükümeti, şirketin gazetecileri ve insan hakları aktivistlerini hacklemek için baskıcı hükümetlere casus yazılım satma konusundaki geçmişine rağmen, bir süreliğine ülkenin en iyi casus yazılım üreticilerinden biri olan Hacking Team'e araçlarını dünya çapında ihraç etme lisansı verdi.
O tarihten bu yana Avrupa'nın diğer ülkeleri İtalya gibi casus yazılım üreticilerine karşı gevşek davrandı. Çok sayıda skandala rağmen, birçok casus yazılım ve bilgisayar korsanlığı aracı üreticisine ev sahipliği yapan Avrupa, casus yazılımların otoriter rejimlere ihracatını engellemekte sürekli olarak başarısız oldu. Eleştirmenler, 27 üye devletten oluşan blokta, otoriter devletlere giderek büyüyen casus yazılım ihracatı sorununu çözmeye yönelik yakın zamanda yenilenen çabanın "yeterince ileri gitmediğini" söylüyor.
Onaylı bir casus yazılım şirketleri konsorsiyumu olan Intellexa gibi birçok casus yazılım üreticisi, faaliyetlerini ihracat kontrollerinin gevşek olduğu ülkelere taşıdı. Diğer casus yazılım üreticileri de benzer nedenlerle operasyonlarını Suudi Arabistan'a taşımaya çalıştı.
Bazı kazanımlar oldu. Almanya merkezli casus yazılım üreticisi FinFisher, Alman savcıların Türkiye'ye ihracat lisansı olmadan casus yazılım sattığı iddiasıyla şirket hakkında uzun yıllar süren soruşturmanın ardından 2022'de kapandı. Müfettişler daha önce FinFisher casus yazılımının Türkiye hükümetini eleştirenlerin telefonlarına yerleştirildiğini tespit etmişti.
Bu yazının yazıldığı an itibarıyla Anthropic ile Trump yönetimi arasındaki çıkmaz devam ediyor. Yönetimin, Amerikan yapay zeka şirketlerinin dünya çapında rekabetçi kalmasını sağlamak amacıyla kısıtlamayı kaldırması ve kısıtlamayı kaldırması makul bir ihtimal; bu, Çin de dahil olmak üzere başka yerlerdeki yapay zeka laboratuvarlarının ABD'nin neyi kısıtladığına bakılmaksızın muhtemelen benzer yeteneklere ulaşacağının üstü kapalı kabulü anlamına gelecektir. Veya Amerikan yapay zeka şirketleri, yabancı müşterilere hizmet vermeden önce hükümetin onayına ihtiyaç duyabilir ve bu da onların kârlılığını her zaman olumsuz etkileyecek bir uyum yükü haline gelebilir.
Dünya hükümetlerinin yazılımın erişimini kontrol etmeye çalışırken yaşadıkları geçmiş deneyimler göz önüne alındığında, hükümetin zorunlu kıldığı ihracat kontrollerinin, kötü niyetli aktörlerin güçlü çift kullanımlı siber teknolojileri kötüye kullanmasını engellemek için doğru yaklaşım olması pek olası değildir.
