ABD hükümetinin Anthropic'e yazdığı ve şirketi hafta sonundan hemen önce en son AI modellerini çevrimdışına çıkarmaya zorlayan yaptırım mektubu, herhangi bir ABD teknoloji şirketi için - AI laboratuvarı veya başka bir şey için bir uyandırma çağrısı olmalıdır.
Haberlerden haberdar olmak için: Cuma öğleden sonra ABD Ticaret Bakanlığı, Anthropic'e, belirtilmemiş bir ulusal güvenlik endişesini gerekçe göstererek, Anthropic çalışanları da dahil olmak üzere Amerikalı olmayanların Fable 5 ve Mythos 5'e erişimini yasaklayan belirsiz bir ihracat kontrol direktifine atıfta bulunan bir mektup gönderdi. Anthropic, mektubun modelin korkuluklarının bypass edilmesiyle ilgili olduğuna inandığını ancak mektupta belirli ayrıntılar verilmediğinden emin olmadığını söyledi. Mektup kamuoyuna açıklanmadı.
Buna karşılık Anthropic, direktife uyduğundan emin olmak için en iyi modellerinin ikisini de tüm müşterilerin kullanımına kapattı. Sonuç olarak ABD hükümeti, mahkeme onayı gerektirmeyen hızlı ve tek taraflı bir eylemle bir teknoloji şirketini modellerini çevrimdışına almaya başarıyla zorladı.
Cuma günkü Trump yönetiminin müdahalesi, yapay zeka endüstrisinin hükümet müdahalesine karşı bağışık olmadığını gösteriyor. Bu aynı zamanda daha geniş teknoloji endüstrisine de bir uyarı: Uyun, yoksa sizi ve ürünlerinizi kapatabiliriz.
Kaynaklara atıfta bulunan Axios, hafta sonu iki büyük oyuncu arasında gergin bir durum yaşandığını belirterek, Anthropic ile Trump yönetimi arasındaki "kişilik farklılıklarının" yapay zeka ürünleriyle ilgili teknik bir sorundan ziyade ihracat direktifine yol açtığını söyledi.
Konuyla ilgili hafta sonu ortaya çıkan yeni ayrıntılar, hükümetin zaten sallantılı olan muhakemesine dair şüpheleri daha da artırıyor.
Luta Security'yi kuran siber güvenlik uzmanı ve araştırmacı Katie Moussouris, bir blog yazısında Anthropic'in yakın zamanda Fable 5'te güvenlik araştırmacıları tarafından yazılan ve iddia edilen bir korkuluk bypassını anlatan bir makalenin özel bir kopyasını kendisiyle paylaştığını söyledi. (Wall Street Journal, makalenin yazarlarının Amazon'daki güvenlik araştırmacıları olduğunu bildiriyor.) Moussouris, Anthropic'in makaleyi ele almak için kendisine ulaştığını söyledi.
Moussouris'in blog yazısı, araştırmacıların korkuluk bypassını nasıl tetiklediğini anlattı ancak bypassın kendisinin "hiçbir zaman bir ihracat kontrolünü tetiklememesi gerektiğini" söyledi. Aradaki fark büyük ölçüde bir yapay zeka modelinden "güvenlik sorunları için kodu incelemesini" istemekle "bu kodu düzeltmesini" istemek arasında yatıyor. Sorular biraz farklı sorulsa bile nihai sonuç büyük ölçüde aynıdır.
İhracat kontrol direktifini aceleci, beceriksiz ve yanlış yönlendirilmiş olmakla eleştiren Moussouris, "Makalede açıklanan davranış anlamlı bir şekilde düzeltilemez ve herhangi bir girişim yalnızca savunma modelini zayıflatacaktır" dedi.
Moussouris ve diğer düzinelerce üst düzey güvenlik araştırmacısı ve uzmanı o zamandan beri Trump yönetimine ihracat kontrol emrini iptal etmesi çağrısında bulundu ve gelişmiş siber güvenlik yeteneklerini ABD'deki ağ savunucularının elinden alma hamlesini "tehlikeli" olarak nitelendirdi.
Geçmiş yönetimler bilgi boşlukları konusunda kapsamlı kararlar aldı. Örneğin, ABD hükümetinin 2010'lu yıllarda siber saldırılar için de kullanılabilecek siber güvenlik araçlarını kapsayan ihracat yasasını düzeltmek için kullandığı dil o kadar genişti ki, yanlışlıkla meşru güvenlik ve güvenlik açığı araştırmalarını neredeyse yasa dışı ilan ediyordu.
Ancak Trump yönetiminin direktifi misilleme niteliğinde görünüyor.
Tech Policy Press'in editörü Justin Hendrix, Trump yönetiminin hareketinin "yabancı sermayelerde kritik uygulamalar için Amerikan yapay zekasının güvenilirliği konusunda alarmlara yol açmasının muhtemel olduğunu" söyledi. Mesaj, ABD'deki yapay zeka şirketlerinin ABD hükümetinin müdahalesi olmadan faaliyet göstermelerine güvenilemeyeceğidir.
Trump yönetimi ihracat kontrol direktifine neden başvurduğunu doğrulamadı. Yetkililer raporu yanlış okuyup paniğe mi kapıldı? Amazon CEO'su Andy Jassy, üst düzey hükümet yetkililerine ihtiyat veya kin nedeniyle tepkiye yol açan bir şey mi söyledi? Çeviride bir şey mi kayboldu, yoksa bu Antropik'e baskı yapmanın bir yolu muydu?
yönetimin halihazırda kiminle gergin bir ilişkisi var? Beyaz Saray'ın mektubun talebinin geniş kapsamlı sonuçlarından habersiz olması ve yetkililerin kendi yarattıkları zararı telafi etmek için çabalıyor olmaları muhtemel.
Hendrix'ten alıntı yapacak olursak, "ortam, üst düzey yetkililerin kişisel ve politik faktörlere dayanarak favorileri seçtiğine dair bir şüphe bulutu." Bunun sonucunda hükümet, Amerikan yapımı yazılımların piyasaya sürülmesi üzerinde ne kadar kontrol sahibi olmayı planladığı konusunda tehlikeli bir emsal oluşturdu.
Bu kez hükümet Anthropic'e itiraz etti; yarın başka biriyle olabilir.
