Meta'nın baş teknoloji sorumlusu Andrew Bosworth, şirketin en tartışmalı yapay zeka projesi Model Yetenek Girişimi'ni (MCI) durduran olay hakkında detaylı açıklamalarda bulundu. The Atlantic CEO'su Nicholas Thompson'a verdiği röportajda Bosworth, bir araştırmacının hassas çalışan verilerini olması gereken yerin dışına taşıdığını, ancak herhangi bir dış saldırı olmadığını belirtti. Bu açıklama, çalışanların tuş vuruşlarını ve fare hareketlerini kaydeden yazılımın neden askıya alındığına ışık tutuyor.
Bosworth, verilerin 'oldukça güvenli' olduğunu ve yalnızca birkaç kişinin erişebildiğini, sorunun şirket içinden kaynaklandığını ifade etti. 'Verilerle çalışan bir araştırmacı, herhangi bir ihlal olmamasına rağmen, verileri olmaması gereken bir yere koydu' dedi. Bu durum, Meta'nın çalışan izleme konusundaki hassasiyetini bir kez daha gündeme getirdi.
Model Yetenek Girişimi, Nisan ayında ABD'deki çalışanların çoğunluğuna yüklenen bir yazılımla başlatılmıştı. Yazılım, tuş vuruşlarını ve fare hareketlerini kaydederek Meta'nın yapay zeka modellerini eğitmek için hammadde topluyordu. Çalışanların bu yazılımdan çıkma hakkının olmaması büyük tepki çekmiş, 1.600'den fazla çalışan imza toplamış ve ofislerden birinde yazılıma 'Çalışan Verisi Çıkarma Fabrikası' lakabı takılmıştı.
Sistem Güvenliği
Bosworth, röportajda projenin başarısızlığının ikinci bir nedenini daha açıkladı: Bilimsel hata. Toplanan verilerin çok fazla benzer örnek içerdiğini, oysa yapay zeka modellerinin çeşitliliğe ihtiyaç duyduğunu belirtti. 'Varyans, temelde aynı şeyin yüksek hacminden çok daha önemlidir' diyen Bosworth, bu farkındalığın ardından opt-out seçeneklerini genişlettiklerini söyledi.
Sonuç ve Değerlendirme
Başlangıçta hiçbir çalışanın katılmama hakkı yokken, tepkiler üzerine Meta 30 dakikalık bir mola hakkı tanımış, ardından tamamen çıkma imkanı sunmuştu. Bosworth, askıya almayı bir geri çekilme değil, önlem olarak nitelendirdi. Ancak projenin orijinal haliyle geri dönüp dönmeyeceği belirsizliğini koruyor.
Gelecekte Ne Bekleniyor?
Olayın merkezindeki araştırmacının adı henüz açıklanmadı. Meta'nın şimdiye kadar topladığı verilerle ne yapacağı ise Bosworth'ün yanıtsız bıraktığı en zor soru. Bu vaka, yapay zeka eğitimi için kurulan gözetim sistemlerinin, ölçmeyi amaçladığı iş gücüne nasıl ters tepebileceğini gösteren bir örnek olarak tarihe geçti.
Privacy uzmanları, aracın Avrupalı çalışan verilerini GDPR ile çelişebilecek şekilde toplama riskine dikkat çekmişti. Meta, Haziran ayında yaptığı açıklamada 'veri gizliliği önlemlerini dikkatlice tasarladıklarını' ve soruşturma süresince projeyi durdurduklarını belirtmişti. Şirket, gelişmelerle ilgili daha fazla yorum yapmadı.
Nasıl Önlem Alınmalı?
Bosworth'ün itirafları, Meta'nın iç çalkantılarına da ışık tutuyor. Şirketin 20 yıllık tarihinde çalışan moralinin 'en düşük seviyelerden birinde' olduğunu kabul eden Bosworth, işten çıkarmalar ve yapay zekaya ağırlık verilmesinin çalışanları tedirgin ettiğini söyledi. Bu bağlamda, Model Yetenek Girişimi'nin akıbeti, Meta'nın gelecekteki çalışan politikaları için de önemli bir dönüm noktası olabilir.
Kaynak: thenextweb.com
