LLM eleştirilerinin neredeyse tamamına katılıyorum. Yine de LLM'leri yoğun bir şekilde kullanıyorum. Kulağa çelişkili geliyor, hatta bazen kendimi bu uyumsuzluk yüzünden yanılsama içinde hissediyorum. Ama yalnız olmadığımı biliyorum. Geçtiğimiz hafta Berlin'deki Local-First Conf'da bu çelişki her yerdeydi. Armin Ronacher, Flask'ın yaratıcısı ve Sentry'nin ilk ekip üyelerinden biri olarak, yeni kurduğu Earendil şirketiyle Pi.dev'i, yani 'açık kaynak kodlama aracı koşum takımı'nı anlattığı bir konuşma yaptı. Konuşmanın ardından Discord üzerinden soru sorma fırsatı buldum: 'Pi için PR kabul ediyor musunuz, yoksa LLM'lerden gelen PR yağmurunu nasıl yönetiyorsunuz?' Sahneden canlı yanıt verdi: neredeyse tüm PR'ları ve sorunları otomatik olarak kapatıyorlar. Ama insanların PR açmaktan vazgeçmemesi gerektiğini, çünkü insan dokunuşunun her zaman fark yaratacağını söyledi. Yani yalnız değilmişim; oldukça zeki mühendisler de aynı durumda. LLM'lerle çalışmak için araç üreten insanlar, kendi yarattıklarının seli altında kalıyor ve kendilerini korumak için her şeyi otomatik kapatıyorlar. Amaç sayfalarında şöyle yazıyor: 'Yapay zekaya doğru hızla ilerleyen bir dünyada, en iyi ajanların insanlar olduğuna inanıyoruz.' Yine çelişki.
Konferansta otururken birçok kişinin Claude Code'u açık olduğunu gördüm. Konuşmacılar LLM'ler hakkında eleştirel şeyler söylediğinde büyük alkış alıyorlardı. Claude Code'u açık olanlar bile alkışlıyordu. İşte bu çelişki. Konferansta ben de bir konuşma yaptım ve sonrasında insanlarla konuştuğumda, hissettiklerinin benimkine oldukça benzer olduğunu söylediler. Bu rahatlatıcıydı çünkü yalnız olmadığımı anladım. Bu yazıda, bu çelişkiyi tarif etmeye çalışacağım. Önce LLM kullanımıyla ilgili geçerli endişeleri sıralayacağım, sonra neden hala LLM kullandığımı açıklayacağım ve somut örneklerle bu uyumsuzluğu daha iyi anlamaya çalışacağım.
LLM'lerin kötü olduğuna dair birçok eleştiri var. Bunların neredeyse tamamına katılıyorum. Telif hakkı ihlalleri, çevreye zarar, etik sorunlar, NVIDIA ve OpenAI'nin para döngüsü... Bunların hepsi geçerli. En yaygın eleştiri 'LLM'ler çok fazla slop üretiyor.' Kesinlikle katılıyorum. Açık kaynak yazılımlara baktığınızda, giderek daha fazla projenin ya tüm katkıları reddettiğini ya da filtreler koyduğunu görüyorsunuz. Armin ve Earendil'in yaptığı gibi. Buradaki temel sorun güven. İnternetteki rastgele insanlara asla güvenmemelisiniz. LLM'lerden önce, düzgün bir PR oluşturmak en azından biraz insan zamanı gerektirirdi. Bu da trolleri ve düşük kaliteli gönderimleri dışarıda tutardı. Artık bu temel doğru değil. Herkes yeni bir GitHub hesabı açıp LLM'sini serbest bırakabilir ve bir bakımcı olarak, PR için çok zaman harcanıp harcanmadığını kolayca anlayamazsınız. Zig veya Gentoo gibi projeler LLM tarafından üretilen PR'ları kabul etmeyi reddediyor. Bence bu çözüm değil çünkü nasıl ayırt edeceksiniz? LLM'ler, güveni yeniden tesis edecek yollar bulamazsak açık kaynağı öldürme potansiyeline sahip. Bir fikir, yalnızca küçük bir doğrulanmış kişi grubunun katkıda bulunmasına izin vermek ve doğrulama için gerçek hayatta bir buluşmaya gitmeyi gerektirmek olabilir.
Bir diğer konu da kıdemli ve kıdemsiz mühendisler arasındaki ilişki. Kıdemsizlerin kodlarındaki çabaya güvenemezsiniz. Kıdemliler artık kıdemsizlere öğretmek için bir teşvike sahip değil. Eskiden kıdemliler kıdemsizlerin kodlarını düzeltir, gözden geçirir ve onların büyümesine yardımcı olurdu. Artık kıdemliler, sıradan görevleri tamamen LLM'lere devredebiliyor. Öyleyse neden kıdemsizleri işe alasınız? Ayrıca jeopolitik gerilimler var. ABD veya Çin bizi bu teknolojilerden bir gecede keserse ne olur? Birkaç hafta önce ABD hükümeti, ABD vatandaşı olmayanları Anthropic'in en son sınır modelinden kesme yeteneğini ve istekliliğini gösterdi. Anthropic'in kendi açıklaması: ABD ihracat kontrol yönergesi, Fable 5 ve Mythos 5'i tüm müşteriler için aniden devre dışı bırakmaya zorladı. Bu bir kıyamet senaryosu değil, gerçek.
Tüm bu eleştirilere rağmen LLM kullanmaya devam ediyorum. Bunun nedenleri var. Birincisi, üretkenlik artışı. LLM'ler, tekrarlayan görevleri otomatikleştirerek daha yaratıcı işlere zaman ayırmamı sağlıyor. İkincisi, öğrenme aracı olarak kullanıyorum. Karmaşık konuları hızlıca anlamama yardımcı oluyorlar. Üçüncüsü, fikir üretme sürecinde ilham kaynağı oluyorlar. Bu faydalar, eleştirileri görmezden gelmeme neden olmuyor, ancak onları kullanmaya devam etmemi sağlıyor. Çelişki burada: mantıklı argümanlar karşısında duygusal ve pratik faydalar ağır basıyor.
Nasıl Önlem Alınmalı?
Bu çelişkiyle başa çıkmak için bazı kalıplar geliştirdim. Örneğin, LLM'leri yalnızca belirli görevlerde kullanıyorum: kod yazma, hata ayıklama, dokümantasyon oluşturma. Ama asla kritik kararlar veya güvenlik açıkları için kullanmıyorum. Ayrıca, LLM tarafından üretilen kodları her zaman dikkatlice inceliyorum. Bir diğer kalıp, açık kaynak projelere katkıda bulunurken LLM kullanımını sınırlamak. PR'larımı kendim yazıyorum, sadece fikir almak için LLM'den yardım alıyorum. Bu şekilde, güven sorununu aşmaya çalışıyorum. Son olarak, toplulukla etkileşimde bulunuyorum. Gerçek hayattaki buluşmalara katılıyor, diğer geliştiricilerle konuşuyorum. Bu, güven inşa etmenin en iyi yolu. Belki de açık kaynak projeler için bir 'doğrulama sistemi' düşünülebilir: yalnızca gerçek hayatta tanıştığınız kişilerin katkılarını kabul etmek. Bu, hem güveni artırır hem de topluluk bağlarını güçlendirir. LLM'lerin getirdiği bu çelişkili dönemde, herkesin deneyimlerini paylaşması ve ortak bir anlayış geliştirmesi önemli.
Kaynak: theocharis.dev
