Her gün milyonlarca insan ChatGPT, Gemini, Claude gibi yapay zeka asistanlarına sorular soruyor ve neredeyse anında yanıt alıyor. Peki enter tuşuna bastıktan sonra gerçekte ne oluyor? Normal bir CPU neden bu soruları hızlıca cevaplayamıyor? Şirketler neden GPU'lara milyarlarca dolar harcıyor? Bu yazıda, klavyenizden yapay zekanın beynine kadar olan yolculuğu adım adım takip edeceğiz. Aslında her şey, ofisinize 10.000 mektup geldiğini hayal etmekle başlıyor. Bir süper hızlı çalışan (CPU) mektupları tek tek açarken, 10.000 çalışan (GPU) aynı anda açarak işi neredeyse anında bitiriyor. GPU'lar daha akıllı değil, sadece çok daha fazla sayıda paralel çalışıyorlar.
CPU'lar mantıksal düşünme, karar verme, koşulları yönetme gibi işlerde mükemmeldir. Web tarayıcısı açmak, müzik çalmak, işletim sistemini çalıştırmak gibi görevler için idealdir. GPU'lar ise aslında oyunlar için icat edildi. 4K bir monitörde 8 milyondan fazla piksel var ve her karede her piksel için hesaplama yapılması gerekiyor. GPU'lar milyonlarca pikseli aynı anda hesaplayarak bu işi başarıyor. Oyun sektörü, tesadüfen yapay zeka için mükemmel donanımı yarattı. Çünkü büyük dil modelleri (LLM) insanlar gibi düşünmez; sürekli olarak matris çarpımı, vektör çarpımı, toplama, çarpma, normalizasyon ve softmax gibi matematiksel işlemler yapar. Bu işlemler milyarlarca kez tekrarlanır ve GPU'lar bu tür paralel matematiksel hesaplamalarda inanılmaz derecede verimlidir.
Enter'a bastığınızda yolculuk şöyle başlar: Tarayıcınız isteği internet üzerinden bulut sunucusuna gönderir. Sunucu önce kimlik doğrulama, kötüye kullanım sınırlaması gibi kontrolleri yapar, ardından tokenizer devreye girer. Yapay zeka metni anlamaz; 'Kara Delikleri Açıkla' cümlesini sayılara dönüştürür. Örneğin 'Kara' token 928, 'Delik' token 6392 olur. Bu tokenlar daha sonra yüzlerce veya binlerce sayıdan oluşan vektörlere (gömülümlere) dönüştürülür. Benzer anlamlı kelimeler benzer vektörler üretir. Ardından tüm bu veriler GPU belleğine (VRAM) kopyalanır ve asıl iş başlar. Modern bir LLM'de 70 milyar parametre bulunabilir ve bu parametrelerin tamamı VRAM'de tutulmalıdır, aksi takdirde işlemler yavaşlar.
GPU'lar transformer mimarisinin kalbinde yer alır. Dikkat mekanizması (attention) her kelimenin diğer kelimelerle ilişkisini hesaplar; örneğin 'Kedi sütü içti çünkü acıkmıştı' cümlesinde 'o'nun neyi kastettiğini belirler. İleri beslemeli ağlar (feed forward) ise dev bir hesap makinesi gibi çalışır. Her nöron çarpma, toplama ve aktivasyon işlemlerini tekrarlar. Yapay zeka tüm cümleyi bir anda yazmaz; her seferinde bir token tahmin eder ve süreci tekrarlar. Yanıtların anında gelmesinin sebebi ise tokenların üretildikçe iletilmesidir (streaming). Birden fazla GPU, çok büyük modellerin katmanlarını paylaşarak çalışmasını sağlar. CPU ise tüm bu sürecin orkestra şefi gibidir: isteği alır, ağ yönetimini yapar, modeli yükler, GPU işlerini planlar ve yanıtı size geri gönderir. Kısacası, her yapay zeka sohbeti, yazılım ve donanımın olağanüstü bir iş birliğidir.
