Kokoro ile Yerel, CPU Dostu, Yüksek Kaliteli TTS (Metin-Konuşma)
Sadece birkaç yıl önce gerçekçi yerel konuşma üretimi hayal bile edilemez görünüyordu. Bugün kalitesi olağanüstü ve en önemlisi bu sonuçları gizlilikten ödün vermeden sunuyor.
Yukarıdaki video, daha önce Yerel LLM için GTX 1080 Ti makalesinde tartışılan, tamamen yerel makinede çalışan örnek bir metinden oluşturulan sesi göstermektedir. Bu makinenin özel bir GPU'su olsa da GPU tamamen LLM çıkarımı için ayrılmıştır ve konuşma sentezi tamamen CPU tarafından desteklenmektedir.
Gelecekte Ne Bekleniyor?
Kullanılan model, yalnızca 82M parametreye sahip olmasına rağmen İngilizce, Mandarin ve Hintçe dahil birçok dilde gerçekçi konuşma üreten Kokoro'dur. Öncelikle İngilizce için optimize edilmiş yaklaşık 50 farklı ses sağlar.
Kokoro için sunucu kurmanın birkaç yolu vardır. En basit yöntem, önceden indirilmiş ses modellerini içeren, Kokoro-FastAPI adı verilen önceden hazırlanmış bir kapsayıcı görüntüsünün kullanılmasını içerir. Bu nedenle konteyner görüntüsü oldukça büyüktür ve yaklaşık 5 GB boyutundadır.
Kapsayıcıyı Docker veya Podman kullanarak başlatmak için aşağıdaki komutu kullanın:
podman çalıştırması -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu
Detaylar ve Etkileri
Doğru şekilde çalıştığını hızlı bir şekilde doğrulamak için kapsayıcı, localhost:8880/web adresinde basit bir web kullanıcı arayüzü sunar. Burada bir metin verildiğinde bir ses oluşturabilir (ve otomatik olarak oynatabilirsiniz).
Basit web kullanıcı arayüzüne ek olarak bu kapsayıcı, OpenAI konuşma API'si ile uyumlu bir TTS arayüzü de sunarak halihazırda OpenAI konuşma API'sini kullanan mevcut programların uyarlanmasını kolaylaştırır. Hızlı bir testi kolaylaştırmak için hem JavaScript hem de Python'daki örnek kodu github.com/remotebrowser/speak adresinde bulabilirsiniz. Bu depoyu klonlamak sonraki gösterimi takip etmenizi sağlayacaktır.
Uzmanların Görüşleri
ihracat TTS_API_BASE_URL = http://127.0.0.1:8880/v1 ./speak.js "Günaydın! Bugün nasılsın?"
Python için komut çok benzer:
Teknik Analiz
ihracat TTS_API_BASE_URL = http://127.0.0.1:8880/v1 ./speak.py "Günaydın! Bugün nasılsın?"
Oluşturulan ses MP3 dosyası olarak kaydedilecektir. Makinenizde SoX veya Sound eXchange (ayrıntılı bilgi için sox.sf.net'e bakın) yüklüyse ses de otomatik olarak oynatılacaktır.
Sonuç ve Değerlendirme
TTS_VOICE ortam değişkenini ayarlayarak da farklı bir ses seçebilirsiniz:
ihracat TTS_API_BASE_URL = http://127.0.0.1:8880/v1 ihracat TTS_VOICE = "am_eric" ./speak.js "Günaydın! Bugün nasılsın?"
Mevcut seslerin tam listesini resmi Kokoro proje sayfasında bulabilirsiniz: huggingface.co/hexgrad/Kokoro-82M/blob/main/VOICES.md.
Sentez ne kadar hızlı? Kısa bir test paragrafında am_eric sesini kullanan bazı ölçümler:
Jüpiter, güneş sistemimizdeki en büyük ve en büyük gezegendir. Çoğunlukla hidrojen ve helyumdan oluşan bu gaz devi, yüzyıllardır gözlenen devasa bir fırtına olan Büyük Kırmızı Noktasıyla tanınıyor.
Aşağıdaki liste, farklı CPU'lar arasındaki üretim süresini (3 çalıştırmanın en iyisi) özetlemektedir:
Sistem Güvenliği
Intel Core i7-4770K: 4,7 saniye
Apple M2 Pro: 4,5 saniye
Önemli Gelişmeler
AMD Ryzen 7 8745HS: 1,5 saniye
Listedeki ilk CPU 12 yıl önce piyasaya sürüldü. Eğer bu eski CPU işi gayet iyi yapabiliyorsa, bunun son derece yetenekli bir TTS sistemi olduğunu bilirsiniz.
Son olarak, OpenAI uyumlu, kapsayıcıya alınmış alternatif bir TTS hizmeti için Speaches'i (speaches.ai) düşünün. Kokoro-FastAPI'den farklı olarak Speaches, kapsayıcı görüntüsünde paketlenmedikleri için ses ağırlıklarını API aracılığıyla açıkça indirmenizi gerektirir. Ancak Speaches, OpenAI'nin ünlü yüksek kaliteli Konuşmadan Metne (STT) sistemi Whisper'ı dahil ederek bir avantaj sunuyor. Uygulamanız hem TTS hem de STT işlevselliğine ihtiyaç duyuyorsa Speaches tek çözümünüz olabilir.
Bunun gibi bir konuşma sentezi sistemi, yerel bir Yüksek Lisans ile birleştirildiğinde, Yüksek Lisans cevaplarını okumak yerine dinlemenin keyfini çıkarmanıza olanak tanır!
Nasıl Önlem Alınmalı?
Not: Bu makale ilk olarak Uzak Tarayıcı Alt Yığınında yayınlanmıştır.
