Ming-3.0-TTS Yerel Kurulum: 0.5B mi, Tiny mı?

Bir modelin adında “Tiny” geçiyorsa genellikle yerel kullanım için daha kolay seçenek olduğu düşünülür. Ming-3.0-TTS’de ise tablo tersine dönüyor: ilk kurulum için yoğun 0.5B checkpoint’i tercih edin; Tiny’yi ancak çok konuşmacılı podcast üretimi gerçekten gerekiyorsa seçin. En büyük belirsizlik donanım tarafında: InclusionAI, H800 ve H20 üzerinde test sonuçları paylaşıyor ancak tüketici GPU’ları için minimum bir hedef belirtmiyor.

Ortamı oluşturmadan önce checkpoint’i seçin

Ming-3.0-TTS, farklı omurga mimarilerine, bağımlılık setlerine ve giriş noktalarına sahip iki checkpoint sunuyor. İlk kurulum için 0.5B daha mantıklı seçenek. Tiny ise dağıtım kolaylığından çok konuşmacı benzerliği veya çok konuşmacılı diyalog önemli olduğunda anlam kazanıyor.

Her iki checkpoint de 44.1 kHz ses üretir, yedi dili destekler ve ses klonlama, ses tasarımı, duygu, lehçe ve diğer kontroller için ayrı görev modları kullanır. Resmî depo, her iki modelin de MIT lisansıyla yayımlandığını ve Tiny’nin sabitlenmiş bağımlılıkları 0.5B’den farklı olduğu için özel bir ortama ihtiyaç duyduğunu belirtiyor.

“Tiny” adı, diskte saklanan ağırlıkların küçük olduğunu değil, etkin MoE hesaplama maliyetini anlatıyor. Tiny model kartında omurga parametre sayısı 7.9B, token başına etkin parametre sayısı yaklaşık 1.3B ve depo boyutu yaklaşık 18 GB olarak veriliyor.

Klondan doğrulanmış checkpointe: yerel kurulum

Sorunsuz bir Ming-3.0-TTS kurulumu için iki modeli ayrı ortamlarda tutun. Resmî kodu bir kez klonlayın, yalnızca seçtiğiniz checkpoint’in gereksinimlerini yükleyin, ağırlıkları indirin ve modeli yüklemeden önce ilgili ön kontrol betiğini çalıştırın.

0.5B ortamını kurun

Temel depo kurulumu oldukça kısa:

git clone https://github.com/inclusionAI/Ming-3.0-tts.git
cd Ming-3.0-tts
conda create -n ming-tts python=3.10 -y
conda activate ming-tts
pip install -r requirements.txt

0.5B model kartına göre referans kurulum PyTorch 2.6, CUDA 12.4 ve transformers==4.46.3 kullanıyor. FlashAttention isteğe bağlı; alternatif olarak PyTorch SDPA kullanılabiliyor. Bu alternatif uyumluluk sağlıyor ancak proje, performans kaybına ilişkin bir ölçüm yayımlamıyor.

Sayılar, tarihler, birimler ve semboller FST metin normalizasyonunu kullanır. Sabitlenmiş Pynini sürümünü Conda üzerinden yükleyin:

conda install -c conda-forge pynini==2.1.6

pynini için tüm platformlarda geçerli bir wheel bulunmuyor. --no_text_normalization seçeneği bunu devre dışı bırakır; ancak bu durumda kısaltmalar, tarihler, sayılar ve semboller ham hâlleriyle sentezleyiciye gönderilir. Bu nedenle seçenek, üretim varsayılanından çok sorun giderme amacıyla kullanılmalı.

Tiny için ayrı bir ortam kurun

Tiny’yi 0.5B ortamının üzerine kurmayın. Resmî kurulum Python 3.10.15, CUDA 11.8 wheel’leri, PyTorch ve torchaudio 2.7.1 ile transformers==4.46.3 sürümlerini sabitliyor:

conda create -n ming-tiny python=3.10.15 -y
conda activate ming-tiny
pip install -r requirements-tiny.txt

Tiny, BF16 hesaplama, taşınabilir bir MoE döngüsü ve FP32 tekrarlayan durum kullanıyor. InclusionAI, NVIDIA H800 öneriyor; belgelerde desteklenen CPU, Apple Silicon, GGUF veya llama.cpp kurulumu için bir yol sunulmuyor.

Her iki checkpoint’i indirin ve doğrulayın

Hugging Face CLI, ağırlıkları öngörülebilir bir yerel dizine indirebilir:

pip install "huggingface_hub[cli]"
hf download inclusionAI/Ming-3.0-tts-0.5B \
  --local-dir Ming-3.0-tts-0.5b
python tools/preflight.py --model_path Ming-3.0-tts-0.5b

Tiny için model kimliğini değiştirip kendi doğrulama betiğini çalıştırın:

hf download inclusionAI/Ming-3.0-tts-tiny \
  --local-dir Ming-3.0-tts-tiny
python tools/preflight_tiny.py --model_path Ming-3.0-tts-tiny

Ön kontrol betikleri, ağırlıkları yüklemeden checkpoint ve tokenizer yapısını doğrular. Çin ana karasındaki kullanıcılar bunun yerine proje README’sinde belgelenen ModelScope indirme komutunu kullanabilir.

Sunucu eklemeden önce tek bir dosya üretin

İlk doğrulama için depo CLI’ı üzerinden tek bir WAV dosyası üretmek yeterli. 0.5B ile ses klonlarken hedef metni, referans WAV dosyasını, bu kaydın eksiksiz dökümünü ve --use_spk_emb seçeneğini verin. Döküm, isteğe bağlı bir metadata değil, koşullandırma sürecinin bir parçası.

python infer.py \
  --model_path Ming-3.0-tts-0.5b \
  --task TTS \
  --language_id English \
  --text "The release candidate passed every audio check." \
  --prompt_wav_path reference.wav \
  --prompt_text "This is the exact speech in the reference recording." \
  --use_spk_emb \
  --output output/first.wav

Çıktının 44.1 kHz WAV olması gerekir. Checkpoint doğrulaması başarılı olduğu hâlde komut çalışmıyorsa kullanıcı arayüzü veya sunucu katmanı eklemeden önce CUDA/PyTorch uyumluluğunu ve referans dosyasını kontrol edin. Hugging Face depoları checkpoint’leri dağıtıyor; her iki model kartı da pratik çıkarım için ayrıca GitHub deposunun gerektiğini belirtiyor.

Referans kayıt temiz olmalı ve dökümü eksiksiz eşleşmeli. Resmî belgelerde ideal referans süresi açıklanmıyor; bu yüzden belgelenmemiş bir kullanım alışkanlığını katı bir doğrulama şartına dönüştürmeyin.

Ming-3.0-TTS’yi tek bir konuşma endpoint’i üzerinden sunun

SGLang-Omni, her iki checkpoint’i tek bir GPU üzerinde POST /v1/audio/speech endpoint’i aracılığıyla kullanıma açabiliyor. Ming-3.0-TTS SGLang cookbook’ı, ön işlemeyi CPU’ya; omurga ile AudioVAE decoder’ı ise aynı GPU’ya yerleştiriyor.

Checkpoint’lerden birini başlatın:

sgl-omni serve --model-path inclusionAI/Ming-3.0-tts-0.5B

Ardından bir WAV isteğinde bulunun:

curl http://127.0.0.1:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "model": "inclusionAI/Ming-3.0-tts-0.5B",
    "input": "The local speech endpoint is ready.",
    "response_format": "wav",
    "seed": 123
  }' \
  --output speech.wav

Bu endpoint wav, mp3, flac veya pcm kabul eder; varsayılan format WAV’dır. Boş bir input, HTTP 400 döndürür. model alanı, sunucuyu başlatırken kullanılan checkpoint ile eşleşmelidir.

Oynatmayı token tarzı akış üzerine kurmayın. SGLang cookbook’ı, stream=true seçeneğinin üretim tamamlanana kadar beklediğini ve tek parça PCM yanıt gövdesi döndürdüğünü belirtiyor. Ayrıca klonlama için yalnızca bir referans kaydını kabul ediyor; ikinci bir referans reddediliyor.

Kontroller, birlikte kullanılacak bayraklar değil görev modlarıdır

Ming-3.0-TTS kontrolleri birbirinden ayrı görev sözleşmeleri olarak çalışıyor. İstekte mevcut tüm seçenekleri birleştirmek yerine, hedef çıktıya karşılık gelen görevi seçin.

Resmî cookbook, serbest modun ses tasarımı, yerleşik sesler, duygu, lehçe veya temel niteliklerle birleştirilemeyeceğini açıkça belirtiyor. Tek bir cümlede birden fazla paralinguistik olay destekleniyor; ancak depo sınırlamalarında kararlılığın tekil olaylara göre daha düşük olduğu belirtiliyor.

Skorlar neyi kanıtlıyor, neyi kanıtlamıyor?

Yayımlanan en güçlü veriler, varsayılan seçim olarak 0.5B’yi; uzmanlaşmış kullanım içinse Tiny’yi işaret ediyor. Resmî README’de tekrarlanan Artificial Analysis sonuçlarına göre Ming-3.0-TTS, Ekim 2026’da 1.069 Controlled Voice Elo ve %93,2 telaffuz dayanıklılığı elde etti. Ancak bu liderlik tablosu sonuçları Tiny’nin kalitesini kanıtlamıyor; 0.5B modeline ait.

Üretici değerlendirmeleri checkpoint’ler arasında gerçek bir tercih ortaya koyuyor. Seed-TTS değerlendirme verilerinde 0.5B için Çince/İngilizce WER değerleri %0,800/%1,584 iken Tiny’de %0,820/%1,666 olarak veriliyor. Tiny ise her iki dilde daha yüksek konuşmacı benzerliği bildiriyor: 0.5B’nin 0,758/0,691 değerlerine karşılık 0,781/0,728. Bu rakamlar yerel olarak tekrarlanmış testlerden değil, InclusionAI’nin değerlendirme tablolarından geliyor.

Tiny, yedi dilin tamamında daha iyi değil. Resmî çok dilli tabloda Tiny’nin Korece CER değeri %6,000; 0.5B’nin değeri ise %1,728. Podcast desteği yalnızca Tiny’de bulunuyor. Model podcast kullanımında %2,03 CER, 0,561 koşullu konuşmacı benzerliği ve 2,12 UTMOS bildiriyor; ancak InclusionAI, tahmin edilen podcast ses kalitesini aynı zamanda geliştirilmesi gereken bir alan olarak listeliyor.

Pratik sonuç şu: ilk dağıtım, Korece ve daha düşük operasyonel karmaşıklık için 0.5B’yi seçin. Podcast üretimi gerekiyorsa veya kendi referanslarınızda ölçtüğünüz ses benzerliği daha büyük checkpoint’i haklı çıkarıyorsa Tiny’yi değerlendirin.

Dağıtımı kendi donanımınızda doğrulayın

Resmî kurulumun başarılı olması, tüketici GPU’su üzerinde üretime hazır bir sisteminiz olduğu anlamına gelmez. Dağıtım kararından önce tepe VRAM kullanımını, tamamlanmış ilk WAV dosyasına kadar geçen süreyi, gerçek zaman katsayısını, hata oranını ve uygulamanın kullanacağı dil ile referans ses koşullarındaki çıktı kalitesini ölçün.

“Henüz GGUF/llama.cpp yok ve tüketici GPU’su benchmark’ları bulunmuyor.” — X’te @TeksEdge

Bu gözlem, resmî kanıtların sınırıyla örtüşüyor: 0.5B belgelerinde H800-80GB ve H20-96G test sistemleri belirtilirken Tiny için H800 öneriliyor. Resmî model kartlarının hiçbirinde RTX 4090, RTX 3090, Windows, WSL2, macOS, minimum VRAM veya gerçek zaman katsayısı sonuçları yayımlanmıyor.

Şu geçer/kalır sırasını uygulayın:

1. İlgili ön kontrol betiğini çalıştırın ve çıktısını checkpoint revizyonuyla birlikte saklayın.
2. Yerleşik veya sıfır konuşmacılı bir akışla kısa bir WAV üretin, ardından üretimde kullanılacak referans formatıyla aynı testi tekrarlayın.
3. Kısa, orta uzunlukta ve uzun üretim metinleri için tepe VRAM kullanımını ve geçen süreyi ölçün.
4. Her dağıtılacak dilde anlaşılırlığı ve konuşmacı kimliğini ayrı ayrı puanlayın.
5. Gerekli her kontrolü kendi görevi olarak test edin; desteklenmeyen kombinasyonlara dayanan yapılandırmaları reddedin.
6. İstek zaman aşımı ve eşzamanlılık dâhil olmak üzere tam dalga biçimli API davranışını yük testiyle ölçün.

Bu ölçümler olmadan “yerelde çalışıyor” ifadesi yalnızca referans yığınının belgelenen veri merkezi donanımında yüklenip ses üretebildiği anlamına gelir.

Ming-3.0-TTS SSS

Ming-3.0-TTS RTX 4090 veya 3090 üzerinde çalışır mı?

Resmî sürüm, minimum VRAM değeri veya tüketici GPU’su benchmark’ı yayımlamıyor. 0.5B checkpoint’i daha makul başlangıç noktası; ancak hangi kartı kullanacağınıza karar vermeden önce tepe bellek tahsisini ve gerçek zaman katsayısını yerel olarak doğrulayın.

Ming-3.0-TTS Windows veya macOS’ta çalışıyor mu?

Resmî referans ortamları CUDA tabanlı Linux kurulumları. Resmî depoda yerel Windows, WSL2, Apple Silicon, MLX, GGUF veya llama.cpp desteği belgelenmiyor.

Ming-3.0-TTS ticari olarak kullanılabilir mi?

Kod ve yayımlanan checkpoint’ler MIT lisansına sahip. Geliştiriciler kullanım yönergelerinde aldatıcı veya rıza dışı taklidi yasaklıyor ve yapay konuşmanın gerçek bir kayıtla karıştırılabileceği durumlarda sentetik olduğunun belirtilmesini istiyor.

SGLang API ses akışını gerçek zamanlı olarak yapıyor mu?

Hayır. Belgelenen stream=true davranışında üretim tamamlandıktan sonra tek bir PCM yanıt gövdesi döndürülüyor. Bu nedenle istemciler API’yi parça parça oynatma yerine tam yanıt üretimi olarak ele almalı.

Ming-3.0-tts-0.5B mi, Tiny mi kullanılmalı?

Daha küçük checkpoint, daha basit kurulum, Korece sentez ve standart tek konuşmacılı işler için önce 0.5B’yi kullanın. Çok konuşmacılı podcast üretimi zorunluysa veya yerel testleriniz Tiny’nin daha yüksek Çince/İngilizce konuşmacı benzerliği skorlarının kendi seslerinize de aktarıldığını gösteriyorsa Tiny’yi tercih edin.