Dharma AI ekibi, üretimde çalışan Portekizce makale otomatik değerlendirme sistemlerinde Qwen3-4B tabanlı modelin tokenizer'ını VocabX yöntemiyle yeniden inşa etti.
Yöntem, token sıklığı yerine her tokenin çıkarım maliyetini (decode aşamasında bir tokenin prefill tokenından 7,4 kat pahalı olması) ölçerek kelime altı ve çok kelimeli (makro) token katmanlarını aynı kriterle optimize ediyor.
Böylece modelin çıktı katmanı 152 bin girişten 65 bine indi, ortalama yanıt token sayısı 350'den 101'e düştü ve ölçülen çıkarım maliyeti %77 oranında azaldı.