PyTorch 2.15, MPS arka ucuna FP8 (float8_e4m3fn) tensör desteği ekleyerek BF16'ya göre yarım bellekle model ağırlıkları saklamayı ve F.scaled_mm ile doğrudan GPU'da çarpımı mümkün kıldı.
MoE (Mixture-of-Experts) modellerde yerel gruplandırılmış matris çarpımı (grouped matmul) ve özel çözümleme yolu sayesinde Qwen3.6-35B-A3B modeli M3 Ultra'da 9.4'ten 61.3 token/saniyeye, LFM2.5-8B-A1B ise 23.6'dan 123.6 token/saniyeye çıktı.
Tek satırlı lineer katmanlar için matris-vektör çekirdekleri ve softmax işlemleri ~8 kat hızlandırıldı; karmaşık LU, üçgensel çözümler ve QR ayrışımı da GPU'ya taşındı.