Apertus 1.5, ilk nesil modelin devam eden ön eğitimi ile 8B modeline 4 trilyon, 70B modeline ise 2 trilyon metin ve çokmodal veri eklenerek 19 trilyon ve 17 trilyon toplam veri setine ulaşmıştır. Modeller tamamen açık kaynak olarak sunuluyor: açık ağırlıklar, açık veri, açık değerler ve tam eğitim ayrıntıları. Yeni özellikler arasında metin yanı sıra görüntü ve ses kabul eden multimodal anlama, giriş öncesi düşünme modu ile mantık problemlerinde performansı artıran 262.144 token'lık uzun bağlam, iyileştirilmiş talimat uyarma ve araç kullanımı yer alıyor.
Modeller, görüntüleri ve sesleri anlayıp sadece metin üretimi yapabilmektedir. Eğitim, multimodal verilerin metin veriyle karışarak başlayıp, paired veri ile hizalanıp, cooldown aşaması ile daha kaliteli matematik ve kod verisi içermesi ve sonunda 262k token'lık bağlamı hedeflemek üzere dört aşamada gerçekleştiriliyor. Post-öğretimde SFT, uzun bağlam SFT, RL, DPO ve Charter alignment (SDPO) gibi beş aşama uygulanıyor.
Çokmodal veri ile SFT yapılan modeller, matematik becerilerinde text-only checkpoint'lerden daha iyi performans sergiliyor. Evaluerasyonlar metin, çokmodal, düşünme modu ve güvenlik kapsamında genişletilmiş; sonuçlar EEE şemasının altında açıkça raporlanıyor. Apertus 1.5, coding ve instruction following yeteneklerde