Meta, öneriler sistemleri için özel olarak optimize edilmiş AMD Instinct MI450 tabanlı bir AI hızlandırıcısı kullanmayı planlıyor. Bu donanım, 432 GB yerine 144 GB HBM4 bellek ve azaltılmış işlem gücüyle tasarlanıyor. Bu değişiklik, HBM4'nin yüksek maliyetini düşürerek donanım maliyetlerini önemli ölçüde azaltmayı amaçlıyor.

Bu özel versiyon, büyük dil modellerinin eğitimi veya çıkarım işlemleri için uygun değil. Standart Instinct MI455X, 432 GB bellek ve 19.6 TB/s bant genişliğiyle bu tür işlerde kullanılıyor. Meta'nın yeni hızlandırıcıları ise yalnızca öneri sistemlerinde verimli çalışacak ve diğer iş yükleri için uygun olmayacak.

Bu özelleştirme, Meta'nın toplam sahip olma maliyetini düşürebilir, ancak gelecekteki iş yükü değişikliklerinde esneklik kaybına neden olabilir. Eğer Meta, yapay zeka model eğitimi için daha fazla kaynak ihtiyaç duyar, bu hızlandırıcılar kullanılamaz hale gelir ve şirket, Nvidia gibi diğer tedarikçilerden genel amaçlı donanımlar satın almak zorunda kalabilir.