Araştırmacılar, dil modellerinin uzun bağlamdaki durum takibi yeteneklerini değerlendirmek için StateBench'i geliştirdi; bu test, değişken atamaları üzerinden R-trivial, aperiyodik, çözünebilir ve genel sonlu olmak üzere dört zorluk seviyesinde durum güncelleme yeteneğini ölçer. Kıyaslama, teorik olarak transformatörlerin en zor seviyede başarısız olacağı, ancak Gated DeltaNet gibi yinelenen ve hibrit mimarilerin hepsini yönetebileceği Krohn–Rhodes teorisine dayanır.