研究者らは、言語モデルの長文脈における状態追跡能力を評価するためにStateBenchを開発した。このテストは、変数代入を通じてR-trivial、非周期的、可解、一般有限の4段階の難易度で状態更新能力を測定する。ベンチマークはクローン＝ローズ理論に基づき、理論上トランスフォーマーが最も困難なレベルで失敗すると予測される一方、Gated DeltaNetのような再帰的・ハイブリッドアーキテクチャはすべてのレベルを処理できるとされている。