サウスカロライナ州コロンビアの訴訟弁護士Nick Mermiges氏は、中古Nvidia V100 GPU 8基(各32 GB)と1 TB DDR4 RAMを搭載した自前のAIサーバーを更新し、法律実務で使用しているDeepSeek V4.1 Flashモデルを2ビット量子化からNvidiaの4ビットNVFP4形式に引き上げた。

システムは、モデルの15,360エキスパート網の約38.7%(5,949エキスパート)をNVFP4精度で保持し、残りを2ビットのままにしている。これにより、デコード経路の80〜86%が高精度エキスパートで処理されるようになった。

Nvidiaの公式モデルに基づく測定では、「same next token」率が92.2%から95.1%に上昇、KLダイバージェンスが0.196 natsから0.079 natsに低下、多肢選択テストでの異なる回答数が79から8に減少した。