カリフォルニア工科大学の研究者たちによって設立されたPrismMLは、アリババのオープンソースモデルQwen 27Bを5.9 GBまで圧縮し、オリジナルの9〜10分の1のメモリで動作するBonsai 2 27Bモデルを公開した。

このモデルは、Qwenの統合ベンチマークスコアの98%を達成しており、この割合は3月にリリースされた初代Bonsaiモデルの95%から向上している。

同社はこの圧縮技術により、高性能で推論能力を備えた大規模言語モデルが巨大なサイズである必要性を排除することを目指している。