"Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention"

https://twitter.com/s_tat1204/status/1778297362131374363

> 既存の Transformer ベースのモデルに "メモリ" 機構を導入する Infini-attention の提案。