AWS Inferentia 2インスタンスでの、Transformersモデルのベンチマーク。
Accelerating Hugging Face Transformers with AWS Inferentia2 https://huggingface.co/blog/accelerate-transformers-with-inferentia2
様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。