baseモデルだとこの性能。あとでビルドしてみよう。
"実時間の1/40 〜 1/50の処理時間、本家Whisperのモデル(CPU実行)と比べて約70倍の速さという結果になった。"
whisper.cppのCore ML版をM1 MacBook Proで動かす https://zenn.dev/shu223/articles/whisper-coreml
様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。