新しいものを表示

さて、仕事とか他の作業とかもあるんで、新旧両サーバをフル稼働させて一旦離れますねー

あと、常時赤字運営なので、コスト削減も目指しています。

応答が遅めだったり、少し遅延するのは、移行作業の都合だけでなく、どこまで削れるか判断するためにリソースを抑えているためでもあります。

ヘンに遠慮されても判断効かないので、ちょっと不便かもしれませんが、いつも通り使っていていただけると助かります。

スレッドを表示

高速道路や鉄道などで、片側車線で交互通行させたり、仮設道路を設けたり、いつもと違うホームで発着したり、止めない運用を工夫しているところは見かけるかと思います。

fedibird.com規模の構成になると、sidekiqだけ移し替えるとか、5台のうち、2台だけ動かして他を切り替えるとか、そういうオペレーションを駆使していく感じになります。

でも、データベースを切り替える時だけは、全面的に止めないと無理なんですわ。危ないし。

スレッドを表示

やっぱりWebUIやAPIは高速応答させたいなあ。専用にするか……。

新サーバ移行、サーバダウンを伴わない作業は段階的に進行してますので、応答が遅くなったり、たまにエラーでたりしますけど、

「やってるなー」ぐらいでみておいてください。

ヤバイときは報告します。

のえる さんがブースト
のえる さんがブースト

重いの解消してきたかな。

次のサーバの準備急ぐか……

ミシシッピアカミミガメ 診断メーカー 検索

ウイスキーコロコロ(そんなものはない)

(200cmのアクスタもいいよ)
(もはやアクスタじゃねえ)

買い換えようとしたとたん、今使ってるPCがご機嫌を損ねるって、良くあるよね!

(変異体の話じゃないよ!)

物理的には、各プロセスを実行する、複数台の実行環境に分割することができます。

処理能力の高いすごいサーバを借りてもいいし、小さなVPSを複数借りてもいいし、必要に応じてサーバ数を増減できる仕組みで動的に対応することも可能です。

PostgreSQLが大きくなりますので、自前設置ではなく、データベースサーバとして提供されているサービスを利用することで、安定動作やスケーリングの問題をサービス側で解決する方法もあります。めっちゃお金かかるけどね!!

スレッドを表示

PostgreSQLのデータベースは、基本的には一つしか設置できません。先程までに紹介した、たくさんのプロセスからのリクエストに、矛盾無く応じる必要があるためです。

PostgreSQLと各プロセスの間に、pgbouncerなどの交通整理をするプロセスを挟むこともあります。

大規模化すると同時にたくさんの接続とリクエストが来るようになるので、pgbouncerがそれぞれと接続しておいて、PostgreSQLとの接続は少数にしぼり、交通整理して順番に流すようにする役割を果たします。

リードレプリカという、読み出しのみを受け付けるサーバを設置することもできます。

データベースの複製を作って同期し、負荷分散を図る仕組みですが、書き込まれた内容が反映するまえに古い内容を応答すると動作がおかしくなるので、適用できる条件が限定的になります。

他にもいくつか冗長化する工夫は可能ですが、比較的高度です。

スレッドを表示

さて、ある程度の大きさのサーバになったら、これらのプロセスを複数用意して、よりたくさんの処理を捌けるように構成する必要があります。

nginxは、pumaが複数あるときには、処理を分散して引き渡す役割を果たします。応答してこないpumaがあったら他に割り振ることで、全体が一度にダウンしないようにする安全を担保する役割も果たしています。

sidekiqは、元々小さなジョブに分割された処理を実行するエンジンなので、たくさんあれば、それだけ同時にたくさんの処理ができます。

ジョブは種類でわけられているので、種類別のsidekiqを立てて、役割を分割することができます。

一番大事なローカルユーザーに応答する処理と、リモートサーバに配送する処理、リモートサーバから受けたリクエストに対応する処理など、別々にわけることで、負荷が高くなったときに、どの処理を優先し、どの処理に処理能力を配分するか、調整することもできます。

nodeは、redisの発行と購読の仕組みのおかげで、プロセスをたくさん起動しても、分散して対応することができます。

redisは、役割に応じて3つまで分割できます。最近は、redisの冗長化機能も使えるようになったようです。

スレッドを表示

ずっと内容を保持しておくデータは、PostgreSQLによるデータベースに保持されています。

pumaやsidekiqからの読み書き、nodeからの読み出しを一手に引き受け、矛盾のない状態を維持しています。

redisは、みんなのホームやリストタイムラインを保持したり、pumaやsidekiqの一時的なデータをキャッシュして高速化に貢献したり、発行と購読の仕組みをサポートして発行側と購読側を橋渡しする役割を担っています。

全体の役割分担は、だいたいこんな感じです。

このほか、オプションとして、全文検索の処理を行うElasticsearchを実行する場合もあります。

Elasticsearchがあると、そのサーバでは全文検索ができるようになるのですが、Mastodon本体と同じかそれ以上にヘビーなプロセスなので、余力のあるサーバにしか設置されていません。

スレッドを表示

Mastodonの構成の話。

ちいさなサーバは、VPSを一つ借りて、必要なプロセスを一つずつ起動して実行しています。

nginx、puma、sidekiq、node、postgresql、redisってとこかな。

nginxが外からのAPIアクセスや連合のリクエストを受け付けて、背後で実行しているMastodonのアプリケーションサーバであるpuma(mastodon-web)に処理を依頼します。

pumaは受け付けた内容を、その場で応答するものと、バックグラウンド処理にまわすものにわけます。

バックグラウンド処理は、小さなジョブに分割し、種類毎に順番待ちの列に突っ込んで、sidekiqプロセス(mastodon-sidekiq)が処理を行います。

pumaやsidekiqは、ユーザーにリアルタイムに知らせるべき内容をredisにpublish(発行)しておきます。

それをnode(mastodon-streaming)のプロセスが、現在subscription(購読)しているユーザーに対し、サーバ側からクライアント側に次々と流していきます。タイムラインがリアルタイム更新されていく仕組みです。

のえる さんがブースト
のえる さんがブースト
古いものを表示
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。