icon

@kamisuke おはよう、王

icon

@sakasame ジョブのグループとしてキューがあって、一つのsidekiqプロセスで、受け持つキューと走らせるスレッド数を指定できるのね。標準では全部のキューを受け持つ25スレッドのsidekiqプロセスを一個だけ立ち上げる。

これを、ローカルのユーザーにとって重要な処理をするdefaultと、外部への配送を受け持つpushや、外部から取得する処理と優先度の低い処理を行うpull
のキューを処理するsidekiqプロセスに分けたりする。defaultを手厚く、ほかはそこそこにすると良いのです。メール送信のmailersキューは、まぁどこかにくっつけとけばOK。

プロセスを分けると、それぞれがCPUを使ってくれるので、マルチコアプロセッサの恩恵が受けやすくなるというのがあります。

また、複数のマシンで実行することで、より沢山のパワーを投入できます。

redisとPostgreSQLがネックになるので無限に強化できるわけじゃないんだけど、そのあたりのバランスをとりながら構成を考えるのが楽しいのです。

icon

@sakasame mstdn.jpでは、defaultキューがつまっていることが多く、pushキューに余裕があることが多くって、サーバ内で各種タイムラインが遅延しているのに、Fedibirdから見るとリアルタイムで届いているっていうようなことが起きています。

best-friends.chatはdefault重視(ローカルの体験がもっとも重要)で、pushとpullがおかしくてもしばらく気が付かないことがあったりします(最近はたぶん安定してる)。

2020-12-15 08:35:50 画眩の投稿 ggagen@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 08:35:53 画眩の投稿 ggagen@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

icon

@sakasame hostdonなどのホスティングの場合は、こちらでそこをいじることはできません。逆に言うと、そこの差がスペックに直結してくるので、コース(料金設定)の差に現れてきます。

Hostdonの場合、ライト、スタンダード、プレミアムが、25、50、100スレッドの設定になっています。内訳はSidekiqの実行中タブをみてください。

Masto.hostはもっと細かく、同時処理数のようなカタチになっていますね。

ちなみに、WebUIやAPIを担うメインのプロセスにもワーカー数があります。

icon

@kuloma 👍

2020-12-15 08:49:54 銀灰色の投稿 storyyakata@fedibird.com
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 10:28:52 🌄の投稿 kamiyama@mstdn.beer
icon

このアカウントは、notestockで公開設定になっていません。

icon

@sakasame なんか参考にしてくれている人がいるから、補足資料貼っとくね。

プロセスが1つ、default, push, mailers, pullキューを処理、25スレッドというのが標準セットアップ。

プロセスを2つにわけて、defaultとmailers、pushとpullを別にした構成例(DTP鯖)

プロセスが17個、サーバは3台に分散、default, mailersが8プロセス、pushが4プロセス、pullが4プロセス、backup(非標準)が1プロセスの構成例(Fedibird)

Attach image
Attach image
Attach image
icon

お、マージきた。説明しとこう。

icon

すこし大きめのMastodonサーバを運営されている方に、v3.3.0rc2以降の変更点についてお知らせです。

このような変更をプルリクしました。
Fix to isolate the sidekiq process that runs the scheduler job
github.com/tootsuite/mastodon/

要約:
・Sidekiqキューにschedulerを増やしました
・schedulerを処理する専用のSidekiqプロセスをひとつだけ起動してください

ユニットファイルの指定例:
bundle exec sidekiq -c 5 -q scheduler

解説:
Sidekiqプロセス毎にスケジュール実行が予約され、条件によって複数回実行されてしまう不具合がありました。
github.com/tootsuite/mastodon/

これを、schedulerキューを処理するプロセスに限定する変更を行いました。

なお、構築手順に沿って単一のsidekiqプロセスを起動している場合は変更の必要はありません。sidekiqをキュー指定で複数起動している場合に、対応が必要です。

Web site image
Fix to isolate the sidekiq process that runs the scheduler job by noellabo · Pull Request #15314 · mastodon/mastodon
Web site image
More than one scheduler job run in multi-host setups · Issue #14764 · mastodon/mastodon
icon

普通に構築手順に従ってアレンジせずにMastodon動かしている人には関係ないけど、

sidekiqプロセスを複数立ち上げるように変更している人は、新しいキュー種別を増やしたから対応してね、というお知らせです。

masterの変更で、v3.3.0rc2以降で適用になります。
QT: fedibird.com/@noellabo/1053819

Web site image
のえる (@noellabo@fedibird.com)
icon

結局いつものディスクフル

(ただし今回はGoogleのクウォータらしい)

icon

関連する話をしたばかりだから、リプライだけどブーストしとくか……

2020-12-15 07:50:46 のえるの投稿 noellabo@fedibird.com
icon

@sakasame ジョブのグループとしてキューがあって、一つのsidekiqプロセスで、受け持つキューと走らせるスレッド数を指定できるのね。標準では全部のキューを受け持つ25スレッドのsidekiqプロセスを一個だけ立ち上げる。

これを、ローカルのユーザーにとって重要な処理をするdefaultと、外部への配送を受け持つpushや、外部から取得する処理と優先度の低い処理を行うpull
のキューを処理するsidekiqプロセスに分けたりする。defaultを手厚く、ほかはそこそこにすると良いのです。メール送信のmailersキューは、まぁどこかにくっつけとけばOK。

プロセスを分けると、それぞれがCPUを使ってくれるので、マルチコアプロセッサの恩恵が受けやすくなるというのがあります。

また、複数のマシンで実行することで、より沢山のパワーを投入できます。

redisとPostgreSQLがネックになるので無限に強化できるわけじゃないんだけど、そのあたりのバランスをとりながら構成を考えるのが楽しいのです。

2020-12-15 07:52:58 のえるの投稿 noellabo@fedibird.com
icon

@sakasame mstdn.jpでは、defaultキューがつまっていることが多く、pushキューに余裕があることが多くって、サーバ内で各種タイムラインが遅延しているのに、Fedibirdから見るとリアルタイムで届いているっていうようなことが起きています。

best-friends.chatはdefault重視(ローカルの体験がもっとも重要)で、pushとpullがおかしくてもしばらく気が付かないことがあったりします(最近はたぶん安定してる)。

2020-12-15 11:22:22 のえるの投稿 noellabo@fedibird.com
icon

@sakasame なんか参考にしてくれている人がいるから、補足資料貼っとくね。

プロセスが1つ、default, push, mailers, pullキューを処理、25スレッドというのが標準セットアップ。

プロセスを2つにわけて、defaultとmailers、pushとpullを別にした構成例(DTP鯖)

プロセスが17個、サーバは3台に分散、default, mailersが8プロセス、pushが4プロセス、pullが4プロセス、backup(非標準)が1プロセスの構成例(Fedibird)

Attach image
Attach image
Attach image
2020-12-15 00:47:25 くっきーの投稿 Cookie@mstdn.y-zu.org
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 00:02:37 環🔆の投稿 TamaX31@v2.tamx.tk
icon

このアカウントは、notestockで公開設定になっていません。

icon

@t すまんやでw

icon

@t どこのサーバでも起きる、Mastodon共通のバグだと思う

icon

@t マズいなと思いつつ、直さないで放置している系ですw

2020-12-14 22:00:55 🐤🐖🍚かつ丼@ツーリング無事帰宅🥁🛵⛺️の投稿 haggy@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

icon

Sidekiqを単一プロセスで実行している場合、優先順位(重み)が設定されていて、それが機能しています。

defaultが6、pushが4、mailersが2、pullが1で、defaultが最優先されます。これが本来意図しているところです。

複数に分割(default, mailersとpush, pullなど)した場合、pushやpullがパンクしている負荷でdefaultが詰まるような、優先順位が十分に機能しなくなることもあります。

CPUのコア数やHTを踏まえて、同時実行している他のサービス(RedisやPostgreSQLも一緒に動いているなど)の負荷など考慮に入れて構成が必要で、よくわからないなら無理に複数sidekiqの構成をとらない方が良いです。

なんかmastodon.onlineがこのへんしばらくデフォのままで動かしちゃってて、いい加減重くなってから対策したみたいな話があるぐらいでw、そのままでもちゃんと動きます。

Nightly Fedibirdはデフォルトのシンプルな、単一プロセスのsidekiq構成です。

2020-12-15 00:45:45 Mr.Spiceの投稿 spice@mstdn.jp
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 12:18:46 国見小道の投稿 kunimi53chi@pl.komittee.net
icon

金曜日なのでカレーを食べています

Attach image
2020-12-15 12:40:01 Noelの投稿 noel@mstdn.hokkaido.jp&OLD
icon

このアカウントは、notestockで公開設定になっていません。

icon

瞳そらさないで

icon

@japaslu ときに、1994年あたりの曲はわかるかね。DEENとかZARDとか。

icon

( º дº)<

icon

@japaslu みなさんのおかげですですら、1997年に終わってるんだな……

icon

まきのん、さいきんえすとさんの扱いがアレだな?

icon

@japaslu なるほど。わかる

icon

Fediverse (4) Advent Calendarの空いている2日目と3日目、なんか記事書いた人は突っ込んで即公開って感じでいいからね!

2020-12-15 14:43:43 mimikunの投稿 mimikun@mstdn.mimikun.jp
icon

このアカウントは、notestockで公開設定になっていません。

icon

脱福

icon

@sakasame こんなん詰まってたらでる物もでないわ

icon

LTL、魑魅魍魎が跋扈していてよい

icon

@mametsuko 跳梁跋扈って書くべきでしたね(ちょうりょうばっこ)

書けと言われても書けない漢字たち

icon

@sakasame 待機中が膨れ上がるんですよ!!

icon

@sakasame 箕面丼は復帰に時間かかってるので、しばらく放置してやってくだされ……

icon

@sakasame Mastodonだと50時間ぐらい排出しようと戦いますからね(ActivityPub::DeliveryWorker)

デッドになっても仕方が無いので、最後には消えるようになっています。

一方人体は……

icon

@sakasame pushが詰まっている時って、相手からの応答がすぐにかえってこなくてタイムアウト待ちになっているとかなので、sidekiq増やしてもたぶん効果はありません。

むしろ詰まっている方の腎臓の活動を停止させた方が……

icon

@sakasame そこで、エラーを繰り返しているサーバへの配送を止めるための仕組みが用意されています。これをセットすると、詰まっていた待機中・再試行がすーっと消えていき、腫れが治まるという寸法です!

通常は7日間失敗し続けるまで頑張るんですが、UnavailableDomainにドメイン名を登録するといつでも発動させられます。配送を強制的に正常終了させてくれるようになり、一件落着です。ステントやバイパスみたいなものですね。

icon

結石で学ぶ Mastodonの配送制御

icon

@sakasame 茶臼(xaus)さんのかつての個人鯖ですね(閉鎖)

icon

@sakasame 手動で削除できるものはそうする、あと一旦サーバブロック・解除でいいかと思います。ホスティングじゃなければ別の方法もあったんですが、たぶんそれしかない。

icon

ネムシーのみねむ氏(ねむみ)

icon

やー、rc1からも更新が多い……

とりあえずかえるか……

2020-12-15 18:47:58 じっぷ@🧀 🐁 食事制限中?の投稿 munyumunyu@mstdn.jp
icon

このアカウントは、notestockで公開設定になっていません。

icon

美味しそう

icon

@munyumunyu やっぱりそうか……ううぅ

2020-12-15 19:00:05 酸性雨の投稿 acid_rain@amefur.asia
icon

このアカウントは、notestockで公開設定になっていません。

icon

@Methylenedi_oxy 再取得で回復するね

icon

ノン・マキ

2020-12-15 19:21:49 Flatの投稿 Boher@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 19:27:17 こつむぢ 🔞の投稿 kotsumudi@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

icon

@Methylenedi_oxy どのアカウントも、1日経過してから参照されると、再取得が自動でかかります。だいたいそのときに直るんじゃないかな。

icon

ちょっとDBに不調があったので再起動しました。1分ぐらい止まっちゃったかな? 復旧しています。

2020-12-15 19:54:50 としこの投稿 1045shookit@gingadon.com
icon

このアカウントは、notestockで公開設定になっていません。

icon

恋する女は 夢見たがりの

2020-12-15 16:37:04 🥞 𝗥𝘂𝗻𝗮 🥞@イラコン開催の投稿 Satis@fedibird.com
icon

このアカウントは、notestockで公開設定になっていません。

icon

夜を食べるのだわ

icon

夜を食べたのだわ

icon

そうそう、石油ストーブっていうの不思議だなって思ってたんよね。灯油ストーブやん、って。

2020-12-15 20:24:16 Achi@ハトの塒の投稿 achi@achi.masto.host
icon

このアカウントは、notestockで公開設定になっていません。

icon

ブゥゥゥゥゥゥゥン

icon

いつでもいいっていうのはダメよね

icon

@squid999 なんかおかしい?

icon

SatisのFedi入り(狐の嫁入り的な)の時は、6Kぐらいフォロワーを引っ越し機能で引き連れてきたので、すごい耐久試験になったよね! 壮大な実験だったw
QT: fedibird.com/@Satis/1053830561

icon

世界で一番お姫様
そういう扱い 心得てよね

icon

シュイヨ

icon

サントラバンディッツ(バイクバンディッツのサントラ)を聞いているんだけど、これ2003年なのか……。

icon

サムスアラン

icon

全国各地でサムスが観測されていることでしょう

icon

まるまり

2020-12-15 21:46:00 Hard Times magの投稿 book_of_dub@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 21:48:31 キノキング🍄👑1日目西み38abの投稿 kinoking@pawoo.net
icon

このアカウントは、notestockで公開設定になっていません。

icon

パンダチックエンドレスドリームを聴いている。好き。

2020-12-15 21:58:44 Achi@fedibirdの投稿 achi@fedibird.com
icon

このアカウントは、notestockで公開設定になっていません。

icon

パンダちっくエンドレスドリーム
youtu.be/DUC2DDRxjHU

来兎さんのサウンドすきー

Attach YouTube
icon

あきらめきゃ夢は 絶対叶うさ
あの魔法をまだ覚えてる

2020-12-15 22:14:08 れるらば@鯖移行予定ありの投稿 RRRB_B@best-friends.chat
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 22:44:03 箕面どん(とねぢ :sabakan:)の投稿 minohdon@fedibird.com
icon

このアカウントは、notestockで公開設定になっていません。

2020-12-15 23:08:27 あべる🐢✅🌷🌸🌺🌻🕒🕘🌏🧋🍼🅱️の投稿 abel_1230@mstdn.jp
icon

このアカウントは、notestockで公開設定になっていません。

icon

仕事の終わらないやまこさんに励ましのお手紙を!

2020-12-15 23:26:55 箕面どん(とねぢ :sabakan:)の投稿 minohdon@fedibird.com
icon

このアカウントは、notestockで公開設定になっていません。

icon

macでゲームって、まきがめぐらいかな(いつのはなし)

icon

まぁ、ブラウザ上で2048ぐらいはやるか。

icon

二角取りが面白かったことを思い出した