2019-02-01 22:02:29 Nokotaro Takedaの投稿 takenoko@misskey.nokotaro.com
icon

めいめいは
 ガードとチンポが
  ?????
※テレビの前の皆さんも
一緒にお考えください!

Attach image
icon

再現したら共有します、再現性無かったら:nazo:

icon

謎のOOMが起きたのが深夜だったからか、朝の時点ではすでにジョブエラーでログが埋まってて流石に原因の特定に時間がかかってしまったけど、ガッツリログ遡ったらRedisのOOMエラー出てたんで多分これが根本原因です(ただしなぜRedisがOOM起こしたかはまだ分からん)

icon

絵文字ピッカーが開かない、インスタンス情報の統計だけ表示されない、ここらへんからRedisイカれてるのは予想できたかもしれん

icon

えー、RedisのOOMのせいで1.5万溶かしたのか🥴 ちょっとまだ本当にこれが原因なのか分からんけど…

icon

Redisのメモリ上限増やしたら止まってたTLが流れ出したゾ…

icon

維持するのは…

icon

建てるのは簡単じゃい

icon

とりあえず雑にRedisのメモリ上限を増やす

icon

ん?デバッグしてるけどこれRedisがOOM起こしてるっぽい…?

icon

治ったと思ったらやっぱりジョブ詰まってる

icon

うーん、やっぱ調子悪い

icon

あと肥大化したDBをこれを機になんとかせねば

icon

怒涛のジョブキュー消化でまだまだ不安定なのと、Autopilotクラスターが結構こまめにスケーリングしてるせいでまだ安心できない

icon

自鯖は溜まってたジョブキューを一気に消化してるからHTLがすんげー勢いで流れてる

icon

GKE Autopilot半端ねえっす、サクッとk8sクラスター作れちゃう

icon

おー自鯖が復活したかも

2021-08-09 20:30:44 Nokotaro Takedaの投稿 takenoko@misskey.nokotaro.com
icon

test

2021-08-09 20:24:36 るちかアーカイブの投稿 ebi@misskey.io
icon

このアカウントは、notestockで公開設定になっていません。

2021-08-09 20:18:14 mia [🧶 era]の投稿 mia@movsw.0x0.st
icon

このアカウントは、notestockで公開設定になっていません。

2021-04-18 00:03:22 えふに / futchitwo :usapoyo_run_gaming: :io:の投稿 hakohako_f2@misskey.io
icon

このアカウントは、notestockで公開設定になっていません。

icon

このまま寝たい気分だけど何とか休みのうちに自鯖を復旧させておきたいので頑張るかあ

icon

帰宅した

icon

17000系に乗るの3回目

Attach image
icon

大山駅でお買い物したので帰る… この踏切が高架化で姿を消すのはいつになるのやら…

Attach image
Attach image
2021-08-09 18:43:58 なち夏の投稿 nacika@oran.ski
icon

このアカウントは、notestockで公開設定になっていません。

icon

開店前にしてすでに8人待ちだったので、ファーストロットではないことを悟りつつ列に並ぶ。
シャッターが開くと1人ずつ食券を買って着席。セカンドロットの先頭だった。麺茹で終わり前の丼へスープを用意するところを眺めていたが、タレの後に化調をドバーッと入れてて興奮する。
着丼してからそーっとスープを一啜りしたが、味にインパクトを感じず。だが、天地返ししてから麺とスープを啜ると、大量のニンニクと化調が効いたスープが全身に沁み渡って優勝。その後は無我夢中で丼を貪った。ごちそうさまでした。

自家製麺No11 ラーメン ヤサイチョイ増しニンニクアブラマシ
icon

3回目の訪問だけど、相変わらずニンニクが多くて最高!ファーストロット逃したのが心残り。

Attach image
icon

まだ外も明るい時間だけど開店前の待ちが10人くらい居てびっくり

icon

特に板橋エリアにありがちな光景

icon

ここ何回か来たことあるけどやっぱり謎構造

Attach image
Attach image
2021-08-09 17:18:02 :_mi::_na::_shi::_ma::_ru:の投稿 meteorshower@misskey.io
icon

.

Attach image
icon

中板橋で2本抜きされる

icon

上板橋の手前で急停車してしまった

2021-08-09 16:54:33 まめもの投稿 mamemomonga@momo.mame.moe
icon

このアカウントは、notestockで公開設定になっていません。

icon

同じ人です〜 自鯖が調子悪いのでioに避難中です

icon

今まで自鯖に籠もりすぎててLTLという概念をすっかり忘れていた

icon

腹減りの限界感じたしやっぱガッツリ食いたいので面倒くさいけど出掛けるかあ

2021-08-08 16:42:58 廃さぶうぇいの投稿 hisubway@misskey.io
icon

このアカウントは、notestockで公開設定になっていません。

2021-08-09 16:29:43 村上さんの投稿 AureoleArk@misskey.io
icon

このアカウントは、notestockで公開設定になっていません。

icon

風の音がえげつなくて散歩ためらう

icon

外めちゃくちゃ風が強い

icon

とりあえず腹減って頭が働かないのでひるごはん食べに行くかあ

icon

画像鯖が復活している

2021-08-09 11:28:42 takenokoの投稿 takenoko@misskey.io
icon

この前は間違って新規で作られたアカウントで支援してしまったので、改めていつものPatreonアカウントでMisskey.ioの支援をすることにした(ついでに支援額を$15/moにした)

これまで通りしゅいろ個人にも支援しつつ、Misskey.ioの運営にも支援します

Attach image
Attach image
icon

とりあえず、タイミング的に何となくv12.85.0にアップデートしたのが原因っぽく見えちゃうけれどそれは今回の事象とはほぼほぼ関係無いと思っていて、その理由としては

・アプデ直後に目立った障害は無かった
・アプデしてないめいすきー版のインスタンスも同じタイミングで同じ不具合が起こった
・不具合が起こったインスタンスは同じk8sクラスターで運用していた

てなわけで、あとでログ見て更に細かく原因を切り分けて、最低限の構成になるかも分からんけどとりあえず一時的に動くような状態まで持っていきたい

icon

とはいえあまりにも長く止めてると各サーバーでキューが詰まって普通に迷惑だし、鯖缶の判断で閉鎖扱いにされちゃうと復旧したあとに自分も困るので…

RE:
https://misskey.io/notes/8p7twkw9mr

icon

自分が管理しているMisskeyインスタンスは基本的に自分専用インスタンスや検証用インスタンス、身内向けのインスタンス(Blueroseはちょっと例外)だったりするので、絶対に今すぐ復旧させないと的なプレッシャーは無い

icon

くちばしばしばし

icon

はらへった

icon

あとでmisskey.nokotaro.comのDBからフォローぶっこ抜いてきてインポートするかあ

icon

普段io全然使ってなかったからHTLがさびしいわね

icon

misskey.nokotaro.comだけでもいち早く復旧させたいんだが、ちと疲れ切ってしまった

icon

つかれた

icon

1日で1.5万飛びました🥴

icon

5つのインスタンスでひっきりなしにジョブキューエラーが吐かれた結果、SQLだけでストレージ使用量が2GB増えて、Cloud Loggingに関しては350GBくらい使用したことになってる:son:

icon

とりあえず各インスタンスを一時的に停止してきた

2021-08-09 14:42:58 Nokotaro Takedaの投稿 takenoko@misskey.nokotaro.com
icon

2021/8/9 2:50頃より、こちらのインスタンスで投稿した内容が他のサーバーに送られてこない、また他のサーバーで投稿された内容がこちら側に流れてこない不具合が確認されております。

また、不具合があることを示すログが溜まり、データベースや管理用のログ収集サービスに対して非常に高い負荷が継続的に掛かっているため、一時的にメンテナンス状態に致します。

作業が完了するまでは
@takenoko@misskey.io もしくは @takenoko@fedibird.com に避難します。

2021-08-09 14:25:16 CyberRexの投稿 cyberrex@misskey.io&OLD
icon

このアカウントは、notestockで公開設定になっていません。

icon

はあー… どうしたもんかねえー…

2021-08-09 14:02:12 takenokoの投稿 takenoko@misskey.noellabo.jp
icon

このアカウントは、notestockで公開設定になっていません。

2021-08-09 13:53:08 Nokotaro Takedaの投稿 takenoko@misskey.nokotaro.com
icon

完全に死んだわけではないのだわ

2021-08-09 13:27:32 takenokoの投稿 takenoko@misskey.noellabo.jp
icon

このアカウントは、notestockで公開設定になっていません。

2021-08-09 13:24:40 takenokoの投稿 takenoko@misskey.noellabo.jp
icon

このアカウントは、notestockで公開設定になっていません。

icon

うーん謎が多い

icon

うーおなかいたいー

icon

この前は間違って新規で作られたアカウントで支援してしまったので、改めていつものPatreonアカウントでMisskey.ioの支援をすることにした(ついでに支援額を$15/moにした)

これまで通りしゅいろ個人にも支援しつつ、Misskey.ioの運営にも支援します

Attach image
Attach image
icon

Patreonでioに貢いだことだし問題が解決するまでの間ここに居させてもらうわよ

icon

前はGCPのCloud Networkingが落ちてただけでほっといたら勝手に直ったんだけど今回はそうでは無さそう

RE:
https://misskey.io/notes/8p7j06locn

2021-08-06 14:35:54 :angry_ai:しゅいろ:angry_ai:の投稿 syuilo@misskey.io
icon

このアカウントは、notestockで公開設定になっていません。

icon

今日の2時50分あたりから突然いくつかある自鯖が連合されなくなってしまった、面倒くさい

icon

自鯖の調子が悪いし体調も悪い

icon

うーん、手動でfetchはできるけど… 何か上手く連合されてないっぽいわね…

RE:
https://misskey.nokotaro.com/notes/817b2838e27eefcb4ebb7f00