HTLがｗ

GCPのインスタンスけす

ものすごい速度で処理が始まった

よし板橋dbの復旧確認

高校受験はわからんなぁ...

今日丸一日板橋のdb修復に費やした...

末代で一人暮らしお役立ち情報が流れ始めた

復元中

何かがpostgresにアクセスしてきていてdrop databaseできない

俺もう死にかけだし今日試験勉強一切できてないし

こんどdb鯖のディスクがやばい
消すもん消さないと

dumpできたので板橋db鯖に運びます

一応レジストリ直接改編で強制再起殺してるはず

これよくあるからWindows Update許せん

このアカウントは、notestockで公開設定になっていません。

pg_dumpリトライ

風呂入ってきた

なんでコピーさせてくれないのさ

もう腹立つんで風呂入ってくる

なんかめっちゃ重くて転送始まらない件

wasabiにファイルを放り投げています

死

あダメなやつかもｗ

怖すぎる(まだ処理中

あ、ディスクまずいかも

さて、どうやって本番環境に運ぼうか
dbをdropしてバックアップから復元するか、ファイル丸ごとコピーにするか

そういうとこ融通効くから強いよねGCPとかそういうたぐいのサービスは

実際に一回ミスってディスクだけ作り直してる

ちなみに今作業してるのはさっき即席で借りたGCPの鯖なのでミスっても問題なし

すごい鯖が重いぞ

@NegitukaiTNB おつあり！！！

ここでディスクフルになったら笑ってくださいね(さっき一回やった

即pg_dump

すげぇ！検索が1秒かからない！！

お帰り爆速検索！！！！

きったあああああああああああああああああああああああああああ

できたあああああああああああああああああああああああああああ

なんかストリーミング切れたぞ！？

エラーはかないってことは順調なのかそれとも重すぎるだけなのか

本番環境じゃこんなにポンポンとSQL文打てない

結果的にGCPでインスタンス借りたのは間違ってなかったけどな多分

あと請求が気になる(((

頼むから成功してくれ

超祈ってます

これで重複なしなら勝ち

index生成ごー

試験勉強とかとかですね
総じてですね

あーーーーーー

早く終われ...

あと2件処理したらindex生成して終わり

それならforとか使えたろ...w

そういえばSQLわかんなくてもRailsのコンソールで書けばよかった説がある

SQLに詳しくならなきゃダメだなと思った今日この頃

内部ストレージに移動できるアプリ少ないし、端末になんかあったらSDのデータ諦めなきゃいけないしで得することがない

SDの内部ストレージ化、ろくなことないからやめたほうがいいぞ

重すぎて先に進めん

反応しなくなったし

きつすぎる
何やこの苦行は

ssh権限だけ渡しておけばいい？()

削除まで終わったら風呂入るか

鯖完全に止まっちゃった

逆に暇

dbの検索時間もまーながくて

idだけでいいよ

俺試験前なのよ...

rsyncでもいいのか

つらー

これやって、pg_dumpで出して、本番環境に渡せばいいのか

これ終わったら泣いていいよね(終わるまでは一応泣かない精神

ここまで手作業でやったデータが飛んだら笑えんよな(半分くらいやった

絶対この機械的作業自動化できるだろうなーとか思いながら必死で手作業

下から攻めよう

投げすぎたな(自分の仕事がなくなったの図
)

出てくるidのうちどっちか1個だけ、見つかり次第投げて

delete一瞬だけどselectめっちゃ長い

すでに精神的な余裕がない

@resinnrinn 待ってろ今投げつけてやる

@resinnrinn 脳死でいいからさ
psqlで、重複してるURLたちを片っ端から「ここにURL」に代入して実行して、出てきた結果(2個出てくる)からid拾ってくんない？()
SELECT "statuses".* FROM "statuses" WHERE "statuses"."uri" = 'ここにURL' ORDER
BY "statuses"."id";

冗談じゃねぇ

このアカウントは、notestockで公開設定になっていません。

@resinnrinn ふっざけんな手伝え()

もしくは一発で作業の終わるSQL文を...

これ終わったらマジで感謝状贈られていいと思うんだ

あーしかも間違えたし

これあと60個くらい打たなきゃなのかよ...

そうこうしてる間にも10件くらい手作業で消した

ダメだわからん

それほかのテーブルとの参照関係大丈夫なのか...？

重複なしでテーブル作って元のテーブル消してテーブル名変えろってこと？

さすがにつらすぎて泣きそうである

#WhatYouarePlaying
#NowPlaying

Now playing🎶

【【GUMI】ケッペキショウ【オリジナル曲PV付】 - YouTube】
https://www.youtube.com/watch?v=6kkSexCUzeA&list=PLcCUKq81-67fWxi-hUDBxTuem_eIMEkjO&index=2

パソコン再起された死ね

この程度の作業余裕余裕

言っておくがこのインスタンス立てた時スマホで全部作業したんだからな！！！！

#WhatYouarePlaying
#NowPlaying

Now playing🎶

【【GUMI】ケッペキショウ【オリジナル曲PV付】 - YouTube】
https://www.youtube.com/watch?v=6kkSexCUzeA&list=PLcCUKq81-67fWxi-hUDBxTuem_eIMEkjO&index=2

自分宛DMで処理結果をPCに送信
こっからはそっちでなんとかしよう

スマホも電池ない

PC電池切れだし

早く終わらせないとGCPの請求がかさむんだよなー

そもそも今日ずっとスマホから作業しててイライラが限界である

スマホからなんでミスったらごめんw(まぁミスったらやり直すだけなんですけどね)

最終手段:手作業

全ッ然わからんのだが…w

ダメですかそうですか

out of memory for query result

select distinct on (uri) id, uri from statuses;
実行中…

まーたselectが重くて重くて

selectの結果次第でdeleteってできんのかな？

とりあえず失敗したらdropしてバックアップリストアすりゃいいからやるだけやってみます

マジで全くわからんww

手作業やるぞおい！w

distinctわからんのだ！SQL使ったことない人にもわかるように説明してくれ！wwww

次、43個の重複をどうやって消すか
手作業でもいいけどどうせなら楽したい

おっけー、43こ重複見つけました

@tateisu あ、れになっちゃった…

@tateisu 重複洗い出せました！ありがとうございますれ

indexが機能しないせいで重複調査が凄い重い、実際に体感しています

このアカウントは、notestockで公開設定になっていません。

即却下します

今一個クソみたいな案を思いつきましたね
distinctが重複無しで洗い出すなら、distinctでヒットした行をテーブルから全て抹消して、処理終了後に残った行が重複行！

@resinnrinn distinct込みで検索すると、重複データをスキップできるのよ
やりたいのは重複してるデータを取得することなので真逆と

distinctは重複無しで洗い出すコマンドなので重複してるデータは出てこないじゃないか！という

重複を除いたデータじゃなくて重複してるデータを見たいんですけど…

@resinnrinn 全手動ですがなにか？()

@osapon 1個消してcreate indexしたらまたエラーになったんで一個ずつ消すとかそういう次元じゃなかったみたいです…w

@resinnrinn インデックス生成しようとするとエラーが出てくるからそのエラーで検索してID探すと一発なのよね

あーこれ重複いっぱいあるやつだー！

@resinnrinn (難しくないですか)

適当に何とかしていくスタイル
どうせここは本番環境じゃないからdb吹っ飛んでも痛くも痒くもない

@resinnrinn わからーん
一個ずつ潰すしかないかな

delete from statuses where id = xxxxxxxxxxxxxxx;って雑に打ったら消えた

@resinnrinn deleteで直接消し去りました☆

あ、消せた

@osapon idが自分のサーバーでのトゥートのidで、uriがリモートでのトゥートのURLみたいですね
なので、uriが一緒なのにidが違うデータが2件ある感じ

リレー経由とかで2回飛んできたのかな…？って感じ
どっちか消す方法を知りたい

@osapon 全く同じトゥートが何故か2個dbに登録されちゃってるんでどちらかを残せば問題はなさそうなんですけどね…

あ、db覗いてますこれに関してはしゃーないってことにしてください

あー
同じ投稿ガッツリ多重登録されとるわ

@osapon データ重複っぽいですね
とあるトゥートが重複して登録されたようなエラーが出ました

CREATE UNIQUE INDEX index_statuses_on_uri ON public.statuses USING btree (uri);
実行中…

読めません
https://github.com/tootsuite/mastodon/blob/4afda5444a3cc864cb0f9a4f59493022d8a5e080/db/schema.rb#L530

@osapon db/schema.rbに書いてあるっぽいんですが読み方がわからないという…

index_statuses_on_uri、結構な頻度で使うよね…多分ね…

@resinnrinn また奇行に及んだわけではなかったようで安心であります()

[急募]何故か突然消滅したindex_statuses_on_uriを再生成する方法

@resinnrinn うん普通にビビったわ()

これ他のindexもなくなってるとかないよね？

唐突なindexの消失

というわけでcreate indexしなきゃいけないっぽい？

@resinnrinn ちょっと待てお前何をしているんだ…

ないんですよ、何故か
reindex index index_statuses_on_uri;も効果なし(そんなもん、ねーよ！って言われる)

板橋のdbの検索がクッソ遅い原因が判明
index_statuses_on_uriがない

Wi-FiからグローバルIP、ヤバすぎる(てか枯渇しないんかね)

@resinnrinn とりあえず、dropからの再リストアは効果なしだね
reindexもダメ

サクッとVM借りて要らなくなったらポイッとできるのは強いけどこれ無料分じゃなかったらめっちゃ躊躇してた

ここまで来たらPCは使わないの決意

なんで俺はこんな面倒な作業をスマホ一台でやってるんだろうか

dbがデカすぎて扱いが大変だw

@resinnrinn 今pg_dumpallで全データ回収して、pg_dumpでmastodon_productionだけ吸い出してるとこ
dropして復元してみて直せるか試すわ

バッテリー残量:5 % #G8441 #Battery

@resinnrinn 現行dbのクローンだとすごい遅いのでどっかしらのファイルが乙ってると推測

GitHub Notifier
kyori19 commented on pull request kyori19/shien-legacy#7

https://github.com/kyori19/shien-legacy/pull/7#issuecomment-444399745

GitHub Notifier
kyori19 commented on pull request kyori19/shien-legacy#6

https://github.com/kyori19/shien-legacy/pull/6#issuecomment-444399640

あ、IPちがった

ローカルからのsshはパスいらないのにリモートからのsshはパス必要なのなんで？

なぜか繋がらんじゃんか…

@resinnrinn とりあえず最新バックアップから復元したdbでちゃんと動くことを確認した
というわけで次は現行dbをクローンしてみる

wasabi、40MB/sくらいしかでないぞ

なんかおかしいから一回ディスクをぶっぱしよう

@resinnrinn 同感…
(リストアミスった説)

板橋のdb容量、10Gこえとる

15GBのストレージでも足りないってハードだなぁ…

今もやらかすとこだった

今朝もやらかしかけてたが

眠いと鯖で誤操作しかねない

どうなってんの板橋のdbはww

15GBでも足りねーのかよww

バックアップ、中にSQL文がひたすら書いてあるらしい(見ると運用ポリシー的に問題あるので開けない)

CREATE INDEXがいっぱい

dbの復元、時間かかるね

リージョン、一番安くて近いus-west-1にしたけど短時間だとあんま関係ないかも

とりあえず動きゃいいんだ、なんで動かないのかわかれば問題ない

アホみたいにwarn出ててやばい

Minecraftのmodだかなんだかにあったような気がする
ローマ字チャットを変換してくれる奴

IME死亡してもなんとか変換する機能が望まれる

このアカウントは、notestockで公開設定になっていません。

気を取り直してもっかいバックアップ復元中
失敗するような気もしなくもないがまぁよかろう

雑にテストするにはGCP楽でいい

10GBじゃデータベース収まりきらなかった件について

なおだいぶコマンドが雑だとかCLIだけだと完結できないとかそういうところはご愛嬌

こっちが攻撃受けてる時のドキドキ感が好き

Hacknet大好きだわ

このアカウントは、notestockで公開設定になっていません。

このアカウントは、notestockで公開設定になっていません。

バックアップ復元中…

とりあえずメディアストレージに残ってる最新のdbバックアップをダウンロード中

起動失敗したが…

インスタンス借りてpsqlインストール中

さっそくはいしゃくしてくる

GCPでインスタンス借りてテストしようという発想になった

なお残り5日は見えないことにします

とりあえず今日は原因の切り分けに時間を割こう

手元に使えるPCがないのあれ
Vultrの鯖を1つほど拝借してこようかしら…

@resinnrinn 今日家帰ったらとりあえずやってみるわ
あと被害拡大しそうだからmastodon止めといた
redisのデータ持ってくるのだけ忘れないように(10万の再試行は流石に失えない)

@tateisu おかしくない環境でdumpするんですね、なるほどです

@resinnrinn それ、なんかあった時に回収できなくなるデータが増えるのでは(正常なバックアップとの差分)

明らかにselectが遅すぎるのよね

pg_dumpで吸い出して、全部消して、もっかい取り込み直せば治る説がある

板橋の壊れてるかもしれないdbどうしようか

@asteroid おてて需要あるの？w
~~~~~~~~~~
[https://odakyu.app/@asteroid/101185296537573856]

うぃー

魔剤注入中

あーきっつ

眠すぎて作業になんないし学校ついたので一旦諦める

眠すぎて時々落ちながら作業してる

偶然です

@resinnrinn dbの検索周りが怪しくなってると思う…

@resinnrinn うちのdbだと検索に1秒もかからなかったクエリがTOしました…

@resinnrinn 今とりあえずDB_POOLもスレッド数も10でちょっとずつ捌いてるつもりなんだけどそれでもTOしちゃってるのよね
dbヤバめかな…

odakyu.app/pghero/live_queries にクエリが見えることはほぼないのに n-sr.org/pghero/live_queries には確実に60件近くあったもんな

@resinnrinn いや、そもそも60sかかってる事自体がおかしいと思う

検索に60秒近くかかってるから場合によっては60s制限でTOするのか

Sidekiq Proってのがあるのねw

でもやっぱdbの調子が悪いことに変わりはないな
検索に時間かけすぎ

@resinnrinn 180スレッド持ちのsidekiqがゾンビ化してた

待てよ…これまでなんで違和感抱いてこなかったんだ…
実行時間600時間超えのプロセスっておかしいだろ

わーお英語できる人にしかわからんやつだなこれ
共通認識が存在しない状態で共通認識が必要なtheを使うから面白くなるのか

このアカウントは、notestockで公開設定になっていません。

dbからタイムアウト帰ってくるのはなんなん？
検索かけるだけやろTOっておかしいやろ

rails console叩いて確かめるしかないか

webを落としたせいで/sidekiqが見れないので作業がしづらい

うし、そいじゃ作戦1を実行しよう

このアカウントは、notestockで公開設定になっていません。